晶心科攜手Fractile 打造AI推理加速器中央社記者張建中新竹25日電 (2024-10-25 11:12:51)

矽智財（IP）廠晶心科宣布，與Fractile策略合作，開發加速人工智慧（AI）推理的全新晶片，目標讓運行大語言模型時更快速、成本更低。

晶心科發布新聞稿表示，Fractile向晶心科取得AX45MPV RISC-V向量處理器授權，結合ACE自動化工具和資料庫，並計劃將向量處理單元整合到第1代的資料中心AI推理加速器中。

晶心科指出，Fractile透過記憶體運算架構，這樣就不需要將模型參數往返於處理器晶片上，能夠瞬間產生答案，相較採用當前硬體需要數秒才能完成快速。

晶心科表示，Fractile整合雙方的優勢，克服傳統運算方式的限制，突破記憶體瓶頸，將可提供快速且經濟高效的人工智慧推理系統。

Fractile是一家AI硬體公司，2022年在倫敦成立，致力透過使神經網路運行更快、更有效率，增強集體人工智慧能力，已自北約創新基金等投資者籌集1750萬美元。