晶心科攜手Fractile 打造AI推理加速器

發表於 2024-10-25 11:12 作者: 區塊鏈情報速遞pro

(中央社記者張建中新竹25日電)矽智財(IP)廠晶心科宣布,與Fractile策略合作,開發加速人工智慧(AI)推理的全新晶片,目標讓運行大語言模型時更快速、成本更低。

晶心科發布新聞稿表示,Fractile向晶心科取得AX45MPV RISC-V向量處理器授權,結合ACE自動化工具和資料庫,並計劃將向量處理單元整合到第1代的資料中心AI推理加速器中。

晶心科指出,Fractile透過記憶體運算架構,這樣就不需要將模型參數往返於處理器晶片上,能夠瞬間產生答案,相較採用當前硬體需要數秒才能完成快速。

晶心科表示,Fractile整合雙方的優勢,克服傳統運算方式的限制,突破記憶體瓶頸,將可提供快速且經濟高效的人工智慧推理系統。

Fractile是一家AI硬體公司,2022年在倫敦成立,致力透過使神經網路運行更快、更有效率,增強集體人工智慧能力,已自北約創新基金等投資者籌集1750萬美元。(編輯:楊蘭軒)1131025

標題:晶心科攜手Fractile 打造AI推理加速器

地址:https://www.coinsdeep.com/article/174043.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

你可能還喜歡