富士通開發中介軟體 大幅提升GPU AI運算效率李佩璇 (2024-10-24 11:09:34)

富士通（Fujitsu）宣布一項創新的中介軟體技術，這項名為「AI運算代理」的技術，透過強化GPU分配和記憶體管理，大幅提升了人工智慧應用的運算效率，可望降低企業在使用GPU時的成本。

編譯／戴偉丞

富士通（Fujitsu）宣布一項創新的中介軟體技術，是為幫助公司更有效率地利用GPU資源進行人工智慧運算。這項名為「AI運算代理」的技術，透過強化GPU分配和記憶體管理，大幅提升了人工智慧應用的運算效率，可望降低企業在使用GPU時的成本。

智慧分配機制判斷運算需求

富士通的這項技術能夠區分哪些程式需要GPU來達到最佳效能、哪些程式只需CPU即可運作，透過這種智慧分配機制，即使在GPU已經運行其他程式的情況下，也能即時優先處理高執行效率的人工智慧相關任務。此外，該技術還結合了特定的人工智慧最佳化技術，使得軟體能夠判斷所需的人工智慧處理任務，並為每個單獨的GPU分配運算資源。

更多新聞：富士通攜手美超微闢新路 展現AI與永續相容

中介軟體管理宛如資源管家

在記憶體管理方面，富士通的技術透過隱藏在中介軟體中的管理功能，使得GPU可以同時處理超過其實體記憶體容量的人工智慧處理任務，宛如GPU內部管家。根據相關報導，這項技術能夠在不擔心GPU記憶體使用或實體容量的情況下，同時處理高達150GB的人工智慧任務，這相當於GPU實際記憶體容量的五倍。在該技術的早期測試中，這項技術已經證明了其顯著的效能提升，與未使用該技術的部署相比，GPU處理效能提高了2.25倍。

展望未來，富士通計劃繼續開發這項新技術，有鑒於目前這項技術僅適用於單一伺服器上的單獨GPU，因此目標是使其能夠在多個伺服器上的多個GPU之間工作。富士通也希望利用這項技術解決與GPU運作相關的技術挑戰，包括潛在電源故障問題等。

資料來源：Techzine

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 富士通開發中介軟體 大幅提升GPU AI運算效率 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。