採用輝達頂級晶片 數發部打造AI算力計畫7月開跑


數發部力拚台灣成為AI之島,今年斥資新台幣數千萬元購買輝達(NVIDIA)、超微(AMD)頂級算力晶片,建構「算力池」提供給產業運用,最快7月免費對外開放資服業者申請AI算力,包括基因排序、氣候變遷、長照行為偵測等模擬運算,可望讓創新點子「跑得更快」。

生成式人工智慧影響廣泛,各行各業對AI應用愈加渴求,數發部數位產業署啟動透過為期4年、總經費22億元的數位公共建設「數位產業跨域軟體基盤暨數位服務躍升計畫」,希望為軟體業打地基,今年計畫總經費約4億元。

數發部數位產業署副署長胡貝蒂接受中央社採訪時表示,「數位產業跨域軟體基盤暨數位服務躍升計畫」屬於數位公共建設,透過打造AI算力、數據、程式碼3大元件庫,讓許多模型與應用不用從零開始,有需求者可以到3間倉庫取用有需要的元件,加速業者的創新應用。

近年蔚為熱潮的生成式AI應用,需要大量資料與算力,也帶動AI產業鏈蓬勃發展。胡貝蒂說,AI算力要價不菲,企業就算想用,一來可能買不到足夠算力,二來階段性使用完畢,也可能有剩餘算力沒被善加運用,數產署打造「AI算力池」,透過算力共享概念,有需求的團隊就可以申請AI算力。

數位產業署打造的AI算力池,首年度規劃採用輝達的H100晶片32片、AMD的MI300X晶片8片,展示強大運算火力,後續逐年視需求增購繪圖處理器(GPU)算力。

至於哪些題目可以運算,胡貝蒂表示,考量新創團隊初期資源較少,因此可能作為加分項目,樂見產業帶著題目組隊申請,希望主題對社會影響力高。規劃7月開放業者可以申請AI算力,後續由審查小組審核計畫,申請一次約可使用6週算力,目標今年讓60家業者使用AI算力。

例如,金融業可能在客服上會需要大型語言模型,機構針對照護者行為偵測可能也有對AI運算的需求,部分社福單位礙於人力,也希望透過AI提升工作效率。

胡貝蒂舉例,基金會可能有不少照顧服務員在拜訪老人時都需要紀錄、回答提問等,但照服員可能光查閱手冊資料就需要不少時間,若彙整照服員的相關知識,訓練為具備特定知識背景的聊天機器人,有望讓新手照服員快速上手,藉此投入更多心力做關懷服務。若開發這類模型,也有機會擴散到其他有類似需求的單位。

藉由AI算力計畫,胡貝蒂表示,希望可以更了解民間對於AI算力的需求,未來規劃AI生態園區時,也可以回饋相關意見。