GTC 2024強強聯手更上層樓 (2024-03-21 先探投資週刊 文/周佳蓉)



距離輝達(Nvidia)首屆舉辦GTC大會的二○○九年,已十五個年頭匆匆過去,如今輝達在全世界半導體的地位已不可同日而語,繼二三年衝破一兆美元,今年市值再度衝刺超過二.二兆美元,美股排名僅次於微軟(Microsoft)和蘋果(Apple)兩大科技巨頭之後,暌違五年的實體盛會,全球將GTC大會視作全球AI風向球,創辦人黃仁勳的演講談話也動見觀瞻。三月十八日對著會場座無虛席的人群,黃仁勳幽默地澄清:「這不是一場音樂會」,並表示能召集全球價值高達一○○兆美元、大量非IT行業代表參與此盛會,感到相當自豪。

@發表新一代AI GPU B200

輝達按照每兩年的更新頻率,升級一次GPU架構,從二二年首發採用Hopper架構的H100起引領著輝達穩坐AI晶片霸主地位,這次再推出採用 Blackwell 架構的GPU-B200。

B200是由台積電的五奈米家族(N4P)製程打造而成,並整合兩個獨立製造的裸晶(Die),共含二○八○億個電晶體,B200透過小晶片(Chiplet)先進封裝將八顆HBM3e高頻寬記憶體,記憶體達到一九二GB、頻寬達一.八TB/s,並預告今年稍晚會推出。

GB200則是由兩個Blackwell GPU和一個既有的ARM架構的Grace CPU組成的更強大AI加速晶片,延伸的還有基於GB200打造的DGX GB200 NVL72,以及運算效能更強大的超級電腦DGX SuperPOD。

相比Hopper和Ampere架構,Blackwell架構的B200性能有了巨幅提升,最大可支援十兆參數的模型訓練,以OpenAI的GPT-3和GPT-4做比較,最高分別支援為一七五○億和一.八兆個參數,而NVLink是由輝達開發作為CPU/GPU間的高速互聯通道,可最大化提升CPU/GPU的傳輸效率,如今已進化到第五代,成為B200傳輸速度能大幅提升的關鍵。

全新的加速運算平台DGX GB200 NVL 72,則擁有九個機架,共搭載十八個GB200加速卡,一套DGX版內部使用五千條NVLink銅纜線,累計長度綿延近二公里,可以減少二○KW的運算能耗,與相同數量的H100 GPU相比,在大型語言模型(LLM)推理工作性能可提升三○倍,成本和能耗最多可降低二五倍,針對AI運算需求龐大的企業,輝達目前已宣布亞馬遜AWS計畫採購由二萬片GB200晶片組建的伺服器,Dell、 Alphabet、Meta、Mirosoft、OpenAI、Oracle和特斯拉也將成為DGX GB200伺服器的採用者。

@晶片仰賴台積電N4P製程

而DGX SuperPOD為新一代超級電腦平台,由八套DGX GB200系統打造而成,採用液冷設計,提供十一.五exaflops AI運算能力,輝達強調若企業預算足夠,最終可擴展至數萬個GB200 超級晶片,並透過NVLink連接五七六個Blackwell GPU,取得龐大共享記憶體。

值得注意的是,輝達也發表了新款基於大規模AI的網路交換機X800系列,以及人形機器人的模型GR00T專案,該專案內含開發套件Jetson Thor、更新的ISAAC Lab開發工具庫,GB200可透過X800取得八○○Gb/s超高速網路,而GR00T允許開發者利用平台模擬機器人學習技能,支持數千個機器人同步訓練與模擬。

繼硬體之後,軟體服務也是輝達不可或缺的護城河之一,輝達發表了整合AI開發軟體微服務系統的NIM,透過直接提供多產業、多模態的專有模型,讓缺乏AI開發經驗的傳統行業也有機會跨入。
不論是B100、B200晶片的推出都仰賴台積電的N4P製程,是台積電基於五奈米技術的效能強化版本,儘管此次輝達的晶片並非如外界預期直接導入三奈米製程,不過也是輝達首款採用小晶片(Chiplet)及CoWoS-L形式先進封裝的產品,解決高耗電量與散熱問題,而隨著台積電對於先進製程、先進封裝的擴廠動作積極,相關半導體設備、耗材股可望持續大啖商機。(全文未完)

全文及圖表請見《先探投資週刊2292期精彩當期內文轉載》
◎封面故事:股息殖利率全面檢視
◎特別企劃:金控股迎春燕 股價上漲有理
◎國際趨勢:台積電股價被低估了?
◎中港直擊:陸剛需扶植外商晶片設備廠
【最新活動看板】
◎先探i投資YouTube開播了
◎加入先探Telegram掌握第一手投資情報!
◎跟著生技女王腳步,奠定生技產業基本功
◎【先探講座】朱家泓、林穎 師徒聯手教戰
◎先探一年52期送全聯禮券500元
◎先探1季13期送獨孤求敗:順勢而為.贏在加碼
◎2024財富投資寶典 財訊快報理財年鑑

其他相關雜誌文章
歐股普遍創高霸榜的關鍵( 2024-04-02 先探投資週刊)
贏過大盤 12檔錢龍來績效股( 2023-02-06 先探投資週刊)
台積電A16新技術 量產時間曝光( 2024-05-02 先探投資週刊)
蘋果Vision Pro效應 黑馬是⋯( 2024-01-18 先探投資週刊)

 
加密貨幣
比特幣BTC 68677.12 159.03 0.23%
以太幣ETH 3914.27 88.37 2.31%
瑞波幣XRP 0.527972 0.00 -0.05%
比特幣現金BCH 484.69 0.72 0.15%
萊特幣LTC 84.76 0.86 1.03%
卡達幣ADA 0.461294 0.00 0.64%
波場幣TRX 0.112073 0.00 -0.90%
恆星幣XLM 0.108659 0.00 -0.02%
投資訊息
相關網站
股市服務區
行動版 電腦版
系統合作: 精誠資訊股份有限公司
資訊提供: 精誠資訊股份有限公司
資料來源: 台灣證券交易所, 櫃買中心, 台灣期貨交易所
依證券主管機關規定,使用本網站股票、期貨等金融報價資訊之會員,務請詳細閱讀「資訊用戶權益暨使用同意聲明書」並建議會員使用本網站資訊, 在金融和投資等方面,能具有足夠知識及經驗以判斷投資的價值與風險,同時會員也同意本網站所提供之金融資訊, 係供參考,不能做為投資交易之依據;若引以進行交易時,仍應透過一般合法交易管道,並自行判斷市場價格與風險。
請遵守台灣證券交易所『交易資訊使用管理辦法』等交易資訊管理相關規定本資料僅供參考,所有資料以台灣證券交易所、櫃買中心公告為準。 因網路傳輸問題造成之資料更新延誤,精誠資訊不負交易損失責任。