1

熱搜:

熱門行情

最近搜尋

全部刪除

〈輝達GTC大會〉GB200整機架構優化 鴻海擁垂直整合能力成首要受惠者

鉅亨網記者彭昱文 台北
GB200整機架構優化 鴻海擁垂直整合能力成首要受惠者。(鉅亨網資料照)
GB200整機架構優化 鴻海擁垂直整合能力成首要受惠者。(鉅亨網資料照)

輝達 (NVIDIA) 在本次 GTC 大會上,正式發表新一代人工智慧晶片 Blackwell GPU,型號分為 B200,以及由 2 片 B200 與 1 顆 Grace CPU 組合而成的 GB200。法人表示,目前 GB200 機櫃訂單目前由鴻海 (2317-TW)、廣達 (2382-TW) 瓜分,其中,鴻海得益於掌握垂直整合能力、與客戶密切合作,更是主要受惠者。

法人指出,GB200 是整套的解決方案,主要優化的部分在於其強大性能和 Rack 的設計,鴻海具備從零組件、模組、整機到資料中心的垂直整合能力,能配合客戶進行開發,整櫃輸出的技術力,將成為集團在 AI 伺服器產業的重要優勢。

據了解,舊式 AI 伺服器架構(A100、H100、B100),是由 8 顆 GPU 組成一個板子,搭配 CPU;GB200 在於其 CPU 是用 NVIDIA 自己的 Grace CPU,且一個 Tray 可以搭配 2 顆 CPU+4 顆 GPU。

Rack 方面,舊式 AI 伺服器一組 Rack 裝滿可以裝 2 台伺服器;GB200 可裝載 18 台 1u 的伺服器,簡單來說,舊式 AI 伺服器,高 u 數、少台數;GB200 低 u 數、多台數,價值更高,且 GB200 對基板需求降低,但產品在通訊速度與冷卻的要求更高。

而鴻海在近期法說會上就強調,液冷散熱技術 5 年前就開始在做,集團在這方面可以提供的價值包括更佳的運算效能、機櫃整體空間設計上的優化、節能表現優於業界、散熱解決方案也可以降低客戶的營運成本、及機台運作更安靜等。

此外,GB200 在基於 1750 億組參數 GPT-3 模型的基準測試中,其性能是 H100 的 7 倍、訓練速度則提高了 4 倍,提升 GPU 效能的目標下,GPU 之間的串聯相當關鍵,所以高速交換機的功能將會凸顯,鴻海集團也是交換機的重要供應商。

相關貼文

left arrow
right arrow