輝達攜手微軟 打造超大型AI雲端電腦
Tag
輝達 (Nvidia) 周三 (16 日) 宣布,公司正與微軟 (MSFT-US) 合作建構一台大型電腦,用以處理密集的人工智慧 (AI) 雲端運算工作。
該 AI 電腦將在微軟 Azure 雲端上運作,使用數萬個圖形處理器 (GPU)、輝達最強大的 H100 及其 A100 晶片。
輝達拒絕透露該交易價值金額,但產業來源表示,每一片 A100 晶片定價約 1 萬至 1.2 萬美元,而 H100 晶片則比該價位高出許多。
輝達 Hyperscale 和 HPC 總經理 Ian Buck 表示:「我們處於 AI 進入企業的轉捩點,這些服務可讓客戶將 AI 部署在業務用途,這一切正成為現實。我們正看到 AI 受廣泛採用,以及將 AI 應用在企業用例上的需求。」
輝達不只向微軟出售晶片,也與其合作開發 AI 模型。Buck 表示,輝達也會成為微軟 AI 雲端電腦的客戶,並在其上開發 AI 應用,以提供服務給顧客。
AI 模組的快速成長 (例如用於自然語言處理的 AI 模組) 大幅推動更快、更強大的運算基礎設施的需求。
輝達表示,Azure 將是第一個使用其 Quantum-2 InfiniBand 網絡技術的公共雲,該技術的傳輸速度為每秒 400 Gb。該網絡技術可高速連接伺服器,這點至關重要,因為 AI 運算工作繁重,必須數千晶片同時跨多個伺服器運作。