1

熱搜:

熱門行情

最近搜尋

全部刪除

路透:OpenAI對輝達晶片不全然滿意 已接觸AMD等替代供應商

鉅亨網編譯羅昀玫
路透:OpenAI對輝達晶片不全然滿意 已接觸AMD等替代供應商 (圖:shutterstock)
路透:OpenAI對輝達晶片不全然滿意 已接觸AMD等替代供應商 (圖:shutterstock)

《路透社》週一 (2 日) 引述多名消息人士報導,該公司已自去年起低調接觸 AMD,評估 Cerebras 及 Groq 等多家晶片業者,尋求輝達以外的人工智慧 (AI) 推論晶片替代方案。

多名熟悉內情的消息人士透露,OpenAI 的策略調整,源於其對 AI「推論」運算的重視程度快速升高。推論是指 AI 模型在實際回應用戶提問與指令時的運算過程,與模型訓練不同。儘管輝達在大型 AI 模型訓練晶片市場仍具壓倒性優勢,但推論晶片正逐漸成為新一輪競爭焦點。

多名消息人士指出,OpenAI 對輝達硬體在特定應用情境下的回應速度並不滿意,尤其是在軟體開發及 AI 與其他系統互動等需求上。

據其中一人透露,OpenAI 未來希望有新硬體可支撐約一成的推論運算需求。

OpenAI 尋找替代方案的同時,正與輝達進行投資談判。

輝達去年 9 月曾表示,計畫向 OpenAI 投入高達 1,000 億美元,藉此取得股權,並協助 OpenAI 籌措購買先進晶片的資金。該交易原預期數週內完成,但至今談判已延宕數月。

消息人士表示,OpenAI 產品路線的持續調整,也改變了其對運算資源的需求,進而影響與輝達的協商進度。

輝達執行長黃仁勳近日否認雙方存在緊張關係,稱相關說法毫無根據,並重申輝達仍計畫對 OpenAI 進行大規模投資。輝達聲明稱,公司產品在大規模推論運算下仍具備最佳效能與整體成本優勢。

OpenAI 方面也表示,目前其推論運算叢集的絕大多數仍由輝達提供支援。

OpenAI 在評估替代方案過程中,曾與 AMD 等公司進行接觸,評估可與輝達 GPU 競爭的方案。

消息指出,OpenAI 近一年評估的替代方案,聚焦於採用大量內嵌 SRAM 記憶體的晶片架構,這類設計在推論運算中可降低資料存取延遲,提升回應速度。相較之下,現行 GPU 架構多依賴外部記憶體,可能影響即時互動表現。這一限制在 OpenAI 的程式碼生成產品 Codex 上尤為明顯,內部評估認為硬體架構是影響效能的因素之一。

OpenAI 執行長阿特曼 (Sam Altman) 1 月底對外表示,程式開發用戶對回應速度極為重視,OpenAI 將透過與 Cerebras 的合作來滿足相關需求。不過他也指出,對一般 ChatGPT 使用者而言,速度的重要性相對較低。

華爾街分析,競爭對手如 Anthropic 與 Google,因較多採用自家開發、專為推論設計的晶片架構,在部分應用上具備效能優勢。

隨著 OpenAI 對現有技術表達保留,消息人士透露,輝達也曾接觸 Cerebras 與 Groq 等業者,評估收購或合作可能性。最終 Cerebras 選擇與 OpenAI 建立商業合作,而輝達則在去年底以非獨家方式取得 Groq 技術授權,並延攬其部分晶片設計人才。

業界人士認為,OpenAI 對推論晶片的重新布局,顯示 AI 發展正逐步從訓練階段,邁向更強調即時回應與實際應用效能的新階段,相關動向也將持續牽動輝達在 AI 產業中的主導地位。

相關貼文

left arrow
right arrow