1

熱搜:

熱門行情

最近搜尋

全部刪除

〈輝達GTC〉揭密下一代晶片Rubin 誓言吞光「DeepSeek紅利」

鉅亨網新聞中心
(圖:REUTERS/TPG)
(圖:REUTERS/TPG)

在全球科技界的矚目下,輝達創辦人兼 CEO 黃仁勳於 2025 年 3 月 18 日在聖荷西召開了年度 GTC 大會,發布了一系列令人振奮的新產品,並強調了 DeepSeek 技術帶來的推理紅利。

本次 GTC 大會吸引了來自全球數萬名科技愛好者,現場氣氛熱烈,許多人早在演講開始前數小時就已排隊入場。黃仁勳在長達兩小時的演講中,詳細介紹了輝達最新的技術和產品,包括 Blackwell Ultra 超級晶片、Vera Rubin 下一代晶片、Dynamo 推理框架、DGX 個人 AI 超級電腦以及 Isaac GROOT N1 機器人基礎模型。

黃仁勳在演講中指出,Blackwell Ultra 超級晶片專為「AI 推理時代」設計,其性能比上一代提升了 1.5 倍。在 DeepSeek R1 模型上,該晶片每秒能夠處理 1000 個 tokens,響應時間從 1.5 分鐘縮短至僅 10 秒。他表示:「買得越多,賺得越多」,並強調與 Hopper 相比,Blackwell Ultra 為資料中心創造了 50 倍的收入潛力。

此外,黃仁勳也介紹了計畫於 2026 年底推出的 Vera Rubin 晶片,其記憶體容量是 Grace 的 4.2 倍,頻寬提高 2.4 倍,88 個 CPU 核心的效能翻倍,並配備 288GB 高頻寬 HBM4 記憶體。他預告了 2027 年推出的 Vera Rubin Ultra 和 2028 年的「費曼」晶片,顯示出輝達在晶片技術上的持續創新。

在談到推理的重要性時,黃仁勳提到,隨著 AI 技術的進步,運算需求大幅增加。他解釋:「過去 AI 主要依賴經驗和預訓練資料進行學習,而現在的 AI 系統採用『思考鏈』技術進行逐步推理,使得處理單一查詢所需的 tokens 數量增加了約 10 倍。」他指出,這項變更導致總運算需求增加了約 100 倍,進一步推高了算力需求。

黃仁勳也透過一個範例對比了傳統大型語言模型與推理增強型模型的差異。在這個例子中,兩個模型需要為婚宴安排座位。傳統模式 Llama 3.3 70B 採用「一次性」方式,快速產生了 439 個 tokens 的回答,儘管反應迅速,但結果錯誤,等於產生了 439 個「浪費的 tokens」。而 DeepSeek R1 則啟動了深入的思考過程,產生了 8,559 個 tokens,最終得出了正確的解決方案,顯示出推理模型在複雜任務中的優勢。

演講中,黃仁勳還發布了開源推理框架 Dynamo,稱其為「AI 工廠的操作系統」。 Dynamo 能夠協調並加速成千上萬 GPU 之間的通信,並採用「分離式服務」技術,分別優化模型的思考階段和生成階段,以最大化資源利用率,並與 Perplexity 達成合作,進一步推動推理模型的應用。

黃仁勳還推出了個人用戶的「AI 超級電腦」——DGX Spark 和 DGX Station。 DGX Spark 是一款 Mac Mini 大小的設備,售價 3,000 美元,提供 1,000 兆次每秒的 AI 運算能力。 DGX Station 則是針對 AI 開發者、研究人員和學生,能夠在桌面上原型設計、微調和運行大型 AI 模型。

此外,黃仁勳介紹了 Isaac GROOT N1 機器人基礎模型,這是首個開放式人形機器人基礎模型,能夠輕鬆掌握抓取、移動等複雜任務,並與 GoogleDeepMind 和迪士尼合作開發的 Newton 實體引擎相結合。

Token 經濟學 + AI 工廠:DeepSeek 帶來的推理紅利,輝達都會吃掉

在演講中,黃仁勳強調推理模式的重要性,並明確表示輝達將充分利用 DeepSeek 帶來的紅利。他指出,隨著 AI 技術的進步,推理需求大幅增加,計算需求也隨之上升。他解釋說,過去的 AI 主要依賴經驗和預訓練數據,而現在的 AI 系統採用「思維鏈」技術進行逐步推理,使得處理單一查詢所需的 tokens 數量增加了約 10 倍。

黃仁勳指出,推理過程的複雜性使得算力需求急劇增加,實際上目前的算力需求比去年預估的高出約 100 倍。他表示:「推理時代對計算的要求反而更加高,而已經領先的輝達會繼續領先下去。」透過對比傳統大型語言模型與 DeepSeek 的表現,黃仁勳展示了推理模型如何在複雜約束條件下提供更高質量的解決方案。 DeepSeek 模型在處理複雜任務時,產生的 tokens 數量大幅增加,運算資源需求也顯著高於傳統模型。這個過程不僅提升了 AI 的處理能力,也為輝達帶來了可觀的市場機會。

2028 年資料中心建設將達兆美元規模

黃仁勳在演講的最後,展望了未來的發展趨勢,強調 AI 正處於一個拐點,預測到 2028 年,資料中心的建設將達到兆美元規模。他的演講不僅展現了輝達在技術上的實力,也傳遞出對未來市場的信心,並強調了 token 經濟學在 AI 發展中的重要性。

他總結道:「今天,電腦的地位徹底改變,作為 AI 工廠,計算的投入產出比將決定各企業的成功與否。」這表明,隨著 AI 推理技術的不斷發展,輝達將繼續在市場中佔據領先地位,充分利用 DeepSeek 帶來的紅利。

相關行情

相關貼文

left arrow
right arrow