華為高管:其AI晶片算力性能優於輝達A100
2024 世界半導體大會暨南京國際半導體博覽會的一場分論壇上,江蘇鯷鵬 · 昇騰生態創新中心首席營運官王陶透露,昇騰集群是中國唯一已完成訓練千億參數大模型的技術路線,性能已經超過了輝達 (NVDA-US)A100。
王陶表示,中國大模型裡面,有近 50%(1/2)選擇了昇騰技術路線。與輝達 A100 相比,昇騰 AI 晶片在訓練效率層面最高是輝達的 1.1 倍。尤其在訓練 Meta Llama、BloomGPT 等模型方面,昇騰 AI 算力訓練效率大大優於輝達 A100。
據陸媒「鈦媒體」報導,昇騰和鯕鵬分別是華為面向通用運算和智慧運算的兩款算力產品,是華為 AI 運算生態裡面的關鍵技術系列。
公開資訊顯示,江蘇鯷鵬 · 昇騰生態創新中心成立於 2019 年 8 月,是南京江北新區與華為聯合宣佈發展鯤鵬計算產業後成立的創新機構。王陶稱,創新中心的使命是基於華為的鯕鵬、昇騰技術,聯合生態夥伴賦能千行百業進行數位轉型。
最新年報顯示,2023 年,華為公司共實現營收 7,042 億元人民幣,年增 9.6%;淨利 870 億元,年增 144%。同時,華為重視研究與創新,2023 年研發投入達 1,647 億元,佔全年收入的 23.4%,十年累計投入的研發費用超過 1.11 兆元。
王陶指出,基於華為自研的 AI 算力,從底層的 Atlas 硬體到算子庫,再到上層的開發工具鏈,昇騰在大模型推理、訓練兩個方面均提供一整套解決方案,包括開發套件、基礎加速程式庫等。而在開發速度上,基於昇騰方案,客戶大幅縮短開發週期,在典型場景下推理效能提高 1.5-3 倍,實現更強的業務協同。
算力層面,目前,華為在中國 20 多個城市建設昇騰人工智慧運算中心,超過 2500PFlops(每秒運算能力為 2500 千萬億次)普惠 Al 算力。
而目前,包括騰訊、百度在內的中國科技巨頭以及科大訊飛等領先的新創公司都購買了 910B。
華為公司昇騰運算業務總裁張迪煊上個月透露,昇騰生態系統擁有 40 個硬體合作夥伴、超過 1,600 個軟體合作夥伴和超過 2,900 個 AI 應用解決方案。
王陶則透露,華為鯕鵬在中國有 5100+ 合作夥伴,15800+ 解決方案,擁有開發者超過 310 萬。