AI晶片效率測試 高通、輝達各占優勢
根據路透報導,在周三(5 日)發布的一組新測試數據中,高通的人工智慧(AI)晶片在三項效能指標中的兩項擊敗輝達,而一家台灣的新創公司在一項指標中勝出。
輝達在擁有海量數據的人工智慧模型訓練市場占主導地位,這些人工智慧模型經訓練後會廣泛應用到所謂的「推理」,例如回應提示生成的文本以及判斷圖像中是否有貓。
分析人士認為,隨著企業將人工智慧繼續應用到其產品中,資料中心推理晶片的市場將迅速成長,而 Alphabet(GOOGL-US) 旗下 Google 等公司已經在探索如何控制這樣做會增加額外的成本。
其中一項主要的成本是電力,高通利用其替智慧手機等電池驅動設備設計晶片的歷史開發一款名為 Cloud AI 100 的晶片,旨在降低功耗。
開放工程聯盟(MLCommons)周三公布的測試數據中,高通的 AI 100 在圖像分類方面擊敗輝達的旗艦晶片 H100,這是基於每個晶片每瓦可以執行多少個資料中心伺服器查詢。開放工程聯盟億值在維護 AI 晶片產業廣泛使用的測試基準。
高通晶片的伺服器查詢次數達到每瓦 197.6 次,而輝達的為每瓦 108.4 次。值得注意的是,台灣新創公司創鑫智慧(Neuchips)以每瓦 227 次查詢的速度位居榜首。
在目標檢測方面,高通也擊敗輝達,其得分為每瓦 3.2 個查詢,後者為每瓦 2.4 次查詢。物體檢測可用於分析零售商店的視訊等應用程式,以查看消費者的偏好。
然而,在一項自然語言處理測試中,輝達在絕對性能和宮耗方面都獲得第一名。自然語言處理是聊天機器人等系統中應用最廣泛的人工智慧技術。輝達成績達到每瓦 10.8 個樣本,創鑫智慧以每瓦 8.9 個樣本排名第二,高通則以每瓦 7.5 個樣本排名第三。
截稿前,高通 (QCOM-US) 盤中股價上漲 0.48%,每股暫報 122.89 美元;輝達 (NVDA-US) 盤中股價下跌 2.98%,每股暫報 266.40 美元。