多年對手為AI聯手!蘋果攜Meta把大型模型搬上Mac

多年對手因AI找到合作契機。蘋果(AAPL-US)與Meta(META-US)周四(15日)宣布攜手,讓開發者能在高階Mac電腦上執行Meta新推出的開放權重模型Muse Spark Open,直接在自己的設備上寫程式、分析影片及執行AI代理任務,不必將模型運算交給雲端。不過,要把這套大型模型搬上桌面,現階段硬體投入超過4萬美元。
綜合外媒報導,這項歷經數月籌備的合作,出現在特納斯(John Ternus)上月接替庫克出任蘋果執行長之後,也反映AI競爭正在改變矽谷長年的合作與對立關係。雙方均未透露,這是否代表未來將展開更深入的合作。
大型AI搬上Mac 開發者不必全靠雲端
Muse Spark Open採用混合專家架構,擁有8,160億個參數,主要針對程式開發與AI代理任務設計。開放權重代表開發者可下載模型參數,在自己的硬體上執行,但仍須遵守授權條件;Meta表示,這款模型允許有限度的商業使用。
為配合合作,蘋果更新MLX機器學習工具,讓模型能跨多台Mac分攤運算,並公布相關技術文件與晶片效能測試。開發者可從Hugging Face等平台下載適用版本,不必再為蘋果晶片額外調整設定,模型也已針對Mac硬體優化執行速度。
Meta AI主管汪滔(Alexandr Wang)表示,許多強大的開放權重模型體積太大,不適合多數個人電腦,但Mac Studio提供的記憶體容量,讓運行Muse Spark Open變得可行。
雙方表示,讓模型直接在使用者設備上運作,可增加資料安全保障,並降低對雲端算力租用的依賴。這也讓開發者在研究、應用程式開發與影片製作上,多了一項美國業者提供的模型選擇。
免租雲端有代價 硬體投入超過4萬美元
要運行這款模型,使用者須串聯2至4台Mac Studio,整組設備合計至少具備1TB記憶體,並非一般單台Mac就能負荷。
目前搭載M5 Ultra晶片與256GB記憶體的Mac Studio,每台售價至少10,799美元;配備512GB記憶體的版本則預定本月稍晚推出。以目前配置計算,整套硬體成本超過4萬美元,入手門檻並不低。
不過,對長期需要大量算力的應用程式開發者或企業而言,租用相近規模的雲端運算資源,每月可能花費數千美元,因此自購設備仍可能隨使用時間拉長而回本,實際效益則取決於使用需求。
Mac的優勢之一,是晶片之間可共用大容量記憶體,搭配MLX串聯多台設備,處理單機難以容納的模型。Meta今年稍早也購買數百台Mac,供超級智慧團隊測試在電腦上執行AI與代理任務。
多年對手找到交集 Meta擴大開放模型布局
蘋果與Meta長年關係緊張,尤其蘋果2021年推出隱私政策變更,限制廣告追蹤能力後,雙方衝突加深。Meta曾估計,這項改變將使其2022年營收減少約100億美元。
汪滔表示,雙方如今找到具有建設性的合作方式,並提到曾任蘋果主管的Meta研究員格羅斯(Daniel Gross),是促成合作的重要人物之一。
對Meta而言,這也是去年重整AI團隊後,第二款開放權重模型。公司8月先推出較小型的Muse Glimmer,本周稍早則發表專有模型Muse Wonder,持續同時布局開放與封閉模型。
不過,Muse Spark Open並非Meta最先進的產品,能力仍不及Muse Wonder。Meta也承認,中國開放模型在軟體開發及部分其他任務上依然領先。汪滔表示,開放模型將在全球扮演重要角色,美國業者也應參與其中。
他並期待,企業與開發者先以這款模型進行小規模測試,之後再擴大使用。對蘋果而言,這項合作則強化了Mac作為AI開發設備的吸引力,也讓其晶片在大型資料中心之外,找到更多AI運算應用。