1

熱搜:

熱門行情

最近搜尋

全部刪除

群聯攜聯發科 搶進邊緣AI推論市場

鉅亨網記者魏志豪 台北
群聯攜聯發科 大秀手機AI模型平台。(圖:群聯提供)
群聯攜聯發科 大秀手機AI模型平台。(圖:群聯提供)

群聯 (8299-TW) 今 (14) 日於 MediaTek 天璣開發者大會 (MDDC 2026) 宣布,與聯發科 (2454-TW) 攜手在 MediaTek 天璣 9500 平臺上,單機運行 20B 大型語言模型,展現新一代邊緣端 AI 推論的關鍵突破。

群聯指出,生成式 AI 正快速從雲端走向終端裝置,而真正的挑戰,從來不只是算力,而是如何在有限的 DRAM 與功耗條件下,讓大型語言模型真正落地於行動裝置。

群聯通過專利 aiDAPTIV Hybrid UFS 解決方案,結合 aiDAPTIV Cache Memory 與 aiDAPTIV Middleware 技術,成功將部分 MoE 模型權重動態卸載至 UFS 存儲層,有效降低對 DRAM 的依賴,使原本需要 16GB+ DRAM 的大模型,可在 12GB DRAM 環境下流暢運行,大幅提升大模型在終端設備部署的可行性。

群聯看好,此次這不僅是一次技術展示,更代表 AI 正加速從資料中心延伸至智慧手機、IoT 等邊緣設備。未來,AI 將不再只是雲端服務,而是真正存在於每一台裝置之中。

相關貼文

left arrow
right arrow