兩強合作!群聯攜手聯發科推動生成式 AI 運算與服務

作者 | 發布日期 2024 年 03 月 18 日 9:15 | 分類 AI 人工智慧 , 公司治理 , 半導體 line share follow us in feedly line share
兩強合作!群聯攜手聯發科推動生成式 AI 運算與服務


群聯與聯發科共同宣布,透過群聯創新 AI 運算服務「aiDAPTIV+」,與聯發科領先生成式 AI 服務平台「MediaTek DaVinci」深度整合,共同開創 AI 運算與應用服務新時代,加速普及生成式 AI 至日常生活。

「MediaTek DaVinci」平台是聯發科基於 GAI 服務框架 (GAISF) 打造的先進生成式 AI 服務開放式平台,開發者可在「MediaTek DaVinci」平台開發各類實用插件,建立豐富的生態系統,同時提升使用者的互動體驗。群聯「aiDAPTIV+」服 務方案,獨特 SSD 整合 AI 運算架構,將大型 AI 模型進行結構性拆分,並與 SSD 協同運行。這種方法不僅大幅降低了 AI 基礎建設的硬體成本,還提高運算效率,使有限 GPU 與 DRAM 資源下也能訓練大型 AI 模型。

「aiDAPTIV+」技術已在工業 4.0 領域獲實證,也將持續協助各產業加速 AI 轉型,提升企業競爭力。相較傳統 AI 伺服器架構,群聯「aiDAPTIV+」方案相同 AI 模型微調訓練運算條件下,整體電力較少,也符合減少能源消耗和碳足跡的環保趨勢。

「aiDAPTIV+」方案已協助國立陽明交通大學廖元甫教授的客台語 AI 提升辨識準確度,與聯發科「MediaTek DaVinci」結合,拓展「aiDAPTIV+」應用範疇,為 AI 服務市場注入新動力,不僅有更優質體驗,也為開發者開闢更廣闊的創新空間。

群聯與聯發科合作效益有:

1. 創新的 AI 運算架構:「aiDAPTIV+」模型結構分拆並與 SSD 協同,支援更大型 AI 模型訓練。

2. 提升成本效益:降低 AI 服務硬體建構成本,使 AI 應用更廣泛且經濟。

3. 提升「MediaTek DaVinci」平台擴展性:結合「aiDAPTIV+」後,為開發者提供更多元客製化插件的開發可能性。

4. 加速部署終端 AI 應用:透過結構性拆分 AI 模型,「aiDAPTIV+」快速適應不同應用需求。

5. 更符合 ESG 趨勢的解決方案:「aiDAPTIV+」降低 AI 模型微調運算的總電力需求,減少能源消耗和碳足跡,符合環保趨勢。

透過群聯「aiDAPTIV+」方案與聯發科「MediaTek DaVinci」平台合作,AI 伺服器廠商提供完整終端軟硬體整合方案,使 AI 伺服器產品更具競爭力,為終端客戶提供一站式 AI 服務。

(首圖來源:群聯)