MediaTek 觀察

聯發科技達哥平台結合NVIDIA NIM 推論微服務　實現高效模型部署 聯發科技宣布結合其生成式 AI 服務平台 MediaTek DaVinci（聯發科技達哥）與 NVIDIA 企業軟體平台之一的NVIDIA NIM推論微服務，為企業用戶提供從模型部署到垂直應用的端到端全方位解決方案，以加速各行各業於 AI 的部署與應用。此次合作延伸推展到軟體服務層面的應用，以共同形塑更為強大且多元的 AI 生態系統，有利更多開發者加速AI使用與落地，進而促進AI產業鏈發展。

聯發創新基地（MediaTek Research）開源的MediaTek Research Breeze-7B模型 (以下簡稱 MR Breeze-7B)，憑藉其參數量少且性能卓越的特點，期望能對學術界和產業界在人工智能領域的進一步發展帶來正面影響。由Mistral-7B演進而來的MR Breeze-7B是專為繁體中文的用戶所設計，以模型參數量小為特色，在繁體中文與英文提供出色的表達能力。此外，MR Breeze-7B的推論速度非常快，且在表格處理以及用戶對話的表現能力也很優秀。