Selama Microsoft Ignite, MediaTek mendemonstrasikan akselerasi Phi-3.5-mini pertama yang didukung oleh AI edge pada smartphone, menggunakan chip andalan MediaTek Dimensity 9400. AI Edge memastikan privasi, kualitas, dan keamanan dengan menjaga pemrosesan data sepenuhnya pada perangkat, tanpa memerlukan dukungan layanan berbasis Cloud.
Karena ukurannya, Small Language Models (SLM) adalah kandidat utama untuk penyesuaian guna memenuhi tugas tertentu, sekaligus diproses sepenuhnya pada perangkat. NPU 890 Generasi ke-8 di Dimensity 9400 memiliki perangkat keras khusus untuk mempercepat SLM, seperti Phi-3.5-mini, yang menghadirkan kasus penggunaan baru seperti saran penulisan, ringkasan dokumen dan Tanya Jawab, serta perencanaan dan penalaran agen AI.
Sameer Sharma, AVP dan GM AI IoT BU (Amerika & Eropa) dari MediaTek menyampaikan sebuah sesi di Microsoft Ignite tentang cara menyesuaikan AI untuk mengoptimalkan kinerja Phi dan SLM.
Terhubunglah dengan Sameer di LinkedIn.
