Dalam ajang Microsoft Ignite, MediaTek mendemonstrasikan percepatan Phi 3.5 mini pertama di smartphone yang ditenagai oleh edge AI, menggunakan chip flagship MediaTek Dimensity 9400. Edge AI menjaga privasi, kualitas, dan keamanan dengan memproses data sepenuhnya di dalam perangkat, tanpa perlu dukungan layanan berbasis Cloud.
Karena ukurannya yang ringkas, Small Language Models (SLM) sangat ideal untuk disesuaikan dengan tugas tertentu, dan dapat diproses langsung di perangkat. NPU 890 Generasi ke delapan pada Dimensity 9400 dilengkapi perangkat keras khusus untuk mempercepat SLM seperti Phi 3.5 mini, membuka berbagai kasus penggunaan baru seperti saran penulisan, ringkasan dokumen, tanya jawab, serta perencanaan dan penalaran agen AI.
Sameer Sharma, AVP dan GM dari AI IoT Business Unit untuk wilayah Amerika dan Eropa di MediaTek, membawakan sesi dalam Microsoft Ignite mengenai cara menyesuaikan AI guna mengoptimalkan performa Phi dan SLM.
Terhubung dengan Sameer melalui LinkedIn.