Seperti yang kami laporkan kemarin, Microsoft telah memperkenalkan Phi-3-Vision, tambahan baru pada keluarga model bahasa kecil Phi-3 AI, pada konferensi pengembang Build 2024. Model multimodal ini bertujuan untuk menyempurnakan rangkaian alat AI perusahaan, sehingga memberikan kemampuan yang lebih kuat kepada pengembang. Dalam pengumuman lainnya, CEO Microsoft Satya Nadella mengungkapkan Phi Silica, anggota lain dari bahasa kecil Phi rangkaian model.
Dengan 3,3 miliar parameter, Phi Silica adalah model terkecil dalam rangkaian model, dirancang untuk performa optimal pada unit pemrosesan saraf (NPU) di PC Copilot+. Model ini memungkinkan inferensi lokal dan meningkatkan performa latensi token pertama, menawarkan API kepada developer untuk menciptakan pengalaman pengguna di seluruh ekosistem Windows.
Ekspansi Library Kopilot Windows
Model Phi Silica diintegrasikan ke dalam Windows Copilot Library baru dari Microsoft, serangkaian API komprehensif yang didukung oleh lebih dari 40 model pada perangkat yang disertakan dengan Windows. Perpustakaan ini bertujuan untuk meningkatkan kemampuan pengembang dalam memanfaatkan AI dalam lingkungan Windows. API yang tersedia dalam rilis Windows App SDK pada bulan Juni akan mencakup fungsi seperti Studio Effects, Live Captions Translations, Phi Silica, Optical Character Recognition (OCR), dan Recall User Activity. API tambahan, seperti Peringkasan Teks, Penyematan Vektor, dan Retrieval-Augmented Generation (RAG), dijadwalkan untuk rilis mendatang.
Copilot+ PCs dan Rencana Masa Depan
Copilot+ PCs, nama merek untuk PC Windows yang dilengkapi dengan jaringan saraf khusus chip untuk menjalankan aplikasi AI seperti Copilot dan Phi Silica, akan mulai dikirimkan pada pertengahan Juni. Perangkat ini akan menampilkan chip Snapdragon X Elite dan Plus berbasis Arm dari Qualcomm. Microsoft, bersama dengan beberapa produsen PC besar, berencana memperkenalkan laptop ini pada musim panas ini. Intel juga sedang bersiap untuk meluncurkan prosesor berbasis PC Copilot+ miliknya, dengan nama kode Lunar Lake, yang diperkirakan akan diluncurkan pada kuartal ketiga tahun 2024.
Awalnya, Microsoft fokus pada model bahasa besar (LLM) yang beroperasi di awan. Namun, pada bulan April, perusahaan memperkenalkan Phi-3-mini, model lebih kecil yang dirancang untuk berjalan secara lokal di PC. Phi Silica adalah turunan dari Phi-3-mini, yang dirancang khusus untuk PC Copilot+. Pergeseran ke arah model bahasa kecil (SLM) mengatasi keterbatasan LLM, yang memerlukan memori dan penyimpanan besar, sehingga tidak praktis untuk PC biasa. SLM seperti Phi Silica menyeimbangkan akurasi dan kecepatan dengan 3,3 miliar model parameter.
Pemrosesan AI Lokal untuk Privasi
Sebagian besar interaksi AI terjadi di cloud, dengan layanan seperti Copilot Microsoft yang ada yang berkomunikasi dengan server jarak jauh. Namun, mesin pencari Recall PC yang akan datang akan berjalan secara lokal di NPU untuk alasan privasi, menghindari pengindeksan pencarian penyamaran atau anonim. Kemampuan pemrosesan lokal ini merupakan fitur utama model AI baru, yang memberikan peningkatan privasi dan kinerja.
Microsoft telah menyoroti bahwa Windows adalah platform pertama yang menampilkan model bahasa kecil yang dibuat khusus untuk NPU dan disertakan di dalamnya-di luar kotak. Masih belum jelas apakah Phi Silica akan diinstal sebelumnya pada PC Copilot+ sebagai Copilot versi lokal, sebuah pertanyaan yang harus ditangani oleh Microsoft hingga tanggal 23 Juni. Perkembangan ini menggarisbawahi komitmen Microsoft untuk mengintegrasikan kemampuan AI tingkat lanjut langsung ke dalam sistem operasinya, sehingga menawarkan fungsionalitas dan kinerja yang lebih baik kepada pengguna.
