Tulad ng iniulat namin kahapon, ipinakilala ng Microsoft ang Phi-3-Vision, isang bagong karagdagan sa pamilya nitong modelong maliit na wika ng Phi-3 AI, sa kumperensya ng developer ng Build 2024. Nilalayon ng multimodal na modelong ito na pahusayin ang hanay ng kumpanya ng mga tool ng AI, na nagbibigay sa mga developer ng mas matatag na kakayahan. Sa isa pang anunsyo, ang CEO ng Microsoft na si Satya Nadella ipinahayag ang Phi Silica, isa pang miyembro ng maliit na wika ng Phi pamilya ng modelo.
Na may 3.3 bilyong parameter, ang Phi Silica ang pinakamaliit na modelo sa pamilya, na idinisenyo para sa pinakamainam na pagganap sa mga neural processing unit (NPU) sa mga Copilot+ PC. Ang modelong ito ay nagbibigay-daan sa lokal na inferencing at pinapahusay ang first-token latency na performance, na nag-aalok sa mga developer ng API upang lumikha ng mga karanasan ng user sa buong Windows ecosystem.
Windows Copilot Library Expansion
Ang modelo ng Phi Silica ay isinama sa bagong Windows Copilot Library ng Microsoft, isang komprehensibong hanay ng mga API na pinapagana ng mahigit 40 on-device na modelo na kasama sa Windows. Nilalayon ng library na pahusayin ang kakayahan ng mga developer na gamitin ang AI sa loob ng kapaligiran ng Windows. Ang mga available na API sa Windows App SDK release sa Hunyo ay magsasama ng mga functionality tulad ng Studio Effects, Live Captions Translations, Phi Silica, Optical Character Recognition (OCR), at Recall User Activity. Ang mga karagdagang API, gaya ng Text Summarization, Vector Embeddings, at Retrieval-Augmented Generation (RAG), ay naka-iskedyul para sa paglabas sa hinaharap.
Copilot+ PCs at Future Plans
Copilot+ PCs, ang brand name para sa Windows PC na nilagyan ng espesyal na neural network chips para sa pagpapatakbo ng mga AI application tulad ng Copilot at Phi Silica, ay nakatakdang simulan ang pagpapadala sa kalagitnaan ng Hunyo. Itatampok ng mga device na ito ang Qualcomm’s Arm-based Snapdragon X Elite at Plus chips. Ang Microsoft, kasama ang ilang pangunahing tagagawa ng PC, ay nagpaplano na ipakilala ang mga laptop na ito ngayong tag-init. Naghahanda rin ang Intel na ilunsad ang sarili nitong Copilot+ PC-based na processor, na may pangalang code na Lunar Lake, na inaasahan sa ikatlong quarter ng 2024.
Sa una, nakatuon ang Microsoft sa mga malalaking modelo ng wika (LLM) na gumagana sa ulap. Gayunpaman, noong Abril, ipinakilala ng kumpanya ang Phi-3-mini, isang mas maliit na modelo na idinisenyo upang tumakbo nang lokal sa mga PC. Ang Phi Silica ay isang derivative ng Phi-3-mini, na partikular na iniakma para sa mga Copilot+ PC. Ang pagbabagong ito patungo sa mga small language models (SLMs) ay tumutugon sa mga limitasyon ng LLM, na nangangailangan ng malaking memorya at storage, na ginagawang hindi praktikal para sa mga tipikal na PC. Ang mga SLM tulad ng katumpakan at bilis ng balanse ng Phi Silica na may 3.3 bilyong modelo ng parameter.
Lokal na Pagproseso ng AI para sa Privacy
Karamihan sa mga pakikipag-ugnayan ng AI ay nangyayari sa cloud, na may mga serbisyo tulad ng umiiral na Copilot ng Microsoft na nakikipag-ugnayan sa mga malalayong server. Gayunpaman, ang paparating na search engine ng Recall PC ay tatakbo nang lokal sa mga NPU para sa mga dahilan ng privacy, pag-iwas sa pag-index ng mga incognito o anonymous na paghahanap. Ang lokal na kakayahan sa pagproseso na ito ay isang pangunahing tampok ng mga bagong modelo ng AI, na nagbibigay ng pinahusay na privacy at pagganap.
Na-highlight ng Microsoft na ang Windows ang unang platform na nagtatampok ng maliit na modelo ng wika na custom-built para sa mga NPU at kasama sa labas-ng-kahon. Ito ay nananatiling hindi malinaw kung ang Phi Silica ay paunang mai-install sa mga Copilot+ PC bilang isang lokal na bersyon ng Copilot, isang tanong na dapat tugunan ng Microsoft hanggang Hunyo 23. Binibigyang-diin ng development na ito ang pangako ng Microsoft sa pagsasama ng mga advanced na kakayahan ng AI nang direkta sa operating system nito, na nag-aalok sa mga user ng pinahusay na functionality at performance.
