Amint arról tegnap beszámoltunk, a Microsoft a Build 2024 fejlesztői konferencián bemutatta a Phi-3-Visiont, amely a Phi-3 AI kis nyelvi modellcsaládjának egy új kiegészítője. Ennek a multimodális modellnek az a célja, hogy bővítse a vállalat mesterséges intelligencia eszközkészletét, és robusztusabb képességeket biztosítson a fejlesztőknek. Egy másik közleményben a Microsoft vezérigazgatója, Satya Nadella felfedte a Phi Silicát, a Phi kis nyelv másik tagját. modellcsalád.
A 3,3 milliárd paraméterrel a Phi Silica a család legkisebb modellje, amelyet a Copilot+ PC-k neurális feldolgozó egységein (NPU) való optimális teljesítményre terveztek. Ez a modell lehetővé teszi a helyi következtetéseket, és javítja az első token késleltetési teljesítményét, és API-t kínál a fejlesztőknek, hogy felhasználói élményt teremtsenek a Windows ökoszisztémájában.
Windows másodpilóta könyvtárbővítés
A Phi Silica modell be van építve a Microsoft új Windows Copilot Library-jába, amely API-k átfogó készlete, amelyet a Windowshoz tartozó több mint 40 eszközmodell hajt. A könyvtár célja, hogy javítsa a fejlesztők azon képességét, hogy kihasználják az AI-t a Windows környezetben. A Windows App SDK júniusi kiadásában elérhető API-k olyan funkciókat tartalmaznak majd, mint a Studio Effects, a Live Captions Translations, a Phi Silica, az Optical Character Recognition (OCR) és a Felhasználói tevékenység visszahívása. További API-k, például a szövegösszegzés, a vektorbeágyazás és a visszakeresés-bővített generálás (RAG) jövőbeli kiadásra vannak ütemezve.
Copilot+ PC-k és jövőbeli tervek
Copilot+ PC-k, a speciális neurális hálózattal felszerelt Windows PC-k márkaneve A mesterséges intelligencia alkalmazások, például a Copilot és a Phi Silica futtatására szolgáló chipek szállítása június közepén kezdődik meg. Ezek az eszközök Qualcomm Arm-alapú Snapdragon X Elite és Plus chipeket tartalmaznak majd. A Microsoft több nagy PC-gyártóval együtt ezen a nyáron tervezi bemutatni ezeket a laptopokat. Az Intel emellett saját, Lunar Lake kódnéven futó Copilot+ PC-alapú processzorának bevezetésére készül, várhatóan 2024 harmadik negyedévében.
A Microsoft kezdetben a nagy nyelvi modellekre (LLM) összpontosított, amelyek a felhő. Áprilisban azonban a vállalat bemutatta a Phi-3-minit, egy kisebb modellt, amelyet PC-ken való helyben történő futtatásra terveztek. A Phi Silica a Phi-3-mini származéka, amelyet kifejezetten a Copilot+ PC-kre szabtak. Ez a kis nyelvi modellek (SLM-ek) felé való elmozdulás kiküszöböli az LLM-ek korlátait, amelyek jelentős memóriát és tárhelyet igényelnek, így a tipikus PC-k számára nem használhatók. Az olyan SLM-ek, mint a Phi Silica, 3,3 milliárd paraméteres modellel egyensúlyozzák ki a pontosságot és a sebességet.
Helyi mesterséges intelligencia feldolgozás az adatvédelem érdekében
A legtöbb mesterséges intelligencia interakció a felhőben történik, olyan szolgáltatások, mint a Microsoft meglévő Copilotja, amely távoli szerverekkel kommunikál. A hamarosan megjelenő Recall PC keresőmotor azonban adatvédelmi okokból helyileg fog futni az NPU-kon, elkerülve az inkognitó vagy névtelen keresések indexelését. Ez a helyi feldolgozási képesség az új mesterséges intelligencia modellek kulcsfontosságú jellemzője, amely fokozott adatvédelmet és teljesítményt biztosít.
A Microsoft kiemelte, hogy a Windows az első olyan platform, amely egy kis nyelvi modellt tartalmaz, amelyet az NPU-khoz építettek, és beépítettek a csomagba.-a dobozból. Továbbra sem világos, hogy a Phi Silica előretelepítve lesz-e a Copilot+ PC-kre a Copilot helyi verziójaként, ezzel a kérdéssel a Microsoftnak június 23-ig kell megválaszolnia. Ez a fejlesztés alátámasztja a Microsoft azon elkötelezettségét, hogy a fejlett mesterséges intelligencia képességeket közvetlenül integrálja operációs rendszerébe, így továbbfejlesztett funkcionalitást és teljesítményt kínál a felhasználóknak.
