Come riportato ieri, Microsoft ha presentato Phi-3-Vision, una nuova aggiunta alla sua famiglia di modelli per piccoli linguaggi AI Phi-3, alla conferenza degli sviluppatori Build 2024. Questo modello multimodale mira a migliorare la suite di strumenti di intelligenza artificiale dell’azienda, fornendo agli sviluppatori funzionalità più solide. In un altro annuncio, il CEO di Microsoft Satya Nadella ha rivelato Phi Silica, un altro membro del piccolo linguaggio Phi famiglia di modelli.
Con 3,3 miliardi di parametri, Phi Silica è il modello più piccolo della famiglia, progettato per prestazioni ottimali sulle unità di elaborazione neurale (NPU) nei PC Copilot+. Questo modello consente l’inferenza locale e migliora le prestazioni di latenza del primo token, offrendo agli sviluppatori un’API per creare esperienze utente nell’ecosistema Windows.
Espansione della libreria Windows Copilot
Il modello Phi Silica è integrato nella nuova libreria Windows Copilot di Microsoft, un set completo di API basato su oltre 40 modelli su dispositivo inclusi in Windows. La libreria mira a migliorare la capacità degli sviluppatori di sfruttare l’intelligenza artificiale all’interno dell’ambiente Windows. Le API disponibili nella versione Windows App SDK di giugno includeranno funzionalità come Effetti Studio, Traduzione di sottotitoli in tempo reale, Phi Silica, Riconoscimento ottico dei caratteri (OCR) e Richiama attività utente. API aggiuntive, come riepilogo del testo, incorporamento di vettori e generazione aumentata di recupero (RAG), sono previste per il rilascio futuro.
Copilot+ PC e piani futuri
Copilot+ PCs, il marchio per PC Windows dotati di rete neurale specializzata i chip per l’esecuzione di applicazioni AI come Copilot e Phi Silica inizieranno a essere spediti a metà giugno. Questi dispositivi saranno dotati dei chip Snapdragon X Elite e Plus basati su Arm di Qualcomm. Microsoft, insieme ad alcuni dei principali produttori di PC, prevede di introdurre questi laptop quest’estate. Intel si sta inoltre preparando a lanciare il proprio processore Copilot+ basato su PC, nome in codice Lunar Lake, previsto per il terzo trimestre del 2024.
Inizialmente, Microsoft si è concentrata su modelli linguistici di grandi dimensioni (LLM) che operano nel settore nuvola. Tuttavia, ad aprile, l’azienda ha introdotto Phi-3-mini, un modello più piccolo progettato per funzionare localmente sui PC. Phi Silica è un derivato di Phi-3-mini, specificatamente studiato per i PC Copilot+. Questo spostamento verso i modelli Small Language Model (SLM) risolve i limiti dei LLM, che richiedono memoria e spazio di archiviazione notevoli, rendendoli poco pratici per i PC tipici. SLM come Phi Silica bilanciano precisione e velocità con un modello da 3,3 miliardi di parametri.
Elaborazione locale dell’IA per la privacy
La maggior parte delle interazioni AI avviene nel cloud, con servizi come l’attuale Copilot di Microsoft che comunicano con server remoti. Tuttavia, il prossimo motore di ricerca Recall PC verrà eseguito localmente sulle NPU per motivi di privacy, evitando l’indicizzazione di ricerche in incognito o anonime. Questa capacità di elaborazione locale è una caratteristica chiave dei nuovi modelli di intelligenza artificiale, poiché offre privacy e prestazioni migliorate.
Microsoft ha sottolineato che Windows è la prima piattaforma a presentare un piccolo modello linguistico creato su misura per le NPU e incluso-of-the-box. Non è chiaro se Phi Silica sarà preinstallato sui PC Copilot+ come versione locale di Copilot, una domanda che Microsoft ha tempo fino al 23 giugno per rispondere. Questo sviluppo sottolinea l’impegno di Microsoft nell’integrare funzionalità avanzate di intelligenza artificiale direttamente nel suo sistema operativo, offrendo agli utenti funzionalità e prestazioni migliorate.
