Siç raportuam dje, Microsoft ka prezantuar Phi-3-Vision, një shtesë e re në familjen e modeleve të gjuhëve të vogla të Phi-3 AI, në konferencën e zhvilluesve Build 2024. Ky model multimodal synon të përmirësojë grupin e mjeteve të AI të kompanisë, duke u ofruar zhvilluesve aftësi më të fuqishme. Në një njoftim tjetër, CEO i Microsoft Satya Nadella zbuloi Phi Silica, një tjetër anëtar i gjuhës së vogël Phi Familja e modeleve.
Me 3.3 miliardë parametra, Phi Silica është modeli më i vogël në familje, i projektuar për performancë optimale në njësitë e përpunimit nervor (NPU) në kompjuterët Copilot+. Ky model mundëson konkluzionet lokale dhe përmirëson performancën e vonesës së shenjës së parë, duke u ofruar zhvilluesve një API për të krijuar përvoja të përdoruesve në ekosistemin Windows.
Zgjerimi i bibliotekës së Windows Copilot
>Modeli Phi Silica është i integruar në Bibliotekën e re të Windows Copilot të Microsoft, një grup gjithëpërfshirës API-sh të mundësuar nga mbi 40 modele në pajisje të përfshira me Windows. Biblioteka synon të përmirësojë aftësinë e zhvilluesve për të përdorur AI brenda mjedisit të Windows. API-të e disponueshme në versionin SDK të aplikacionit të Windows në qershor do të përfshijnë funksionalitete si”Efektet e studios”,”Përkthimet e titrave të drejtpërdrejta”,”Phi Silica”,”Njohja optike e karaktereve”(OCR) dhe”Recall User Activity”. API-të shtesë, të tilla si Përmbledhja e tekstit, Embeddings vektoriale dhe Gjenerimi i Shtuar i Rikthimit (RAG), janë planifikuar për publikim në të ardhmen.
PC Copilot+ dhe planet për të ardhmen
Copilot+ PC, emri i markës për PC-të Windows të pajisur me rrjet të specializuar nervor çipat për ekzekutimin e aplikacioneve të AI si Copilot dhe Phi Silica, janë vendosur të fillojnë të dërgohen në mes të qershorit. Këto pajisje do të kenë çipat Snapdragon X Elite dhe Plus të Qualcomm të bazuar në Arm. Microsoft, së bashku me disa prodhues të mëdhenj të PC-ve, planifikon t’i prezantojë këta laptopë këtë verë. Intel po përgatitet gjithashtu të lançojë procesorin e vet të bazuar në PC Copilot+, me emrin e koduar Lunar Lake, i cili pritet në tremujorin e tretë të 2024.
Fillimisht, Microsoft u fokusua në modelet e mëdha të gjuhëve (LLM) që funksionojnë në re. Megjithatë, në prill, kompania prezantoi Phi-3-mini, një model më i vogël i krijuar për të ekzekutuar në nivel lokal në PC. Phi Silica është një derivat i Phi-3-mini, i përshtatur posaçërisht për kompjuterët Copilot+. Ky ndryshim drejt modeleve të gjuhëve të vogla (SLM) adreson kufizimet e LLM-ve, të cilat kërkojnë memorie dhe ruajtje të konsiderueshme, duke i bërë ato jopraktike për PC-të tipikë. SLM-të si Phi Silica balancojnë saktësinë dhe shpejtësinë me një model prej 3.3 miliardë parametrash.
Përpunimi lokal i AI për privatësi
Shumica e ndërveprimeve të AI ndodhin në cloud, me shërbime si Copilot ekzistues i Microsoft që komunikon me serverë në distancë. Sidoqoftë, motori i ardhshëm i kërkimit Recall PC do të funksionojë në nivel lokal në NPU për arsye privatësie, duke shmangur indeksimin e kërkimeve të fshehta ose anonime. Kjo aftësi e përpunimit lokal është një tipar kyç i modeleve të reja të AI, duke ofruar privatësi dhe performancë të përmirësuar.
Microsoft ka theksuar se Windows është platforma e parë që paraqet një model të vogël gjuhësor të krijuar me porosi për NPU dhe të përfshira jashtë saj.-nga kutia. Mbetet e paqartë nëse Phi Silica do të instalohet paraprakisht në kompjuterët Copilot+ si një version lokal i Copilot, një pyetje që Microsoft duhet ta adresojë deri më 23 qershor. Ky zhvillim nënvizon angazhimin e Microsoft për të integruar aftësitë e avancuara të AI drejtpërdrejt në sistemin e tij operativ, duke u ofruar përdoruesve funksionalitet dhe performancë të përmirësuar.
