Microsoft aduce noile modele „GPT-OSS” ale lui OpenAI la PC-urile locale, a anunțat marți compania, într-o apăsare majoră a inteligenței artificiale pe dev. Mișcarea folosește o nouă platformă, azure ai fondator local , pentru a permite dezvoltatorilor să ruleze AI avansat direct pe dispozitivele Windows, chiar și offline și fără a se afișează dezvoltatorii. Inițiativa își propune să creeze mai multe aplicații AI private, receptive și să securizeze prin procesarea datelor la nivel local în loc de cloud. Acesta marchează un pas semnificativ în realizarea instrumentelor AI sofisticate pe scară largă și poziționează Windows ca o platformă cheie pentru următorul val de dezvoltare AI, independent de cloud.
Anunțul, făcut de CVP-ul Microsoft și șeful produselor Platforme AI, Asha Sharma, este cea mai recentă dezvoltare într-o flurry a activității din industrie, care înconjoară întoarcerea Openai la modele deschise. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-official.jpg”>
azure ai foundry local pentru inferența pe device
la nucleul strategiei Microsoft este Azure AI Local, un nou
Avantajul cheie al platformei este capacitatea sa de a funcționa offline, Creșterea confidențialității și a securității, prin păstrarea datelor sensibile pe date pe d-d-d-d-d-d-d-d. Această abordare abordează problemele de latență, făcând interacțiunile AI mai rapide. În mod crucial, dezvoltatorii pot utiliza Foundry Local fără un abonament Azure, Coborârea barierei la intrarea pentru experimentare și disployment la scară mică optimizați performanța modelului pe o gamă largă de hardware, inclusiv procesoare, GPU și NPU-uri de la vânzători precum Intel, AMD, NVIDIA și Qualcomm . De asemenea, oferă o API-uri-cupatibile OpenAI, un CLI și un SDK pentru o integrare ușoară . capacități.”Foundry Local aduce aceste modele la Windows-care tai inferența cu latență scăzută, sigură, offline în cadrul procesoarelor, GPU-urilor și NPU-urilor. Acest lucru vine cu suport complet de reglare fină și orchestrare.”Acest lucru poziționează Foundry Local nu doar ca mediu de rulare, ci ca un set de instrumente de dezvoltare cu drepturi depline pentru AI-ul pe dev.
Creierul operațiunii: modelele GPT-OSS ale lui OpenAI
Foundry Local va susține modelele nou lansate de OpenAI. TThe models are available under a permissive Apache 2.0 license, encouraging widespread adoption and modification.
The smaller `gpt-oss-20b` is specifically designed for on-device applications, while the `GPT-OSS-120B` este un model de raționament mai mare, mai puternic, cu Performanță comparabilă cu sistemele de clasă GPT-4 . Ambele sunt construite pe o arhitectură eficientă a amestecului de experți (MOE), care activează doar o fracțiune din parametrii modelelor pentru orice sarcină dată, maximizând performanța în timp ce minimizând costurile de calcul.
Această mișcare abordează un decalaj de lungă durată în portofoliul Openai. Casey Dvorak, manager de programe de cercetare la OpenAI, a explicat rațiunea: „Deoarece nu există un model deschis [competitiv] de la OpenAI, am vrut să conectăm acest decalaj și să le permitem de fapt să folosească tehnologia noastră de-a lungul bordului.” Acest lucru permite companiei să concureze pentru dezvoltatorii care necesită modele conduse local din motive de securitate, costuri sau personalizare.
O cerință tehnică critică este „armonie”, un format de chat nou și obligatoriu pentru „GPT-OSS”. Acest șablon structurează ieșirea modelului în canale separate pentru raționament (`analiză`), apeluri de instrumente (` comentariu`) și răspunsul final, oferind dezvoltatorilor un control mai transparent asupra fluxurilor de lucru agentice.
O alianță strategică în cursa AI AI
OSS’s OSS’care face parte din o parte a unei largi, coordonat, pentru a lansa coordonatul lui Microsoft. Se întinde pe ecosistemul tehnologic. Această îmbrățișare din întreaga industrie subliniază semnificația revenirii lui OpenAI în comunitatea open-source și ambiția sa de a stabili noi standarde pentru dezvoltarea AI.
Alți parteneri importanți includ Qualcomm, care a anunțat că modelul „GPT-OSS-20B” poate funcționa local pe PC-urile alimentate cu Snapdragon. Această activare hardware este crucială pentru a aduce AI-ul pe laptopuri de înaltă performanță, deși în prezent necesită un RAM de 24 GB, plasându-l ferm în categoria hardware de calitate pentru dezvoltatori deocamdată. legăturile sale strânse cu Microsoft. Acest lucru creează o dinamică de „cooperare”, extinderea atingerii lui Openai, în timp ce intensifică rivalitatea Cloud AI.
Această strategie multifuncțională pare concepută pentru a recupera influența în lumea open-source. După cum a menționat Peter Henderson, profesor asistent la Universitatea Princeton, „În parte, este vorba despre reafirmarea dominanței lui Openai în ecosistemul de cercetare”. OpenAI în sine a încadrat eliberarea în termeni geopolitici, afirmând că „acces larg la aceste modele capabile deschise create în SUA ajută la extinderea șinelor AI democratice. Acest efort coordonat își propune să stabilească „GPT-OSS” și formatul armoniei ca un nou standard pentru următoarea generație de dezvoltare AI.
