Microsoft sta portando i potenti nuovi modelli `GPT-OSS` di Openi ai PC locali, la società ha annunciato martedì, in una grande spinta all’intelligenza artificiale sul dispositivo. La mossa sfrutta una nuova piattaforma, azure ai fondery locale , per consentire agli sviluppatori di gestire i dispositivi di avanzamento direttamente su Windows, senza offline Abbonamento.
Questa iniziativa mira a creare applicazioni di intelligenza artificiale più private, reattive e sicure elaborando i dati a livello locale anziché nel cloud. Segna un passo significativo nel realizzare sofisticati strumenti di intelligenza artificiale ampiamente disponibili e posiziona Windows come piattaforma chiave per la prossima ondata di AI Development, indipendente dal cloud.
L’annuncio, fatto da Microsoft CVP e Head of AI Platform Products, Asha Sharma, è l’ultimo sviluppo in una conflitta di attività in tutto il settore che circonda il ritorno di Open Weight. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.-official.jpg”>
azure ai ai fonderia locale
al core della strategia di MicroSoft è azure locale, una nuova fondazione
Il vantaggio chiave della piattaforma è la sua capacità di funzionare offline, abbassando la barriera per l’ingresso per gli esperimenti e il deposito di piccole dimensioni . Onnx Runtime to Automaticamente ottimizzare le prestazioni del modello su una vasta gamma di hardware, tra cui CPU, GPU e NPU di venditori come Intel, AMD, NVIDIA e QUALCOMM . È anche fornisce un ectipazione aperta, una piattaforma di ectuita capacità complete.”Foundry Local porta questi modelli a Windows, abilitando un’inferenza a bassa latenza, sicura, offline su CPU, GPU e NPU. Questo viene fornito con un supporto completo di messa a punto e orchestrazione.”Questo posiziona la fonderia locale non solo come un ambiente di runtime ma come un kit di strumenti di sviluppo a pieno titolo per AI sul dispositivo.
Il cervello dell’operazione: modelli GPT-OSS di Openi
Fondarte supporterà la nuova pubblicazione”GPT-20B` e` GPT-Ex120. I modelli sono disponibili con una licenza Apache 2.0 permissiva, incoraggiare l’adozione e la modifica .
le piccole `GPT-20b` è previsto per le applicazioni diffuse, mentre il` GPT-1 è un modello di ragionamento più grande e più potente con prestazioni paragonabili ai sistemi di classe GPT-4 . Entrambi sono costruiti su un’architettura efficiente della miscela di esperti (MOE), che attiva solo una frazione dei parametri dei modelli per ogni compito, massimizzando le prestazioni minimizzando i costi computazionali.
Questa mossa affronta un divario di lunga data nel portfolio di Openi. Casey Dvorak, un responsabile del programma di ricerca presso Openi, ha spiegato la logica:”Poiché non esiste un modello Open [competitivo] da Openai, volevamo colmare tale divario e consentire loro di utilizzare la nostra tecnologia su tutta la linea.”Ciò consente all’azienda di competere per gli sviluppatori che richiedono modelli a livello locale per motivi di sicurezza, costi o personalizzazione.
Un requisito tecnico critico è”armonia”, un nuovo formato di chat obbligatorio per”GPT-OSS”. Questo modello struttura l’output del modello in canali separati per il ragionamento (`analisi`), le chiamate degli strumenti (` commento’), e la risposta finale, dando agli sviluppatori un controllo più trasparente sui flussi di lavoro agenti. attraversa l’ecosistema tecnologico. Questo abbraccio a livello di settore sottolinea il significato del ritorno di Openi alla comunità open source e la sua ambizione di stabilire nuovi standard per lo sviluppo dell’intelligenza artificiale.
Altri principali partner includono Qualcomm, che ha annunciato che il modello `GPT-OSS-20B` può correre localmente sui suoi PC a potere di Snapdragon. Questo enablement hardware è cruciale per portare l’intelligenza artificiale on-device a laptop ad alte prestazioni, sebbene attualmente richieda un pesante 24 GB di RAM, posizionandolo saldamente nella categoria hardware di livello sviluppatore per ora. Legami con Microsoft. Ciò crea una dinamica di”cooperazione”, espandendo la portata di Openi mentre intensifica la rivalità di AI cloud.
Questa strategia multi-front sembra progettata per recuperare l’influenza nel mondo open source. Come notato da Peter Henderson, assistente professore alla Princeton University,”In parte, si tratta di riaffermare il dominio di Openi nell’ecosistema di ricerca”. Openai stessa incorniciava il rilascio in termini geopolitici, affermando che”Ampio accesso a questi capaci modelli aperti creati negli Stati Uniti aiuta a espandere le rotaie di AI democratiche”. Rendendo i suoi modelli potenti, accessibili e supportati da un robusto ecosistema da cloud a Edge, Openi sta facendo un caso convincente per la sua piattaforma. Questo sforzo coordinato mira a stabilire `GPT-OSS` e il formato Harmony come nuovo standard per la prossima generazione di Sviluppo AI.