Microsoft tuo Openaiin GPT-OSS-malleja Windowsiin uusilla Azure AI Foundry Local-alustalla

Microsoft tuo Openain voimakkaita uusia `GPT-OSS`-malleja paikallisille tietokoneille, yritys ilmoitti tiistaina suuressa ajassa laitteiden tekoälyn kanssa. Muutto hyödyntää uutta alusta, Azure AI-valtimoiden paikallinen sallia kehittäjät AI-AI: n ajoittamiseen suoraan AI: iin Tilaus.

Tämän aloitteen tarkoituksena on luoda yksityisempiä, reagoivia ja suojattuja AI-sovelluksia käsittelemällä tietoja paikallisesti pilvessä. Se merkitsee merkittävää askelta hienostuneiden AI-työkalujen tekemisessä laajasti saataville ja asettaa Windowsin avainalustaksi seuraavalle AI-kehityksen aaltolle, riippumattomasta pilvistä.

Microsoftin CVP: n ja AI-alustatuotteiden päällikkö Asha Sharma on viimeisin kehitys teollisuuden laajuisen toiminnan ympäröivään avoimeen toimintaan. src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-aai-foundry.-wicicial.jpg”>

Azure AI-valtimo Local for On anne-strategia

Microsoftin strategian ytimessä on a. href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”Target=”_ tyhjä”> Windowsin ja macOS: n on device-päätelmäalusta . Sen avulla edistyneiden AI-mallien on suoritettava suoraan käyttäjän laitteistoissa, mikä on merkittävä lähtö AI-maisemaa hallinnollisesta pilvikeskeisestä mallista. Alusta on tällä hetkellä saatavana julkisessa esikatselussa, jonka avulla kehittäjät voivat aloittaa kokeilun heti.

Alustan tärkein etu on sen kyky toimia offline-tilassa, parantaa yksityisyyttä ja turvallisuutta pitämällä arkaluontoisia tietoja. Tämä lähestymistapa käsittelee latenssikysymyksiä, mikä tekee AI-vuorovaikutuksesta nopeamman. Tärkeää on, että kehittäjät voivat käyttää Foundry Local-tapahtumaa ilman Azure-tilausta, esteen laskeminen kokeilun ja pienimuotoisen asennuksen kanssa . Onnx Runtime to Automaattisesti Optimoi mallin suorituskyky monilla laitteistoilla, mukaan lukien CPU: n, GPU: n ja NPU: n, kuten Intel, AMD, Nvidia ja Qualcomm . Se myös tarjoaa OpenAi-Compatible API: n, CLI: n ja hänen ilmoituksensa SDK: n. ominaisuudet.”Foundry Local tuo nämä mallit Windowsiin-vähäisen latenssin, turvallisen, offline-päätelmän toteuttaminen prosessorin, GPU: n ja NPU: n välillä. Tähän sisältyy täysi hienosäätö-ja orkesterointituki.”Tämä sijoittaa Foundry Local-sovelluksen paitsi ajonaikaisena ympäristössä, myös täysimittaisena kehitystyökalupakkina laitteessa AI.

Foundry Local Will tukee Openain äskettäin julkaistuja”GPT-OSS-20B` ja` GPT-ESS-20B`-malleja. Malleja on saatavana sallitun apache 2.0-lisenssin alla, laajalle levinneen adoption ja modifikaatio . Suurempi, tehokkaampi päättelymalli Suorituskyky, joka on verrattavissa GPT-4-luokkajärjestelmiin . Molemmat on rakennettu tehokkaaseen asiantuntija-arkkitehtuuriin (MOE), joka aktivoi vain murto-osan mallien parametreista tietylle tehtävälle, maksimoimalla suorituskyvyn ja minimoimalla laskennalliset kustannukset. Openain tutkimusohjelmapäällikkö Casey Dvorak selitti perusteet: “Koska OpenAI: sta ei ole [kilpailukykyistä] avointa mallia, halusimme kytkeä tämän aukon ja antaa heidän tosiasiallisesti käyttää tekniikkaamme kaikkialla.”Tämän avulla yritys voi kilpailla kehittäjistä, jotka vaativat paikallisesti suoritetut malleja turvallisuus-, kustannus-tai räätälöintisyistä.

Kriittinen tekninen vaatimus on’harmonia’, uusi ja pakollinen chat-muoto `GPT-OSS`: lle. Tämä malli rakentaa mallin tuotoksen erillisiin päättelykanaviin (`Analysis`), työkalupuheluihin (` kommentti”) ja lopullinen vastaus, jolloin kehittäjille annetaan avoimempi hallinta agenttien työnkulkujen suhteen.

strateginen allianssi kirjeen AI-kilpailussa. kattaa teknisen ekosysteemin. Tämä teollisuudenlaajuinen omaksuminen korostaa Openain paluun avoimen lähdekoodin yhteisölle ja sen pyrkimyksen asettaa uusia AI-kehitystä koskevia standardeja.

Muita tärkeimpiä kumppaneita ovat Qualcomm, joka ilmoitti, että `GPT-OSS-20B`-malli voi toimia paikallisesti Snapdragon-käyttämät PC-tietokoneet. Tämä laitteiston mahdollistaminen on ratkaisevan tärkeää laitteen AI: n tuomiseksi korkean suorituskyvyn kannettaviin tietokoneisiin, vaikka se vaatii tällä hetkellä moitteettoman 24 Gt: n RAM-muistia, sijoittamalla sen tiukasti kehittäjäluokan laitteistoluokkaan. läheiset siteet Microsoftiin. Tämä luo dynaamisen”yhteisoperaatiosta”, joka laajentaa Openaiin ulottuvuutta ja tehostaa samalla pilvi-AI-kilpailua. Kuten Princetonin yliopiston apulaisprofessori Peter Henderson huomautti,”osittain kyse on Openain määräävän aseman vahvistamisesta tutkimusekosysteemissä”. Itse Openai kehitti julkaisun geopoliittisella tavalla ja totesi, että “laaja pääsy näihin Yhdysvalloissa luotuihin osaaviin avoimiin painoihin malleihin auttaa laajentamaan demokraattisia AI-kiskoja.”

tekemällä malleistaan tehokkaita, helposti saatavilla olevia ja tukevia kestävän ekosysteemin pilvestä reunaan, Openai on tekemässä sen alustalle. Tämän koordinoituneen pyrkimyksen tavoitteena on vahvistaa”GPT-OSS”ja harmoniamuoto uudena standardina seuraavan AI-kehityksen sukupolvelle.