Microsoft brengt de krachtige nieuwe nieuwe `GPT-Oss’-modellen van Openai naar lokale pc’s, kondigde het bedrijf dinsdag aan, in een grote duwtje in kunstmatige intelligentie op de apparaten. De verhuizing maakt gebruik van een nieuw platform, azure AI stichter lokaal , toestaan dat ontwikkelaars worden geavanceerd AI direct op Windows-apparaten, Abonnement.
Dit initiatief is bedoeld om meer private, responsieve en AI-applicaties te maken door gegevens lokaal te verwerken in plaats van in de cloud. Het markeert een belangrijke stap in het maken van geavanceerde AI-tools die Windows algemeen beschikbaar maken en positioneert Windows als een belangrijk platform voor de volgende golf van AI-ontwikkeling, onafhankelijk van de cloud.
De aankondiging, gemaakt door Microsoft’s CVP en hoofd van AI-platformproducten, ASHA Sharma, is de nieuwste ontwikkeling in een flurry van industrie-brede activiteiten die openbaar zijn naar open-weight-modellen. src=”https://winbuzzer.com/wp-content/uploads/2024/11/Azure-AI-Foundry.-official.jpg”>
Azure AI Foundry Local for On-Device Inference
At the core of Microsoft’s strategy is Azure AI Foundry Local, a new on-device inferentieplatform voor Windows en macOS . Het stelt geavanceerde AI-modellen in staat om rechtstreeks op gebruikershardware te lopen, een aanzienlijk afwijking van het cloud-centrische model dat het AI-landschap heeft gedomineerd. Het platform is momenteel beschikbaar in Public Preview, waardoor ontwikkelaars onmiddellijk kunnen beginnen met experimenteren.
Het belangrijkste voordeel van het platform is het vermogen om offline te functioneren, versterkende privacy en beveiliging door het bewaren van gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig gegevens over gevoelig datitieve gegevens op gevoelig gegevens op gevoelig gegevens over gevoelig data-en beveiliging door het bewaren van gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig datum van gevoelig datum van gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig gegevens op gevoelig gegevens en beveiliging door het bewaren van gevoelig gegevens op gevoelig data-en beveiliging. Deze aanpak pakt latentieproblemen aan, waardoor AI-interacties sneller worden. Cruciaal is dat ontwikkelaars Foundry Local kunnen gebruiken zonder een Azure-abonnement, Verlaag de barrière voor het invoeren van experimenteren en kleine scale premment Onnx runtime naar automatisch Optimaliseer modelprestaties over een breed scala aan hardware, inclusief CPU’s, GPU’s en NPU’s van leveranciers zoals Intel, Amd, Nvidia en Qualcomm . It also provides an OpenAI-compatible API, a CLI, and an SDK for easy integration.
In her announcement, Asha Sharma highlighted the platform’s comprehensive mogelijkheden.”Foundry Local brengt deze modellen naar vensters-waardoor lage latentie, veilige, offline gevolgtrekking over CPU’s, GPU’s en NPU’s mogelijk is. Dit komt met volledige ondersteuning van verfijningen en orkestratie.”Deze posities Gieterij Local, niet alleen als een runtime-omgeving, maar als een volwaardige ontwikkelingstoolkit voor AI.
De hersenen van de operatie: OpenAI’s GPT-OSS-modellen
Foundry Local ondersteunt de nieuw uitgebrachte `GPT-OSS-OSS-20B` en` GPT-OSSOS-12B’S-modellen. De modellen zijn beschikbaar onder een permissief Apache 2.0-licentie, Het aanmoedigen van wijdverbreide adoptie en modificatie Een groter, krachtiger redeneermodel met Prestaties vergelijkbaar met GPT-4-klassensystemen . Beide zijn gebouwd op een efficiënte mix van (MOE) architectuur (MOE), die slechts een fractie van de parameters van de modellen voor een bepaalde taak activeert, waardoor de prestaties worden gemaximaliseerd en tegelijkertijd de rekenkosten wordt geminimaliseerd. Casey Dvorak, een onderzoeksprogramma-manager bij Openai, legde de reden uit:”Omdat er geen [competitief] open model van OpenAI is, wilden we die kloof aansluiten en hen daadwerkelijk toestaan onze technologie over de hele linie te gebruiken.”Dit stelt het bedrijf in staat om te concurreren voor ontwikkelaars die lokaal gerunde modellen nodig hebben om redenen voor beveiliging, kosten of aanpassing.
Een kritische technische vereiste is ‘Harmony’, een nieuw en verplicht chatformaat voor `GPT-Oss`. This template structures the model’s output into separate channels for reasoning (`analysis`), tool calls (`commentary`), and the final answer, giving developers more transparent control over agentic workflows.
A Strategic Alliance in the On-Device AI Race
Microsoft’s announcement is part of a broader, coordinated launch for `gpt-oss` that spans Het technische ecosysteem. Deze industriële brede omhelzing onderstreept het belang van de terugkeer van Openai naar de open-source gemeenschap en haar ambitie om nieuwe normen te stellen voor AI-ontwikkeling.
Andere grote partners zijn Qualcomm, die aankondigde dat het `GPT-OSS-OS-20B’-model lokaal kan worden uitgevoerd op zijn snapdragon-aangedreven PC’s. Deze hardware-inschakeling is cruciaal voor het brengen van AI op Device naar high-performance laptops, hoewel het momenteel een flinke 24 GB RAM vereist, waardoor het stevig in de Hardware-categorie van de ontwikkelaar-kwaliteit wordt geplaatst voor nu. Banden met Microsoft. Dit creëert een dynamiek van”co-opetition”, breidt het bereik van Openai uit, terwijl de cloud AI-rivaliteit wordt geïntensiveerd. Zoals opgemerkt door Peter Henderson, een universitair docent aan de Princeton University,”gaat dit gedeeltelijk over het opnieuw bevestigen van de dominantie van Openai in het onderzoeksecosysteem.”Openai zelf heeft de release in geopolitieke termen ingelijst en verklaarde dat”brede toegang tot deze capabele open-gewichtsmodellen die in de VS zijn gemaakt, helpt om democratische AI-rails uit te breiden.”
door zijn modellen krachtig, toegankelijk te maken en ondersteund door een robuust ecosysteem van Cloud To Edge, is Openai een dwingende zaak voor het platform. Deze gecoördineerde inspanning is bedoeld om’GPT-Oss’en het Harmony-formaat op te zetten als een nieuwe standaard voor de volgende generatie AI-ontwikkeling.
