AMD tillkännagav på tisdagen att dess senaste hårdvara stöder OpenAI: s nya”GPT-OSS”-modeller. Stödet är för sina senaste konsumentprodukter, som Ryzen AI-chips och Radeon-grafikkort. I en nyckel säger AMD först att dess Ryzen Ai Max+ 395-chip kan köra den enorma 120 miljarder parametermodellen på en lokal PC.
Detta ger toppnivå AI ur molnet och på hemdatorer. Förändringen möjliggör snabbare, mer privata och offline AI-appar. Utvecklare kan använda LM-studioverktyget för att köra modellerna idag, vilket gör kraftfull AI lättare att komma åt.
AMD hävdar en konsument först för enhet AI
i en rörelse som omdefinierar On-Device AI, AMD
i ett drag som omdefinierar On-Device AI, AMD
i ett drag som omdefinierar On-Device AI, AMD
i ett drag som omdefinierar On-Device AI, AMD
i ett drag som omdefinierar On-Device AI, AMD hävdar en världs-första för sin konsumenter Detta är en betydande milstolpe. Den flyttar Datacenter-klass AI-arbetsbelastning från molnet till ett skrivbord eller en bärbar dator. Enligt AMD uppnår systemet en mycket användbar prestanda på upp till 30 tokens per sekund, vilket gör komplex lokal AI till en praktisk verklighet för utvecklare och forskare. [inbäddat innehåll] De tekniska kraven är branta men berättar. Modellen `GPT-OSS-120B’behöver cirka 61 GB VRAM. Detta passar inom 96 GB av dedikerat grafikminne som finns tillgängligt på den specialiserade Ryzen Ai Max+ 395-plattformen, en kapacitet AMD markerade nyligen . För dem som arbetar med det mindre men fortfarande potenta”GPT-OSS-20B”-modellen pekar AMD på sin Radeon 9070 XT 16GB-grafikkort. The company emphasizes its excellent Time-to-First-Token (TTFT), which ensures responsive performance for agentic workflows that rely on quick initial outputs. [embedded content] This hardware enablement is part of a massive, coordinated launch for OpenAI’s first open-weight models since 2019. Released under a permissive Apache 2.0 license, the `gpt-oss` models are designed for broad adoption. De representerar en strategisk pivot för OpenAI. Modellerna är byggda på en effektiva arkitektur (MOE) arkitektur. Denna design aktiverar endast en bråkdel av de totala parametrarna för en given uppgift, drastiskt reducerar beräkningskostnaden och gör dem livskraftiga för exekvering på enheten. En kritisk del av detta nya ekosystem är”harmoni”, ett obligatoriskt chattformat OpenAI kräver för modellerna att fungera korrekt. Den här mallen strukturerar modellens utgång i separata kanaler för resonemang, verktygsanvändning och det slutliga svaret, vilket ger utvecklarna mer transparent kontroll. AMD har tillhandahållit en clear path for developers to get started. Det primära verktyget är LM Studio, en gratis applikation som förenklar nedladdning och kör LLMS. Användare måste också installera det senaste AMD-programvara: adrenalin-utgåva (version 25.8.1 eller högre) för att låsa upp de nödvändiga funktioner. Avlasta alla beräkningsskikt till GPU och sedan ladda modellen i minnet. Medan 120B-modellen kan ta tid att ladda på grund av dess storlek, är resultatet en kraftfull resonemang som går helt lokalt. AMD: s tillkännagivande inträffade inte i ett vakuum. Det var en viktig del av en noggrant orkestrerad branschevenemang som var utformad för att upprätta”GPT-OSS”och harmoni som en ny standard. Microsoft avslöjade sina Windows AI Foundry och Foundry lokala plattformar för att köra modellerna på Windows och MacOS. i en överraskande rörelse av”co-opetition”, tillkännagav AWS att de skulle erbjuda modellerna på sin Amazon Bedrock och Sagemaker-tjänster, vilket gav OpenAI en större distributionskanal utöver Microsofts Azure. Qualcomm gick också med, vilket möjliggjorde stöd på enheten för Snapdragon-drivna datorer. Detta breda stöd signalerar en strategisk drivkraft av OpenAI för att återta inflytande i den öppna källkodssamhället. Analytiker föreslår att”delvis, det handlar om att återupprätta Openais dominans i forskningsekosystemet.”Detta känsla upprepas i OpenAI: s egen inramning av utgivningen, med företaget som säger att”bred tillgång till dessa kapabla öppna viktmodeller som skapats i USA hjälper till att utöka demokratiska AI-skenor.” Flyttpositionerna OpenAI för att konkurrera direkt med öppna källkällor som Meta. Genom att tillhandahålla kraftfulla, tillgängliga och allmänt stödda modeller gör företaget ett övertygande fall för sitt ekosystem. Som Microsofts Asha Sharma noterade,”För första gången kan du köra OpenAI-modeller som GPT-OSS-120B på en enda GPU-företag-eller köra GPT-OSS-20B lokalt.”Markera den nya hybrid AI-verkligheten Hur man kör datacenter-skala AI på ditt skrivbord idag
En samordnad lansering för att bygga en ny öppen standard
