AMD ilmoitti tiistaina, että sen uusin laitteisto tukee Openain uusia `GPT-OSS`-malleja. Tuki on hänen uusimmille kuluttajatuotteille, kuten Ryzen AI-sirut ja Radeon-näytönohjaimet. Ensinnäkin avaimessa AMD sanoo, että sen Ryzen AI Max+ 395-siru voi suorittaa valtavan 120 miljardin parametrimallin paikallisella tietokoneella. Muutos mahdollistaa nopeamman, yksityisen ja offline-AI-sovelluksen. Kehittäjät voivat käyttää LM Studio-työkalua malleja nykyään, mikä tekee tehokkaasta AI: n helpompaa käyttää.
AMD vaatii kuluttajaa ensin laitteessa AI
liikkeessä, joka määrittelee uudelleen laitteiden AI, AMD vaatii kuluttajien laitteistojensa maailman firttia . Yhtiö ilmoitti Ryzen AI Max+ 395-prosessoristaan, joka on määritetty 128 Gt RAM-muistia, on ensimmäinen kuluttajasiru, joka pystyy paikallisesti käyttämään Openain massiivista 117 miljardia parametria `GPT-OSS-120B`-mallia.
Tämä on merkittävä virstanpylväs. Se siirtää datakeskuksen luokan AI-työmäärät pilvestä työpöydälle tai kannettavalle tietokoneelle. AMD: n mukaan järjestelmä saavuttaa erittäin käyttökelpoisen suorituskyvyn, joka on jopa 30 rahakketta sekunnissa, mikä tekee monimutkaisesta paikallisesta AI: stä käytännöllisen todellisuuden kehittäjille ja tutkijoille.”GPT-OSS-120B”-malli tarvitsee noin 61 Gt VRAM: ta. Tämä sopii erikoistuneelle Ryzen AI Max+ 395-alustalle käytettävissä olevaan 96 Gt: n sisällä, joka on saatavana kyky AMD korostettiin äskettäin . Yhtiö korostaa erinomaista aikaa ensimmäiseen sanoin (TTFT), joka varmistaa agenttien työnkulkujen reagoivan suorituskyvyn, jotka luottavat nopeaan alkuperäiseen lähtöön. Ne edustavat strategista kääntöä OpenAI: lle. Tämä malli aktivoi vain murto-osan minkä tahansa tietyn tehtävän kokonaisparametreista, vähentäen laskennallisia kustannuksia rajusti ja tekevät niistä elinkelpoisia laitteiden suorittamisessa.
Kriittinen osa tästä uudesta ekosysteemistä on’harmonia’, pakollinen chat-muoto, jonka OpenAI vaatii mallien toimivan oikein. Tämä malli rakentaa mallin lähdön erillisiin kanaviin päättely-, työkalujen käyttöön ja lopulliseen vastaukseen, jolloin kehittäjille on läpinäkyvämpi hallinta.
Kuinka käyttää tietokeskuksen mittakaavaa AI: ta työpöydälläsi
AMD on tarjonnut selkeä polku kehittäjille. Ensisijainen työkalu on LM Studio, ilmainen sovellus, joka yksinkertaistaa LLMS: n lataamista ja käynnistämistä. Käyttäjien on myös asennettava uusin AMD-ohjelmisto: Adrenalin Edition-ohjaimet (versio 25.8.1 tai korkeampi) avataksesi tarvittavat ominaisuudet. Kaikkien laskennallisten kerrosten purkaminen GPU: hon ja sitten mallin lataaminen muistiin. Vaikka 120B-malli voi viedä aikaa lataamiseen sen koon takia, tulos on tehokas päättelymoottori, joka toimii kokonaan paikallisesti.
koordinoitu lanseeraus uuden avoimen standardin
AMD: n ilmoituksen rakentamiseksi ei tapahtunut tyhjiössä. Se oli keskeinen osa huolellisesti järjestettyä teollisuudenlaajuista tapahtumaa, jonka tarkoituksena oli luoda”GPT-OSS”ja harmonia uudeksi standardiksi. Microsoft julkisti Windows AI Foundry-ja Foundry-paikalliset alustot mallien suorittamiseksi Windows and MacOS: lla. Qualcomm liittyi myös, mikä mahdollistaa Snapdragon-käyttävien tietokoneiden laitteen tuen. Analyytikot ehdottavat, että”osittain kyse on Openain määräävän aseman vahvistamisesta tutkimusekosysteemiin”. Tämä mielipide toistetaan Openain omassa julkaisussa julkaisussa. Yhtiö toteaa, että “laaja pääsy näihin Yhdysvalloissa luotuihin kykeneviin avoimien painojen malleihin auttaa laajentamaan demokraattisia AI-kiskoja.”Tarjoamalla tehokkaita, helposti saatavilla olevia ja laajalti tuettuja malleja yritys tekee pakottavan tapauksen ekosysteemiinsä. Kuten Microsoftin Asha Sharma totesi:”Voit ensimmäistä kertaa suorittaa OpenAI-malleja, kuten GPT-ESS-1220B yhdessä yrityksen GPU: ssa-tai ajaa GPT-ESS-20b paikallisesti.”Uuden hybridi AI-todellisuuden korostaminen
