A
AMD kedden bejelentette, hogy legújabb hardvere támogatja az Openai új „GPT-OSS” modelleit. A támogatás a legújabb fogyasztási cikkeihez, például a Ryzen AI chipshez és a Radeon grafikus kártyákhoz. Az AMD egy kulcsban azt mondja, hogy a Ryzen AI Max+ 395 chip futtathatja a hatalmas 120 milliárd milliárd paramétermodellt egy helyi PC-n. A változás lehetővé teszi a gyorsabb, privát és offline AI alkalmazásokat. A fejlesztők használhatják az LM Studio eszközt a modellek futtatásához ma, így könnyebben hozzáférhetők az erőteljes AI. href=”https://www.amd.com/en/blogs/2025/how-to-run-openai-gpt-oss-20b-120b-models-on-amd-ryzen-ai-radeon.html”Target=”_ blank”> Világ-First igényt igényel . A társaság bejelentette a Ryzen AI Max+ 395 processzorát, ha 128 GB RAM-mal konfigurálva van, az első fogyasztói chip, amely képes helyben futtatni az OpenAi hatalmas 117 milliárd milliárd milliárd paraméterét, a `GPT-OSS-120b”modellt.
Ez egy jelentős mérföldkő. Az adatközpont-osztályú AI munkaterhelést a felhőből egy asztalra vagy laptopra változtatja. Az AMD szerint a rendszer másodpercenként legfeljebb 30 tokenteljesítményt ér el, így a komplex helyi AI gyakorlati valósággá válik a fejlesztők és a kutatók számára. A `GPT-OSS-120b` modellnek körülbelül 61 GB VRAM-ra van szüksége. Ez illeszkedik a speciális Ryzen AI Max+ 395 platformon elérhető dedikált grafikus memória 96 GB-os memóriájához Target=”_ üres”> AMD nemrégiben kiemelt . A vállalat hangsúlyozza a kiváló idejét (TTFT), amely biztosítja a reagáló teljesítményt az ügynöki munkafolyamatokhoz, amelyek a gyors kezdeti kimenetekre támaszkodnak. Ezek a stratégiai pivotot képviselik az Openai számára. Ez a kialakítás csak az adott feladat teljes paramétereinek töredékét aktiválja, drasztikusan csökkenti a számítási költségeket, és életképessé teszi őket az eszközök végrehajtásához. Ez a sablon felépíti a modell kimenetét különálló csatornákba az érvelés, a szerszámhasználat és a végső válasz érdekében, így a fejlesztők átláthatóbb irányítást biztosítanak. href=”https://rocm.blogs.amd.com/developer-guides/2025/08/05/day-0-developer-guide-running-the-Latest-open-models-prom-openai-on-amd-Ai-Hardware.html”Target=”_ üres út”> Clear Path For Developers . Az elsődleges eszköz az LM Studio, egy ingyenes alkalmazás, amely egyszerűsíti az LLMS letöltését és futtatását. A felhasználóknak a legfrissebb AMD szoftver: AMD szoftver: Adrenalin kiadás illesztőprogramjainak telepítését is telepíteniük kell. Az összes számítási réteg kihelyezése a GPU-ba, majd a modell memóriába történő betöltése. Noha a 120B-os modellnek a betöltése időbe telik, az eredmény egy erőteljes érvelő motor, amely teljesen helyben működik. Ez egy gondosan rendezett iparági esemény kulcsfontosságú része volt, amelynek célja a „GPT-OSS” és a harmónia új szabványként történő létrehozása. A Microsoft bemutatta a Windows AI Foundry és az Öntödei helyi platformokat, hogy a modelleket Windows és MacOS-on futtassa. A Qualcomm szintén csatlakozott, lehetővé téve a Snapdragon-alapú PC-k útján történő támogatását. Az elemzők azt sugallják, hogy”részben az Openai dominanciájának megerősítéséről szól a kutatási ökoszisztémában”. Ezt az érzetet visszhangzik az Openai kiadásának saját keretein belül, amikor a cég kijelenti, hogy „az Egyesült Államokban létrehozott képes nyitott súlyú modellekhez széles körű hozzáférés segít kibővíteni a demokratikus AI síneket.” A nagy teljesítményű, hozzáférhető és széles körben támogatott modellek biztosításával a vállalat kényszerítő ügyet készít az ökoszisztéma számára. Ahogyan a Microsoft Asha Sharma megjegyezte: „Első alkalommal futtathatja az OpenAI modelleket, mint például a GPT-OSS-120B egyetlen Enterprise GPU-n-vagy a GPT-ESS-20B futtatását helyben.” Az új hibrid AI valóság kiemelése
