A Microsoft nyilvánvalóan új szoftvereszközöket fejleszt az NVIDIA mesterséges intelligencia szoftverének olcsóbb AMD chipeken való futtatására egy állítólagos alkalmazott ezen a héten megjelent megjegyzései szerint.
A mesterséges intelligencia munkaterhelésének magas költségének csökkentése, más néven következtetés, közvetlenül megkérdőjelezné az NVIDIA régóta fennálló dominanciáját.
Az ilyen eszközök az NVIDIA CU-n keresztül történő kódkonvertálásából származnának. az AMD nyílt forráskódú ROCm formátumára. Ha igaz, a stratégia egy szélesebb iparági trendet tükrözne, mivel az olyan technológiai óriások, mint az Oracle és az OpenAI, növelik az AMD hardvertől való függését a verseny előmozdítása érdekében.
Titkos fegyver az NVIDIA mesterséges intelligencia dominanciája ellen?
Az új eszközkészletre vonatkozó állítások az interneten keringő átiratból származnak, amely bár a Microsoft nem erősítette meg, a jelek szerint a hálózattól származik. fizetőfalas interjúk intézményi ügyfelekkel.
Ebben egy névtelen, Microsoft-szakértőnek tekintett személy azt állítja, hogy a vállalat aktívan dolgozik az NVIDIA szabadalmaztatott szoftvere és a versenytársak hardvere közötti szakadék áthidalásán.
Az átiratban: az X-en található képernyőképen megosztva az előadó azt állította, hogy léteznek belső projektek, amelyek célja ennek a kihívásnak a közvetlen megküzdése.
„Az elmúlt három-négy hónapban sokkal nagyobb volt az érdeklődés a következtetések levonásával történő költségmegtakarítás iránt. Eszközkészleteket építettünk a CUDA-modellek ROCm-re való konvertálására, így használhatjuk a 30p-hez hasonlóan ap. sok kérdés, hogy mi az utunk az AMD-vel, a 400X-el és a 450X-el. Aktívan dolgozunk az AMD-vel, hogy ezt maximalizáljuk. A legnagyobb kihívás, amivel most szembesülünk, különösen az újabb szerverek esetében, az, hogy kitaláljuk a rack sűrűségét, és folyadékhűtést kapunk a Bridge rackben. X)
Egy ilyen eszközkészlet hatékonyan fordítórétegként működne, lehetővé téve, hogy az eredetileg az NVIDIA ökoszisztémája számára készült AI-modellek az AMD hardverén futhassanak anélkül, hogy teljes és költséges újraírást igényelnének.
Az NVIDIA CUDA platformja évek óta hatékony eszköz és aranyketrec volt az AI-fejlesztők számára. Párhuzamos számítástechnikai platformként, amelynek robusztus könyvtárai iparági szabvánnyá tették, a CUDA olyan erős „árkot” hozott létre, amely megnehezíti a versenytársak piaci részesedését.
Ha bebizonyosodik, a Microsoft erőfeszítései közvetlen támadást jelentenének az árok ellen. Míg az AMD ROCm egy alkalmas nyílt forráskódú alternatíva, egy megbízható konverziós útvonal lehetővé tenné a Microsoft Azure-ügyfelei számára, hogy az AMD hardverének költségelőnyeit az ismerős CUDA-környezet elhagyása nélkül élvezhessék.
Már elérhetők a CUDA AMD chipekkel történő futtatásának lehetőségei, például a SCALE-eszközök. Az átalakítás miatti hatékonyságvesztés azonban továbbra is folyamatos akadály, amellyel a Microsoft látszólag meg akar küzdeni.
Költségtakarékos játék a mesterséges intelligencia következtetéseinek fellendüléséhez
Az AI-műveletek rohamosan növekvő költségei miatt a technológiai óriások most agresszíven költségtakarékossági intézkedéseket tesznek. Az átiratban szereplő előadó kiemelte, hogy az állítólagos eszköztár mögött meghúzódó elsődleges motiváció pénzügyi, különösen a mesterséges intelligencia következtetési szakaszában, ahol a betanított modellek munkába állnak.
Mivel az AI-szolgáltatások felhasználók millióira terjednek ki, a következtetések a működési költségek jelentős részét teszik ki.
A költséghatékonyság iránti növekvő érdeklődés az AMD alternatíváit versenyképesebbé teszi az NVIDIA-val szemben. prémium árú hardver, feltéve, hogy a szoftveres akadály leküzdhető.
A szoftver-és chipköltségeken túl a fizikai adatközpontok korlátai kritikus szűk keresztmetszetté válnak. Az átiratban szereplő forrás megjegyezte, hogy az alapvető kihívás már nem csak az elegendő villamos energia biztosítása, hanem annak hatékony kezelése is.
A teljesítménysűrűségre és a folyadékhűtésre való összpontosítása rávilágít a következő generációs mesterséges intelligenciagyorsítók elhelyezésére vonatkozó hatalmas igényekre.
Az iparági szintű nyomás a CUDA megtöréséhez.
Az Oracle, a felhőinfrastruktúra kulcsszereplője a közelmúltban jelentett be egy jelentős partnerséget 50 000 AMD AI chip telepítésére. Karan Batta, az Oracle Cloud vezető alelnöke kifejezetten rámutatott ennek az alternatívának a költségérzékeny munkaterhelések esetén való értékére.
A vezető mesterséges intelligencia-kutatólaboratórium, az OpenAI is határozott lépéseket tesz számítási alapjainak diverzifikálása érdekében. Végleges, többmilliárd dolláros megállapodást kötött az AMD-vel, hogy 6 gigawatt GPU-t telepítsen.
Partnersége egyedülálló, akár 160 millió részvényre szóló warrantot is tartalmaz, amivel az OpenAI nagyjából 10%-os részesedést szerezhet a chipgyártó cégben, mélyen igazodva a történeti irányzathoz. riválisok. Az Intel tárgyalásokat folytat az AMD számára chipek gyártásáról, kiemelve a diverzifikált félvezető-ellátási lánc stratégiai fontosságát.
Ha a Microsoft eszközkészletére vonatkozó állítások helytállóak, a vállalat nemcsak egy belső költségprobléma megoldásán dolgozik, hanem egy szélesebb körű piacfejlődéshez is hozzájárul. Egy sikeres konverziós eszköz jelezheti a hardver-agnosztikus mesterségesintelligencia-fejlesztés jövőjét, amely megszabadítja a fejlesztőket a gyártók bezárkózásától.
Egy ilyen potenciális elmozdulás a teljes mesterségesintelligencia-ipar fejlődésének új szakaszát jelentené, és az eszeveszett számítási területről egy stratégiaibb, többpólusú ökoszisztéma felé mozdulna el.
