A Google feltárja az Ikrek energiafelhasználását a mérföldkőnek számító AI átlátszási jelentésben

Egy mérföldkőnek az átláthatóság felé történő mozgatásakor a Google kiadta az első részletes adatokat az AI modellek környezeti költségeiről. Csütörtökön publikált a Google műszaki dokumentum A Gemin Assistant Ascaltion Ascaltions A Gemin Assistant Ascaltions A Gemin Assistant Ascaltion Aswale-hez mutat. Feladatok. Ez a nyilvánosságra hozatal a nagy technológiára gyakorolt ​​nyomást gyakorol a technológia energia-és víz étvágyának számszerűsítésére, amely kritikus, bár a vállalat által ellenőrzött referenciaértéket biztosítja. (WH) az energia, 0,03 gramm CO2-ekvivalens (GCO2E) bocsát ki, és 0,26 milliliter vizet használ, a “> üres”című cikkben”> google clothure”> google clothure”> goint Blog . A Google fő tudósának, Jeff Dean, hangsúlyozta a mindennapi életre gyakorolt ​​minimális hatást, kijelentve: „… Valójában egyenértékű a dolgokkal, anélkül, hogy naponta még gondolkodnánk, például néhány másodperces tévét nézni vagy öt csepp víz fogyasztását.”

A számok mögött: A számítás alapja a számítás: A Google-alap alapul, a Google-alap alapul, a Google-alap alapul. „Átfogó” vagy „teljes verem” módszertan. Ez a megközelítés egy szándékos kísérlet egy következetes szabvány megállapítására és a valós termelési rendszer teljes energiafelvételének megragadására. Túl mozog az egyszerűsített referenciaértékeken, amelyek gyakran csak az aktív AI gyorsító chipekre összpontosítanak, amelyek szerint a vállalat félrevezető lehet. A műszaki papíron”> műszaki papírra irányuló sorrendben, hogy a Google, a Google, a Google, a Google, a Google, a Google, a Google, a Google, a Google megjegyzi, hogy az egyetértés a közönség becsléseihez hasonlóan. nagyságrend. A magas rendelkezésre állás és az alacsony késés biztosítása érdekében jelentős mennyiségű kapacitást kell biztosítani, de alapjáraton, készen áll a forgalmi tüskék vagy a feladatversenyek kezelésére. Ezt a valós operatív költségeket, valamint a host CPU-k és az általános adatközpontok feletti energiával együtt gyakran kizárják az akadémiai vagy harmadik fél becsléseiből. A Google azt állítja, hogy ezek a szűkebb nézetek azt mutatják, amit „A legjobban optimista forgatókönyv”

–inference”

–inference” Fenntarthatósági blogbejegyzésben , a társaság 2024 és május között, a Tiszta energia energiafogyasztásának, a 33-os kombinált, a Tiszta energiafogyasztásnak, a Tiszta energiafogyasztásnak. A lábnyom még nagyobb 44-szeres lett. az AI fejlesztéshez.” A vállalat műszaki papír A 33x-os energiát mutatja, a 33x energiát mutatja. A modell hatékonyságától és az 1,4x-es javulástól kezdve a jobb gépek felhasználásából. Ez a technika lehetővé teszi a rendszer számára, hogy csak egy nagy modell kicsi, releváns részhalmazát aktiválja az adott lekérdezéshez, csökkentve a számításokat 10-100-as tényezővel. Egyéb szoftver technikák, például a spekulatív dekódolás és a desztilláció, amely kisebb, optimalizált modelleket hoz létre, mint például a Gemini Flash, tovább csökkenti a számítási terhelést.

Ezeket a szoftvert a Hardware-vel erősítették. A társaság hangsúlyozza az egyedi tervezésű Tensor-feldolgozó egységeit (TPU), amelyeket az AI modellekkel együtt terveznek, hogy maximalizálják a wattonkénti teljesítményt. A Google szerint a legújabb generációs „Ironwood” TPU 30-szor energiahatékonyabb, mint az első nyilvánosan elérhető verziója, amely hatékony hardver alapot biztosít a hatékonysági erőfeszítéseihez. A Google Serving Stack fejlett ML szoftvercsomagot és dinamikus, közel valós időbeli modellt használ a gyorsító alapjárat minimalizálására, ami a pazarolt energia jelentős forrása a nagyszabású telepítéseknél. Ezek az innovációs rétegek, a modell építészetétől a szilíciumig, együttesen hozzájárulnak a Gemini környezeti hatásainak drámai csökkentéséhez. Jae-Won Chung, a Michigan-i Egyetemen az ML.Elgy erőfeszítés vezetője elmondta a MIT Technology Review-nak, hogy „Azt hiszem, ez lesz az AI energiamezőjének kulcsfontosságú darabja. Ez eddig a legátfogóbb elemzés.” A hiányzó információk kulcsfontosságú darabja a Gemini kezelések teljes száma. Ennek nélkül lehetetlen maradni a szolgáltatás összesített energiaigényének kiszámítása. Ez a módszer, amely lehetővé teszi a vállalat számára, hogy levonja megújuló energia vásárlásait a lábnyomából, vitatott pont volt. A vezető kutató, Franz Ressel azt állította: „A piaci alapú kibocsátások egy vállalati barátságú mutató, amely elhomályosítja a szennyezők tényleges hatását a környezetre.” Ez a vita hangsúlyozza a vállalati éghajlati számvitel komplex és gyakran politizált jellegét. Mivel az AI energiaigénye eszkalálódik, a technológiai óriások egyre inkább hatalmas beruházásokat hajtanak végre a „szilárd” tiszta energiaforrásokba, például a vízenergiába és az atomenergiába, hogy biztosítsák az adatközpontok stabil, 24/7 kínálatát. A Google jelentése jelentős lépés, kiemeli a szabványosított, iparági szintű jelentések szükségességét is. Mint Sasha Luccioni, egy AI és éghajlati kutató a Huging Face-nál, nraved , „ez nem egy helyettesített proxia. Közös mércék nélkül az AI forradalom valódi költségeit nehéz mérni.