Ang
Google ay opisyal na ipinakilala ang ikapitong henerasyon na tensor processing unit (TPU), Ironwood, na idinisenyo upang harapin ang lumalagong mga hinihingi ng AI inference. Sa mga aplikasyon na hinihimok ng AI na nagiging mas malaganap, ipinangako ng Ironwood hindi lamang pinahusay na pagganap kundi pati na rin nasusukat, mahusay na enerhiya na mga solusyon na posisyon sa Google bilang isang pangunahing manlalaro sa mabilis na umuusbong na merkado ng hardware. Ang chip ay dumating sa dalawang mga pagsasaayos, ang isa ay may 256 chips at ang isa pa ay may napakalaking 9,216-chip setup, na nagpapahintulot sa system na masukat kung kinakailangan. Ang mga pag-setup na ito ay nag-aalok ng napakalaking kapasidad ng computational, na lalo na mahalaga para sa malakihang mga aplikasyon ng AI tulad ng generative AI, pagproseso ng data ng real-time, at mga sistema ng paggawa ng desisyon.
src=”data: imahe/svg+xml; nitro-empty-id=mty4mzo5mze=-1; base64, phn2zyb2awv3qm94psiwidagmtawmca1nj Iiihdpzhropsixmdawiibozwlnahq9iju2miigeg1sbnm9imh0dha6ly93d3cudzmub3jnlziwmdavc3znij48l3n2zz4=”> Pinagmulan: google
binibigyang diin ng Google ang kahusayan ng enerhiya ng Ironwood . Sa kabila ng mas manipis na kapangyarihan ng pagproseso nito, ang TPU ay dinisenyo na may kaunting pagkonsumo ng kuryente, na tinutugunan ang tumataas na mga alalahanin tungkol sa epekto sa kapaligiran ng AI. Ang pangako sa pagpapanatili ay naaayon sa mas malawak na diskarte ng Google upang magbigay ng malakas na solusyon sa AI habang binabawasan ang bakas ng carbon ng mga operasyon ng AI. src=”data: imahe/svg+xml; nitro-empty-id=mty5mdoxmdky-1; base64, phn2zyb2awv3qm94psiwidagmtawmca1njiiiH dpzhropsixmdawiibozwlnahq9iju2miigeg1sbnm9imh0dha6ly93d3cudzmub3jnlziwmdavc3znij48l3n2zz4=”source: Google
Design-Centric Design: Isang Hakbang patungo sa Hinaharap ng Ai
Hindi tulad ng mga nakaraang TPU, na higit na nakatuon sa pagsasanay, ang Ironwood ay partikular na inhinyero upang mapabilis ang pagganap ng mga generative na aplikasyon ng AI. Ang mga uri ng mga modelo ng AI ay nakakakuha ng traksyon sa mga industriya, kabilang ang paglikha ng synthetic media, automation ng serbisyo sa customer, at mga sistema ng desisyon na hinihimok ng data. Ang Ironwood ng Google ay idinisenyo upang matugunan ang kahilingan na ito, tinitiyak ang mas mabilis, mas mahusay na pag-deploy ng modelo, na maaaring mapabuti ang bilis at pagiging epektibo ng mga aplikasyon ng AI sa buong sektor. Ang Blackwell B200 GPU ng NVIDIA ay na-outperforming ang Trillium TPU ng Google sa mga benchmark para sa mga gawain sa pagsasanay sa AI. Ang NVIDIA’s GPUs excel sa hilaw na kapangyarihan na kinakailangan para sa pagsasanay sa mga malalaking modelo, na nananatiling isang mapagkumpitensyang kalamangan sa maraming lugar.
Gayunpaman, hindi pa rin nakatayo ang Google. Ang kumpanya ay madiskarteng namuhunan sa parehong panloob na hardware at panlabas na pakikipagtulungan. Halimbawa, ang Google ay naiulat na sa mga pag-uusap upang maarkila ang Blackwell B200 GPU ng Nvidia mula sa Coreweave, isang tagapagbigay ng ulap na dalubhasa sa imprastrukturang nakabase sa Nvidia. Ang hybrid na diskarte na ito ay nagmumungkahi na ang Google ay nagpapalawak ng mga kakayahan ng AI habang pinapanatili ang isang pagtuon sa sarili nitong teknolohiya ng TPU. Ang patuloy na pamumuhunan ng Google sa parehong mga in-house at panlabas na solusyon ay sumasalamin sa kumplikadong katangian ng pag-scale ng mga sistema ng AI sa kasalukuyang tanawin ng tech. Susuportahan ng chip ang mga workload ng AI-driven ng Google Cloud, na nagbibigay ng mga customer na may mataas na pagganap na computing nang hindi nangangailangan ng malawak na pag-upgrade ng imprastraktura. Ang mga advanced na kakayahan sa pagproseso ng Ironwood ay magiging mahalaga sa pagsuporta sa mga tool ng Cloud AI at Machine Learning ng kumpanya, tulad ng vertex ai Ang henerasyon. Sa pamamagitan ng pag-alok hindi lamang ng software kundi pati na rin ang makapangyarihan, nasusukat na hardware, ang Google ay nagpoposisyon mismo bilang isang kritikal na manlalaro sa puwang ng AI. Pinahihintulutan nito ang mga negosyo na magamit ang kapangyarihan ng arkitektura ng TPU ng Ironwood nang walang pagiging kumplikado ng pamamahala ng hardware mismo.
Higit pa sa mga pagtutukoy sa teknikal, ang mga kakayahan ng Ironwood ay magkakaroon ng mga implikasyon sa real-world sa buong industriya. Sa pangangalagang pangkalusugan, halimbawa, ang mga tool na pinapagana ng AI tulad ng mga diagnostic imaging system at mahuhulaan na pagmomolde ay maaaring mapabilis nang malaki ng kapangyarihan ng computing ng Ironwood. Maaaring mapahusay ng Ironwood ang bilis at kawastuhan ng mga mahuhulaan na algorithm, na nagpapagana ng mas mahusay na mga resulta ng pasyente at mas epektibong mga modelo ng pangangalaga. Dahil sa pagtaas ng interes sa paglikha ng nilalaman ng malalim na pag-aaral, ang potensyal ng Ironwood na mag-streamline ng mga workflows na ito ay maaaring muling ma-reshape ang landscape ng paggawa ng media. Kung ang mga kotse na nagmamaneho sa sarili, matalinong imprastraktura ng lungsod, o mga awtomatikong pabrika, ang kakayahan ng Ironwood na magproseso ng malawak na halaga ng data ng real-time ay magiging isang pag-aari sa mga lalong mga sektor na hinihimok ng data na ito. Ang isang pangunahing isyu na lumitaw sa mga independiyenteng pagsusuri ay ang tunay na mundo na pagkonsumo ng mga modelo ng AI. Habang binigyang diin ng Google ang kahusayan ng enerhiya ng chip, ang manipis na sukat ng operasyon ay maaari pa ring humantong sa mas mataas na mga kahilingan sa enerhiya. Habang lumalaki ang mga sistema ng AI, ang epekto sa kapaligiran ay nananatiling pag-aalala, kahit na ang industriya ay nagtutulak para sa mga teknolohiyang greener. Habang ang mga benchmark at mga paghahabol sa pagganap mula sa Google at iba pang mga mapagkukunan ay nangangako, ang mga pagsusuri sa real-world sa iba’t ibang mga kaso ng paggamit ay magiging mahalaga sa pagkumpirma ng mga kakayahan ng chip. Tulad ng nakikita sa mga nakaraang henerasyon ng mga TPU, ang scalability at kakayahang umangkop ng hardware ay ilalagay sa pagsubok dahil mas maraming industriya ang nagpatibay ng AI para sa mga kritikal na aplikasyon. Ito ay bahagi ng mas malawak na diskarte ng Google upang manguna sa imprastraktura ng AI. Sa pokus nito sa pag-iintindi, ang Ironwood ay naghanda upang mapanghawakan ang susunod na henerasyon ng mga aplikasyon ng AI, mula sa mga ahente ng pag-uusap hanggang sa mga mahuhulaan na modelo. Habang ang Ironwood ay nag-aalok ng malaking pangako, ang kumpetisyon kasama ang NVIDIA at iba pang mga manlalaro ng hardware ay mabangis. Ang mga independiyenteng mga pagsusuri at karagdagang pagsulong sa AI hardware ay sa huli ay matukoy kung paano ang Ironwood ay nakasalalay sa katagalan. Habang patuloy na nagbabago ang teknolohiya, ang Ironwood ay maaaring maglaro ng isang mahalagang papel sa paghubog kung paano na-deploy at nai-scale ang AI sa buong industriya.