Dalam langkah mercu tanda ke arah ketelusan, Google telah mengeluarkan data terperinci pertama mengenai kos alam sekitar model AI. Diterbitkan pada hari Khamis, Google
Selama bertahun-tahun, kos tenaga sebenar AI generatif telah menjadi subjek spekulasi dan perdebatan yang sengit. Pendedahan ini datang di tengah-tengah tekanan yang semakin meningkat pada teknologi besar untuk mengukur selera makan teknologi untuk tenaga dan air, memberikan penanda aras yang dikawal oleh syarikat. (Wh) tenaga, memancarkan 0.03 gram bersamaan CO2 (gco2e), dan menggunakan 0.26 mililiter air, seperti yang terperinci pada
Metodologi Syarikat direka untuk mencerminkan realiti operasi melayani produk global seperti Gemini. Untuk memastikan ketersediaan yang tinggi dan latensi yang rendah, sejumlah besar kapasiti mesti disediakan tetapi terbiar, bersedia untuk mengendalikan pancang lalu lintas atau kegagalan. Kos operasi dunia sebenar ini, bersama-sama dengan kuasa untuk CPU tuan rumah dan overhead pusat data umum, sering dikecualikan daripada anggaran akademik atau pihak ketiga. Google berpendapat pandangan yang lebih sempit ini mewakili apa yang dipanggil postingan blog kemampanan , Syarikat menegaskan bahawa antara Mei 2024 Jejak karbon jatuh lebih besar 44 kali ganda. Penambahbaikan yang mengejutkan ini bukan hasil daripada satu kejayaan tetapi sebaliknya kesan pengoptimuman di seluruh Google yang memanggilnya “Pendekatan stack penuh untuk pembangunan AI.”Pecahan, menunjukkan pengurangan tenaga 33x didorong oleh peningkatan 23x daripada kecekapan model dan peningkatan 1.4x dari penggunaan mesin yang lebih baik. Pada tahap model, Google menunjuk kepada arkitek yang lebih cekap seperti campuran-experts (MOE). Teknik ini membolehkan sistem untuk mengaktifkan hanya subset kecil yang relevan dari model yang besar untuk sebarang pertanyaan yang diberikan, mengurangkan pengiraan dengan faktor 10 hingga 100. Teknik perisian lain seperti penyahkodan spekulatif dan penyulingan, yang menghasilkan model yang lebih kecil, dioptimumkan seperti Flash Gemini, selanjutnya mengurangkan beban pengiraan. Syarikat itu menekankan unit pemprosesan tensor yang direka khas (TPU), yang direka bersama dengan model AI untuk memaksimumkan prestasi setiap watt. Menurut Google, TPU”Ironwood”generasi terkini adalah 30 kali lebih cekap tenaga daripada versi pertama yang tersedia secara terbuka, menyediakan asas perkakasan yang kuat untuk usaha kecekapannya. Akhirnya, pengoptimuman peringkat sistem memainkan peranan penting. Stack hidangan Google menggunakan stack perisian ML maju dan penempatan model masa nyata yang dinamik untuk meminimumkan pemecut pemecut, sumber tenaga sia-sia yang signifikan dalam penyebaran besar-besaran. Lapisan inovasi ini, dari model seni bina ke silikon, secara kolektif menyumbang kepada pengurangan tahun ke tahun dalam kesan alam sekitar Gemini. Jae-Won Chung, pemimpin usaha ML.Energy di University of Michigan, memberitahu MIT Technology Review bahawa”Saya fikir ini akan menjadi bahagian utama dalam bidang tenaga AI. Sekeping utama maklumat yang hilang ialah jumlah pertanyaan Gemini mengendalikan setiap hari. Tanpa ini, mengira permintaan tenaga agregat perkhidmatan tetap mustahil. Kaedah ini, yang membolehkan syarikat untuk menolak pembelian tenaga boleh diperbaharui dari jejaknya, telah menjadi titik pertarungan. Kaedah perakaunan ini sebelum ini dikritik oleh kumpulan seperti Kairos Fellowship berikutan laporan alam sekitar tahunan Google. Penyelidik utama Franz Ressel berhujah,”Pelepasan berasaskan pasaran adalah metrik mesra korporat yang mengaburkan kesan sebenar pencemar terhadap alam sekitar.”Perdebatan ini menggariskan sifat perakaunan iklim korporat yang kompleks dan sering dipolitikkan. Langkah untuk ketelusan ditetapkan terhadap perebutan seluruh industri untuk kuasa. Memandangkan tuntutan tenaga AI meningkat, gergasi teknologi semakin membuat pelaburan besar-besaran dalam sumber kuasa bersih”tegas”seperti tenaga hidro dan tenaga nuklear untuk memastikan bekalan 24/7 yang stabil untuk pusat data mereka. Laporan Google adalah langkah penting, ia juga menyoroti keperluan untuk melaporkan pelaporan yang diselaraskan. Sebagai sasha luccioni, seorang penyelidik dan penyelidik iklim di muka memeluk,
Categories: IT Info
