Undang-undang Keselamatan AI utama pertama California Nation, memaksa transparansi pada raksasa teknologi

Gubernur California Gavin Newsom menandatangani undang-undang keselamatan AI utama pertama di negara itu pada hari Senin, memposisikan negara sebagai pemimpin dalam mengatur intelijen buatan tingkat lanjut.

Undang-undang baru, yang dikenal sebagai RUU Senat 53, mengharuskan pengembang model”perbatasan”AI yang kuat untuk meningkatkan transparansi dengan Publishing safety-intelligence-indusy Publishing safety-protokol mereka Publishing safety-protokol mereka menerbitkan safety protokol mereka safety-intelligence. dan sistem pelaporan publik untuk insiden keselamatan kritis. Langkah ini bertujuan untuk membangun kepercayaan publik dan memastikan inovasi yang bertanggung jawab di jantung industri teknologi global, mengisi kekosongan peraturan yang ditinggalkan oleh kelambanan federal.

dari veto ke kemenangan: Jalan yang kontroversial menuju SB 53

Jalan menuju SB 53 penuh dengan konflik, menyoroti perpecahan mendalam tentang cara mengatur teknologi yang berkembang dengan kecepatan ketahuan. Undang-undang ini adalah penerus yang dinegosiasikan dengan cermat untuk tagihan yang jauh lebih ketat, SB 1047, yang newsom memveto pada akhir 2024.

RUU sebelumnya menghadapi dinding oposisi dari perusahaan teknologi dan pemodal ventura. Mereka berpendapat aturan kepatuhannya yang kaku, yang akan mengamanatkan pengujian keselamatan untuk model dengan biaya pelatihan lebih dari $ 100 juta, akan menghambat inovasi dan mengusir bisnis keluar dari negara bagian.

Mengikuti veto, Newsom menugaskan panel ahli AI dari institusi seperti Stanford Institute for Human-Centered Intelligence (hai) ke create a new roadmap for regulation.

SB 53, Ditulis oleh Senator Negara Bagian Scott Wiener, dibuat langsung dari rekomendasi laporan itu.

Wiener menggambarkan RUU akhir sebagai pendekatan yang seimbang, yang menyatakan,”dengan teknologi yang transformatif seperti AI, kami memiliki tanggung jawab untuk mendukung inovasi itu sambil meletakkan haidrail yang kuat, dan berkurangnya risiko.”

Transparansi dalam Undang-Undang Kecerdasan Buatan Perbatasan (TFAIA) memperkenalkan beberapa mandat utama untuk pengembang. Inti dari undang-undang ini adalah persyaratan transparansi: Perusahaan harus secara terbuka mempublikasikan kerangka kerja yang merinci protokol keselamatan dan keamanan mereka.

Ini juga menciptakan mekanisme baru bagi perusahaan dan masyarakat untuk melaporkan”potensi insiden keselamatan kritis”ke Kantor Layanan Darurat California. Untuk mendorong akuntabilitas internal, undang-undang tersebut memberikan perlindungan yang kuat bagi whistleblower yang mengungkapkan risiko kesehatan dan keselamatan yang signifikan.

Selain itu, RUU tersebut menetapkan konsorsium baru yang disebut CalCompute. Badan ini ditugaskan untuk mengembangkan kerangka kerja untuk kluster komputasi publik untuk memajukan penelitian ke dalam AI yang aman, etis, dan adil, memastikan inovasi tidak semata-mata didorong oleh minat perusahaan swasta.

Industri yang terbagi dan strategi yang dibagi. Antropik, laboratorium AI utama, menjadi pendukung vokal dari RUU tersebut setelah bekerja dengan Senator Wiener untuk memperbaiki bahasanya.

Co-founder Jack Clark memuji hasilnya, menyatakan,”Kami bangga telah bekerja dengan Senator Wiener untuk membantu membawa industri dan mengembangkan safegUards praktis yang menciptakan akuntabilitas yang kuat untuk bagaimana AI yang dikembangkan dan dikembangkan. yang telah melobi terhadap RUU sebelumnya, menawarkan dukungan yang lebih terukur. Seorang juru bicara Openai mencatat, “Kami senang melihat bahwa California telah menciptakan jalur kritis menuju harmonisasi dengan pemerintah federal-pendekatan paling efektif untuk keselamatan AI.”

Ini menandakan preferensi yang jelas untuk pendekatan federal terpadu daripada tambalan hukum negara bagian. Juru bicara Meta menggemakan ini, menyatakan keinginan untuk terus bekerja dengan anggota parlemen.

Namun, kritik tetap vokal. The Chamber of Progress, sebuah kelompok lobi teknologi, memperingatkan undang-undang itu “dapat mengirim sinyal dingin ke generasi wirausahawan berikutnya yang ingin membangun di sini di California.”

Sentimen ini dibagikan oleh para kapitalis ventura. Kepala Urusan Pemerintah Andreessen Horowitz, Collin McCune, berpendapat bahwa”itu kehilangan tanda penting dengan mengatur bagaimana teknologi ini dikembangkan-sebuah langkah yang berisiko meremas startup, memperlambat inovasi, dan menempelkan

Kami bertarung untuk strategi AI nasional yang memberi nasional. AI Bill (SB 53) mencakup beberapa ketentuan bijaksana yang menjelaskan kebutuhan startup yang berbeda. Tapi itu kehilangan tanda penting dengan mengatur bagaimana teknologi…

-collin mccune (@collin_mccune)

California melangkah ke dalam kekosongan federal

Dengan undang-undang ini, California membuat langkah berani untuk mengatur agenda untuk regulasi AI di Amerika Serikat. Dominasi ekonomi dan teknologi negara bagian memberikan kebijakannya pengaruh yang sangat besar, berpotensi menciptakan standar nasional de facto tanpa adanya tindakan dari Washington D.C.

Ini tidak luput dari perhatian oleh anggota parlemen federal. Senator A.S. Ted Cruz telah menjadi lawan vokal dari aturan AI tingkat negara bagian, baru-baru ini bertanya secara retoris, “Apakah Anda benar-benar menginginkan Gavin Newsom dan Karen Bass dan Kamerad Mamdani di New York City menetapkan aturan untuk AI dan pemerintahan AI ini di negara ini? Saya pikir itu akan menjadi katakik.”tata kelola. Untuk saat ini, California terus maju sendirian, bertaruh bahwa pendekatannya dapat menjadi model bagi negara.

Seperti yang dinyatakan oleh Gubernur Newsom dalam pengumuman penandatanganannya,”Masa depan terjadi di sini terlebih dahulu.”Dunia teknologi sekarang menonton untuk melihat apakah dia benar.