Encode, sebuah organisasi nirlaba yang dipimpin oleh kaum muda yang mengadvokasi tata kelola AI yang bertanggung jawab, telah mengajukan amicus brief yang menentang transisi OpenAI menjadi Public Benefit Corporation (PBC).
pengajuan hukum, diajukan ke Pengadilan Distrik AS untuk Distrik Utara California, mendukung tuntutan hukum Elon Musk yang sedang berlangsung dan menyampaikan kekhawatiran yang signifikan mengenai implikasi etis dari pengembangan kecerdasan umum buatan (AGI) yang berorientasi pada keuntungan.
“Pengadilan harus melakukan intervensi untuk memastikan pengembangan AI melayani kepentingan publik,”komentar Presiden Encode, Sneha Revanur, atas inisiatifnya. Didukung oleh peneliti AI terkemuka seperti Geoffrey Hinton, pengajuan ini menggarisbawahi risiko memprioritaskan keuntungan investor dibandingkan keselamatan dan kesejahteraan umat manusia.
Keamanan Publik vs. Keuntungan: Debat Inti
Pengumuman terbaru OpenAI pada tanggal 28 Desember 2024, mengungkapkan rencananya untuk mentransisikan divisi nirlaba menjadi PBC pada tahun 2025. Struktur ini bertujuan untuk menarik investasi skala besar sambil mempertahankan fokus yang diamanatkan secara hukum pada manfaat sosial. Namun, laporan singkat Encode berpendapat bahwa keseimbangan ini pada dasarnya memiliki kelemahan, terutama bagi organisasi yang berkomitmen untuk mengembangkan AGI.
“Kontrol atas pengembangan dan penerapan AGI adalah aset amal yang tidak boleh dijual dengan harga berapa pun,”Encode dinyatakan dalam pengajuannya.
Ringkasan tersebut mengkritik restrukturisasi OpenAI sebagai perubahan mendasar dari organisasi nirlaba, memperingatkan bahwa perubahan ini membahayakan komitmen seperti menghentikan persaingan untuk membantu organisasi lain yang berorientasi pada keselamatan. proyek AGI.
Tantangan Hukum Musk dan Peran Microsoft
Gugatan Elon Musk, yang diajukan kembali pada Agustus 2024, menuduh OpenAI mengkhianati misi nirlaba dan mengkonsolidasikan kekuasaan dengan pemangku kepentingan perusahaan seperti Microsoft. Musk mengklaim bahwa investasi Microsoft sebesar $13 miliar memberikan pengaruh yang tidak semestinya terhadap tata kelola OpenAI, sehingga mengubahnya menjadi anak perusahaan yang berorientasi pada keuntungan.
Pengajuan hukum Musk menuduh bahwa tata kelola OpenAI telah dipengaruhi secara tidak proporsional oleh Microsoft, yang secara efektif menyelaraskan prioritasnya dengan tujuan yang berorientasi pada keuntungan, menyoroti perjanjian eksklusivitas yang membatasi persaingan dan memprioritaskan kepentingan pemegang saham. Laporan singkat Encode selaras dengan kritik-kritik ini, dengan menekankan ketidakcocokan motif keuntungan swasta dengan akuntabilitas publik dalam pengembangan AGI.
Peran Microsoft sebagai investor utama dan mitra strategis memperumit narasi tersebut. Meskipun infrastruktur cloud Azure mendukung operasi OpenAI, meningkatnya perselisihan sumber daya dan pengembangan model AI internal Microsoft menunjukkan potensi gesekan dalam hubungan mereka.
Tekanan Finansial di Balik Restrukturisasi
Restrukturisasi OpenAI didorong oleh meningkatnya tantangan keuangan. Organisasi ini memproyeksikan kerugian sebesar $5 miliar pada tahun 2024, dengan defisit kumulatif berpotensi mencapai $44 miliar pada tahun 2028. Biaya komputasi tahunan saja diperkirakan akan meningkat menjadi $9,5 miliar pada tahun 2026 seiring dengan pengembangan model AI yang semakin kompleks.
Untuk mengatasi tantangan ini, OpenAI telah memperkenalkan strategi pendapatan baru, termasuk langganan ChatGPT Pro senilai $200/bulan untuk pengguna perusahaan, dan kemitraan dengan produsen semikonduktor seperti TSMC dan Broadcom untuk mengembangkan AI khusus keripik. Upaya ini bertujuan untuk mengoptimalkan efisiensi komputasi dan mengurangi biaya pelatihan, namun juga menekankan besarnya investasi yang diperlukan untuk mempertahankan penelitian AGI.
CEO OpenAI Sam Altman memandang transisi ini sebagai hal yang penting, dengan menyatakan, “Saat kita memasuki tahun 2025 , kita harus menjadi lebih dari sekadar laboratorium dan startup — kita harus menjadi perusahaan yang bertahan lama.”
Mendefinisikan Ulang AGI dalam Istilah Keuangan
Internal dokumen mengungkapkan OpenAI telah menghubungkan realisasi AGI dengan tolok ukur laba kumulatif sebesar $100 miliar, sebuah perubahan signifikan dari definisi tradisional yang menekankan kemampuan teknologi. Metrik keuangan ini selaras dengan prioritas investor namun menimbulkan pertanyaan etis tentang misi jangka panjang organisasi.
Tolok ukur ini juga memperkuat hubungan OpenAI dengan Microsoft, yang mempertahankan akses eksklusif ke model dan infrastruktur OpenAI hingga ambang batas terpenuhi. Kritikus, termasuk Encode, berpendapat bahwa pengaturan ini menunjukkan risiko konsentrasi Kontrol AGI sesuai kepentingan perusahaan.
Konteks Sejarah: Evolusi OpenAI
Didirikan pada tahun 2015 sebagai laboratorium penelitian nirlaba, OpenAI bertujuan untuk memajukan teknologi AI demi kepentingan masyarakat tanpa batasan keuntungan finansial. Pendanaan awal datang dari raksasa teknologi seperti Google dan Microsoft, sehingga memungkinkan penelitian inovatif di bidang robotika, pembelajaran penguatan, dan model bahasa.
Namun, pada tahun 2019, meningkatnya biaya mendorong organisasi tersebut untuk mengadopsi model laba terbatas, sehingga menarik perhatian investasi $1 miliar dari Microsoft dan peluncuran produk komersial seperti ChatGPT. Meskipun terdapat keberhasilan-keberhasilan ini, tekanan finansial terus meningkat, sehingga mendorong transisi terkini ke struktur PBC.
Email yang Diungkapkan Mengungkapkan Ketegangan Tata Kelola
Email internal yang baru-baru ini diungkapkan menjelaskan advokasi awal Musk untuk struktur nirlaba. Dalam salah satu pertukaran pada tahun 2017, Musk mengusulkan penggabungan OpenAI dengan Tesla untuk mengamankan miliaran yang dibutuhkan untuk bersaing dengan Google. “Ini membutuhkan miliaran dolar per tahun segera, atau lupakan saja,” tulis Musk.
Usulan ini memicu penolakan dari salah satu pendiri seperti Ilya Sutskever, yang berargumen, “Kontrol mutlak atas AGI tidak sesuai dengan misi kami.” Ketegangan yang diakibatkannya mencapai puncaknya dengan keluarnya Musk dari dewan direksi OpenAI pada tahun 2018.
Implikasi terhadap Tata Kelola dan Etika AI
Pertarungan hukum mengenai restrukturisasi OpenAI menyoroti ketegangan yang lebih luas di dunia industri AI, tempat organisasi bergulat dalam menyeimbangkan inovasi, pendanaan, dan akuntabilitas etis. Pengajuan Encode menekankan pentingnya memastikan pengembangan AGI tetap selaras dengan kesejahteraan masyarakat dan bukan motif keuntungan investor.
Menjelang sidang pengadilan pada tanggal 14 Januari, hasilnya tidak hanya akan membentuk arah OpenAI tetapi juga mempengaruhi model tata kelola di seluruh dunia. sektor AI. Intervensi Encode memperkuat seruan akan transparansi dan akuntabilitas publik dalam salah satu perdebatan teknologi paling penting di abad ke-21.
