AI Generatif, teknologi di balik alat seperti ChatGPT OpenAI dan generator gambar seperti DALL·E, dengan cepat mengubah interaksi digital dan produksi kreatif.
OpenAI baru saja merilis generator video Sora AI yang memungkinkan jutaan orang Pelanggan ChatGPT membuat klip pendek fotorealistik.
Namun, risiko sosial yang terkait dengan sistem ini—mulai dari misinformasi hingga bias yang tidak disengaja—sebagian besar masih belum ditangani oleh pengembang
Ekonom dari Pusat Penelitian Ekonomi Eropa Leibniz (ZEW), menganggap AI sebagai kegagalan pasar dan mendesak Uni Eropa untuk melakukan Desember ringkasan kebijakan untuk mengadopsi model pendanaan yang ditargetkan untuk mengatasi tantangan ini.
Dalam teori ekonomi, “pasar kegagalan”mengacu pada situasi ketika pasar bebas gagal mengalokasikan sumber daya secara efisien, sehingga menyebabkan hasil yang kurang optimal bagi masyarakat secara keseluruhan.
Mereka mengusulkan program insentif berbasis pencapaian untuk menyelaraskan prioritas pengembang dengan kebutuhan keselamatan publik.
“Pasar saat ini insentif tidak cukup untuk memastikan pengembangan sistem AI generatif yang aman, karena perusahaan hanya menanggung sebagian kecil dari potensi biaya kegagalan keselamatan dan mendapatkan sebagian besar manfaat dari peningkatan kemampuan,” demikian isi ringkasan kebijakan tersebut, yang mengidentifikasi kegagalan pasar kritis yang menyebabkan kemajuan dalam bidang keselamatan kekurangan dana..
Terkait: UE Merilis Draf Pertama Kode Praktik AI Tujuan Umum
Kegagalan Pasar dalam Pengembangan AI Generatif
Pertumbuhan pesat AI generatif telah didorong oleh miliaran investasi publik dan swasta. Namun, sistem ini, yang mempelajari pola dari kumpulan data ekstensif untuk menghasilkan teks, gambar, atau audio, tidak memiliki perlindungan bawaan terhadap penyalahgunaan.
Menurut peneliti ZEW, ketidakseimbangan ini memungkinkan pengembang untuk memprioritaskan kemampuan dibandingkan keselamatan, membiarkan dampak risiko sosial—seperti kampanye disinformasi berskala besar atau kegagalan dalam aplikasi penting seperti layanan kesehatan—dieksternalisasi.
Ringkasan kebijakan menyoroti bahwa tantangan keselamatan dalam AI generatif tidak dapat diselesaikan melalui peningkatan pelatihan konvensional sendiri. Argumennya adalah kurasi kumpulan data sebelum pelatihan atau tindakan pasca pelatihan seperti penyempurnaan algoritme tidak dapat mengatasi defisit keamanan inti yang melekat pada tumpukan teknologi secara memadai. Kesenjangan ini menggarisbawahi perlunya terobosan teknologi yang substansial.
Terkait: Meta Memimpin Raksasa Teknologi Mendesak UE untuk Memikirkan Kembali Strategi Regulasi AI
Usulan untuk Model Pendanaan Berbasis Pencapaian
Untuk menutup kesenjangan ini, para ekonom ZEW mengusulkan program yang didanai oleh UE yang menawarkan insentif berbasis pencapaian kepada pengembang yang mencapai tolok ukur keselamatan yang telah ditentukan sebelumnya. Mekanisme pendanaan “tarikan” ini akan memberi imbalan pada keluaran dibandingkan masukan, sehingga memberikan jalur yang dapat diprediksi untuk memajukan keselamatan dalam sistem AI generatif.
“Kami mengusulkan skema insentif berbasis pencapaian di mana pembayaran yang telah ditentukan sebelumnya akan memberikan imbalan atas pencapaian tonggak sejarah keselamatan yang dapat diverifikasi,”penjelasan singkatnya. “Skema ini akan menggunakan metrik keselamatan yang kuat dan evaluasi kompetitif untuk mencegah permainan game sekaligus memastikan kemajuan yang berarti”.
Model yang diusulkan akan tetap netral terhadap teknologi, sehingga pengembang dapat memilih metode inovatif untuk memenuhi kriteria keselamatan. Metrik untuk evaluasi akan mencakup keakuratan faktual, pencegahan dampak buruk, dan ketahanan dalam pengujian yang merugikan.
Pengawasan publik dan independen akan memastikan transparansi, akuntabilitas, dan keselarasan dengan kebutuhan masyarakat.
Keterlibatan dan Keterlibatan Masyarakat Akuntabilitas
Landasan proposal ini adalah penekanan pada partisipasi publik dalam pengujian model AI. Pengujian adversarial, atau “tim merah”, akan menantang sistem ini untuk mengidentifikasi kerentanan dan memastikan ketahanannya.
“Sangat penting untuk menyelaraskan insentif semua pihak yang terlibat dan menyediakan perangkat koordinasi yang diperlukan untuk tim merah yang efisien dan efektif,” demikian catatan ringkasan kebijakan tersebut, yang menekankan pentingnya prosedur validasi kolektif.
Transparansi Langkah-langkah yang diambil akan mencakup pengungkapan hasil evaluasi kepada publik, menumbuhkan kepercayaan, dan memungkinkan pemahaman bersama tentang potensi dan keterbatasan AI generatif. Dengan melibatkan beragam pemangku kepentingan, program ini bertujuan untuk memastikan bahwa inovasi keselamatan selaras dengan harapan masyarakat.
Memasukkan Proposal dalam Kerangka Kebijakan UE
The program berbasis pencapaian yang diusulkan ini melengkapi langkah-langkah peraturan UE yang sudah ada seperti UU AI dan Petunjuk Kewajiban Produk yang diperbarui. Kerangka kerja ini sebagian besar berfokus pada pelarangan aplikasi yang tidak aman dan penerapan hukuman atas kegagalan keselamatan.
Namun, ringkasan kebijakan ZEW menyoroti kesenjangan kritis: inisiatif yang ada memprioritaskan penerapan dan pengembangan kemampuan daripada secara langsung mendorong inovasi keselamatan.
“UE juga menyatakan ingin mendorong dan memberi penghargaan pada pengembangan AI generatif yang lebih aman melalui berbagai inisiatif yang dimulai pada masa legislatif terakhir. Namun, mereka tampaknya lebih fokus pada mendorong penerapan AI generatif secara umum dibandingkan mengembangkan AI generatif yang aman pada khususnya,” penjelasan singkat tersebut, merujuk pada program-program seperti “GenAI4EU” dan “Pabrik AI” sebagai contoh upaya yang mengabaikan tantangan khusus keselamatan.
Program Inovasi AI Generatif yang Aman akan menambah dimensi baru pada strategi AI UE dengan secara eksplisit memberi penghargaan kepada pengembang karena mencapai tonggak sejarah keselamatan yang berarti, sehingga menjembatani kesenjangan antara regulasi dan inovasi.
Menyeimbangkan Keselamatan dan Kinerja
Salah satu tantangan penting dari program ini adalah mengatasi trade-off antara dimensi keselamatan dan kinerja lainnya dari model AI generatif yang paling aman—yaitu sistem yang sepenuhnya menghindari pembuatan konten yang berpotensi membahayakan —juga akan menjadi yang paling tidak berfungsi.
Untuk mencapai keseimbangan, program insentif harus memprioritaskan model yang memenuhi standar keselamatan tinggi sekaligus mempertahankan kinerja kompetitif.
“Peningkatan keselamatan mungkin akan lebih baik datang dengan mengorbankan kinerja yang lebih rendah di dimensi lain. Untuk mengilustrasikan hal ini: AI generatif yang paling aman adalah AI yang tidak menghasilkan apa pun, namun tingkat kinerja yang kompetitif diperlukan agar suatu model dapat digunakan secara nyata,”demikian catatan ringkasan kebijakan tersebut.
program ini akan menggunakan undang-undang penskalaan dan jalur pembangunan lain yang dapat diprediksi untuk mendorong efisiensi dalam mengintegrasikan keselamatan dan kinerja.
Membangun Keunggulan Kompetitif untuk Eropa
Di luar fokus langsungnya tentang keselamatan, tujuan proposal tersebut untuk memperkuat posisi UE dalam lanskap AI global. Eropa saat ini tertinggal dibandingkan Amerika Serikat dan Tiongkok dalam pengembangan AI generatif, dengan hanya segelintir perusahaan yang bersaing di kancah internasional.
Dengan memprioritaskan keselamatan, UE dapat menjadikan dirinya sebagai pemimpin dalam inovasi AI yang etis, yang merupakan prioritas yang semakin meningkat bagi konsumen dan regulator di seluruh dunia.
“Program Inovasi AI Generatif yang Aman juga dapat menghidupkan kembali inovasi AI di UE,” demikian isi laporan singkat tersebut. “Dengan menciptakan insentif yang jelas untuk inovasi keselamatan, program ini dapat membantu perusahaan-perusahaan Eropa mengembangkan keunggulan kompetitif dalam dimensi pasar yang semakin penting”.
Ringkasan ini juga menggarisbawahi potensi yang lebih luas dari mekanisme pendanaan “tarikan”, mengutip keberhasilan di bidang-bidang seperti pengembangan vaksin dan kendaraan otonom. Dengan mengadaptasi pendekatan-pendekatan ini terhadap AI generatif, UE dapat memelopori model baru untuk kemajuan teknologi yang bertanggung jawab.
Ringkasan kebijakan tersebut menyimpulkan, “Tujuan utama harus tetap menjadi fokus, dan tujuan sekunder hanya dimasukkan jika tujuan tersebut tidak menjadi fokus. mengubah insentif, untuk menghindari’misi merayap'”.
