Pemerintahan Biden telah meminta sektor teknologi dan lembaga keuangan untuk mengatasi meningkatnya masalah gambar seksual kasar yang dihasilkan oleh AI. Alat AI generatif baru telah mempermudah pembuatan gambar eksplisit yang realistis dan non-konsensual, yang kemudian dibagikan secara luas di media sosial dan ruang obrolan. Para korban, termasuk selebritas dan anak di bawah umur, menghadapi tantangan besar dalam menghapus gambar-gambar ini begitu mereka online.
Seruan Kerjasama Sukarela
Pemerintah sedang mencari kerja sama sukarela dari perusahaan untuk menerapkan langkah-langkah yang bertujuan membatasi pembuatan, distribusi, dan monetisasi gambar AI nonkonsensual. Himbauan ini ditujukan tidak hanya kepada pengembang AI tetapi juga pada pemroses pembayaran, lembaga keuangan, penyedia layanan cloud, dan penjaga gerbang toko aplikasi seluler. Tujuannya adalah untuk menghapuskan insentif keuangan di balik pelecehan seksual berbasis gambar, dengan fokus khusus pada situs web yang mengiklankan gambar eksplisit anak di bawah umur.
Arati Prabhakar, kepala penasihat sains Biden dan direktur Kantor Urusan Gedung Putih Kebijakan Sains dan Teknologi, menyoroti pesatnya penyebaran gambar non-konsensual yang didorong oleh alat AI , yang berdampak besar pada perempuan dan anak perempuan. Dia menekankan perlunya mendesak bagi perusahaan untuk mengambil tindakan cepat.
Dukungan Legislatif Dibutuhkan
Meskipun pemerintah mendorong komitmen sukarela, pemerintah juga menyadari perlunya dukungan legislatif. Jennifer Klein, direktur Dewan Kebijakan Gender Gedung Putih, menekankan bahwa meskipun komitmen perusahaan penting, Kongres juga harus mengambil tindakan. Undang-undang yang berlaku saat ini mengkriminalisasi pembuatan dan kepemilikan gambar seksual anak-anak, meskipun gambar tersebut dihasilkan oleh AI. Namun, hanya ada sedikit pengawasan terhadap alat dan layanan yang memungkinkan pembuatan gambar tersebut.
Upaya pemerintah didasarkan pada komitmen sukarela yang telah dibuat sebelumnya oleh perusahaan teknologi besar untuk menerapkan perlindungan bagi sistem AI baru. Selain itu, Biden telah menandatangani perintah eksekutif untuk memandu pengembangan AI guna memastikan keselamatan publik, mengatasi permasalahan AI yang lebih luas, termasuk keamanan nasional dan gambar pelecehan anak yang dihasilkan oleh AI.
Respon dan Tantangan Industri
Sektor swasta telah merespons dengan komitmen dari perusahaan seperti Microsoft, yang telah memperkuat perlindungan setelah gambar Taylor Swift yang dihasilkan AI beredar secara online. Sekolah-sekolah juga bergulat dengan foto telanjang siswa yang dibuat oleh AI, sering kali dibuat dan dibagikan oleh sesama remaja.
Dokumen pemerintah menyerukan penyedia layanan cloud dan toko aplikasi seluler untuk membatasi aplikasi yang dirancang untuk membuat atau mengubah gambar seksual tanpa persetujuan. Hal ini juga menggarisbawahi perlunya para penyintas untuk memiliki kemampuan menghapus gambar non-konsensual dari platform online dengan mudah.
Jaksa federal telah mengambil tindakan terhadap individu yang menggunakan alat AI untuk membuat gambar eksplisit anak di bawah umur. Misalnya, seorang pria asal Wisconsin telah didakwa untuk menggunakan Difusi Stabil untuk menghasilkan gambar seperti itu.
