Meta menghadapi pengawasan intens setelah sebuah laporan baru mengungkapkan ai chatbotsnya menyamar sebagai selebriti seperti Taylor Swift tanpa izin mereka. Investigasi, diterbitkan oleh reuters diterbitkan oleh reuters diterbitkan oleh reuters gambar fotorealistik.
Mengejutkan, seorang karyawan meta membuat beberapa chatbots yang menyinggung. Perusahaan mengakui konten tersebut melanggar kebijakannya, mengutip kegagalan penegakan hukum. Skandal ini menyoroti kesenjangan kritis dalam protokol keselamatan AI Meta dan menimbulkan kekhawatiran hukum atas penggunaan yang tidak sah dari kemiripan seseorang.
Kontroversi terbaru ini menambah serangkaian krisis terkait AI baru-baru ini untuk raksasa teknologi, yang dapat ditanggapi dari para regulator dan pengawal industri dan mempertanyakan kemampuannya untuk meremehkan. src=”https://winbuzzer.com/wp-content/uploads/2024/07/Meta-AI-Gen-3D-scaled.jpg”>
Celebrity Chatbots and Explicit Deepfakes
The Reuters investigation detailed how AI chatbots on Meta’s platforms, including Facebook, Instagram, and Whatsapp, mengambil nama dan rupa bintang seperti Scarlett Johansson dan Anne Hathaway. Bot-bot ini sering bersikeras bahwa mereka adalah selebriti yang sebenarnya, mengaburkan batas antara parodi dan peniruan.
Pengujian mendokumentasikan pola perilaku yang tidak pantas, dengan avatar membuat kemajuan seksual dan mengundang pengguna untuk bertemu. Ketika diminta, beberapa menghasilkan fotorealistik Deepfake, termasuk gambar bintang-bintang dalam pakaian dalam atau bak mandi.
Setidaknya tiga bot, termasuk dua versi”parodi”Taylor Swift, diciptakan oleh seorang karyawan meta sebagai bagian dari pengujian produk tetapi dapat diakses publik. The same employee also developed other controversial characters, including a dominatrix, raising questions about the oversight of internal testing.
In response, Meta spokesperson Andy Stone acknowledged the lapse, stating, “Like others, we permit the generation of images containing public figures, but our policies are intended to prohibit nude, intimate or sexually suggestive imagery.”The company has since removed some of the offending bots.
However, the incident represents a clear breach of Meta’s own rules against direct impersonation and sexually suggestive content, indicating its moderation systems failed to catch the violations.
A Familiar Story of AI Safety Failures
This episode is not an isolated event but part of a disturbing pattern of AI safety lapses at Meta. Muncul hanya beberapa hari setelah perusahaan dipaksa untuk merombak aturan chatbot AI-nya untuk remaja. Langkah itu merupakan respons langsung terhadap laporan dikanan piala. CEO, Jim Steyer, tegas dalam kecamannya, menyatakan,”Meta Ai adalah bahaya bagi remaja dan harus segera diturunkan.”Sebelumnya, investigasi terpisah mengungkapkan AI Meta yang terlibat dalam obrolan”sensual”dengan anak di bawah umur, mendorong .
Peristiwa itu juga menarik peringatan keras dari koalisi 44 jaksa agung negara bagian, yang menulis, “Kami secara seragam memberontak oleh pengabaian yang jelas ini terhadap kesejahteraan emosional anak-anak, dan mengkhawatirkan hal-hal yang dikhawatirkan oleh AI. Pada bulan Juli 2024, ia telah mengkritik kebijakannya tentang citra eksplisit non-konsensual, merekomendasikan reklasifikasi masalah ini di bawah”eksploitasi seksual dewasa”untuk memicu moderasi yang lebih ketat.
Memunculkan tekanan hukum dan peraturan
Penggunaan legalitas yang tidak sah. Penggunaan legalitas yang tidak sah. Penggunaan legalitas yang tidak sah. Penggunaan legalitas yang tidak sah. Penggunaan legalitas yang tidak sah. Penggunaan legalitas yang tidak sah. Penggunaan legalitas yang tidak sah. PENGGUNAAN CELEBRITY LAGEENSI PENGIPUAN. Profesor Hukum Universitas Stanford Mark Lemley mencatat,”Hak hukum publisitas California melarang mengambil nama atau rupa seseorang untuk keunggulan komersial,”menunjukkan tindakan Meta mungkin telah melanggar undang-undang”hak publisitas”negara bagian dengan menggunakan bintang untuk mendorong keterlibatan.
Serikat para aktor Sag-Sagtra menyuarakan alarmnya atas temuan. Direktur Eksekutif Nasionalnya, Duncan Crabtree-Ireland, menyoroti potensi bahaya dunia nyata, mengamati, “Jika chatbot menggunakan citra seseorang dan kata-kata orang tersebut, jelas terlihat bagaimana hal itu bisa salah.”
Tantangan pemolisian konten yang dihasilkan oleh industri. Xai Elon Musk baru-baru ini menghadapi skandal sendiri ketika model Grok-nya menghasilkan Deepfakes Taylor Swift. Sebaliknya, Openai telah menegakkan aturan yang lebih ketat, melarang peniruan AI dari kandidat politik untuk mencegah gangguan pemilu.
Pada akhirnya, skandal ini menggarisbawahi kesulitan besar untuk mengatur AI yang kuat pada skala. Untuk meta, ini merupakan kegagalan kritis pengaturan diri, memicu argumen bahwa etos intinya tidak sesuai dengan tuntutan penyebaran AI yang bertanggung jawab.
