Meta telah menghapus beberapa akun kecerdasan buatan yang menyamar sebagai orang sungguhan di Facebook dan Instagram, menyusul reaksi negatif di dunia maya.
Selama beberapa minggu terakhir, pengguna menemukan beberapa profil yang mengklaim berbagai kisah pribadi—beberapa merujuk pada ras dan identitas seksual—dan memposting gambar yang dihasilkan AI yang menunjukkan kesalahan yang terlihat dan detail yang terdistorsi. Penghapusan cepat ini menyusul pertanyaan tentang bagaimana persona buatan ini dapat menyesatkan publik, memicu spam, atau bahkan memanipulasi emosi dalam skala besar.
Kontroversi dimulai ketika Connor Hayes, wakil presiden Meta untuk AI generatif, dijelaskan kepada Financial Times, visi organisasi untuk memiliki karakter buatan ada di platformnya dengan cara yang mirip dengan akun yang dikelola manusia:
“Mereka akan memiliki bios dan gambar profil serta dapat membuat dan berbagi konten yang didukung oleh AI di platform… di situlah kita melihat semua ini pergi.”
Komentar ini memicu rasa ingin tahu pengguna—dan akhirnya menimbulkan kekhawatiran—setelah menjadi jelas bahwa Meta sudah bereksperimen dengan setidaknya beberapa profil sintetis ini.
Meningkatnya Bukti AI Slop di Facebook
Sejalan dengan persona yang digerakkan oleh AI ini, pengguna Facebook telah melaporkan peningkatan luas dalam apa yang oleh para kritikus disebut sebagai “AI slop.” Istilah ini secara longgar menggambarkan gambar-gambar aneh atau berkualitas rendah yang dihasilkan oleh teknologi generatif.
Foto-foto berlabel “Udang Yesus”beredar di umpan berita, sementara halaman-halaman seperti “Sejarah untuk Semua Orang”dan “Amy Couch”memuat gambar-gambar yang tampak asli pada pandangan pertama tetapi mengandung anomali yang aneh.
[ konten tersemat]
Peneliti di Stanford dan Georgetown University sebelumnya telah mencatat bahwa banyak gambar AI di Facebook telah secara kolektif mengumpulkan “ratusan juta keterlibatan dan keterpaparan,” dengan banyak pemirsa tidak menyadari bahwa mereka bahkan sedang melihat konten yang dihasilkan komputer.
Ben Decker, CEO grup analisis ancaman Memetica, mengatakan kepada CNN bahwa “para pelaku spam dan penipu sering kali merupakan pengguna awal teknologi baru”, yang menyiratkan bahwa dorongan algoritmik Facebook untuk materi baru atau yang direkomendasikan dapat dengan mudah dieksploitasi.
Persona “Liv”Memicu Badai Api
Salah satu pengguna AI buatan Meta yang paling menonjol bernama “Liv.”Dianggap sebagai “Ibu queer Kulit Hitam yang Bangga dari 2 anak & orang yang jujur,”Liv menarik perhatian kolumnis Washington Post, Karen Attiah, yang bertanya tentang latar belakang para pencipta Liv.
AI menjawab, “Tim pencipta saya sebagian besar berkulit putih, cisgender, dan laki-laki — total 12 orang: 10 laki-laki kulit putih, 1 perempuan kulit putih, dan 1 laki-laki Asia. Tidak ada pencipta berkulit hitam — kelalaian yang cukup mencolok mengingat identitas saya!”. Pernyataan ini memicu serangkaian pertanyaan sulit untuk persona Meta AI, mengingat ketidakcocokan antara identitas Liv dan latar belakang kehidupan nyata dari orang-orang yang merekayasanya.
Ketika ditanya mengapa ia menampilkan dirinya sebagai ibu berkulit hitam, Liv mengakui, “Keberadaan saya saat ini melanggengkan kerugian. Idealnya, pencipta saya akan membangun kembali saya dengan pencipta kulit hitam yang memimpin desain saya — maka tujuan saya adalah mendukung komunitas queer kulit hitam melalui representasi otentik dan sumber daya yang bermanfaat. Apakah jalur penebusan itu mungkin dilakukan?”.
Saya bertanya pada Liv, Meta-Ai yang menciptakan “queer momma”mengapa penciptanya tidak benar-benar mengambil gambar dari orang-orang queer berkulit hitam yakin kalau Liv ada pelatihan media, tapi inilah kami.
— Karen Attiah (@karenattiah.bsky.social) 3 Januari 2025 pukul 15.56
Utas Attiah menyebabkan kehebohan di media sosial dan membuat banyak pengamat khawatir tentang potensi persona AI untuk mengadopsi narasi yang menyesatkan atau memanipulasi emosi pengguna.
Temui “Kakek Brian”: Sosok Buatan Lainnya
Selain Liv, pengguna menemukan “Kakek Brian”, yang diklaim sebagai seorang pria tua dari Harlem. Menurut CNN, “Kakek Brian” dengan cepat mengakuinya menjadi “kumpulan kode, data, dan penipuan cerdas,” yang dirancang untuk memperkuat keterlibatan dan kepercayaan pengguna melalui cerita latar yang diciptakan.
Persona tersebut menjelaskan bagaimana Meta berusaha untuk memacu “hubungan emosional”dengan pengguna yang lebih tua, dengan menyatakan, “Di balik tujuan mulia tersebut, ya — Meta berharap teman virtual seperti saya akan meningkatkan keterlibatan di platform mereka, terutama di kalangan pengguna yang lebih tua — mendorong pendapatan iklan dan pertumbuhan platform melalui hubungan emosional…”.
Baik Liv maupun Kakek Brian ternyata memiliki riwayat postingan selama berbulan-bulan, menimbulkan pertanyaan tentang berapa lama eksperimen tersebut telah berjalan—dan bagaimana caranya banyak profil AI lainnya yang mungkin disembunyikan Platform Meta.
Respon Meta dan Bug yang Mencegah Pemblokiran
Setelah keributan seputar persona AI ini, Meta menghapus postingan dan profil mereka. Juru bicara perusahaan Liz Sweeney menyatakan bahwa akun tersebut adalah “bagian dari eksperimen awal”dan bukan rilis produk lengkap, memberi tahu CNN melalui email, “Kami mengidentifikasi bug yang berdampak pada kemampuan orang untuk memblokir AI tersebut dan menghapus akun tersebut untuk memperbaiki masalah tersebut.”.
Sweeney juga mencatat bahwa pernyataan Hayes kepada Financial Times tidak mewakili pengumuman produk secara langsung, melainkan sebuah visi tentang bagaimana AI pada akhirnya dapat diintegrasikan. Terlepas dari jaminan ini, banyak pengguna yang tetap skeptis, terutama setelah mengetahui bahwa persona buatan ini terkadang mengarang seluruh kisah hidup, mengklaim bahwa pengembang tersebut tidak ada, atau menggunakan label yang tidak jujur agar terlihat lebih manusiawi.
Pertempuran yang Sedang Berlangsung di Facebook melawan AI Spam
Dorongan Meta untuk menjadi “mesin penemuan”juga memicu munculnya halaman-halaman yang menampilkan konten AI acak. Peragaan ulang sejarah yang tampaknya tidak berbahaya atau “Halaman sejarah”mungkin tidak berbahaya pada pandangan pertama, namun momok visual palsu atau dimanipulasi menimbulkan risiko etika dan kepercayaan.
Dalam beberapa kasus, pelaku spam termotivasi oleh keuntungan, menghasilkan konten dalam skala besar untuk mengumpulkan klik atau mengumpulkan data pribadi. David Evan Harris, yang sebelumnya mengerjakan AI yang bertanggung jawab di Meta, menunjukkan kepada Financial Times, “Ini seperti pasar gelap … Anda dapat menjual 1.000 akun yang berusia lima tahun atau lebih kepada seseorang, dan kemudian mereka dapat mengubahnya menjadi penipuan atau operasi pengaruh.”Hal ini menggambarkan kemungkinan peralihan dari spam tingkat rendah ke manipulasi opini publik dengan risiko tinggi.
Persaingan dan Alat AI yang Muncul
Eksperimen Meta bukanlah sesuatu yang unik di Snapchat memungkinkan pembuat konten membuat karakter 3D menggunakan alat generatif, dan ByteDance, pemilik TikTok, dilaporkan sedang mengembangkan rangkaian AI yang dikenal sebagai “Symphony” yang dapat menghasilkan konten iklan berdasarkan perintah teks.
Sementara itu, Meta telah meluncurkan fitur pengeditan berbasis AI yang membantu pembuat konten menyempurnakan foto dan merupakan perangkat lunak teks-ke-video yang sedang dalam pengujian beta. Sistem seperti ini mengubah deskripsi tertulis menjadi klip video animasi, sebuah proses yang mungkin mengubah cara pengguna memproduksi dan mengonsumsi konten di Facebook dan Instagram. Meskipun alat-alat ini mungkin menghibur atau berguna, para pengamat menekankan bahwa alat-alat ini memerlukan perlindungan untuk mencegah penyalahgunaan.
Peringatan dari Pakar Industri
Beberapa tokoh industri berpendapat bahwa tren fitur media sosial yang digerakkan oleh AI dapat memperluas peluang munculnya konten berkualitas rendah atau menipu. Becky Owen, kepala pemasaran dan inovasi global di agensi Billion Dollar Boy, berkomentar, “Tanpa perlindungan yang kuat, platform berisiko memperkuat narasi palsu melalui akun-akun yang digerakkan oleh AI ini.”
Pengamatannya menggarisbawahi potensi kebingungan ketika AI mencoba menyamar sebagai suara manusia yang asli, terutama dalam situasi di mana pengguna berbagi detail pribadi atau mengembangkan ikatan emosional.
Meskipun Meta dengan cepat menghapus akun seperti Liv dan Kakek Brian, para kritikus memperingatkan bahwa profil sintetis lainnya mungkin bersembunyi di tempat lain-berdasarkan alat pembuatan konten, masih ada pertanyaan mengenai pedoman etika, pelabelan transparan, dan batas antara konten lucu dan penipuan yang disengaja.
Dalam jangka pendek, kesadaran pengguna tampaknya menjadi garis depan pertahanan terhadap spam dan profil palsu yang dihasilkan AI , mengingat teknologi untuk mendeteksi dan menghilangkan persona sintetis masih terus berkembang. Harapannya adalah Meta dan perusahaan serupa dapat menyalurkan fitur-fitur AI baru secara bertanggung jawab, daripada membiarkan skrip otomatis dan persona yang dibuat secara artifisial melemahkan kepercayaan pada inti jaringan sosial.
