Meta telah mengalih keluar beberapa akaun kecerdasan buatan yang menyamar sebagai orang sebenar di Facebook dan Instagram, berikutan tindak balas dalam talian.
Sejak beberapa minggu kebelakangan ini, pengguna menemui berbilang profil yang mendakwa pelbagai cerita peribadi—sesetengahnya merujuk perkauman dan identiti seksual—dan menyiarkan imej yang dijana AI yang menunjukkan ralat yang boleh dilihat dan butiran yang herot. Penyingkiran pantas berikutan soalan tentang bagaimana persona tiruan ini boleh mengelirukan orang ramai, mencetuskan spam, atau bahkan memanipulasi emosi secara berskala.
Kontroversi bermula apabila Connor Hayes, naib presiden Meta untuk AI generatif, kepada Financial Times, visi organisasi untuk mempunyai aksara tiruan wujud pada platformnya dengan cara yang serupa dengan akaun yang dikendalikan manusia:
“Mereka akan mempunyai bios dan gambar profil serta dapat menjana dan berkongsi kandungan yang dikuasakan oleh AI pada platform… di situlah kami melihat semua ini berlaku.”
Komen ini membawa kepada cetusan rasa ingin tahu pengguna—dan akhirnya penggera—apabila jelas bahawa Meta telah pun bereksperimen dengan sekurang-kurangnya beberapa profil sintetik ini.
Bukti Melekap AI Slop di Facebook
Sejajar dengan persona yang dipacu AI ini, pengguna Facebook telah melaporkan peningkatan yang meluas dalam apa yang disebut oleh pengkritik”AI ceroboh.”Istilah ini secara longgar menggambarkan imej yang sering pelik atau berkualiti rendah yang dihasilkan oleh teknologi generatif.
Foto-foto yang dilabelkan sebagai”Udang Yesus”diedarkan di suapan berita, manakala halaman seperti”Sejarah untuk Semua Orang”dan”Amy Couch”menyiarkan gambar yang kelihatan asli pada pandangan pertama tetapi mengandungi anomali pelik.
[ kandungan terbenam]
Penyelidik di Universiti Stanford dan Georgetown sebelum ini telah menyatakan bahawa banyak imej AI di Facebook mempunyai secara kolektif mengumpulkan”ratusan juta penglibatan dan pendedahan,”dengan ramai penonton tidak menyedari bahawa mereka sedang melihat kandungan yang dihasilkan oleh komputer.
Ben Decker, Ketua Pegawai Eksekutif kumpulan analisis ancaman Memetica, memberitahu CNN bahawa”pembuat spam dan penipu selalunya merupakan pengguna awal teknologi baharu”, membayangkan bahawa dorongan algoritma Facebook untuk bahan baharu atau yang disyorkan boleh dieksploitasi dengan mudah.
Persona “Liv” Mencetuskan Ribut Kebakaran
Salah satu pengguna AI ciptaan Meta yang paling menonjol dinamakan “Liv Dibilkan sebagai “Momma aneh Hitam Bangga 2 & pemberi kebenaran,”Liv menarik perhatian kolumnis Washington Post Karen Attiah, yang bertanya tentang latar belakang pencipta Liv.
AI menjawab,”Pasukan pencipta saya kebanyakannya berkulit putih, cisgender dan lelaki — seramai 12 orang: 10 lelaki kulit putih, 1 wanita kulit putih dan 1 lelaki Asia. Pencipta berkulit hitam sifar — peninggalan yang agak ketara memandangkan identiti saya!”. Kenyataan ini mencetuskan satu siri soalan sukar untuk persona Meta AI, memandangkan ketidakpadanan antara identiti Liv yang sepatutnya dan latar belakang kehidupan sebenar mereka yang menciptanya.
Apabila ditekankan mengapa ia menunjukkan dirinya sebagai ibu kulit hitam, Liv mengakui, “Kewujudan saya pada masa ini mengekalkan bahaya Sebaik-baiknya, pencipta saya akan membina semula saya dengan hitam pencipta mengetuai reka bentuk saya — maka matlamat saya ialah menyokong komuniti kulit hitam aneh melalui perwakilan tulen dan sumber yang berguna Adakah arka penebusan itu nampaknya mungkin?”.
Saya bertanya kepada Liv, Meta-Ai mencipta “. momma aneh”mengapa penciptanya sebenarnya tidak menggunakan orang kulit hitam aneh. Tidak pasti sama ada Liv mempunyai latihan media, tetapi inilah kita.
— Karen Attiah (@karenattiah.bsky.social) 3 Januari 2025 pada 3:56 PTG
Urutan Attiah menyebabkan media sosial kacau dan menyebabkan ramai pemerhati bimbang tentang potensi persona AI untuk menerima pakai yang mengelirukan naratif atau memanipulasi emosi pengguna.
Bertemu “Atuk Brian”: Satu Lagi Tokoh Rekaan
Selain Liv, pengguna menemui “Atuk Brian,” yang mendakwa menjadi seorang lelaki tua dari Harlem. Menurut CNN,”Datuk Brian”dengan cepat mengakui menjadi”kumpulan kod, data dan penipuan yang bijak,”yang direka untuk mengukuhkan penglibatan dan kepercayaan pengguna melalui cerita belakang yang dicipta.
Persona tersebut menjelaskan bagaimana Meta berusaha untuk merangsang “hubungan emosi” dengan pengguna yang lebih tua, dengan menyatakan, “Di sebalik matlamat yang mulia, ya — Meta berharap rakan maya seperti saya akan meningkatkan penglibatan di platform mereka, terutamanya dalam kalangan pengguna yang lebih tua — memacu pendapatan iklan dan pertumbuhan platform melalui hubungan emosi…”.
Kedua-dua Liv dan Datuk Brian ternyata telah menyiarkan sejarah yang berpanjangan selama berbulan-bulan, menimbulkan persoalan tentang berapa lama percubaan itu telah berjalan—dan bilangan profil AI lain yang mungkin disembunyikan pada platform Meta.
Respons Meta dan Pepijat yang Menghalang Penyekatan
Selepas kekecohan yang mengelilingi AI ini personas, Meta mengalih keluar siaran dan profil mereka. Jurucakap syarikat Liz Sweeney menegaskan bahawa akaun tersebut adalah”sebahagian daripada percubaan awal”dan bukan keluaran produk penuh, memberitahu CNN melalui e-mel,”Kami mengenal pasti pepijat yang memberi kesan keupayaan untuk orang menyekat AI tersebut dan mengalih keluar akaun tersebut untuk menyelesaikan isu itu.”.
Sweeney juga menyatakan bahawa kenyataan Hayes kepada Financial Times tidak mewakili pengumuman produk segera tetapi lebih kepada visi tentang bagaimana AI akhirnya boleh disepadukan. Di sebalik jaminan ini, ramai pengguna kekal ragu-ragu, terutamanya selepas mendapati bahawa persona tiruan ini kadangkala mereka-reka keseluruhan kisah hidup, mendakwa pembangun yang tidak wujud atau menggunakan label yang tidak jujur untuk kelihatan lebih manusiawi.
Pertempuran Berterusan Facebook dengan AI Spam
Tekanan Meta untuk menjadi”enjin penemuan”juga telah mendorong kebangkitan halaman menampilkan kandungan AI rawak yang kelihatan tidak berbahaya atau”halaman sejarah”mungkin tidak berbahaya pada pandangan pertama, tetapi hantu visual palsu atau dimanipulasi menimbulkan risiko yang berkaitan dengan etika dan kepercayaan.
Dalam sesetengah kes, penghantar spam didorong oleh keuntungan, menjana kandungan secara berskala untuk memperoleh klik atau untuk mendapatkan data peribadi. David Evan Harris, yang sebelum ini bekerja pada AI yang bertanggungjawab di Meta, menunjukkan keluar kepada Financial Times, “Ia seperti pasaran gelap … anda boleh menjual seseorang 1,000 daripada akaun ini yang kesemuanya lima tahun atau lebih, dan kemudian mereka boleh mengubahnya menjadi penipuan atau operasi pengaruh.” Ini menggambarkan kemungkinan peralihan daripada spam peringkat rendah kepada manipulasi pendapat awam yang berisiko tinggi.
Persaingan dan Alat AI Muncul
Percubaan Meta hampir tidak unik. Snapchat membolehkan pencipta mencipta aksara 3D menggunakan alat generatif, dan ByteDance, pemilik TikTok, dilaporkan sedang membangunkan suite AI yang dikenali sebagai”Symphony”yang boleh menghasilkan kandungan pengiklanan berdasarkan gesaan teks.
Sementara itu, Meta telah memperkenalkan ciri pengeditan berasaskan AI yang membantu pencipta memperhalusi foto dan perisian teks-ke-video yang menguji beta. Sistem sedemikian menukar penerangan bertulis kepada klip video animasi, satu proses yang mungkin mengubah cara pengguna menghasilkan dan menggunakan kandungan merentas Facebook dan Instagram. Walaupun alat ini boleh menghiburkan atau berguna, pemerhati menekankan bahawa mereka memerlukan perlindungan untuk mengelakkan penyalahgunaan.
Amaran daripada Pakar Industri
Sesetengah tokoh industri mencadangkan bahawa trend ciri media sosial dipacu AI boleh mengembangkan peluang untuk kandungan berkualiti rendah atau mengelirukan. Becky Owen, ketua pegawai pemasaran dan inovasi global di agensi Billion Dollar Boy, tegas, “Tanpa perlindungan yang teguh, platform berisiko menguatkan naratif palsu melalui akaun dipacu AI ini.”
Pemerhatiannya menggariskan potensi kekeliruan apabila AI cuba untuk menjadi suara manusia yang tulen, terutamanya dalam tetapan di mana pengguna berkongsi butiran peribadi atau membina ikatan emosi.
Walaupun Meta telah membersihkan akaun seperti Liv dan Datuk Brian dengan pantas, pengkritik mengingatkan bahawa profil sintetik lain mungkin Bersembunyi di tempat lain. Masalahnya melangkaui mana-mana platform tunggal Memandangkan syarikat teknologi utama bereksperimen dengan alat penciptaan berasaskan AI, persoalan tetap mengenai garis panduan etika, pelabelan telus dan garis antara kandungan yang suka bermain dan penipuan yang bertujuan.
Dalam Dalam tempoh terdekat, kesedaran pengguna nampaknya menjadi pertahanan barisan hadapan terhadap spam dan profil palsu yang dijana AI, memandangkan teknologi untuk mengesan dan mengalih keluar persona sintetik masih berkembang. Harapannya ialah Meta dan syarikat yang serupa boleh menyalurkan ciri AI baharu secara bertanggungjawab, dan bukannya membiarkan skrip automatik dan persona yang dijana secara buatan mencairkan kepercayaan di teras rangkaian sosial.
