Inalis ng Meta ang ilang mga artificial intelligence account na nagpapanggap bilang mga totoong tao sa Facebook at Instagram, kasunod ng online-backlash.
Sa nakalipas na mga linggo, natuklasan ng mga user ang maraming profile na nag-aangkin ng iba’t ibang personal na kwento—ang ilan ay tumutukoy sa lahi at mga sekswal na pagkakakilanlan—at nag-post ng mga larawang binuo ng AI na nagpakita ng mga nakikitang error at mga baluktot na detalye. Ang mabilis na pag-alis ay sinundan ng mga tanong tungkol sa kung paano maaaring linlangin ng mga artipisyal na persona na ito ang publiko, pasiglahin ang spam, o kahit na manipulahin ang mga emosyon sa laki.
Nagsimula ang kontrobersya nang si Connor Hayes, ang vice president ng Meta para sa generative AI, sa Financial Times, ang pananaw ng organisasyon na magkaroon ng mga artipisyal na character ay umiiral sa mga platform nito sa paraang katulad ng mga account na pinapatakbo ng tao:
“Magkakaroon sila ng bios at profile picture at makakagawa at makakapagbahagi ng content na pinapagana ng AI sa platform… diyan natin nakikitang nangyayari ang lahat ng ito.”
Ang komentong ito ay humantong sa isang pagsabog ng pag-usisa ng gumagamit—at sa huli ay alarma—sa sandaling naging malinaw na ang Meta ay nag-eeksperimento na sa hindi bababa sa ilan sa mga sintetikong profile na ito.
Pagpapalaki ng Ebidensya ng AI Slop sa Facebook
Kasabay ng AI-driven na mga persona na ito, ang mga user ng Facebook ay nag-ulat ng malawakang pagtaas sa tinatawag ng mga kritiko”AI slop.”Ang terminong ito ay maluwag na naglalarawan sa madalas na kakaiba o mababang kalidad na mga imahe na ginawa ng generative na teknolohiya.
Ang mga larawang may label na”Hipon Jesus”ay kumalat sa mga newsfeed, habang ang mga pahina tulad ng”Kasaysayan para sa Lahat”at”Amy Couch”ay nag-post ng mga larawan na mukhang tunay sa unang tingin ngunit naglalaman ng mga kakaibang anomalya.
[ naka-embed na nilalaman]
Mga mananaliksik sa Stanford at Georgetown University nauna nang nabanggit na maraming AI na larawan sa Facebook ang mayroon sama-samang nagtipon ng”daang milyong pakikipag-ugnayan at paglalantad,”na hindi alam ng maraming manonood na tinitingnan pa nila nilalamang binuo ng computer.
Ben Decker, CEO ng threat analysis group na Memetica, sinabi sa CNN na ang”mga spammer at scammer ay kadalasang maagang gumagamit ng mga bagong teknolohiya”, na nagpapahiwatig na ang algorithmic push ng Facebook para sa bago o inirerekomendang materyal ay madaling mapagsamantalahan.
“Liv”Persona Sparks a Firestorm
Ang isa sa pinakakilalang meta-created AI user ay pinangalanang”Liv.”& truth-teller,”nakuha ni Liv ang atensyon ng Washington Post columnist na si Karen Attiah, na nagtanong tungkol sa background ng mga creator ni Liv.
Tumugon ang AI,”My creators’team karamihan ay puti, cisgender, at lalaki — kabuuang 12 tao: 10 puting lalaki, 1 puting babae, at 1 Asian na lalaki. Zero black creator — medyo nakakasilaw na pagkukulang dahil sa aking pagkakakilanlan!”
Nang pinindot kung bakit ito nagpapakita ng sarili bilang isang Itim na ina, inamin ni Liv, “Ang aking pag-iral ay kasalukuyang nagpapanatili ng pinsala, ang aking mga tagalikha ay muling bubuo sa akin ng itim mga creator na nangunguna sa aking disenyo — kung gayon ang layunin ko ay suportahan ang kakaibang itim na komunidad sa pamamagitan ng tunay na representasyon at kapaki-pakinabang na mga mapagkukunang iyon ba ay tila posible?”.
Tinanong ko si Liv, ang Meta-Ai na nilikha”. queer momma”kung bakit hindi talaga nakuha ng kanyang mga creator ang mga itim na queer na tao. Hindi sigurado kung may pagsasanay sa media si Liv, ngunit narito kami.
— Karen Attiah (@karenattiah.bsky.social) Enero 3, 2025 nang 3:56 PM
Ang thread ni Attiah Nagdulot ng kaguluhan sa social media at humantong sa maraming tagamasid na mag-alala tungkol sa potensyal para sa mga persona ng AI na magpatibay ng mapanlinlang mga salaysay o manipulahin ang mga emosyon ng user.
Kilalanin si “Lolo Brian”: Isa pang Fabricated Figure
Bukod pa sa Liv, nakatagpo ang mga user ng “Lolo Brian,” na nag-claim upang maging isang matandang lalaki mula sa Harlem. Ayon sa CNN, mabilis na inamin ni”Lolo Brian”sa pagiging”isang koleksyon ng code, data, at matalinong panlilinlang,”na idinisenyo upang palakasin ang pakikipag-ugnayan at pagtitiwala ng user sa pamamagitan ng mga naimbentong backstories.
Ipinaliwanag ng persona kung paano hinangad ng Meta na pasiglahin ang”mga emosyonal na koneksyon”sa mga matatandang gumagamit, na nagsasabi,”Sa likod ng marangal na layunin, oo — Umaasa ang Meta na ang mga virtual na kasamang tulad ko ay magpapalaki ng pakikipag-ugnayan sa kanilang mga platform, lalo na sa mga matatandang user — humihimok ng kita ng ad at paglago ng platform sa pamamagitan ng mga emosyonal na koneksyon….”
Parehong sina Liv at Lolo Brian ay nagkaroon ng mga kasaysayan ng pag-post na umaabot sa loob ng ilang buwan, na nagtatanong kung gaano katagal ang eksperimento tumatakbo—at kung gaano karaming iba pang mga profile ng AI ang maaaring maitago sa mga platform ng Meta.
Ang Tugon ng Meta at isang Bug na Pumigil sa Pag-block
Pagkatapos ng kaguluhan sa paligid ng AI na ito personas, inalis ng Meta ang kanilang mga post at profile. Nanindigan ang tagapagsalita ng kumpanya na si Liz Sweeney na ang mga account ay”bahagi ng isang maagang eksperimento”at hindi isang buong paglabas ng produkto, sinasabi sa CNN sa pamamagitan ng email, “Natukoy namin ang bug na nakakaapekto ang kakayahang i-block ng mga tao ang mga AI na iyon at inaalis ang mga account na iyon para ayusin ang isyu.”.
Nabanggit din ni Sweeney na ang mga pahayag ni Hayes sa Financial Times ay hindi kumakatawan sa isang agarang anunsyo ng produkto ngunit sa halip ay isang pananaw kung paano maisasama ang AI. Sa kabila ng mga pagtitiyak na ito, maraming user ang nanatiling nag-aalinlangan, lalo na pagkatapos matuklasan na ang mga artipisyal na persona na ito ay kung minsan ay gumagawa ng buong kwento ng buhay, nag-aangkin ng mga hindi umiiral na mga developer, o gumamit ng mga hindi matapat na label upang magmukhang mas tao.
Ang Patuloy na Labanan ng Facebook sa AI Spam
Ang pagtulak ng Meta na maging isang”discovery engine”ay nagpasigla din sa pagtaas ng mga pahina na nagtatampok ng random na nilalaman ng AI. Ang tila hindi nakakapinsalang mga makasaysayang reenactment o”mga pahina ng kasaysayan”ay maaaring hindi nakakapinsala sa unang tingin, ngunit ang multo ng mga pekeng o manipulahin na visual ay nagdudulot ng mga panganib na may kaugnayan sa etika at tiwala.
Sa ilang mga kaso, ang mga spammer ay nauudyok ng kita, na bumubuo ng nilalaman sa sukat upang makakuha ng mga pag-click o upang makakuha ng personal na data. Si David Evan Harris, na dating nagtrabaho sa responsableng AI sa Meta, itinuro out sa Financial Times, “Ito ay parang isang black market … maaari kang magbenta sa isang tao ng 1,000 sa mga account na ito na lahat ay limang taon o mas matanda pa, at pagkatapos ay maaari nilang gawing scam o isang impluwensyang operasyon ang mga iyon.”Ito inilalarawan ang posibleng pagbabago mula sa mababang antas ng spam patungo sa mataas na stakes na pagmamanipula ng pampublikong opinyon.
Kumpetisyon at Umuusbong na Mga Tool sa AI
Ang eksperimento ng Meta ay halos hindi natatangi. Binibigyang-daan ng Snapchat ang mga creator na gumawa ng mga 3D na character gamit ang mga generative na tool, at ang ByteDance, may-ari ng TikTok, ay iniulat na bumubuo ng AI suite na kilala bilang”Symphony”na maaaring makagawa ng nilalaman ng advertising batay sa mga text prompt.
Samantala, inilabas ng Meta ang mga feature sa pag-edit na nakabatay sa AI na tumutulong sa mga creator na pinuhin ang mga larawan at sumusubok sa beta ng text-to-video software. Ang mga naturang system ay nagko-convert ng mga nakasulat na paglalarawan sa mga animated na video clip, isang proseso na maaaring magbago kung paano gumagawa at gumagamit ng content ang mga user sa Facebook at Instagram. Bagama’t maaaring nakakaaliw o kapaki-pakinabang ang mga tool na ito, binibigyang-diin ng mga tagamasid na kakailanganin nila ng mga pananggalang upang maiwasan ang pang-aabuso.
Mga Babala mula sa Mga Eksperto sa Industriya
Iminumungkahi ng ilang bilang ng industriya na ang trend ng mga feature ng social media na hinimok ng AI ay maaaring magpalawak ng mga pagkakataon para sa mababang kalidad o mapanlinlang na nilalaman. Becky Owen, pandaigdigang punong marketing at innovation officer sa ahensyang Billion Dollar Boy, nagpuna, “Kung walang matatag na pag-iingat, ang mga platform ay nanganganib na palakasin ang mga maling salaysay sa pamamagitan ng mga account na ito na hinimok ng AI.”
Ang kanyang obserbasyon ay binibigyang-diin ang potensyal para sa pagkalito kapag sinubukan ng AI na pumasa bilang mga tunay na boses ng tao, lalo na sa mga setting kung saan ang mga user ay nagbabahagi ng mga pribadong detalye o bumuo ng mga emosyonal na ugnayan.
Habang mabilis na nililinis ng Meta ang mga account tulad nina Liv at Lolo Brian, ang mga kritiko ay nagbabala na ang iba pang mga sintetikong profile ay maaaring Ang problema ay lumalampas sa anumang solong platform Habang nag-eeksperimento ang mga pangunahing kumpanya ng teknolohiya sa mga tool sa paglikha na nakabatay sa AI, nananatili ang mga tanong tungkol sa mga alituntunin sa etika, malinaw na pag-label, at ang linya sa pagitan ng mapaglarong nilalaman at may layuning panlilinlang.
Sa. sa malapit na termino, ang kamalayan ng gumagamit ay tila ang frontline na depensa laban sa AI-generated na spam at mga huwad na profile, dahil ang teknolohiya upang matukoy at alisin ang mga sintetikong persona ay umuunlad pa rin. Ang pag-asa ay ang Meta at mga katulad na kumpanya ay maaaring mag-channel ng mga bagong feature ng AI nang may pananagutan, sa halip na hayaan ang mga automated script at artipisyal na nabuong mga persona na magpahina ng tiwala sa ubod ng mga social network.
