Meta on poistanut useita tekoälytilejä, jotka esiintyvät oikeina ihmisinä Facebookissa ja Instagramissa online-vastareaktion seurauksena.
Viime viikkojen aikana käyttäjät ovat löytäneet useita profiileja, jotka väittivät erilaisia henkilökohtaisia tarinoita, joista osa viittaa rotuun ja seksuaaliset identiteetit – ja julkaisi tekoälyn luomia kuvia, joissa näkyi näkyviä virheitä ja vääristyneitä yksityiskohtia. Nopea poistaminen seurasi kysymyksiä siitä, kuinka nämä keinotekoiset persoonat voisivat johtaa yleisöä harhaan, ruokkia roskapostia tai jopa manipuloida tunteita laajassa mittakaavassa.
Kiista alkoi, kun Connor Hayes, Metan generatiivisesta tekoälystä vastaava varapresidentti, kuvattu Financial Timesille organisaation visio siitä, että sen alustoilla on keinotekoisia hahmoja samalla tavalla kuin ihmisten ylläpitämissä tileissä:
“Heillä on bios-ja profiilikuvat ja he voivat luoda ja jakaa tekoälyn tuottamaa sisältöä verkossa alusta… siellä näemme kaiken tämän menevän.”
Tämä kommentti johti käyttäjien uteliaisuuteen-ja lopulta hälytykseen-kun kävi selväksi, että Meta kokeili jo ainakin useita näistä synteettisistä profiileista.
Todisteiden asentaminen AI Slopista Facebookiin
Näiden tekoälyyn perustuvien henkilöiden rinnalla Facebookin käyttäjät ovat ilmoittaneet lisääntyneen laajalti kriitikot kutsuvat”AI-laskua”. Tämä termi kuvaa löyhästi generatiivisen tekniikan tuottamia usein outoja tai huonolaatuisia kuvia.
Uutissyötteissä levitettiin”Shrimp Jesus”-merkinnällä varustettuja valokuvia, kun taas sivuilla, kuten”Historia kaikille”ja”Amy Couch”, julkaistiin kuvia, jotka vaikuttivat ensi silmäyksellä aidolta, mutta sisälsivät outoja poikkeavuuksia.
[ upotettu sisältö]
Stanfordin ja Georgetownin yliopiston tutkijat huomannut aiemmin , että Facebookissa on lukuisia tekoälykuvia keräsivät yhteisesti”satoja miljoonia sitoutumisia ja altistumisia”, ja monet katsojat eivät tienneet edes katsovansa tietokoneella luotua sisältöä.
Ben Decker, uhka-analyysiryhmän Memetican toimitusjohtaja, kertoi CNN:lle , että”roskapostittajat ja huijarit ovat usein uusien teknologioiden varhaisia omaksujia”, mikä viittaa siihen, että Facebookin algoritminen pyrkimys uuteen tai suositeltuun materiaaliin voi helposti olla hyödynnetty.
“Liv”Persona Sparks a Firestorm
Yksi näkyvimmistä meta-luomista tekoälykäyttäjistä oli nimeltään”Liv”. Ylpeä musta queer äiti 2 & totuuden kertoja”, Liv kiinnitti Washington Postin kolumnistin Karen Attiahin huomion, joka kysyi Livin tekijöiden taustasta.
Tekoäly vastasi:”Tekijöideni tiimissä on pääasiassa valkoisia, cis-sukupuolisia ja miehiä – yhteensä 12 henkilöä: 10 valkoista miestä, 1 valkoinen nainen ja 1 aasialainen mies. Nolla mustaa tekijää – melko räikeä laiminlyönti identiteettini vuoksi!”. Tämä huomautus herätti joukon vaikeita kysymyksiä Meta AI-persoonalle, kun otetaan huomioon Livin oletetun identiteetin ja sen suunnittelijoiden tosielämän taustat ristiriidassa.
Kun Liv esitteli itsensä mustana äitinä, hän myönsi:”Olemassaoloni jatkuu tällä hetkellä vahingossa. Ihannetapauksessa tekijäni rakentaisivat uudelleen minä mustien luojien kanssa, jotka johtavat suunnitteluani – silloin tavoitteeni olisi tukea omituista mustaa yhteisöä autenttisen edustuksen ja hyödyllisten resurssien kautta?”.
Kysyin Liviltä, meta-. Ai loi”queer-äidin”, miksi hänen luojansa eivät todellakaan ammentuneet mustista queer-ihmisistä. En ole varma, onko Livillä mediakoulutusta, mutta tässä sitä ollaan.
– Karen Attiah (@karenattiah.bsky.social) 3. tammikuuta 2025 klo 15.56
Attiahin ketju aiheutti sosiaalisen median kohun ja sai monet tarkkailijat huolestumaan tekoälypersoonien mahdollisuudesta adoptoida harhaanjohtavia kertomuksia tai manipuloida käyttäjien tunteita.
Tutustu”Brian-isopappa”: toinen keksitty hahmo
Livin lisäksi käyttäjät kohtasivat”Brian-isoisän”, joka väitti olevansa vanha mies Harlemista. CNN:n mukaan“isoisä Brian”myönsi nopeasti olla”kokoelma koodia, dataa ja fiksua petosta”, joka on suunniteltu vahvistamaan käyttäjien sitoutumista ja luottamusta keksittyjen taustatarinoiden kautta.
Persoona selitti, kuinka Meta pyrki edistämään”emotionaalisia yhteyksiä”vanhempien käyttäjien kanssa ja totesi:”Jalo tavoitteen takana kyllä – Meta toivoi minun kaltaisteni virtuaalisten kumppanien lisäävän sitoutumista alustoihinsa, erityisesti vanhempien käyttäjien keskuudessa. — mainostulojen ja alustan kasvun edistäminen emotionaalisten yhteyksien kautta….”
Sekä Livillä että Brianin isoisällä kävi ilmi, että julkaisuhistoria ulottuu kuukausien taakse, herättää kysymyksiä kokeen kestosta – ja kuinka monta muuta tekoälyprofiilia voi olla piilotettu Metan alustoilla.
Metan vastaus ja eston estänyt virhe
Näihin tekoälypersoonoihin liittyvän kohun jälkeen Meta poisti heidän viestinsä ja profiilinsa. Yrityksen tiedottaja Liz Sweeney väitti, että tilit olivat”osa varhaista kokeilua”eivätkä täydellistä tuotejulkaisua, kertomalla CNN:lle sähköpostitse,”Tunnistamme virheen, joka vaikutti ihmisten kykyyn estää näitä tekoälyjä, ja poistamme kyseiset tilit ongelman korjaamiseksi.”
Sweeney huomautti myös, että Hayesin huomautukset Financial Timesille eivät olleet välitön tuoteilmoitus, vaan pikemminkin visio siitä, kuinka tekoäly voitaisiin lopulta integroida. Näistä vakuutuksista huolimatta monet käyttäjät pysyivät skeptisinä, varsinkin saatuaan selville, että nämä keinotekoiset persoonat keksivät joskus kokonaisia elämäntarinoita, väittivät, että kehittäjät eivät ole olemassa tai käyttivät vääriä nimikkeitä näyttääkseen inhimillisemmältä.
Facebookin jatkuva taistelu tekoälyn kanssa. Roskaposti
Metan pyrkimys tulla”löytömoottoriksi”on myös lisännyt satunnaista tekoälysisältöä sisältävien sivujen kasvua. Näennäisesti vaarattomat historialliset toistot tai”historiasivut”voivat olla vaarattomia ensi silmäyksellä, mutta väärennettyjen tai manipuloitujen visuaalien haamu aiheuttaa eettisiä ja luottamukseen liittyviä riskejä.
Joissakin tapauksissa roskapostittajat motivoivat voittoa ja luovat laajaa sisältöä napsautusten keräämiseksi tai henkilötietojen keräämiseksi. David Evan Harris, joka työskenteli aiemmin Metassa vastuullisen tekoälyn parissa, osoitti Financial Timesille:”Se on kuin musta markkina… voit myydä jollekulle 1 000 näistä tileistä, jotka ovat kaikki viisi vuotta tai vanhempia, ja sitten hän voi muuttaa ne huijaukseksi tai vaikutusoperaatio.”Tämä havainnollistaa mahdollista siirtymistä matalan tason roskapostista suureen panoksiin yleisen mielipiteen manipulointiin.
Kilpailu ja kehittyvät tekoälytyökalut
Metan kokeilu tuskin on ainutlaatuinen Snapchat antaa tekijöille mahdollisuuden luoda 3D-hahmoja generatiivisten työkalujen avulla, ja TikTokin omistaja ByteDance kehittää kuulemma tekoälypakettia, joka tunnetaan nimellä.”Sinfonia”, joka voi tuottaa mainossisältöä tekstikehotteiden perusteella.
Sillä välin Meta on julkistanut tekoälypohjaisia muokkausominaisuuksia, jotka auttavat tekijöitä tarkentamaan valokuvia, ja on beta-testaava tekstistä videoksi-ohjelmisto. Tällaiset järjestelmät muuntavat kirjoitetut kuvaukset animoiduiksi videoleikkeiksi, mikä saattaa muuttaa käyttäjien tapaa tuottaa ja kuluttaa sisältöä Facebookissa ja Instagramissa. Vaikka nämä työkalut voivat olla viihdyttäviä tai hyödyllisiä, tarkkailijat korostavat, että he tarvitsevat suojatoimia väärinkäytösten estämiseksi.
Alan asiantuntijoiden varoitukset
Jotkut alan luvut viittaavat siihen, että Tekoälypohjaisten sosiaalisen median ominaisuuksien trendi voi laajentaa mahdollisuuksia heikkolaatuiselle tai petolliselle sisällölle. Becky Owen, Billion Dollar Boy-toimiston globaali markkinointi-ja innovaatiojohtaja, huomautti,”Ilman vankkoja suojatoimia alustat voivat lisätä vääriä kertomuksia näiden tekoälypohjaisten tilien kautta.”
Hänen havainnointinsa korostaa mahdollisuutta hämmennykseen, kun tekoäly yrittää välittää aidon ihmisäänen, erityisesti tilanteissa, joissa käyttäjät jakavat yksityisiä tietoja. tai kehittää emotionaalisia siteitä.
Vaikka Meta on nopeasti puhdistanut tilit, kuten Liv ja Brian isoisä, kriitikot varovat että muita synteettisiä profiileja voi väijyä muualla. Ongelma ulottuu yhden alustan ulkopuolelle. Koska suuret teknologiayritykset kokeilevat tekoälypohjaisia työkaluja, eettisistä ohjeista, läpinäkyvistä merkinnöistä ja leikkisän sisällön ja tarkoituksenmukaisen petoksen välisestä rajasta on edelleen kysymys. p>
Lyhyellä aikavälillä käyttäjien tietoisuus näyttää olevan etulinjan suoja tekoälyn luomaa roskapostia ja vääriä profiileja vastaan, koska synteettisten henkilöiden havaitsemiseen ja poistamiseen tarkoitettu tekniikka on edelleen käytössä. kehittymässä. Toivomme, että Meta ja vastaavat yritykset voivat kanavoida uusia tekoälyominaisuuksia vastuullisesti sen sijaan, että automatisoidut skriptit ja keinotekoisesti luodut henkilöt laimentavat luottamusta sosiaalisten verkostojen ytimeen.
