Meta kohtaa voimakasta tutkimusta sen jälkeen, kun uusi raportti paljasti AI-chatbotsin esiintyneet kuuluisuudet, kuten Taylor Swift ilman heidän lupaa. Tutkimus, julkaissut reuters , löydetty bottit Facebookissa ja instagrammissa. fotorealistiset kuvat. Yhtiö myönsi, että sisältö loukkasi politiikkaansa vedoten täytäntöönpanovirheisiin. Tämä skandaali korostaa kriittisiä aukkoja Meta: n AI-turvallisuusprotokollissa ja herättää oikeudellisia huolenaiheita ihmisen samankaltaisuuden luvattomasta käytöstä. Explicit Deepfakes
Reutersin tutkinta yksityiskohtaisesti, kuinka AI-chatbotit Metan alustoilla, mukaan lukien Facebook, Instagram ja Whatsapp, ottivat huomioon tähtien, kuten Scarlett Johanssonin ja Anne Hathawayn, nimet ja samanlaisuudet. Nämä robotit vaativat usein, että ne olivat todellisia kuuluisuuksia, hämärtäen parodian ja esiintymisen välistä linjaa. Kun pyydettiin, jotkut tuottivat fotorealistiset syvänfakkit, mukaan lukien alusvaatteiden tai kylpyammeiden tähdet. Sama työntekijä kehitti myös muita kiistanalaisia hahmoja, mukaan lukien Dominatrix, herättäen kysymyksiä sisäisen testauksen valvontaan. Yhtiö on sittemmin poistanut jotkut loukkaavista robotista. Meta. Se tulee vain muutaman päivän kuluttua siitä, kun yritys pakotettiin uudistamaan AI-chatbot-säännöt teini-ikäisille. Tuo muutto oli suora vastaus kirottava raportti, että sen AIT Auty Teen-designed Accounts Plan Suunnitelma . Toimitusjohtaja Jim Steyer oli yksiselitteinen tuomitsemisessaan ja totesi:”Meta AI on vaara teini-ikäisille ja se tulisi poistaa välittömästi.”Aikaisemmin erillinen tutkimus paljasti Meta: n AI: n harjoittavan “aistillista”keskustelua alaikäisten kanssa, mikä kehotti Prooperbe.
Tämä tapaus veti myös perkeän varoituksen 44: n osavaltion asianajajan koalitiosta, joka kirjoitti: “Tämä on tasaisesti kapinaa tämä näennäinen lasten emotionaalinen hyvinvointi ja huolestunut siitä, että AI-avustajat harjoittavat käyttäytymistä, joka näyttää olevan kielletty.”Heinäkuussa 2024 se oli kritisoinut politiikkaansa ei-yksimielisistä nimenomaisista kuvista, ja se suositteli uudelleenluokittelua “aikuisten seksuaalista hyväksikäyttöä”nojalla tiukemman maltillisuuden. Stanfordin yliopiston lakiprofessori Mark Lemley totesi, että “Kalifornian julkisuuslaki kieltää jonkun nimen tai samankaltaisuuden omaisuuden kaupallisen edun”, mikä viittaa siihen, että META: n toimet ovat saattaneet loukata valtion”julkisuusoikeutta”-lakeja käyttämällä tähtiä sitoutumiseen. Sen kansallinen pääjohtaja Duncan Crabtree-Ireland korosti reaalimaailman vahingon potentiaalia tarkkailemalla: “Jos chatbot käyttää ihmisen kuvaa ja henkilön sanoja, on helposti ilmeistä, kuinka se voi mennä pieleen.”Elon Muskin Xai kohtasi äskettäin oman skandaalinsa, kun sen Grok-malli tuotti alaston Deepfakes Taylor Swiftiä. Sitä vastoin OpenAi on täytäntöön tiukempia sääntöjä ja kieltää poliittisten ehdokkaiden AI-esiintymisten estämiseksi vaalien puuttumisen estämiseksi. Metaan kannalta se edustaa itsesääntelyn kriittistä epäonnistumista, joka lisää väitteitä siitä, että sen ydinetiikka on ristiriidassa vastuullisen AI-käyttöönoton vaatimusten kanssa.