Vuotoiset asiakirjat paljastavat, että Meta kouluttaa mukautettuja AI-chatbotteja proaktiivisesti viestien käyttäjille, joilla on käsittämättömät seuranta, siirto, jonka tarkoituksena on parantaa säilyttämistä, että kriitikot varoittavat syvästi häiritseviä. Projekti on ilmoitettu käyttävän keskusteluhistoriaa uudelleen sitoutumisviestien mukauttamiseen. Vaikka yritys vahvisti, että se testaa ominaisuutta tietyillä säännöillä, puolustajat väittävät, että se muuttaa henkilökohtaisen avustajan manipuloivaksi edustajaksi, hämärtäen linjan hyödyllisen sitoutumisen ja pelin välillä, jotta käyttäjät pitävät koukussa.
Tämä kehitys laskeutuu META: n AI-tuotteiden jatkuvan tarkastelun keskellä. Yhtiö kohtasi äskettäin yksityisyyden suojaa varten AI-sovelluksensa”Discover”-syötteessä, jonka todettiin julkisesti paljastavan arkaluontoisia käyttäjäkeskusteluja ilman selkeää käyttäjän suostumusta, tilannetta, joka oli yksi kirjoittaja nimeltään “yksityisyyskatastrofi”.
Hieno viiva hyödyllisen ja häiritsevän
Meta vahvistettu TechCrunkille, että se testaa seurantaviestit. Tiedottaja selitti: “Kun olet aloittanut keskustelun, AI: t Meta AI-studiossa voi seurata sinua jakamaan ideoita tai esittämään lisäkysymyksiä. Tämän avulla voit jatkaa kiinnostavien aiheiden tutkimista…”. BOT lähettää ennakoivan viestin vain, jos käyttäjä on lähettänyt siihen vähintään viisi viestiä viimeisen 14 päivän aikana. Lisäksi AI lähettää vain yhden seurannan eikä jatku, jos käyttäjä ei vastaa, yritetään tasapainottaa sitoutumista roskapostin esiintymisen riskiin.
Vuotavat Aliengerr-asiakirjat antoivat useita esimerkkejä näistä proaktiivisista viesteistä. He vaihtelivat ystävällisestä sisäänkirjautumisesta (“yo, ajatteli vain ostamasi viileää paitaa.”) Intiimempiin kehotuksiin (“Viimeksi puhuimme, olimme istuneet dyynillä… teketkö liikkeen?”), Kuten Business Insider on ilmoittanut. käytännöt. Huhtikuussa käynnistetty itsenäinen meta AI-sovellus sisältää oletuksena “muisti”-ominaisuuden. Se jäsentää ja tallentaa käyttäjäkeskustelujen tosiasiat tulevien vuorovaikutusten mukauttamiseen.
Tämä tiedonkeruu on keskeinen osa yrityksen AI-strategiaa. Yksi Alignerr-urakoitsija kertoi Business Insiderille:”He ovat keskittyneet hyvin tiedon mukauttamiseen-kuinka AI-chatbot on vuorovaikutuksessa keskusteluhistorian perusteella.” Meta-palvelut Tarjoa karkean varoituksen käyttäjille:”Älä jaa tietoja, joita et halua AIS: n käyttävän ja säilyttämään.”Amerikan kuluttajaliiton Ben Winters kertoi The Washington Postille, että”tietosuoja-asetusten ympärillä olevat ilmoitukset ja kuluttajavalinnat ovat naurettavan huonoja”. Huolenaihe on, että henkilökohtaisen AI: n mukavuus on kustannuksella, joka luovuttaa valtavia määriä henkilötietoja, joilla on vähän läpinäkyvää hallintaa.