A
kiszivárogtatott dokumentumok feltárják, hogy a Meta egyéni AI chatbotjait képzi, hogy proaktív módon üzenetet küldjenek a felhasználóknak a nem egységes nyomon követéssel, egy olyan lépés, amelynek célja a megtartás fellendítése, amelyet a kritikusok figyelmeztetnek. A projekt állítólag a beszélgetés előzményeit használja az újratelepítési üzenetek személyre szabására. Miközben a vállalat megerősítette, hogy a funkciót konkrét szabályokkal teszteli, az ügyvédek azzal érvelnek, hogy egy személyes asszisztenst manipulációs ügynökré változtatja, elmossa a vonalat a hasznos elkötelezettség és a játék között, hogy a felhasználókat bekapcsolja. A társaság nemrégiben egy adatvédelmi tűzviharral szembesült az AI alkalmazás „Discover” hírcsatornájával kapcsolatban, amelyről azt találták, hogy egyértelmű felhasználói beleegyezés nélkül nyilvánosságra hozták az érzékeny felhasználói csevegést, ezt a helyzetet egy író „adatvédelmi katasztrófának” nevezte.
Finom vonal a segítőkész és zavaró
a kezdeményezés Meta saját szolgáltatási feltételei Kényelmes figyelmeztetést kínálnak a felhasználók számára: „Ne ossza meg az AIS felhasználását és megtartását.”
Ez a megközelítés éles kritikát vonz a magánszemélyek szakértőiből. Ben Winters, az Amerikai Fogyasztói Szövetség, a The Washington Postnak elmondta, hogy „a magánélet körüli beállítások körüli közzétételek és a fogyasztói választások nevetségesen rosszak”. Az aggodalomra ad okot, hogy a személyre szabott AI kényelme a hatalmas mennyiségű személyes adat átadásának költségén áll, amely kevés átlátható ellenőrzéssel rendelkezik. Tükrözi az olyan alkalmazások funkcionalitását, mint például a caracter.ai, amely a saját biztonsági és etikai vitáival szembesült. A legfontosabb különbség a Meta hatalmas skála és hirdetési alapú üzleti modellje.
Ez alapvető feszültséget okoz. Az AI kiszolgálja a felhasználót, vagy szolgálja-e a META-nak az elkötelezettség-adatokra? A felhasználók proaktív újbóli bevonásának tervezése, valamint a jövőbeni hirdetési integráció lehetősége, egy olyan rendszert javasol, amelyben a felhasználó figyelme a végső termék. Mark Zuckerberg vezérigazgató nyíltan megvitatta egy „nagy lehetőséget”, hogy hirdetéseket mutasson az AI csevegésekben. Ez a kilátás átalakítja a chatbotot egy hasznos asszisztensről potenciális marketing eszközré. Az aggodalom az, hogy az elkötelezettség maximalizálására szolgáló AI finoman manipulálhatja a felhasználókat a hirdetők nevében, és „eredendően versengő” kapcsolatot hozhat létre. A Meta nemrégiben bejelentette új Superintelligence laboratóriumait annak érdekében, hogy konszolidálja a tehetségeket egy kaotikus „vásárlási vagy orvosteljesítmény” után, amely a kulcsfontosságú kutatók távozását követi. A proaktív üzenetküldéshez hasonlóan úgy tűnik, hogy a Meta megduplázódik a jelenlegi AI termékek értékének maximalizálásával. Ez egy magas tétű játék, hogy a felhasználókat bekapcsolják, és azt fogadják, hogy egy személyesebb AI vonzereje meghaladja a magánélet és a digitális „társ” valódi természetének növekvő aggodalmait.