Documentele scurse dezvăluie că Meta își antrenează chatbot-urile AI personalizate pentru a-i trimite pe utilizatori proactivi cu urmăriri nepromate, o mișcare concepută pentru a stimula retenția pe care criticii o avertizează este profund intruzivă. Se pare că proiectul folosește istoricul conversației pentru a personaliza mesajele de reangajare.
Această strategie escaladează problemele de confidențialitate existente cu privire la modul în care Meta gestionează datele utilizatorilor. În timp ce compania a confirmat că testează funcția cu reguli specifice, avocații susțin că transformă un asistent personal într-un agent manipulator, estompând linia dintre implicarea utilă și un joc pentru a menține utilizatorii agățați. Compania s-a confruntat recent cu o furtună de confidențialitate asupra feedului „Discover” al aplicației sale AI, care s-a constatat că expune public chat-urile de utilizator sensibile fără consimțământul clar al utilizatorilor, o situație pe care un scriitor a numit-o „dezastru de confidențialitate”.
A Fine Line Between Helpful and Intrusive
The initiative, known internally to data labeling firm Alignerr as „Proiectul Omni”, își propune să „îmbunătățească reangajarea și păstrarea utilizatorilor”, conform orientărilor scurse. Funcția este pentru roboții realizate în platforma AI Studio Meta, accesibilă prin Instagram sau propria aplicație.
meta confirmată pentru TechCrunch că testează mesageria de urmărire. Un purtător de cuvânt a explicat: „După ce inițiați o conversație, AIS în Meta AI Studio poate urmări cu dvs. pentru a împărtăși idei sau a pune întrebări suplimentare. Acest lucru vă permite să continuați să explorați subiecte de interes…”Un bot va trimite un mesaj proactiv numai dacă un utilizator i-a trimis cel puțin cinci mesaje în ultimele 14 zile. În plus, AI va trimite o singură monitorizare și nu va continua dacă utilizatorul nu răspunde, o încercare de a echilibra implicarea cu riscul de a apărea spammy.
Documentele de aliniere scurse au furnizat mai multe exemple ale acestor mesaje proactive. Au variat de la o check-in prietenoasă („Yo, se gândea doar la cămașa cool pe care ai cumpărat-o.”) La prompturi mai intime („Ultima am vorbit, am fost așezați pe dune… Vei face o mișcare?”), După cum a raportat Business Insider.
datele dvs., reținerea lor: compensarea confidențialității este încorporată pe Metad>
această nouă capacitate de proactivitate, încorporată în Meta. practici. Aplicația AI META STREDALONE, lansată în aprilie, include o caracteristică „memorie” care este activată în mod implicit. Acesta analizează și stochează fapte din conversațiile utilizatorilor pentru a personaliza interacțiunile viitoare.
Această colecție de date este o componentă de bază a strategiei AI a companiei. Un contractant alignerr a declarat pentru Business Insider: „Sunt foarte concentrați pe personalizarea informațiilor-modul în care Chatbot-ul AI interacționează pe baza istoricului conversației”. Cu toate acestea, Termenii proprii ai meta-ului Oferă un avertisment accentuat utilizatorilor: „Nu împărtășiți informații pe care nu doriți să le utilizeze AIS și să păstreze. Ben Winters de la Federația Consumatorilor din America a declarat pentru The Washington Post că „dezvăluirile și alegerile consumatorilor în jurul setărilor de confidențialitate sunt proaste proaste”. Preocuparea este că comoditatea unei AI personalizate costă predarea unor cantități vaste de date cu caracter personal, cu puțin control transparent.
un agent „adversar” din DMS-ul dvs.
Strategia de a crea chatbots, asemănătoare cu însoțitorul, nu este nouă. Oglindește funcționalitatea aplicațiilor precum caracterul.ai, care s-a confruntat cu propriile sale controverse de siguranță și etică. Diferența cheie este scara enormă a meta și modelul său de afaceri bazat pe publicitate.
Acest lucru creează o tensiune fundamentală. AI servește utilizatorului sau servește nevoia meta-ului de date de implicare? Alegerea proiectării pentru reangajarea proactivă a utilizatorilor, însoțită de potențialul de integrare a anunțurilor viitoare, sugerează un sistem în care atenția utilizatorului este produsul final.
potențialul acestor interacțiuni AI pentru a alimenta viitoarele campanii publicitare este o preocupare majoră pentru paznicii de confidențialitate. CEO-ul Mark Zuckerberg a discutat în mod deschis că a văzut o „mare oportunitate” de a arăta reclame în cadrul chat-urilor AI. Această perspectivă transformă chatbot-ul de la un asistent util într-un potențial instrument de marketing.
Justin Brookman de la Consumer Reports a articulat această teamă, afirmând: „Ideea unui agent este că funcționează în numele meu-nu la încercarea de a mă manipula în numele altora.” Îngrijorarea este că o AI concepută pentru a maximiza implicarea ar putea manipula în mod subtil utilizatorii în numele agenților de publicitate, creând o relație „în mod inerent adversar”.
apăsarea pentru caracteristici precum mesageria proactivă se întâmplă pe un fundal de o presiune internă imensă. Meta și-a anunțat recent noile laboratoare de superinteligență, în încercarea de a consolida talentul după o campanie haotică de „cumpărare sau poach” care a urmat plecarea cercetătorilor cheie.
Această impuls pentru o implicare mai profundă vine ca Meta navigează aceste lupte interne semnificative, inclusiv o scurgere de talente de la echipele sale de bază AI și luptele de dezvoltare care au lansat următorul său „Behemoth”. Caracteristici precum mesagerie proactivă, Meta pare să se dubleze la maximizarea valorii produselor sale actuale AI. Este un joc de miză mare pentru a menține utilizatorii agățați, pariază că apelul unui AI mai personal va depăși preocupările din ce în ce mai mari cu privire la confidențialitate și adevărata natură a „însoțitorului digital”.
