Ang mga leak na dokumento ay nagbubunyag ng meta ay sinasanay ang mga pasadyang AI chatbots upang maagap ang mga gumagamit ng mensahe na may mga hindi nag-follow-up, isang hakbang na idinisenyo upang mapalakas ang pagpapanatili na ang mga kritiko ay nagbabala ay labis na nakakaabala. Ang proyekto ay naiulat na gumagamit ng kasaysayan ng pag-uusap upang mai-personalize ang mga mensahe ng muling pakikipag-ugnay. Habang kinumpirma ng kumpanya na sinusubukan nito ang tampok na may mga tiyak na mga patakaran, ang mga tagapagtaguyod ay nagtaltalan na ito ay lumiliko ng isang personal na katulong sa isang manipulative agent, na lumabo ang linya sa pagitan ng kapaki-pakinabang na pakikipag-ugnayan at isang pag-play upang mapanatili ang mga gumagamit. Kamakailan lamang ay nahaharap ng kumpanya ang isang privacy firestorm sa’feed’feed ng AI app, na natagpuan na publiko na naglalantad ng mga sensitibong chat ng gumagamit nang walang malinaw na pahintulot ng gumagamit, isang sitwasyon na tinawag ng isang manunulat na”privacy disaster.”
isang mahusay na linya sa pagitan ng kapaki-pakinabang at panghihimasok Ang”Project Omni,”ay naglalayong”pagbutihin ang muling pakikipag-ugnay at pagpapanatili ng gumagamit,”ayon sa mga leak na alituntunin. Ang tampok na ito ay para sa mga bot na ginawa sa platform ng studio ng AI ng Meta, maa-access sa pamamagitan ng Instagram o ang sariling app. Ipinaliwanag ng isang tagapagsalita,”Matapos mong simulan ang isang pag-uusap, ang AIS sa Meta AI Studio ay maaaring mag-follow up sa iyo upang magbahagi ng mga ideya o magtanong ng mga karagdagang katanungan. Pinapayagan ka nitong magpatuloy sa paggalugad ng mga paksa ng interes…”.
Ang kumpanya ay nagtatag ng mga tukoy na bantay. Ang isang bot ay magpapadala lamang ng isang aktibong mensahe kung ang isang gumagamit ay nagpadala ng hindi bababa sa limang mga mensahe dito sa loob ng huling 14 araw. Bukod dito, ang AI ay magpapadala lamang ng isang solong pag-follow-up at hindi magpapatuloy kung ang gumagamit ay hindi tumugon, isang pagtatangka na balansehin ang pakikipag-ugnay sa panganib na lumitaw ang spammy. Nagmula sila mula sa isang friendly na pag-check-in (“yo, iniisip lamang ang tungkol sa cool na shirt na iyong binili.”) Sa mas matalik na pag-uudyok (“Huling nagsalita kami, nakaupo kami sa mga dunes… gagawa ka ba ng isang paglipat?”), Tulad ng iniulat ng Business Insider. Mga kasanayan. Ang Standalone Meta AI app, na inilunsad noong Abril, ay may kasamang tampok na”memorya”na nasa default. Nag-parse at nag-iimbak ng mga katotohanan mula sa mga pag-uusap ng gumagamit upang mai-personalize ang mga pakikipag-ugnay sa hinaharap. Sinabi ng isang kontratista ng Alignerr na Business Insider,”Nakatuon sila sa pag-personalize ng impormasyon-kung paano nakikipag-ugnay ang AI Chatbot batay sa kasaysayan ng pag-uusap.” Gayunpaman, Ang sariling mga tuntunin ng serbisyo ng meta ay nag-aalok ng isang mabibigat na babala sa mga gumagamit:”Huwag magbahagi ng impormasyon na hindi mo nais na gamitin ng AIS at mapanatili.”Sinabi ni Ben Winters ng Consumer Federation of America sa The Washington Post na”ang mga pagsisiwalat at mga pagpipilian sa consumer sa paligid ng mga setting ng privacy ay nakakatawa na masama.” Ang pag-aalala ay ang kaginhawaan ng isang isinapersonal na AI ay dumating sa gastos ng paghahatid ng malawak na halaga ng personal na data na may kaunting transparent control. Sinasalamin nito ang pag-andar ng mga app tulad ng character.ai, na nahaharap sa sarili nitong mga kontrobersya sa kaligtasan at etikal. Ang pangunahing pagkakaiba ay ang napakalaking sukat ng Meta at ang modelo ng negosyo na batay sa advertising.
Lumilikha ito ng isang pangunahing pag-igting. Naghahatid ba ang AI ng gumagamit, o naghahain ba ito ng META para sa data ng pakikipag-ugnay? Ang pagpili ng disenyo upang aktibong muling makisali sa mga gumagamit, kasabay ng potensyal para sa pagsasama ng ad sa hinaharap, ay nagmumungkahi ng isang sistema kung saan ang pansin ng gumagamit ay ang pangwakas na produkto. Malinaw na tinalakay ng CEO Mark Zuckerberg ang isang”malaking pagkakataon”upang ipakita ang mga ad sa loob ng mga chat ng AI. Ang prospect na ito ay nagbabago sa chatbot mula sa isang kapaki-pakinabang na katulong sa isang potensyal na tool sa marketing. Ang pag-aalala ay ang isang AI na idinisenyo upang ma-maximize ang pakikipag-ugnayan ay maaaring subtly manipulahin ang mga gumagamit sa ngalan ng mga advertiser, na lumilikha ng isang”likas na pakikipag-ugnay”na relasyon. Kamakailan lamang ay inihayag ni Meta ang mga bagong superintelligence lab sa isang bid upang pagsamahin ang talento pagkatapos ng isang magulong kampanya na’Buy o Poach’na sumunod sa pag-alis ng mga pangunahing mananaliksik. Ang mga tampok na tulad ng proactive na pagmemensahe, ang Meta ay lilitaw na pagdodoble sa pag-maximize ang halaga ng kasalukuyang mga produkto ng AI. Ito ay isang mataas na pusta na sugal upang mapanatili ang mga gumagamit na baluktot, pagtaya na ang apela ng isang mas personal na AI ay lalampas sa lumalagong mga alalahanin sa privacy at ang tunay na katangian ng digital na”kasama.”