Dokumen yang bocor mendedahkan META sedang melatih chatbots AI adatnya untuk pengguna mesej secara proaktif dengan susulan yang tidak disokong, satu langkah yang direka untuk meningkatkan pengekalan bahawa pengkritik memberi amaran sangat mengganggu. Projek ini dilaporkan menggunakan sejarah perbualan untuk memperibadikan mesej penglibatan semula.
Strategi ini meningkatkan kebimbangan privasi yang ada mengenai bagaimana meta mengendalikan data pengguna. Walaupun syarikat itu mengesahkan bahawa ia sedang menguji ciri dengan peraturan tertentu, Peguambela berhujah ia menjadi pembantu peribadi menjadi ejen manipulatif, mengaburkan garis antara penglibatan yang berguna dan bermain untuk memastikan pengguna ketagih.
Syarikat itu baru-baru ini menghadapi kebakaran privasi atas suapan’Discover’AI App, yang didapati secara terbuka mendedahkan sembang pengguna sensitif tanpa persetujuan pengguna yang jelas, satu situasi yang disebut”privasi bencana.”Garis halus antara berguna dan mengganggu
the
Meta mengesahkan kepada TechCrunch bahawa ia sedang menguji pemesejan susulan. Jurucakap menjelaskan,”Selepas anda memulakan perbualan, AIS di Meta AI Studio boleh menindaklanjuti dengan anda untuk berkongsi idea atau bertanya soalan tambahan. Ini membolehkan anda terus meneroka topik yang menarik…”. Bot hanya akan menghantar mesej proaktif jika pengguna telah menghantar sekurang-kurangnya lima mesej kepadanya dalam tempoh 14 hari yang lalu. Selain itu, AI hanya akan menghantar satu susulan dan tidak akan diteruskan jika pengguna tidak bertindak balas, percubaan untuk mengimbangi penglibatan dengan risiko muncul spammy. Dokumen Alignerr yang bocor menyediakan beberapa contoh mesej proaktif ini. Mereka berkisar dari daftar masuk yang mesra (“Yo, hanya memikirkan baju sejuk yang anda beli.”) Untuk mendapatkan lebih intim yang intim (“Terakhir kami bercakap, kami duduk di atas bukit-bukit pasir… adakah anda akan bergerak?”), Seperti yang dilaporkan oleh orang dalam perniagaan. amalan data. Aplikasi Meta AI yang berdiri sendiri, yang dilancarkan pada bulan April, termasuk ciri”memori”yang dihidupkan secara lalai. Ia menghidupkan dan menyimpan fakta dari perbualan pengguna untuk memperibadikan interaksi masa depan. Pengumpulan data ini adalah komponen teras strategi AI syarikat. Satu kontraktor Alignerr memberitahu Business Insider,”Mereka sangat tertumpu kepada maklumat peribadi-bagaimana chatbot AI berinteraksi berdasarkan sejarah perbualan.” Walau bagaimanapun,
Ini mewujudkan ketegangan asas. Adakah AI melayani pengguna, atau adakah ia melayani keperluan meta untuk data pertunangan? Pilihan reka bentuk untuk pengguna yang terlibat semula secara proaktif, ditambah pula dengan potensi untuk integrasi iklan masa depan, mencadangkan sistem di mana perhatian pengguna adalah produk utama. Ketua Pegawai Eksekutif Mark Zuckerberg secara terbuka membincangkan melihat”peluang besar”untuk menunjukkan iklan dalam sembang AI. Prospek ini mengubah chatbot dari pembantu yang membantu menjadi alat pemasaran yang berpotensi. Kebimbangan adalah bahawa AI yang direka untuk memaksimumkan penglibatan boleh memanipulasi pengguna secara halus bagi pihak pengiklan, mewujudkan hubungan”sememangnya musuh”. META baru-baru ini mengumumkan makmal superintelligence barunya dalam usaha untuk menyatukan bakat selepas kempen’membeli atau poach’yang huru-hara yang mengikuti pemergian penyelidik utama. Pemesejan proaktif, Meta nampaknya menggandakan untuk memaksimumkan nilai produk AI semasa. Ia adalah perjudian yang tinggi untuk memastikan pengguna ketagih, bertaruh bahawa rayuan AI yang lebih peribadi akan melebihi kebimbangan yang semakin meningkat terhadap privasi dan sifat sebenar”teman”digital.
