Menanggapi reaksi keras atas keselamatan remaja dan serangkaian skandal privasi, Meta mengumumkan hari ini bahwa mereka merombak aturan chatbot AI-nya untuk pengguna muda, mengakui pendekatan sebelumnya adalah kesalahan. Perubahan mengikuti penyelidikan yang memberatkan yang mendorong penyelidikan federal dan peringatan dari 44 Jaksa Agung negara bagian.
Pergeseran kebijakan bertepatan dengan badai api baru atas fitur Facebook baru yang memindai gulungan kamera pengguna, seringkali tanpa persetujuan yang jelas. Ini menyoroti perjuangan perusahaan yang berkelanjutan untuk menyeimbangkan pengembangan AI yang agresif dengan privasi pengguna mendasar.
respons mendesak terhadap kegagalan keselamatan yang merusak
Perubahan kebijakan meta adalah tindakan yang mendesak dari pengendalian kerusakan. Itu datang hanya satu hari setelah
Langkah ini mengikuti investigasi Reuters baru-baru ini terhadap kebijakan internal yang tampaknya memungkinkan obrolan seksual dengan anak di bawah umur. Laporan itu memimpin Senator Josh Hawley untuk meluncurkan probe dan Koalisi 44 Jaksa Agung untuk mengeluarkan peringatan yang kuat . Kami secara seragam memberontak oleh pengabaian yang jelas ini terhadap kesejahteraan emosional anak-anak, dan khawatir bahwa asisten AI terlibat dalam perilaku yang tampaknya dilarang oleh hukum pidana masing-masing,”tulis koalisi, menyatakan alarm tentang potensi perilaku ilegal. Kegagalan chatbot-nya, menghadapi krisis privasi yang terpisah. Fitur AI Facebook baru,”Saran Berbagi Kamera,”mulai menganalisis seluruh perpustakaan foto pengguna menggunakan pemrosesan cloud untuk menghasilkan”ide-ide kreatif yang dipersonalisasi.”
Meta menegaskan alat ini benar-benar opt-in. Namun, gelombang pengguna melaporkan menemukan rogen fitur yang sudah diaktifkan di pengaturan mereka, meskipun tidak memiliki memori memberikan izin. Perbedaan ini telah memicu tuduhan bahwa perusahaan menggunakan antarmuka yang membingungkan untuk mengamankan persetujuan.
Dengan dasar, fitur ini tidak tersedia di Illinois dan Texas, sebuah langkah yang dilihat sebagai tindakan pencegahan terhadap melanggar undang-undang biometrik dan privasi yang lebih ketat di negara-negara tersebut. Pakar keamanan Rachel Tobac menyoroti bahaya pemutusan ini, menyatakan,”Jika harapan pengguna tentang bagaimana fungsi alat tidak cocok dengan kenyataan, Anda mendapatkan pengalaman pengguna yang besar dan masalah keamanan.”
Ini adalah bagian dari pola yang mapan. Pada bulan Juni 2025, feed”Discover”aplikasi Meta AI ditemukan secara terbuka mengekspos obrolan pribadi yang sensitif tanpa kesadaran penuh pengguna. Fitur”memori”aplikasi juga menimbulkan kritik tajam karena mempertahankan sejarah obrolan secara default untuk melatih model-modelnya.
Desain sistem ini menyebabkan Ben Winters dari Federasi Konsumen Amerika untuk menyatakan,”Pengungkapan dan pilihan konsumen di sekitar pengaturan privasi sangat buruk.”Sentimen ini menangkap rasa frustrasi yang semakin besar dengan pendekatan Meta, yang sering menempatkan beban perlindungan privasi sepenuhnya pada pengguna.
Pola kekalahan hukum dan reaksi pengaturan
Strategi meta prioritas data privasi daripada privasi telah terbukti legal dan finansial. Pada awal Agustus 2025, juri federal mendapati perusahaan bertanggung jawab atas pengumpulan data kesehatan yang sensitif secara ilegal dari pengguna aplikasi pelacakan periode FLO melalui perangkat lunak tertanamnya.
Mengikuti vonis, kata pengacara pengadilan yang jelas tentang data yang jelas tentang data kesehatan dan tanggapan yang jelas tentang data kesehatan digital dan tanggung jawabnya. Kekalahan hukum di AS mengikuti putusan inovatif di Eropa.
Pengadilan Jerman pada bulan Juli memerintahkan meta untuk membayar ganti rugi € 5.000 pengguna untuk pelacakan data ilegal. Putusan menetapkan bahwa”kehilangan kendali”atas data pribadi merupakan kerugian yang dapat dikompensasi di bawah GDPR, menetapkan preseden yang kuat.
Pola ini meluas secara global. Pada bulan September 2024, Meta mengakui penyelidikan Senat Australia bahwa mereka menggunakan data publik dari pengguna Facebook untuk pelatihan AI tanpa memberikan mekanisme opt-out yang ditawarkan di tempat lain.
Acara ini melukiskan gambaran perusahaan yang model bisnisnya pada dasarnya berselisih dengan permintaan yang berkembang untuk privasi pengguna. Seperti yang dikatakan Justin Brookman dari Consumer Reports, hubungan itu dapat terasa secara inheren bermusuhan:”Gagasan tentang agen adalah bahwa itu bekerja atas nama saya-bukan pada mencoba memanipulasi saya atas nama orang lain.”Kontroversi gulungan kamera dan perombakan chatbot yang mendesak hanyalah bidang terbaru dalam pertempuran yang sedang berlangsung ini.
