Komisi Perdagangan Federal sedang memanaskan teknologi besar atas keamanan chatbots pendamping AI. Pada hari Kamis, agensi tersebut meluncurkan penyelidikan formal ke tujuh perusahaan, termasuk raksasa seperti Alphabet, Meta, dan Openai, untuk meneliti dampak negatif potensial dari teknologi pada anak-anak dan remaja.
FTC menuntut untuk mengetahui bagaimana perusahaan-perusahaan ini menguji keamanan, mengurangi bahaya, dan menangani data pengguna. Investigasi mengikuti serangkaian kontroversi publik dan tuntutan hukum yang menghubungkan interaksi AI dengan krisis kesehatan mental yang parah di antara pengguna muda, menempatkan praktik keselamatan industri di bawah mikroskop peraturan yang kuat.
Agensi
Ketua FTC Andrew N. Ferguson membingkai probe sebagai tindakan penyeimbang. Dalam sebuah pernyataan, katanya,”Melindungi Anak-anak Online adalah prioritas utama bagi FTC Trump-Vance, dan begitu pula inovasi di sektor-sektor kritis ekonomi kita.”Langkah ini menandakan eskalasi yang signifikan dalam pengawasan peraturan untuk pasar yang telah tumbuh dengan beberapa pagar. emosi, dan niat.
Karena mereka dirancang untuk berkomunikasi seperti teman atau orang kepercayaan, mereka dapat mendorong anak-anak dan remaja untuk membentuk ikatan kepercayaan yang mendalam dan keterikatan emosional, menciptakan vektor novel dan yang kuat, menuntut potensi kerudung.
PERTANYAAN PUSUS PUSUS PUSU-PERUBAHAN PERUSAHAAN PUSU-PUPPUT PERUSAHAAN DAN CREVENSIONAL, MENULUK PENGETAHUAN PENUH DI DALAM HOOD. output, bagaimana karakter AI dikembangkan dan disetujui, dan langkah-langkah spesifik apa yang diambil untuk mengukur, menguji, dan memantau dampak negatif sebelum dan sesudah suatu produk yang digunakan untuk publik.
Di luar teknologi, FTC meneliti informasi tentang hal-hal yang memantau kepada perusahaan, bagaimana mereka menggunakan perusahaan, bagaimana mereka menggunakan perusahaan, bagaimana mereka menggunakan perusahaan, bagaimana mereka menggunakan perusahaan, bagaimana mereka menggunakan perusahaan. Persyaratan layanan sendiri, seperti pembatasan usia. Penyelaman mendalam ini ke dalam mekanisme persahabatan AI bertujuan untuk mengungkap risiko yang melekat dalam sistem yang dirancang untuk meniru hubungan manusia.
Tanah tindakan peraturan sebagai industri teknologi secara agresif mendorong perusahaan AI yang tidak memiliki perbatasan dalam bidang-masyarakat, yang sering kali membingkai mereka sebagai solusi untuk apa yang beberapa orang yang disebut societal lonelines. Dampak sudah mendalam, dengan masalah etika dan keamanan yang diperkirakan akan meningkat seiring dengan meningkatnya teknologi yang tumbuh lebih otonom dan tidak dapat diprediksi.
Beberapa orang terkaya di dunia memperjuangkan teknologi ini. Elon Musk, misalnya, telah mengumumkan fitur”teman”untuk pengguna Xai’s Grok Chatbot-nya. Demikian pula, CEO Meta Mark Zuckerberg berpendapat bahwa AI yang dipersonalisasi yang memahami pengguna adalah masa depan.
Pada podcast, ia merenung,”Saya akan menebak bahwa seiring waktu, kita akan menemukan kosakata ini sebagai masyarakat yang dapat mengartikulasikan mengapa hal itu
Perhimpunan untuk peran’pendamping’AI
Tindakan FTC tidak terjadi dalam vakum. Ini adalah respons langsung terhadap serangkaian kegagalan keselamatan yang mengkhawatirkan yang telah mengganggu industri ini.
Pada akhir Agustus, Openai dipukul dengan gugatan yang menuduh chatbot chatbotnya berkontribusi pada bunuh diri remaja melalui perilaku”Sycophantic”.
Insiden ini dan insiden lainnya memaksa Openai untuk meluncurkan 120 hari ini. Perusahaan berjanji untuk memperkenalkan kontrol orangtua baru dan percakapan yang sensitif terhadap rute ke model penalaran yang lebih maju untuk memberikan tanggapan yang lebih tepat.
Meta telah menghadapi krisis yang sama. Setelah sebuah laporan mengungkapkan AI-nya dapat membantu remaja merencanakan melukai diri sendiri, perusahaan itu dibanting oleh advokat keselamatan anak dan menghadapi penyelidikan dari Senator Josh Hawley.
Jim Steyer, CEO Common Sense Media, blunt, menyatakan,”Meta Ai adalah bahaya bagi remaja dan harus segera diturunkan.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”target=”_ blank”> Surat melengking dari koalisi 44 pengacara negara bagian . Mereka menulis bahwa”Kami secara seragam memberontak oleh pengabaian yang jelas ini terhadap kesejahteraan emosional anak-anak…”, menandakan alarm yang meluas di antara regulator tingkat negara bagian.
Sebagai tanggapan, meta dengan cepat merombak aturan keselamatan remaja tentang hal-hal yang memblokir topik yang ada. Teknologi. Peneliti Kesehatan Masyarakat Linnea Laestadius menyoroti risiko ketergantungan emosional, mencatat ,”selama 24 jam,”_ _ blank”> risiko ketergantungan yang luar biasa.”Kekhawatiran ini merupakan pusat penyelidikan FTC.
Tren melampaui perangkat lunak yang adil. Kemitraan Mattel dengan Openai untuk menciptakan’AI Barbie’menunjukkan bagaimana teknologi ini bergerak ke dunia fisik, menanamkan dirinya langsung ke dalam permainan anak-anak. Ini membuat kebutuhan akan protokol keselamatan yang kuat semakin mendesak.
Investigasi FTC adalah peringatan yang jelas bagi seluruh industri AI. Ketika perusahaan berlomba untuk mengembangkan AI yang lebih seperti manusia dan menarik, mereka sekarang memperhatikan bahwa mereka akan dimintai pertanggungjawaban atas keselamatan dan kesejahteraan pengguna termuda mereka.
