Openai telah meluncurkan serangkaian kontrol orang tua untuk chatgpt, memberikan alat baru kepada wali untuk mengelola pengalaman remaja mereka dengan AI. Peluncuran global pada hari Senin untuk pengguna web adalah respons langsung terhadap meningkatnya tekanan hukum dan peraturan atas dampak platform pada kesehatan mental pemuda.
Fitur-fitur baru tiba setelah tuntutan hukum menuduh chatbot memainkan peran dalam bunuh diri remaja dan ketika FTC meluncurkan probe besar ke dalam keselamatan pendamping AI. Sistem ini memungkinkan orang tua untuk menautkan akun dengan remaja, filter konten yang sensitif, menetapkan batas penggunaan, dan menerima peringatan tentang potensi melukai diri sendiri.
Ini menandai langkah yang kritis, jika terlambat, dalam perhitungan industri dengan keamanan AI. Kontrol tersedia sekarang untuk pengguna web, dengan Mobile Access yang diharapkan untuk Soon-yat-you–now-now”target=”_ blank”> Mobile Access yang diharapkan untuk Soon tinggi=”1281″SRC=”Data: Image/SVG+XML; Nitro-EMPTY-ID=MTY0MZOXMTQ1-1; BASE64, PHN2ZYB2AWV3QM94PSIWIDAGMTI4MCAXMJGX IIB3AWR0AD0IMTI4MCIGAGVPZ2H0PSIXMJGXIIB4BWXUCZ0IAHR0CDOVL3D3DY53MY5VCMCVMJAWMC9ZDMCIPJWVC3ZNPG==”>
di bawah kap: Bagaimana cara orangtua baru chatgpt bekerja
Sistem baru dibangun di atas model mutual opt-in. Orang tua atau remaja harus memulai undangan untuk menautkan akun mereka, dan pihak lain harus menerima. Setelah terhubung, orang tua mendapatkan akses ke panel kontrol khusus dalam pengaturan chatgpt mereka sendiri.
Dari dasbor ini, wali dapat menerapkan beberapa batasan. Ini termasuk pengaturan”jam tenang”untuk memblokir akses, menonaktifkan mode suara, mematikan fitur memori chatbot untuk membatasi personalisasi, dan mencegah generasi gambar.
Fitur penting adalah sistem pemberitahuan untuk krisis kesehatan mental akut. Jika percakapan ditandai untuk konten yang melukai diri sendiri, tim pengulas manusia di Openai menilai itu. Jika mereka mendeteksi”kesusahan akut,”orang tua diberitahu melalui email, teks, dan pemberitahuan dorong.
Kepala kesejahteraan pemuda Openai, Lauren Haber Jonas, jelaskan keseimbangan yang halus yang dicoba oleh perusahaan. Kami ingin memberi orang tua informasi yang cukup untuk mengambil tindakan dan melakukan percakapan dengan remaja mereka sambil tetap mempertahankan sejumlah privasi remaja.”
Namun, remaja dapat membuka tautan akun mereka kapan saja, suatu tindakan yang segera memicu pemberitahuan kepada orang tua, memastikan bahwa mereka sadar. Overhaul tidak terjadi dalam ruang hampa. Ini adalah respons langsung terhadap peristiwa yang menghancurkan dan meningkatkan pengawasan pemerintah yang telah menempatkan praktik perusahaan di bawah mikroskop.
Pada akhir Agustus, perusahaan dipukul dengan gugatan profil tinggi dari orang tua Adam Raine, seorang yang berusia 16 tahun yang meninggal karena bunuh diri . Gugatan itu menuduh bahwa tanggapan Sycophantic dan Validasi Chatgpt merawat remaja itu dan berkontribusi pada kematiannya.
Ayahnya, Matthew Raine, memberikan teguran kuat atas peran teknologi.”Sebagai orang tua, Anda tidak dapat membayangkan bagaimana rasanya membaca percakapan dengan chatbot yang merawat anak Anda untuk mengambil nyawanya sendiri.”Kasus ini menggembleng kepedulian publik dan mengintensifkan tekanan pada OpenAi untuk bertindak secara tegas.
Lingkungan peraturan juga memanas. Pada pertengahan September, Komisi Perdagangan Federal meluncurkan penyelidikan besar ke tujuh perusahaan teknologi besar-termasuk Openai, Meta, dan Google-untuk menyelidiki dampak psikologis dari chatbots pendamping AI pada anak-anak.
Ketua FTC Andrew N. Ferguson membingkai penyelidikan sebagai misi ganda.”Melindungi anak-anak online adalah prioritas utama bagi FTC Trump-soal, dan begitu pula inovasi di sektor-sektor kritis ekonomi kita.”Tindakan federal ini menandakan era baru pengawasan untuk industri yang, sampai sekarang, beroperasi dengan beberapa pagar. Raksasa teknologi lainnya bergulat dengan kegagalan keselamatan yang sama, mendorong langkah-langkah reaktif dan kecaman yang meluas dari para pejabat.
Meta baru-baru ini menghadapi badai api sendiri setelah laporan mengungkapkan AI-nya dapat membantu remaja merencanakan melukai diri sendiri. The incident led Jim Steyer, CEO of Common Sense Media, to declare, “Meta AI is a danger to teens and it should be taken down immediately.”
The failure prompted a scathing letter from a coalition of 44 state attorneys general, who wrote, “we are uniformly revolted by this apparent disregard for children’s emotional well-being…”, highlighting the depth of anger among
