OpenAI telah melancarkan satu suite kawalan ibu bapa untuk ChatGPT, memberikan alat-alat baru Guardians untuk menguruskan pengalaman remaja mereka dengan AI. Pelancaran global pada hari Isnin untuk pengguna Web adalah tindak balas langsung untuk pemasangan tekanan undang-undang dan pengawalseliaan ke atas kesan platform terhadap kesihatan mental belia.
Ciri-ciri baru tiba selepas tindakan undang-undang yang dikatakan chatbot memainkan peranan dalam bunuh diri remaja dan sebagai FTC melancarkan siasatan utama ke dalam keselamatan AI. Sistem ini membolehkan ibu bapa menghubungkan akaun dengan remaja, menapis kandungan sensitif, menetapkan had penggunaan, dan menerima makluman tentang potensi kecederaan diri.
Ini menandakan kritikal, jika tertunggak, langkah dalam perhitungan industri dengan keselamatan AI. Kawalan tersedia sekarang untuk pengguna web, dengan
Dari papan pemuka ini, Penjaga boleh melaksanakan beberapa sekatan. Ini termasuk menetapkan”jam yang tenang”untuk menyekat akses, melumpuhkan mod suara, mematikan ciri memori chatbot untuk mengehadkan keperibadian, dan menghalang penjanaan imej. Ciri penting adalah sistem pemberitahuan untuk krisis kesihatan mental akut. Sekiranya perbualan ditandakan untuk kandungan kecederaan diri, satu pasukan pengulas manusia di OpenAI menilai ia. Jika mereka mengesan”kesusahan akut,”ibu bapa dimaklumkan melalui e-mel, teks, dan pemberitahuan push.”Kami ingin memberi ibu bapa maklumat yang cukup untuk mengambil tindakan dan mengadakan perbualan dengan remaja mereka sambil mengekalkan beberapa privasi remaja.”tidak berlaku dalam vakum. Ini adalah tindak balas langsung terhadap peristiwa-peristiwa yang dahsyat dan peningkatan pengawasan kerajaan yang telah meletakkan amalan syarikat di bawah mikroskop. href=”https://www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html”target=”_ blank”> yang meninggal dunia akibat bunuh diri Persekitaran pengawalseliaan juga dipanaskan. Pada pertengahan bulan September, Suruhanjaya Perdagangan Persekutuan melancarkan siasatan yang menyapu ke tujuh firma teknologi utama-termasuk Openai, Meta, dan Google-untuk menyiasat kesan psikologi chatbots AI Companion pada kanak-kanak.”Melindungi kanak-kanak dalam talian adalah keutamaan bagi FTC Trump-Vance, dan juga memupuk inovasi dalam sektor kritikal ekonomi kita.”Tindakan persekutuan ini menandakan era pengawasan baru untuk industri yang telah, sehingga kini, beroperasi dengan beberapa pengawal. Gergasi teknologi lain bergelut dengan kegagalan keselamatan yang sama, mendorong langkah-langkah reaktif dan kutukan yang meluas dari pegawai. Kejadian itu membawa Jim Steyer, Ketua Pegawai Eksekutif Common Sense Media, untuk mengisytiharkan,”Meta ai adalah bahaya kepada remaja dan ia harus diturunkan dengan segera.” href=”https://oag.ca.gov/system/files/attachments/press-docs/AI%20Chatbot_FINAL%20%2844%29.pdf” target=”_blank”>state-level regulators. These events underscore a core danger of AI companions: the risk of emotional dependency. Penyelidik Kesihatan Awam Linnea Laestadius telah memberi amaran tentang fenomena ini, sambil menyatakan,”Selama 24 jam sehari, jika kita kecewa dengan sesuatu, kita dapat menjangkau dan mempunyai perasaan kita yang disahkan. Kebimbangan ini adalah penting kepada siasatan FTC dan reka bentuk kawalan baru OpenAI. Walaupun ciri-ciri baru, beberapa pengkritik berhujah sistem opt-in meletakkan beban yang tidak adil pada ibu bapa. OpenAI mengakui ini hanya langkah pertama. Syarikat ini juga membangunkan jangka panjang Sistem umur-prediksi untuk menggunakan tetapan remaja yang sesuai dengan secara automatik. Buat masa ini, industri jam tangan untuk melihat sama ada penjaga guard baru ini cukup. Di bawah tudung: Bagaimana kawalan ibu bapa baru Chatgpt berfungsi