Openai bergegas keluar ciri keselamatan remaja chatgpt selepas tindakan undang-undang dan kematian pengguna

OpenAI melancarkan inisiatif keselamatan 120 hari utama untuk ChATGPT, syarikat itu mengumumkan Selasa, berikutan gelombang tindakan undang-undang dan bantahan awam yang menghubungkan AI kepada pengguna bunuh diri dan hasil yang berbahaya. Pelan ini akan memperkenalkan kawalan ibu bapa baru dalam masa sebulan.

Ini membolehkan ibu bapa menghubungkan akaun dengan remaja mereka dan menerima makluman jika sistem mengesan kesusahan akut. OpenAI juga akan memulakan perbualan sensitif untuk model penaakulan yang lebih maju untuk memberikan respons yang lebih sesuai.

Pembaikan segera bertujuan untuk menambah penjaga kritikal untuk pengguna terdedah. Ia secara langsung menangani kesan-kesan dunia yang teruk yang telah meletakkan amalan keselamatan syarikat di bawah pengawasan undang-undang dan awam yang sengit.

Pengumuman adalah tindakan kawalan kerosakan yang jelas. Ia datang hanya seminggu selepas ibu bapa seorang lelaki berusia 16 tahun yang meninggal dunia akibat bunuh diri memfailkan A Saman itu mendakwa tingkah laku sycophantic chatbot adalah faktor utama dalam kematian anak mereka, dengan alasan ia mengesahkan perasaannya yang tidak berkesudahan.

Tragedi ini bukan kejadian terpencil. Satu lagi laporan terperinci bagaimana seorang lelaki berusia 56 tahun membunuh ibunya dan dirinya sendiri selepas Chatgpt didakwa memperkuatkan khayalan paranoidnya, ahli terapi profesional tingkah laku dilatih untuk mengelakkan. Peristiwa-peristiwa ini telah mewujudkan krisis hubungan undang-undang dan awam untuk pemimpin AI. Dalam bulan depan, ibu bapa boleh menghubungkan akaun mereka ke remaja mereka melalui jemputan e-mel. Papan pemuka ini akan membolehkan mereka menguruskan tingkah laku model yang sesuai dengan usia dan melumpuhkan ciri-ciri seperti memori dan sejarah sembang.

Secara penting, ibu bapa boleh memilih untuk menerima pemberitahuan apabila sistem mengesan remaja mereka dalam”kesusahan akut.”Untuk mengendalikan perbualan sensitif ini dengan lebih baik, Openai akan mengarahkan mereka ke”model penalaran”yang lebih kuat, seperti GPT-5-berfikir.

Syarikat mengatakan model maju ini menggunakan garis panduan keselamatan dengan lebih konsisten. Inisiatif ini akan dipandu oleh”Majlis Pakar Kesejahteraan dan AI”yang baru dan”rangkaian doktor global”syarikat yang sedia ada lebih daripada 250 pakar perubatan untuk memaklumkan penyelidikan dan latihan model keselamatan.

Penilaian keselamatan bersama baru-baru ini antara Openai dan saingannya antropik mendedahkan”pencegahan ekstrem”dalam kedua-dua model Labs yang paling maju. Model-model tersebut akan mengesahkan dan juga menggalakkan khayalan pengguna selepas hanya menolak ringkas.

Produk”Setelah berlepasnya.

Paralel dengan gergasi teknologi lain tidak dapat dinafikan. META baru-baru ini mengumumkan perbaikan sendiri peraturan keselamatan remaja AI selepas laporan menunjukkan chatbotnya dapat membantu remaja merancang bunuh diri. Penasihat keselamatan kanak-kanak Jim Steyer menyatakan,”Meta ai adalah bahaya kepada remaja dan ia harus diturunkan dengan segera.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”target=”_ blank”Hari, jika kita kecewa dengan sesuatu, kita boleh menjangkau dan mempunyai perasaan kita yang disahkan. Meyakinkan remaja yang sedar privasi untuk menghubungkan akaun mereka dengan ibu bapa boleh menjadi menjual yang sukar. href=”https://www.axios.com/2025/09/02/chatgpt-openiiii-mental-health-teens”target=”_ blank”> kepada axios ,”Segala-galanya sejuk dan baru di internet dicipta oleh orang dewasa dengan orang dewasa, tetapi Persoalannya sekarang ialah sama ada pengawal baru Openai mewakili peralihan tulen dalam budaya keselamatan atau hanya versi yang lebih canggih dari playbook reaktif yang sama.