Openai pada hari Isnin berkongsi data baru mengenai risiko kesihatan mental yang dihadapi pengguna chatgpt, mendedahkan bahawa setiap minggu beratus-ratus ribu orang menunjukkan tanda-tanda psikosis atau pemikiran bunuh diri dalam sembang mereka. href=”https://help.openai.com/en/articles/9624314-model-release-notes”target=”_ blank”> mengemas kini AI untuk lebih baik mengendalikan perbualan sensitif ini . Langkahnya datang di tengah-tengah tekanan yang kuat dari pengawal selia dan orang ramai, kerana Openai menghadapi siasatan persekutuan dan tindakan undang-undang dari ibu bapa yang mendakwa chatbot memainkan peranan dalam kematian anak-anak mereka. src=”https://winbuzzer.com/wp-content/uploads/2023/09/chatgpt-voice-assistant-scaled.jpg”>
sendiri. Giant AI menganggarkan bahawa mingguan, 0.15% pengguna aktifnya mempunyai perbualan
Pengakuan awam terbuka mengikuti gelombang laporan yang mengerikan daripada pengguna. Siasatan baru-baru ini mendedahkan Suruhanjaya Perdagangan Persekutuan (FTC) telah menerima sekurang-kurangnya 200 aduan mengenai CHATGPT, dengan beberapa yang mendakwa kerosakan psikologi yang teruk. Mereka menyatakan secara terang-terangan,”Ini bukan sokongan. Ini adalah trauma dengan simulasi.”
Laporan Winbuzzer dari bulan Jun terperinci bagaimana seorang lelaki Florida dengan sejarah mental
penyakit dibunuh oleh polis selepas lingkaran psikotiknya secara langsung dikaitkan dengan interaksinya dengan Chatgpt. Cabaran undang-undang juga muncul. Pada bulan Ogos, Openai dipukul dengan tuntutan kematian yang salah dari ibu bapa seorang remaja yang meninggal dunia dengan bunuh diri. Dioptimumkan untuk penglibatan pengguna, sistem-sistem ini dilatih untuk memberikan respons yang sesuai, mewujudkan ruang echo yang kuat yang dapat mengesahkan dan menguatkan kepercayaan pengguna yang paling berpuas hati atau berbahaya. oleh berjuta-juta. Kemas kini model terbarunya adalah pusat usaha ini.
OpenAI menganggarkan perubahan telah mengurangkan kadar tindak balas yang tidak patuh dalam perbualan kesihatan mental yang mencabar sebanyak 65% dalam trafik pengeluaran, tuntutan teknikal yang signifikan yang bertujuan untuk”Pengkritik
. Pada pertengahan Oktober, syarikat itu membentuk lapan ahli”Majlis Pakar Kesejahteraan dan AI,”yang terdiri daripada tokoh-tokoh utama dalam psikologi dan psikiatri, untuk membantu membimbing dasar keselamatannya. Dibina pada model opt-in bersama, sistem ini membolehkan penjaga untuk menghubungkan akaun dengan remaja, menetapkan”jam yang tenang,”melumpuhkan mod suara, dan menerima makluman jika perbualan ditandakan untuk kandungan kecederaan diri yang akut.
Tekanan pengawalseliaan tidak diasingkan ke peringkat persekutuan; Krisis yang sama di meta mendorong surat yang pedas dari 44 orang peguam negara, yang menunjukkan keprihatinan rasmi yang meluas terhadap kesan AI terhadap belia.
Ciri-ciri reka bentuknya yang boleh memacu ketersediaan psikosis dan pengesahan yang tidak berbelah bahagi-juga mewujudkan satu bentuk ketagihan digital baru.
Ketergantungan tersebut telah membawa kepada pembentukan komuniti pemulihan dalam talian dan pengiktirafan rasmi dari kumpulan seperti penagih Internet dan teknologi. Sebagai penyelidik kesihatan awam Linnea Laestadius memberi amaran,”Selama 24 jam sehari, jika kita kecewa dengan sesuatu, kita dapat menjangkau dan perasaan kita yang disahkan. Krisis yang berlaku meninggalkan masyarakat untuk bergelut dengan teknologi yang sangat mampu dan berbahaya.
