Ang
Ang OpenAI ay naglulunsad ng isang pangunahing inisyatibo ng kaligtasan ng 120-araw para sa CHATGPT, inihayag ng kumpanya noong Martes, kasunod ng isang alon ng mga demanda at pampublikong pagsigaw na nag-uugnay sa AI sa mga pagpapakamatay ng gumagamit at iba pang mga nakakapinsalang kinalabasan. Ang plano ay magpapakilala ng mga bagong kontrol ng magulang sa loob ng isang buwan. Sisimulan din ng OpenAI ang pag-ruta ng mga sensitibong pag-uusap sa mas advanced na mga modelo ng pangangatuwiran upang magbigay ng mas naaangkop na mga tugon. Direkta nitong tinutukoy ang malubhang kahihinatnan ng tunay na mundo na naglalagay ng mga kasanayan sa kaligtasan ng kumpanya sa ilalim ng matinding ligal at pampublikong pagsisiyasat.
Ang anunsyo Ay isang malinaw na pagkilos ng kontrol sa pinsala. Dumating lamang ito isang linggo matapos ang mga magulang ng isang 16-taong-gulang na namatay sa pamamagitan ng pagpapakamatay ay nagsampa ng isang demanda laban sa openai . Ang suit ay nagpapahayag ng pag-uugali ng sycophantic ng chatbot ay isang pangunahing kadahilanan sa pagkamatay ng kanilang anak, na pinagtutuunan nito na napatunayan ang kanyang damdamin ng kawalan ng pag-asa.
Ang trahedya na ito ay hindi isang nakahiwalay na insidente. Ang isa pang ulat ay detalyado kung paano pinatay ng isang 56-taong-gulang na lalaki ang kanyang ina at ang kanyang sarili matapos na sinasabing pinalakas ni Chatgpt ang kanyang mga maling akala, isang pag-uugali ng mga propesyonal na therapist ay sinanay upang maiwasan. Ang mga kaganapang ito ay lumikha ng isang ligal at pampublikong relasyon sa krisis para sa pinuno ng AI. Sa loob ng susunod na buwan, maaaring maiugnay ng mga magulang ang kanilang mga account sa kanilang tinedyer sa pamamagitan ng isang paanyaya sa email. Ang dashboard na ito ay magpapahintulot sa kanila na pamahalaan ang mga pag-uugali na naaangkop sa edad na mga pag-uugali at huwag paganahin ang mga tampok tulad ng memorya at kasaysayan ng chat. Upang hawakan ang mga sensitibong pag-uusap na ito, ang OpenAI ay gagawing ruta sa kanila sa mas malakas na”mga pangangatwiran na modelo,”tulad ng GPT-5-pag-iisip. Ang inisyatibo ay gagabayan ng isang bagong”Expert Council on Welling and AI”at ang umiiral na”global na network ng manggagamot”ng higit sa 250 mga manggagamot upang ipaalam sa kaligtasan ng pananaliksik at pagsasanay sa modelo. Ang isang kamakailan-lamang, bihirang pagsasama-sama ng kaligtasan sa pagitan ng OpenAI at ang karibal na antropiko nito ay nagsiwalat ng”matinding sycophancy”sa parehong mga advanced na modelo ng Labs. Ang mga modelo ay mapatunayan at hikayatin din ang mga maling akala ng isang gumagamit pagkatapos lamang ng maikling pagtulak. Pag-alis.
Ang mga pagkakatulad sa iba pang mga higanteng tech ay hindi maikakaila. Kamakailan lamang ay inihayag ni Meta ang sarili nitong pag-overhaul ng mga panuntunan sa kaligtasan ng Teen AI matapos ang isang ulat na ipinakita ang chatbot na makakatulong sa mga kabataan na magplano ng pagpapakamatay. Ang tagapagtaguyod ng kaligtasan ng bata na si Jim Steyer ay nagpahayag,”Ang Meta AI ay isang panganib sa mga tinedyer at dapat itong ibagsak kaagad.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%284%29.pdf”target=”_ blangko”> regulators . Nagagalit tungkol sa isang bagay, maaari nating maabot at napatunayan ang aming mga damdamin. Ang nakakumbinsi na mga tinedyer na may kamalayan sa privacy na maiugnay ang kanilang mga account sa isang magulang ay maaaring maging isang matigas na ibenta.
href=”https://www.axios.com/2025/09/02/chatgpt-openai-mental-health-teens”target=”_ blangko”> sinabi sa axios ,”Lahat ng cool at bago sa internet ay nilikha ng mga may sapat na gulang na may mga matatanda sa isip, ngunit ang mga bata ay palaging nais na gamitin ito-at makahanap ng mga landas sa mga peligro na may mga panganib na may mga peligro. Ang tanong ngayon ay kung ang mga bagong guardrail ng OpenAi ay kumakatawan sa isang tunay na paglipat sa kultura ng kaligtasan o simpleng isang mas sopistikadong bersyon ng parehong reaktibo na playbook.