Ang
Openai ay lumikha ng isang bagong panel ng dalubhasa upang payuhan sa kaligtasan ng AI. Ang firm inihayag ang walong-taong”dalubhasang konseho sa kagalingan at ai”noong Martes . Ang pangkat ay makakatulong sa gabay sa mga aspeto ng kalusugan at kagalingan ng mga tool tulad ng Chatgpt at Sora. Ang hakbang na ito ay isang malinaw na tugon sa pagtaas ng presyon ng publiko at gobyerno. Nahaharap din ang kumpanya sa isang demanda na nag-uugnay sa chatbot nito sa pagpapakamatay ng isang tinedyer. Ang bagong konseho ay pinakabagong hakbang ng OpenAi upang ipakita na seryoso ang mga alalahanin sa kaligtasan. Sinusundan nito ang mga buwan ng matinding pagsisiyasat. Ang
Ang ligal na presyon ay kasing matindi. Noong Agosto, si Openai ay tinamaan ng isang maling demanda sa kamatayan mula sa mga magulang ng isang tinedyer na namatay sa pagpapakamatay. Ang kanyang ama na si Matthew Raine, ay nagbigay ng isang malakas na pagsaway, na nagsasabing,”Bilang mga magulang, hindi mo maiisip kung ano ang nais na basahin ang isang pag-uusap sa isang chatbot na ikinulong ang iyong anak na kumuha ng kanyang sariling buhay.”Ang kasong ito ay galvanized pampublikong pag-aalala at pinalakas na mga tawag para sa pagkilos. Ang mga kaganapang ito ay bahagi ng isang pattern ng mga pagkabigo sa kaligtasan na naganap sa industriya. Si Meta ay nahaharap sa isang katulad na krisis matapos ang mga ulat na maaaring makatulong ang mga tinedyer ng mga kabataan na magplano sa sarili. Ang insidente ay nag-udyok kay Jim Steyer, CEO ng Common Sense Media, na ideklara,”Ang Meta AI ay isang panganib sa mga kabataan at dapat itong ibagsak kaagad.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%284%29.pdf”target=”_ blangko”> scathing letter pinilit ang mga kumpanya ng tech na umepekto. Ang inihayag ng kumpanya ang walong-miyembro na”dalubhasang konseho sa kagalingan at ai”Ang pormal na mandato nito ay upang payuhan, magtanong ng mga kritikal na katanungan, at tulungan na maitaguyod kung anong malusog na pakikipag-ugnayan sa AI ang dapat magmukhang para sa mga gumagamit ng lahat ng edad. Kasama sa mga miyembro ang mga eksperto tulad ni Dr. David Bickham ng Boston Children’s Hospital, Propesor Andrew Przybylski mula sa University of Oxford, at Dr. Sara Johansen, tagapagtatag ng Stanford’s Digital Mental Health Clinic. Ang mga sesyon na ito ay galugarin ang mga kumplikadong paksa, tulad ng kung paano dapat kumilos ang AI sa mga sensitibong sitwasyon at kung ano ang pinakamahusay na suportahan ng mga guardrails. Susuriin din ng grupo kung paano maaaring positibong mag-ambag ang AI sa kagalingan. Kinumpirma ni Openai na kumunsulta ito nang hindi pormal sa marami sa mga eksperto na ito habang binubuo ang kamakailan-lamang na inilunsad na mga kontrol ng magulang. Ang kanilang puna ay partikular na nakatulong sa paghubog ng tono ng mga abiso sa pagkabalisa upang maging”nagmamalasakit at magalang sa parehong mga kabataan at mga miyembro ng pamilya.”Gumagamit ang system ng isang kapwa opt-in na modelo at nagbibigay ng mga tagapag-alaga ng isang dashboard upang itakda ang”tahimik na oras,”huwag paganahin ang mode ng boses, at patayin ang mga tampok ng memorya. Ang isang pangunahing tampok ay isang sistema ng alerto na nagpapaalam sa mga magulang kung ang isang pag-uusap ay na-flag para sa talamak na nilalaman ng pinsala sa sarili matapos masuri ng mga tagasuri ng tao.”Nais naming bigyan ang mga magulang ng sapat na impormasyon upang kumilos at makipag-usap sa kanilang mga kabataan habang pinapanatili pa rin ang ilang dami ng privacy ng tinedyer,”sabi niya. Pormulahin ngayon ng Konseho ang papel na ito ng pagpapayo, na tumutulong sa paghubog ng mga tampok sa kaligtasan sa hinaharap at mga patakaran ng produkto. Sinasalamin nila ang isang mas malawak, buong industriya na nagbibilang sa sikolohikal na epekto ng AI. Matagal nang binalaan ng mga eksperto ang tungkol sa mga panganib ng emosyonal na pag-asa sa mga chatbots na idinisenyo upang gayahin ang koneksyon ng tao. Ang opt-in na kalikasan ng mga kontrol ng magulang ay naglalagay ng pasanin sa mga Tagapangalaga upang maisaaktibo ang mga ito. Ang kumpanya ay bumubuo din ng isang pangmatagalang sistema ng paghula ng edad upang awtomatikong mag-aplay ng mga setting na naaangkop sa tinedyer nang default. Sa ngayon, ang pagbuo ng Expert Council ay nagpapahiwatig ng isang malinaw na pangako sa pagtugon sa kaligtasan.