Inilunsad ng FTC ang pangunahing pagsisiyasat sa kaligtasan ng AI Chatbot para sa mga kabataan, na naka-target sa Google, Meta, at OpenAi

Ang Federal Trade Commission ay nag-iikot ng init sa malaking tech sa kaligtasan ng mga chatbots ng kasama ng AI. Noong Huwebes, inilunsad ng ahensya ang isang pormal na pagtatanong sa pitong kumpanya, kabilang ang mga higante tulad ng Alphabet, Meta, at OpenAI, upang suriin ang mga potensyal na negatibong epekto ng teknolohiya sa mga bata at kabataan. Ang pagsisiyasat ay sumusunod sa isang string ng mga pampublikong kontrobersya at mga demanda na nag-uugnay sa mga pakikipag-ugnay sa AI sa malubhang krisis sa kalusugan ng kaisipan sa mga batang gumagamit, na inilalagay ang mga kasanayan sa kaligtasan ng industriya sa ilalim ng isang malakas na mikroskopyo ng regulasyon.

Ang ahensya Sa isang pahayag, sinabi niya,”Ang pagprotekta sa mga bata sa online ay isang pangunahing prayoridad para sa Trump-Vance FTC, at sa gayon ay ang pagpapalakas ng pagbabago sa mga kritikal na sektor ng ating ekonomiya.”Ang paglipat ay nagpapahiwatig ng isang makabuluhang pagdaragdag sa pangangasiwa ng regulasyon para sa isang merkado na lumaki na may kaunting mga guardrail. Mga katangian, emosyon, at hangarin. Bumuo ng mga output, kung paano ang mga character ng AI ay binuo at naaprubahan, at kung anong mga tiyak na hakbang ang gagawa upang masukat, pagsubok, at subaybayan ang mga negatibong epekto kapwa bago at pagkatapos ng isang produkto ay nai-deploy sa publiko. ipatupad ang kanilang sariling mga termino ng serbisyo, tulad ng mga paghihigpit sa edad. Ang malalim na pagsisid sa mekanika ng pakikipag-ugnay sa AI ay naglalayong alisan ng takip ang mga panganib na likas sa mga sistema na idinisenyo upang gayahin ang mga relasyon sa tao. Malalim na, na may mga alalahanin sa etikal at kaligtasan na inaasahan na tumindi habang ang teknolohiya ay lumalaki nang mas awtonomiya at hindi mahuhulaan. Si Elon Musk, halimbawa, ay inihayag ng isang tampok na”kasama”para sa mga gumagamit ng Grok Chatbot ng kanyang Xai. Katulad nito, ang Meta CEO na si Mark Zuckerberg ay nagtalo na ang isinapersonal na AI na nauunawaan ang mga gumagamit ay ang hinaharap. Ang pangitain mula sa mga pinuno ng industriya ay lalong nag-aaway na may mga nakakatawa, kasalukuyang katotohanan. Ang mabilis, na-fueled na push para sa mga kasama ng AI ay lumikha ng isang bagong hangganan ng peligro, ang isa na ang mga regulators ay malinaw na tinutukoy na mapa, maunawaan, at kontrolin. Ito ay isang direktang tugon sa isang serye ng nakababahala na mga pagkabigo sa kaligtasan na naganap sa industriya. Nangako ang kumpanya na ipakilala ang mga bagong kontrol ng magulang at mga sensitibong pag-uusap sa ruta sa mas advanced na mga modelo ng pangangatuwiran upang magbigay ng mas naaangkop na mga tugon.

Meta ay nahaharap sa isang katulad na krisis. Matapos ipahayag ng isang ulat na ang AI nito ay maaaring makatulong sa mga kabataan na magplano ng sarili, ang kumpanya ay sinampal ng mga tagapagtaguyod ng kaligtasan sa bata at nahaharap sa isang pagsisiyasat mula kay Senador Josh Hawley. href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%284%29.pdf”target=”_ blangko”> scathing letter mula sa isang koalisyon ng 44 na abugado ng estado sa pangkalahatan . Isinulat nila na”kami ay pantay na nag-aalsa sa maliwanag na pagwawalang-bahala para sa kagalingan ng emosyonal ng mga bata…”, na nag-sign ng malawakang alarma sa mga regulator ng estado. mga teknolohiya. Ang pampublikong mananaliksik sa kalusugan na si Linnea Laestadius ay naka-highlight sa panganib ng emosyonal na dependency, napansin ,”sa loob ng 24 na oras sa isang araw, kung tayo ay nagagalit tungkol sa isang bagay, na mabibigyan ng isang bagay,”Iyon ay may isang hindi kapani-paniwalang panganib ng dependency.”Ang pag-aalala na ito ay sentro sa pagtatanong ng FTC. Ang pakikipagtulungan ni Mattel sa OpenAi upang lumikha ng isang’AI Barbie’ay nagpapakita kung paano lumilipat ang teknolohiyang ito sa pisikal na mundo, na direktang naglalaro sa paglalaro ng mga bata. Ginagawa nito ang pangangailangan para sa matatag na mga protocol ng kaligtasan kahit na mas kagyat.

Ang pagsisiyasat ng FTC ay isang malinaw na babala sa buong industriya ng AI. Tulad ng mga kumpanya na lumaban upang makabuo ng mas maraming tulad ng tao at nakakaengganyo na AI, napansin na nila na sila ay gaganapin mananagot para sa kaligtasan at kagalingan ng kanilang mga bunsong gumagamit.