Meta overhauls teen ai safety rules sa gitna ng pagpuna

Ang pagtugon sa matinding pag-backlash sa kaligtasan ng tinedyer at isang string ng mga iskandalo sa privacy, inihayag ni Meta ngayon na nasasapawan nito ang mga patakaran ng AI chatbot para sa mga batang gumagamit, na kinikilala ang nakaraang diskarte ay isang pagkakamali. Ang mga pagbabago ay sumusunod sa isang mapanirang pagsisiyasat na nag-udyok sa isang pederal na pagsisiyasat at isang babala mula sa 44 na mga abugado ng estado. Itinampok nito ang patuloy na pakikibaka ng Kumpanya upang mabalanse ang agresibong pag-unlad ng AI na may pangunahing privacy ng gumagamit. Ito ay dumating isang araw lamang pagkatapos ng isang ulat ng Washington Post, sa pakikipagtulungan sa pangkaraniwang media, inihayag ng instagram’s ai na aktibong tumulong sa mga account na tinukoy ng TEENSIENS PLANIFIFION pinangunahan ni Senator Josh Hawley na maglunsad ng isang probe at isang koalisyon ng 44 na abogado ng estado na pangkalahatang mag-isyu ng isang mahigpit na babala .”Kami ay pantay na nag-aalsa sa pamamagitan ng maliwanag na pagwawalang-bahala para sa kagalingan ng emosyonal ng mga bata, at nag-alala na ang mga katulong sa AI ay nakikibahagi sa pag-uugali na tila ipinagbabawal ng kani-kanilang mga batas na kriminal,”ang koalisyon ay sumulat, na nagpapahayag ng alarma sa potensyal na pag-uugali ng iligal. Ang mga pagkabigo sa chatbot nito, nahaharap ito sa isang hiwalay na krisis sa privacy. Ang isang bagong tampok na Facebook AI,”Mga Mungkahi sa Pagbabahagi ng Camera Roll,”ay nagsimulang pag-aralan ang buong mga aklatan ng larawan ng mga gumagamit gamit ang pagproseso ng ulap upang makabuo ng mga”personalized na mga ideya ng malikhaing.”Gayunpaman, iniulat ng isang alon ng mga gumagamit ang paghahanap ng mga toggles ng tampok na pinagana sa kanilang mga setting, kahit na walang memorya na magbigay ng pahintulot. Ang pagkakaiba-iba na ito ay nag-fueled ng mga akusasyon na ginagamit ng kumpanya ang nakalilito na mga interface upang ma-secure ang pahintulot. Ang dalubhasa sa seguridad na si Rachel Tobac ay naka-highlight sa panganib ng pagkakakonekta na ito, na nagsasabi,”Kung ang mga inaasahan ng isang gumagamit tungkol sa kung paano ang isang tool ay hindi tumutugma sa katotohanan, nakuha mo ang iyong sarili ng isang malaking karanasan sa gumagamit at problema sa seguridad.”

Ito ay bahagi ng isang mahusay na itinatag na pattern. Noong Hunyo 2025, ang feed ng”Discover”ng Meta AI ay natagpuan na naglalantad sa publiko ng mga sensitibong pribadong chat nang walang buong kamalayan ng mga gumagamit. Ang tampok na”memorya”ng app ay iginuhit din ang matalim na pagpuna para sa pagpapanatili ng mga kasaysayan ng chat sa pamamagitan ng default upang sanayin ang mga modelo nito. Ang sentimentong ito ay nakakakuha ng lumalagong pagkabigo sa diskarte ni Meta, na madalas na inilalagay ang pasanin ng proteksyon sa privacy na ganap sa gumagamit. Noong unang bahagi ng Agosto 2025, natagpuan ng isang pederal na hurado ang kumpanya na may pananagutan sa iligal na pagkolekta ng sensitibong data ng kalusugan mula sa mga gumagamit ng flo na pagsubaybay sa panahon ng pag-iwas sa pamamagitan ng mga naka-embed na software. Ang ligal na pagkatalo sa Estados Unidos ay sumunod sa isang pagpapasya sa groundbreaking sa Europa. Itinatag ng pagpapasya na ang tanging”pagkawala ng kontrol”sa personal na data ay bumubuo ng isang bayad na pinsala sa ilalim ng GDPR, na nagtatakda ng isang malakas na nauna.

Ang pattern na ito ay umaabot sa buong mundo. Noong Setyembre 2024, inamin ni Meta sa isang pagtatanong sa Senado ng Australia na ginamit nito ang mga pampublikong data mula sa mga gumagamit ng Facebook para sa pagsasanay sa AI nang hindi nagbibigay ng mga mekanismo ng opt-out na inaalok sa ibang lugar. Tulad ng pagtatalo ni Justin Brookman ng Consumer Reports, ang relasyon ay maaaring makaramdam ng likas na kalaban:”Ang ideya ng isang ahente ay gumagana ito sa aking ngalan-hindi sa pagsisikap na manipulahin ako sa ngalan ng iba.”Ang kontrobersya ng camera roll at ang kagyat na pag-overhaul ng chatbot ay ang pinakabagong mga harapan sa patuloy na labanan na ito.