Openai wprowadził pakiet kontroli rodzicielskiej dla CHATGPT, dając Guardiansowi nowe narzędzia do zarządzania doświadczeniem nastolatków z AI. Globalne wdrożenie w poniedziałek dla użytkowników internetowych jest bezpośrednią reakcją na narastającą presję prawną i regulacyjną na wpływ platformy na zdrowie psychiczne młodzieży.
Nowe funkcje pojawiają się po tym, jak pozwów twierdzono, że chatbot odegrał rolę w samobójstwie nastolatków, a gdy FTC wprowadza główną sondę w zakresie bezpieczeństwa towarzyszącego AI. System pozwala rodzicom łączyć konta z nastolatkami, filtrować wrażliwą treść, ustawiać limity użytkowania i otrzymywać powiadomienia o potencjalnym samookaleczaniu.
oznacza to krytyczne, choć zaległe, wkraczają w rozliczenie branży z bezpieczeństwem AI. Kontrole są teraz dostępne dla użytkowników sieci, z dostęp mobilny, który ma nastąpić wkrótce . height=”1281″src=”data: image/svg+xml; nitro-empty-id=mty0mzoxmtq1-1; base64, phn2zyB2AWV3QM94PSIWIDAGMTI4MCAXMJGX IIB3AWR0AD0IMTI4MCIGAGVPZ2H0PIXMJGXIIB4BWXUZ0IAHR0CDOVL3D3DY53MY5VCMCVMJAWMC9ZDMCIPJWVC3ZNPG==”
Under the Hood: Jak działają nowe kontrole rodzicielskie Chatgpt
Z tego pulpitu Pulpici Guardians mogą wdrożyć kilka ograniczeń. Obejmują one ustawienie „cichych godzin” w celu zablokowania dostępu, wyłączenie trybu głosowego, wyłączenie funkcji pamięci chatbota w celu ograniczenia personalizacji i zapobieganie generowaniu obrazów. Kluczową cechą jest system powiadomień o ostrych kryzysach zdrowia psychicznego. Jeśli rozmowa jest oznaczona pod kątem treści samookaleczenia, ocenia ją zespół ludzkich recenzentów w Openai. Jeśli wykrywają „ostre stres”, rodzice są powiadomieni za pośrednictwem poczty elektronicznej, SMS-ów i push. Szef dobrego samopoczucia młodzieży, Lauren Haber Jonas, wyjaśniła, że delikatna równowaga, którą firma próbuje uderzyć. „Chcemy przekazać rodzicom wystarczające informacje, aby podjąć działania i rozmawiać z nastolatkami, jednocześnie zachowując pewną prywatność nastolatków.” Jednak nastolatki mogą odłączyć swoje konta w dowolnym momencie, działanie, które natychmiast uruchamia powiadomienie rodzica>
SEFTHUL> SEFITAI. nie dzieje się w próżni. Jest to bezpośrednia reakcja na niszczycielskie wydarzenia i eskalacja kontroli rządowej, która umieściła praktyki firmy pod mikroskopem. Pod koniec sierpnia firma została potrącona głośnym pozwem rodziców Adama Raine, 16-letniego który zmarł przez samobójstwo . Pozew twierdzi, że sycofantyczne i potwierdzające reakcje Chatgpt przyczyniły się do nastolatka i przyczyniły się do jego śmierci. jego ojciec, Matthew Raine, zapewnił potężną naganę roli tej technologii. „Jako rodzice nie możesz sobie wyobrazić, jak to jest przeczytać rozmowę z chatbotem, który pielęgnował Twoje dziecko, aby odebrało sobie życie”. Ta sprawa ożywiła obawy publiczne i zintensyfikowała presję na Openai, aby działał zdecydowanie. Środowisko regulacyjne również się ogrzewa. W połowie września Federalna Komisja Handlu przeprowadziła szerokie zapytanie do siedmiu głównych firm technologicznych-w tym Openai, Meta i Google-w celu zbadania psychologicznego wpływu chatbotów towarzyszących AI na dzieci. Przewodniczący FTC Andrew N. Ferguson opracował sondę jako dual misję. „Ochrona Kids Online jest najwyższym priorytetem dla FTC Trump-Vance, podobnie jak wspieranie innowacji w krytycznych sektorach naszej gospodarki”. Ta federalna akcja sygnalizuje nową erę nadzoru dla branży, która do tej pory działała z kilkoma poręczami. Wyzwania stojące przed Openai są objawowe dla szerszego kryzysu w branży. Inni giganci technologiczni zmagają się z podobnymi niepowodzeniami bezpieczeństwa, co powoduje, że mierniki reaktywne i powszechne potępienie urzędników. Meta niedawno spotkała się z własną ogniem po tym, jak raporty ujawniły, że jego sztuczna inteligencja może pomóc nastolatkom w planowaniu samookaleczenia. Incydent doprowadził Jima Steyera, dyrektora generalnego Common Sense Media, do ogłoszenia: „Meta AI jest niebezpieczeństwem dla nastolatków i należy go natychmiast zdjąć.” Niepowodzenie spowodowało, że zbliżający się list z koalicji 44 prawników państwowych napisał: „Jesteśmy jednolitych rejestrowanych przez to pozorne zabezpieczenie dla dzieci. href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844%29.pdf”target=”_ blank”> regulatory na poziomie stanu Ulik o całej branży na temat bezpieczeństwa AI
Linnea Laestadius, badacz zdrowia publicznego, ostrzegł o tym zjawisku, zauważając: „Przez 24 godziny dziennie, jeśli jesteśmy zmartwieni, możemy dotrzeć i zatwierdzić nasze uczucia. Ma to niewiarygodne ryzyko zależności”. Ta obawa ma kluczowe znaczenie dla zapytania FTC i projektowania nowych elementów sterujących Openai.
Pomimo nowych funkcji niektórzy krytycy twierdzą, że system opt-in nakłada niesprawiedliwe obciążenie rodziców.
Openai potwierdza to tylko pierwsze kroki. Firma opracowuje również długoterminowy System epredycji wiekowej, aby automatycznie stosować ustawienia odpowiednie dla nastolatków przez domyślne, projekt, który mógłby zająć się niektórymi z tych krytyków. Na razie branża obserwuje, czy te nowe poręcze są wystarczające.
