A
Openai új szakértői testületet hozott létre az AI biztonságról. A kedden bejelentette a nyolc fős „Szakértői Tanács és az AI” kedden. . A csoport segít irányítani az olyan eszközök egészségügyi és jóléti szempontjait, mint a CHATGPT és a SORA. Ez a lépés egyértelmű válasz a növekvő köz-és kormányzati nyomásra. A társaság egy olyan peres eljárással is szembesül, amely összekapcsolja chatbotját a tini öngyilkossággal. Az új tanács az Openai legújabb lépése, hogy megmutassa, hogy ezeket a biztonsági aggályokat komolyan veszi. Ez hónapokig tartó intenzív ellenőrzést követ. A ftc sweeping nyomozója Gyorsan növekvő AI társpiac. Ugyanez az innováció előmozdítása a gazdaság kritikus ágazataiban.”Ez a szövetségi akció az egész iparágot figyelmezteti, hogy a néhány védőkorlátnál való működés korszaka véget ért.
A jogi nyomás ugyanolyan intenzív. Augusztusban az Openai-t egy öngyilkosság által elhunyt tinédzser szülei jogellenes halálos peres eljárással sújtották. Apja, Matthew Raine, erőteljes megvetést adott, mondván: „Szülőként nem tudod elképzelni, milyen érzés olvasni egy beszélgetést egy chatbotmal, amely ápolta gyermekét, hogy saját életét veszi.” Ez az eset horganyzott a közvélemény aggodalmának és az erősített cselekvési felhívásoknak. A Meta hasonló válsággal szembesült, miután beszámoltak arról, hogy az AI segíthet a tizenéveseknek az önkárosodás megtervezésében. Az esemény arra késztette Jim Steyer-t, a Common Sense Media vezérigazgatóját, hogy kijelenti: „A Meta AI veszélyt jelent a tizenévesek számára, és azt azonnal le kell vonni.”href=”https://oag.ca.gov/system/files/attachments/press-docs/Ai%20chatbot_final%20%2844%29.pdf”Target=”_ üres”> Scathing Letter , írás: „Egységes, hogy az állami érzelmekről szóló, a gyermekek érzelmeire szóló…”az állami érzelmekről szóló, a gyermekek érzelme…”A WIDES PREADN-A szintek arra kényszerítették a technológiai vállalatokat, hogy reagáljanak. A Company bejelentette a nyolc tagú „jóléti szakértői tanácsot és ai” , hogy irányítsa a termékeket, mint például a Chatgpt és a Sora. Hivatalos megbízatása az, hogy tanácsot adjon, kritikus kérdéseket tegyen fel, és segítse meg annak megállapítását, hogy az AI-vel való egészséges interakciók hogyan kell kinézniük minden korosztály számára. A tagok között olyan szakértők vannak, mint Dr. David Bickham, a Bostoni Gyermekkórház, Andrew Przybylski professzor az Oxfordi Egyetemen, és Dr. Sara Johansen, a Stanford Digital Mental Health Clinic alapítója. Ezek az ülések olyan összetett témákat fognak feltárni, mint például az AI-nek az érzékeny helyzetekben való viselkedése, és azt, hogy milyen védőkorlátok támogathatják a felhasználókat. A csoport azt is feltárja, hogy az AI hogyan tud pozitívan hozzájárulni a jóléthez. Az Openai megerősítette, hogy informálisan konzultált sok ilyen szakértővel, miközben kidolgozta a nemrégiben elindított szülői ellenőrzéseket. Visszajelzéseik kifejezetten elősegítették a szorongásos értesítések hangját, hogy „gondoskodjanak és tiszteletteljesek mind a tizenévesek, mind a családtagok számára.”
Ezek a szeptember végén bevezetett ellenőrzések kritikus első lépés voltak. A rendszer egy kölcsönös opt-in modellt használ, és a Guardians-nak irányítópultot ad a „csendes órák” beállításához, a hang üzemmód letiltásához és a memória funkcióinak kikapcsolásához. A kulcsfontosságú jellemző egy riasztási rendszer, amely értesíti a szülőket, ha az emberi recenzensek értékelése után egy beszélgetés megjelöli az akut önkárosító tartalmat.”Szeretnénk elegendő információt adni a szülőknek, hogy cselekedjenek és beszéljenek tizenévesekkel, miközben továbbra is bizonyos mennyiségű tini magánéletet tartanak fenn”-jegyezte meg. A Tanács most formalizálja ezt a tanácsadó szerepet, segítve a jövőbeli biztonsági funkciók és a termékpolitikák kialakítását. Ezek tükrözik az AI pszichológiai hatásainak szélesebb körű, iparági szintű számítását. A szakértők régóta figyelmeztették az érzelmi függőség veszélyeit az emberi kapcsolat utánozására tervezett chatbotoktól. A szülői kontrollok opt-beavatkozási jellege a gyámok terhet ró, hogy aktiválják őket. A vállalat hosszú távú életkor-prediction rendszert is fejleszt, amely alapértelmezés szerint automatikusan alkalmazza a tini megfelelő beállításokat. Jelenleg a Szakértői Tanács megalakulása egyértelmű elkötelezettséget jelez a biztonság kezelése iránt.