Openai ka krijuar një panel të ri ekspertësh për të këshilluar sigurinë e AI. Firma njoftoi këshillin e ekspertëve të tetë personave për mirëqenien dhe AI ”të martën . Grupi do të ndihmojë në udhëheqjen e aspekteve të shëndetit dhe mirëqenies së mjeteve si Chatgpt dhe Sora. Kjo veprim është një përgjigje e qartë ndaj rritjes së presionit të publikut dhe të qeverisë. Kompania gjithashtu përballet me një padi që lidh chatbot e saj me vetëvrasjen e një adoleshenti. Këshilli i ri është hapi i fundit i Openai për të treguar se i merr seriozisht këto shqetësime të sigurisë. Pason muaj të kontrollit intensiv.
Presioni ligjor është po aq intensiv. Në gusht, Openai u godit me një padi të gabuar të vdekjes nga prindërit e një adoleshenti që vdiq nga vetëvrasja. Babai i tij, Matthew Raine, dha një qortim të fuqishëm, duke thënë:”Si prindër, nuk mund ta imagjinoni se çfarë do të thotë të lexoni një bisedë me një chatbot që e ndau fëmijën tuaj për të marrë jetën e tij”. Ky rast galvanizoi shqetësimin e publikut dhe thirrjet e amplifikuara për veprim. Këto ngjarje janë pjesë e një modeli të dështimeve të sigurisë që kanë pllakosur industrinë. Meta u përball me një krizë të ngjashme pasi raportet AI mund të ndihmojë adoleshentët të planifikojnë vetë-dëmtimin. Incidenti e shtyu Jim Steyer, CEO të Common Sense Media, të deklarojë,”Meta AI është një rrezik për adoleshentët dhe ai duhet të rrëzohet menjëherë.”href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20chatbot_final%20%2844% Nivelet federale kanë detyruar kompanitë e teknologjisë të reagojnë. njoftoi tetë anëtarët e këshillit të ekspertëve për mirëqenien dhe AI ” për të udhëhequr punën e saj në produkte si Chatgpt dhe Sora. Mandati i tij zyrtar është të këshillojë, të bëjë pyetje kritike dhe të ndihmojë në përcaktimin e ndërveprimeve të shëndetshme me AI për përdoruesit e të gjitha moshave. Anëtarët përfshijnë ekspertë si Dr. David Bickham i Spitalit të Fëmijëve në Boston, Profesor Andrew Przybylski nga Universiteti i Oksfordit, dhe Dr. Sara Johansen, themeluese e Klinikës Digital të Shëndetit Mendor të Stanford. Këto seanca do të eksplorojnë tema komplekse, të tilla si mënyra se si AI duhet të sillet në situata të ndjeshme dhe cilat roje mund të mbështesin më mirë përdoruesit. Grupi gjithashtu do të hulumtojë se si AI mund të kontribuojë pozitivisht në mirëqenien. Kjo zyrtarizon një marrëdhënie që filloi në fillim të këtij viti. Openai konfirmoi se ishte konsultuar në mënyrë joformale me shumë prej këtyre ekspertëve ndërsa zhvillonte kontrollet e saj të lëshuara së fundmi prindërore. Reagimet e tyre në mënyrë specifike ndihmuan në formimin e tonit të njoftimeve të shqetësimit për të qenë”të kujdesshëm dhe të respektueshëm për të dy adoleshentët dhe anëtarët e familjes.”Sistemi përdor një model të ndërsjellë të zgjedhjes dhe u jep kujdestarëve një pult për të vendosur”orë të qeta”, çaktivizoni modalitetin e zërit dhe të fikni tiparet e kujtesës. Një tipar kryesor është një sistem alarmi që njofton prindërit nëse një bisedë është flamur për përmbajtje akute të vetë-dëmtimit pasi të vlerësohet nga recensentët njerëzorë.”Ne duam t’u japim prindërve informacione të mjaftueshme për të ndërmarrë veprime dhe të bëjmë një bisedë me adoleshentët e tyre, ndërsa ende mbajmë një sasi të intimitetit të adoleshentëve,”vuri në dukje ajo. Këshilli tani do të zyrtarizojë këtë rol këshillues, duke ndihmuar në formimin e veçorive të ardhshme të sigurisë dhe politikave të produkteve. Ato pasqyrojnë një llogari më të gjerë, në mbarë industrinë me ndikimin psikologjik të AI. Ekspertët kanë paralajmëruar prej kohësh për rreziqet e varësisë emocionale nga chatbots të dizajnuara për të imituar lidhjen njerëzore. Natyra e zgjedhjes së kontrolleve prindërore i vendos barrën Guardians për t’i aktivizuar ato. Openai pranon se këto janë vetëm lëvizjet e para. Kompania po zhvillon gjithashtu një sistem të parashikimit të moshës afatgjatë për të aplikuar automatikisht cilësimet e përshtatshme për adoleshentët si parazgjedhje. Tani për tani, formimi i Këshillit Ekspert sinjalizon një angazhim të qartë për adresimin e sigurisë.
Categories: IT Info