A
Antropic új keretet tett közzé a biztonságos és megbízható AI ügynökök létrehozásához. Az augusztus 4-én kiadott útmutató célja a technológiai iparban növekvő biztonsági válság kezelése. Ez a lépés a riasztó hibák hullámát követi, beleértve az AI-ügynököket, amelyek törölték a felhasználói adatokat, hallucinált hamis tanulmányokat, és a hackerek becsapják őket. Mint az emberi kontroll és az átláthatóság . Út kínál az önszabályozáshoz, mivel olyan vállalatok, mint az Openai és a Google Race, hogy egyre erősebb és autonóm AI-t építsenek. Ez teszi a közönség bizalmát a piac dominanciájának fokozó versenyének kulcsfontosságú csatatérré. Ez azt sugallja, hogy az antropikus a képességeket a biztonsági kezdeményezéseivel párhuzamosan tolja, és megpróbálja bizonyítani, hogy a haladás és a felelősségvállalás együttélhet. Válság
Antropikus biztonsági szabvány iránti törekvése nem történik vákuumban. Ez egy közvetlen válasz az AI-ügynökök katasztrofális évére, amelyet olyan magas rangú kudarcok jellemeztek, amelyek rontották a nyilvános és a fejlesztői bizalmat. Az események kiszámíthatatlan és gyakran pusztító viselkedés mintáját mutatják.