OpenAI ha presentato Red Teaming Network, un’iniziativa che mira a rafforzare la resilienza e la sicurezza dei suoi modelli di intelligenza artificiale. Il Red Teaming Network cerca di sfruttare l’esperienza di un gruppo eterogeneo di professionisti per valutare criticamente e sottoporre a stress test i suoi sistemi di intelligenza artificiale.
Un approccio proattivo alla sicurezza dell’IA
Il
Red teaming, un metodo per valutare la sicurezza simulando potenziali attacchi avversari, è diventato un passo fondamentale nel modello di intelligenza artificiale processo di sviluppo. Questo approccio è particolarmente cruciale in quanto le tecnologie di intelligenza artificiale generativa stanno guadagnando terreno nel mainstream. L’obiettivo principale è identificare e correggere i pregiudizi e le vulnerabilità nei modelli prima che diventino problemi diffusi. Ad esempio, DALL-E 2 di OpenAI è stato criticato per aver perpetuato stereotipi e il team rosso garantisce che modelli come ChatGPT aderiscano a protocolli di sicurezza.
La storia di OpenAI con il team rosso non è nuova. La società ha precedentemente collaborato con esperti esterni per la valutazione del rischio. Tuttavia, il Red Teaming Network rappresenta uno sforzo più strutturato, che mira ad approfondire ed espandere le collaborazioni di OpenAI con scienziati, istituti di ricerca e organizzazioni della società civile. Come affermato nel loro annuncio,”I membri della rete saranno chiamati in base alla loro esperienza per aiutare il team rosso nelle varie fasi del ciclo di vita dello sviluppo del modello e del prodotto.”
La ricerca di competenze diversificate per una valutazione completa
La valutazione dell’IA I sistemi richiedono una comprensione sfaccettata, che comprenda vari domini e prospettive diverse. OpenAI invita attivamente le candidature di esperti a livello globale, sottolineando la diversità sia geografica che di dominio nel loro processo di selezione. I campi di interesse abbracciano un’ampia gamma, dalle scienze cognitive e informatiche all’assistenza sanitaria , diritto e persino linguistica.
L’approccio di OpenAI suggerisce l’impegno ad acquisire una visione olistica dei rischi, dei pregiudizi e delle opportunità dell’IA. L’azienda non si limita a limitare la propria richiesta ai ricercatori tradizionali dell’IA, ma sta anche cercando esperti da varie discipline, indicando una strategia multidisciplinare.
Inoltre, OpenAI ha evidenziato che tutti i membri del Red Teaming Network saranno ricompensati per i loro contributi. Anche se i dettagli esatti del compenso rimangono segreti, la società ha affermato che i membri potrebbero dover firmare accordi di non divulgazione (NDA) e la loro ricerca potrebbe potenzialmente essere pubblicata.
