OpenAI ha annunciato la creazione di un comitato per la sicurezza e la protezione all’interno del suo Consiglio di amministrazione per supervisionare la sicurezza dei suoi sistemi di intelligenza artificiale generativa. Questa mossa coincide con la conferma da parte dell’azienda che sta addestrando il suo prossimo modello di intelligenza artificiale, che probabilmente sarà GPT-5.
Membri e obiettivi del comitato
Il comitato comprende il CEO di OpenAI Sam Altman, i membri del consiglio Bret Taylor, Adam D’Angelo e Nicole Seligman, insieme al capo scienziato Jakub Pachocki e al capo della sicurezza Matt Knight. Il comitato si consulterà anche con esperti esterni in materia di sicurezza e protezione. Secondo un post sul blog di OpenAI, il compito iniziale del comitato è rivedere e migliorare i protocolli di sicurezza aziendali nei prossimi 90 giorni. Al termine di questo periodo, il comitato presenterà le sue raccomandazioni all’intero consiglio, che poi esaminerà e condividerà pubblicamente un aggiornamento sulle misure adottate.
Background sulla formazione del comitato
L’istituzione del comitato fa seguito alle notizie secondo cui OpenAI avrebbe sciolto il suo team di superallineamento all’inizio di maggio. Il team di superallineamento è stato inizialmente creato per esplorare metodi per mantenere il controllo umano sui sistemi di intelligenza artificiale generativa, in particolare quelli che potrebbero superare l’intelligenza umana in futuro.
Nello stesso post sul blog, OpenAI ha confermato di aver iniziato l’addestramento del suo prossimo importante modello di intelligenza artificiale, che dovrebbe essere denominato GPT-5. La società ha affermato che questo modello mira a far avanzare le capacità sulla strada verso il raggiungimento dell’Intelligenza Generale Artificiale (AGI). OpenAI ha sottolineato l’importanza di un”dibattito robusto”riguardo alla sicurezza di questi sistemi in questo momento critico.
All’inizio di questo mese, OpenAI ha introdotto GPT-4o, una versione migliorata del suo modello GPT-4, che presenta interazioni vocali più realistiche Questa versione è disponibile sia per gli utenti gratuiti che per quelli a pagamento di GPT-4.
