OpenAI a annoncé la création d’un comité de sûreté et de sécurité au sein de son conseil d’administration pour superviser la sécurité de ses systèmes d’IA générative. Cette décision coïncide avec la confirmation de l’entreprise qu’elle forme son prochain modèle d’IA, qui sera probablement GPT-5.
Membres et objectifs du comité
Le comité comprend le PDG d’OpenAI, Sam Altman, les membres du conseil d’administration Bret Taylor, Adam D’Angelo et Nicole Seligman, ainsi que le scientifique en chef Jakub Pachocki et le chef de la sécurité Matt Knight. Le comité consultera également des experts externes en matière de sûreté et de sécurité. Selon un article de blog d’OpenAI, la tâche initiale du comité est d’examiner et améliorer les protocoles de sécurité de l’entreprise au cours des 90 prochains jours. À la fin de cette période, le comité présentera ses recommandations à l’ensemble du conseil d’administration, qui examinera ensuite et partagera publiquement une mise à jour sur les mesures adoptées.
Contexte de la formation du comité
La création du comité fait suite à des informations selon lesquelles OpenAI aurait dissous son équipe de superalignement plus tôt en mai. L’équipe de superalignement a été initialement créée pour explorer les méthodes permettant de maintenir le contrôle humain sur les systèmes d’IA générative, en particulier ceux qui pourraient dépasser l’intelligence humaine à l’avenir.
Dans le même article de blog, OpenAI a confirmé avoir commencé à entraîner son prochain modèle d’IA majeur, qui devrait s’appeler GPT-5. La société a déclaré que ce modèle vise à faire progresser les capacités sur la voie de l’intelligence générale artificielle (AGI). OpenAI a souligné l’importance d’un « débat approfondi » concernant la sécurité de ces systèmes à ce stade critique.
Plus tôt ce mois-ci, OpenAI a présenté GPT-4o, une version améliorée de son modèle GPT-4, qui comprend interactions vocales plus réalistes. Cette version est disponible pour les utilisateurs gratuits et payants de GPT-4.
