Dans un monde où les technologies d’IA progressent rapidement, le besoin d’une réglementation efficace devient de plus en plus urgent. Un article récent publié par un groupe diversifié de chercheurs de diverses institutions, dont OpenAI, Google DeepMind, l’Université de Toronto , et le Centre pour la gouvernance de l’IA, discutent des défis et des solutions potentielles pour réglementer ce qu’ils appellent “frontière Modèles d’IA”. Ces modèles, en raison de leurs capacités élevées, pourraient poser de graves risques pour la sécurité publique et la sécurité mondiale.
Les contributeurs notables incluent Jade Leung et Cullen O’Keefe d’OpenAI, Markus Anderljung du Center for the Governance of AI et du Center for a New American Security, Joslyn Barnhart de Google DeepMind, et Anton Korinek de la Brookings Institution, Université de Virginie, et du Center for the Governance of AI.
Proposition de”blocs de construction réglementaires”
Pour atténuer ces défis, les chercheurs proposent trois blocs de construction clés pour la réglementation des modèles d’IA de pointe. Le développement de normes de sécurité par le biais de processus multipartites dirigés par des experts constitue le premier élément constitutif. Accroître la visibilité réglementaire grâce à des mécanismes tels que les exigences de divulgation et les processus de surveillance constitue le second. La conformité et l’application constituent le troisième élément constitutif, le document suggérant qu’une intervention gouvernementale pourrait être nécessaire pour garantir le respect des normes.
Les auteurs suggèrent également un premier ensemble de normes de sécurité. Celles-ci comprennent la réalisation d’évaluations des risques avant le déploiement, l’examen externe du comportement du modèle, l’utilisation d’évaluations des risques pour éclairer les décisions de déploiement et la surveillance et la réponse aux nouvelles informations sur les capacités et les utilisations du modèle après le déploiement.
L’alignement Modèles d’IA problématiques et frontières
Le problème d’alignement, un défi clé de l’IA, fait référence à la difficulté de garantir que les systèmes d’IA font de manière fiable ce que les humains veulent qu’ils fassent. Ce problème est particulièrement aigu avec les modèles d’IA dits de frontière, qui peuvent développer des capacités inattendues et potentiellement dangereuses. Les auteurs de l’article soutiennent qu’une réglementation efficace de ces modèles nécessite une intervention à toutes les étapes de leur cycle de vie-du développement au déploiement et au post-déploiement.
Cela correspond aux efforts récents d’OpenAI pour résoudre le problème d’alignement, comme en témoignent par le lancement d’une nouvelle équipe de « superalignement » dédiée à la protection contre l’IA malveillante. Cependant, le problème d’alignement n’est pas le seul défi à relever.
Le paysage mondial de la réglementation de l’IA
La publication du document intervient à un moment où le paysage mondial de la réglementation de l’IA évolue. L’Union européenne a récemment approuvé la loi sur l’IA, un texte législatif complet visant à réglementer les systèmes d’IA à haut risque. Cependant, de nombreux modèles d’IA ne respectent actuellement pas les normes établies par la loi sur l’IA, et certaines entreprises européennes ont exprimé leur inquiétude quant au fait que la loi pourrait étouffer l’innovation.
Pendant ce temps, d’autres pays adoptent une approche différente. , par exemple, envisage une approche plus indulgente de la réglementation de l’IA, visant à équilibrer le besoin de normes éthiques et de responsabilité avec le désir d’éviter d’imposer des charges excessives aux entreprises.
Viser une approche équilibrée
À ce sujet. le nouveau document propose une approche équilibrée de la réglementation de l’IA, préconisant l’élaboration de normes de sécurité, une visibilité réglementaire accrue et des mécanismes pour assurer la conformité. Il suggère également des normes de sécurité initiales, y compris des évaluations des risques avant le déploiement et une surveillance après le déploiement.
Cependant, le document reconnaît également les incertitudes et les limites de ses propositions, soulignant la nécessité d’une analyse et d’une contribution plus approfondies. Cela reflète le point de vue de Geoffrey Hinton, souvent qualifié de”parrain de l’IA”, qui a récemment exprimé des doutes quant à savoir si la”bonne IA”triompherait de la”mauvaise IA”.
