Lancement du rapport international sur la sécurité de l'IA dirigé par Yoshua Bengio

Annoncé pour la première fois au sommet de novembre 2023 sur la sécurité de l'intelligence artificielle (IA) à Bletchley Park, au Royaume-Uni, le rapport international sur la sécurité de l'IA, inspiré des travaux du Groupe d'experts intergouvernemental sur l'évolution du climat des Nations unies, rassemble des expertises mondiales de premier plan avec le soutien du ministère britannique des Sciences, de l'Innovation et de la Technologie.  

Dirigé par Yoshua Bengio, professeur à l’Université de Montréal, fondateur et directeur scientifique de Mila – l’Institut québécois d’intelligence artificielle –, ce rapport, préparé par une équipe de 96 experts internationaux de 30 pays membres de l'ONU, de l'Union européenne et de l'Organisation de coopération et de développement économiques, alimentera les discussions au prochain Sommet pour l'action sur l'IA en France et servira de guide pour aider les responsables des politiques à l'échelle mondiale.

Pour une compréhension commune des systèmes d'IA avancés et de leurs risques

Les systèmes d'IA les plus avancés au monde sont désormais capables d'écrire des programmes informatiques de plus en plus sophistiqués, de repérer les vulnérabilités informatiques et le premier rapport indépendant international sur la sécurité de l'IA publié aujourd'hui établit que les systèmes d'IA sont également de plus en plus capables d'agir comme des agents d'IA, c'est-à-dire de planifier et d'agir de manière autonome en vue d'atteindre un objectif, ce qui est considéré comme une évolution essentielle à surveiller par les responsables des politiques. 

Alors que les responsables politiques du monde entier sont confrontés aux progrès rapides et imprévisibles de l'IA, le rapport contribue à combler cet écart en offrant une compréhension scientifique des risques émergents pour guider la prise de décision. Le document présente la première compréhension scientifique commune et partagée des systèmes d'IA et de leurs risques, soulignant la rapidité à laquelle la technologie a évolué au cours des dernières années et des derniers mois. Plusieurs domaines requièrent une attention urgente en matière de recherche, tout comme doivent être surveillés la vitesse à laquelle les capacités progressent, le fonctionnement interne des systèmes d'IA à usage général et la manière dont ils peuvent être conçus pour agir de manière responsable. 

Le rapport établit trois catégories distinctes de risques liés à l'IA: 

• les risques liés aux usages malicieux, dont les cyberattaques, la création de contenu généré par l'IA; 

• les dysfonctionnements du système, qui comprennent les préjugés, les questions de fiabilité et la perte de contrôle potentielle face aux systèmes avancés d'IA à usage général; 

• les risques systémiques, qui proviennent de l'adoption massive de l'IA, dont la perturbation de la main-d'œuvre, les préoccupations en matière de respect de la vie privée et les effets sur l'environnement. 

Alors que les systèmes deviennent de plus en plus sophistiqués et que la technologie continue de se développer à un rythme effréné, le rapport met particulièrement l'accent sur l'urgence d'améliorer la transparence et la compréhension de la prise de décision en matière d'IA. 

Bien qu'il y ait encore plusieurs défis à relever relatifs à l'atténuation des risques des systèmes d'IA à usage général, le rapport met en lumière des domaines prometteurs pour la recherche future et conclut que des progrès peuvent être réalisés. Ultimement, il souligne que, si les capacités de l'IA pouvaient avancer à des vitesses variables, leur développement et les risques associés ne seraient pas acquis d'avance. Le rapport conclut en affirmant que les résultats dépendront des choix que les sociétés et les gouvernements feront aujourd'hui et demain.  

«Les capacités des systèmes d’IA à usage général ont augmenté rapidement au cours des dernières années et des derniers mois. Si elle renferme un grand potentiel pour la société, l’IA présente aussi des risques importants qui doivent être gérés avec soin par les gouvernements du monde entier. Ce rapport rédigé par des expertes et experts indépendants vise à favoriser les discussions constructives et fondées sur des données factuelles à propos de ces risques, et sert de base commune aux responsables des politiques du monde entier pour comprendre les capacités, les risques et l’atténuation potentiels des systèmes d’IA à usage général», a affirmé Yoshua Bengio.