Yoshua Bengio dirigera un rapport sur les risques de l'IA

Yoshua Bengio a une autre tâche importante à accomplir: diriger la rédaction d'un rapport sur l'état de la science concernant les capacités actuelles des systèmes d'intelligence artificielle (IA) d'avant-garde, leur orientation et les risques qu'ils comportent.

Ce mandat a été confié au professeur d'informatique de l'Université de Montréal et fondateur et directeur scientifique de Mila – l'Institut québécois d'intelligence artificielle – par le gouvernement britannique, qui a organisé un sommet de deux jours sur l'intelligence artificielle, qui s'est achevé aujourd'hui.

L'objectif du rapport est de faciliter une compréhension scientifique commune des risques associés aux systèmes d'IA avancés et de la faire évoluer au fil des progrès de l'IA.

Le document résumera la recherche en cours et désignera les priorités de recherche en fournissant une synthèse des connaissances actuelles sur les risques liés à l'IA avancée. Il s'appuiera sur une déclaration sur l'IA faite le 1^er novembre par le Royaume-Uni, les États-Unis, le Canada, l'Union européenne et 25 autres pays.

Consensus sur les questions d’IA

«Tout au long de l’AI Safety Summit, j'ai pu constater à quel point les gouvernements, les entreprises et les groupes de la société civile prennent au sérieux les questions relatives au développement rapide des systèmes d'IA de pointe, a déclaré Yoshua Bengio, lauréat d'un prix A. M. Turing. Il est essentiel que ces acteurs clés se réunissent pour réfléchir à la manière de limiter les risques que ces systèmes présentent pour nos démocraties et nos sociétés. Afin de commencer à collaborer à l'échelle internationale, il est indispensable d'établir la cartographie scientifique des risques et des capacités de ces systèmes.»

Le premier ministre britannique, Rishi Sunak, a accueilli le sommet international auquel ont participé des industriels influents tels qu'Elon Musk et des experts du monde entier, dont Yoshua Bengio et sa collègue à Mila Catherine Régis, professeure de droit de la santé à l'UdeM.

Pour superviser le rapport d'étape, qui s'abstiendra de formuler des recommandations politiques ou règlementaires, le professeur Bengio pourra compter sur un groupe d’universitaires spécialisés dans l'IA, un groupe consultatif d'experts internationaux et un secrétariat mis en place par le gouvernement britannique.

Le rapport sera publié avant le prochain sommet sur la sécurité de l'IA, qui se tiendra en France en 2024.