Des citoyens veillent au développement responsable de l’IA

À mi-parcours, les délibérations citoyennes en vue de la rédaction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (IA) ont permis à 500 personnes de se faire entendre au cours d’une quinzaine d’ateliers tenus depuis novembre 2017. Quinze mémoires ont également été acheminés au comité d’élaboration, qui a rendu public un premier bilan sur son site. «Nous avons proposé des balises pour encadrer les discussions autour de sept valeurs fondamentales – bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité – et la réponse des citoyens s’est avérée très positive», a résumé Christophe Abrassart, responsable des consultations.

M. Abrassart présentait une synthèse de ces consultations en ouverture de la rencontre Frontière IA, qui a attiré plus de 2000 personnes au Virage – campus MIL du 14 au 16 juin. «De manière générale, les participants ont reconnu que l’avènement de l’IA s’accompagne d’importants bénéfices potentiels. Notamment, dans le secteur du travail, les participants ont reconnu le gain de temps que pourrait offrir le recours à des dispositifs d’IA», peut-on lire dans le sommaire des débats. Mais on ajoute aussitôt que ce développement doit se faire avec prudence pour éviter les dérives.

Yoshua Bengio change son fusil d’épaule

«Il y a quelques années, dans les laboratoires, on ne se posait pas la question de l’effet potentiellement négatif de nos découvertes», a confié Yoshua Bengio, dont la conférence inaugurale a été suivie par 600 personnes. Le directeur de l’Institut québécois d’intelligence artificielle et professeur du Département d’informatique et de recherche opérationnelle de l’Université de Montréal, chef de file de la recherche sur l’IA, affirme qu’il a «changé son fusil d’épaule» depuis qu’il a vu l’entreprise privée s’emparer de certains de ses travaux. «On ne peut plus dire maintenant que l’application de nos connaissances ne nous concerne pas!»

M. Bengio n’a pas attendu la tenue des consultations pour réfléchir sur les moyens d’éviter les dérapages. Dès 2015, il cosignait avec le physicien Stephen Hawking et des têtes d’affiche des technologies émergentes (dont Elon Musk et Steve Wozniak) une lettre ouverte demandant d’interdire les «robots tueurs», comme on surnomme les armes autonomes.

Enchanté de voir le public répondre massivement à l’invitation des organisateurs de la Déclaration de Montréal, le professeur Bengio croit que la sagesse collective saura guider les divers protagonistes de l’intelligence artificielle.

Inspirée de la Déclaration universelle des droits de l’homme

À terme, la Déclaration de Montréal doit proposer un cadre éthique pour les chercheurs et les entrepreneurs sur le chemin des algorithmes. Inspiré de la Déclaration universelle des droits de l’homme, le texte, qui devrait tenir sur une ou deux pages, balisera les usages dans différents contextes. Les citoyens sont appelés à anticiper «comment des enjeux éthiques pourraient surgir dans les prochaines années à propos de l’IA dans les secteurs de la santé, de l’éducation et de la culture, dans celui de la ville intelligente, dans le système judiciaire et la police prédictive, dans le monde du travail et dans les services publics».

Comme l’a expliqué le recteur Guy Breton au lancement des consultations, l’automne dernier, «le thème de l’intelligence artificielle touchera progressivement tous les secteurs de la société et nous devons poser, dès maintenant, les balises qui encadreront son développement afin qu’il soit conforme à nos valeurs humaines et porteur d’un véritable progrès social».

Dans la deuxième phase des consultations, qui s’entame aujourd’hui, on veut poursuivre la «coconstruction» de cette déclaration, dans laquelle une dizaine de professeurs et d’étudiants des cycles supérieurs de l’UdeM sont engagés. «Nous allons continuer d’aller à la rencontre des gens de tous âges et de toutes conditions afin de recueillir leurs idées et commentaires sur ce sujet. Nous ne pensions pas que notre démarche allait susciter autant d’intérêt et nous avons bon espoir que cela continue dans les prochains ateliers», a commenté M. Abrassart.

L’objectif est de présenter un document définitif en novembre 2019, alors que se déroulera à Montréal une rencontre internationale sur l’intelligence artificielle.