IA responsable: un guide pour aider les municipalités

«Les villes subissent de fortes pressions pour adopter l’IA, mais elles n’ont pas toujours les ressources pour évaluer sa pertinence et les risques qui y sont associés», remarque Halima Bachir, étudiante de maîtrise en affaires publiques et internationales à l’UdeM. La stagiaire à IVADO a participé à la rédaction du guide. «Nous avons élaboré ce guide pour aider les villes du Québec à adopter l’IA uniquement lorsqu’elle est pertinente et, surtout, à le faire de façon responsable et progressive», poursuit Catherine Régis. Parce qu’une adoption trop rapide ou peu adaptée peut entraîner des coûts inutiles, sans compter les difficultés liées à l’introduction de biais, à la sécurité et à la confidentialité des données.

Avec Nord Ouvert, IVADO a d’abord consulté différents partenaires, autant du milieu municipal que du secteur communautaire, pour mieux connaître leurs réalités, leurs craintes et leurs besoins. «Travailler de concert avec les gens qui vont être les utilisateurs de la technologie ou qui vont la mettre en place, c’est au cœur de notre ADN», souligne la professeure. Le guide a ensuite été rédigé par Nord Ouvert et finalisé par IVADO.

Le guide repose sur quatre piliers: l’amélioration des connaissances sur l’IA via la formation du personnel, la gestion stricte des données sensibles, la supervision humaine et la transparence publique. 

En plus d’offrir plusieurs définitions, ce guide d’«autodéfense» propose des recommandations et des pistes de réflexion aux villes: avantages et limites, applications possibles et exemples inspirants, principes d’IA responsable et cadre de gouvernance, angles morts et questions stratégiques. «Nous avons intégré des dimensions qu’on oublie souvent, comme l’équité numérique et la durabilité écologique», précise Halima Bachir. Ainsi, le guide souligne l’importance d’intégrer les parties prenantes et les groupes vulnérables dès les premières étapes de la conception d’un outil d’intelligence artificielle, et rappelle les coûts énergétiques importants des systèmes d’IA. «On sent qu’il y a une pression pour adopter l’intelligence artificielle parce que c’est tendance, mais ce n’est pas toujours la solution la plus pertinente», mentionne l’étudiante.

Au-delà du guide, IVADO continue de travailler avec les municipalités sur des questions d’IA et aimerait mettre sur pied des ateliers et des formations en lien avec celui-ci. D’autres projets sont en cours sur ces thèmes, comme l’outil d’IA urbaine pour l’arrondissement de Côte-des-Neiges–Notre-Dame-de-Grâce, qui vise à faciliter la communication avec les communautés dont les membres ne parlent pas bien français ni anglais et leur accès aux services.

Parce que, si l’IA est pleine de promesses, il faut prendre le temps de bien faire les choses: «La clé d’une bonne démarche en matière d’IA responsable, c’est de réfléchir de manière critique. Ça ne veut pas dire de tourner le dos à l’IA, mais il faut se demander si elle répond à un réel besoin, si elle a une valeur ajoutée, si elle respecte les droits des personnes et si elle est sécuritaire», conclut Catherine Régis.