L’AMF publie un rapport pour une utilisation responsable de l’IA en finance

En 5 secondes Après avoir adopté la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, l’AMF publie un rapport auquel a contribué Marc-Antoine Dilhac.

La finance figure parmi les secteurs où l’intelligence artificielle (IA) s’avère particulièrement utile et où elle est déjà bien implantée, entre autres quand il est question du calcul des risques en assurance et du suivi des performances des investissements.

Soucieuse que les systèmes d’intelligence artificielle soient à l’avantage mutuel des consommateurs et des établissements financiers, l’Autorité des marchés financiers (AMF) a amorcé une importante réflexion à partir de 2019 qui a mené à la publication, en novembre dernier, d’un rapport intitulé L’intelligence artificielle en finance: recommandations pour une utilisation responsable.

Et c’est au laboratoire de recherche en éthique et gouvernance de l’IA Algora Lab, dirigé par le professeur Marc-Antoine Dilhac, du Département de philosophie de l’Université de Montréal, que l’organisme de règlementation et d’encadrement du secteur financier du Québec a confié le mandat de réfléchir sur les enjeux éthiques de l’intelligence artificielle pour les marchés financiers et de formuler une série de recommandations. L’équipe d’Algora Lab a mené ce projet en partenariat avec le Centre interuniversitaire de recherche en analyse des organisations (CIRANO), présidé par Nathalie de Marcellis-Warin, de Polytechnique Montréal, et le réseau Fin-ML du professeur Manuel Morales, de l’UdeM.

«L’Autorité des marchés financiers a voulu s’associer à des spécialistes pour cerner les enjeux éthiques de l’IA dans le secteur de la finance, indique celui qui a joué un rôle central dans les travaux ayant conduit au lancement, en 2018, de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Après discussions, les dirigeants de l’AMF ont manifesté un grand intérêt pour les principes de la Déclaration, voulant les adopter et en élargir la portée aux établissements financiers et aux régulateurs.»

Protéger les droits des consommateurs et inspirer de bonnes pratiques

Marc-Antoine Dilhac

Le secteur financier est un domaine où la mathématisation des processus de décision est largement répandue et bon nombre d’organisations publiques et privées souhaitent depuis plusieurs années intégrer des principes éthiques de l’intelligence artificielle.

«Or, peu d’entre elles sont en mesure de convertir ces principes en lignes directrices concrètes pour une mise en place responsable de l’IA et la protection des droits et intérêts des consommateurs de produits financiers et pour assurer la stabilité et l’équité des marchés», souligne le professeur Dilhac.

C’est dans ce contexte que l’AMF a amorcé une réflexion sur l’utilisation responsable de l’intelligence artificielle l’an dernier. Le travail que Marc-Antoine Dilhac a entrepris avec ses collègues du CIRANO et de Fin-ML s’est effectué en trois étapes:

  • désignation et analyse des cas d’usage pertinents et des principaux enjeux éthiques;
  • consultation citoyenne sur l’IA en finance;
  • proposition de recommandations à l’AMF pour l’encadrement de l’intelligence artificielle.

Le rapport final est une synthèse de ces différentes étapes et servira de guide aux établissements financiers désireux d’appliquer concrètement ces principes éthiques.

«J’ai participé à cet exercice en raison de la mission publique de l’Autorité, de son rôle de protectrice des droits et des intérêts des consommateurs et de sa capacité à inspirer de bonnes pratiques, ajoute M. Dilhac. Et il faut applaudir l’ambition intellectuelle dont l’AMF a fait preuve en se dotant d’un réel cadre de référence pour susciter la réflexion sur la régulation du secteur.»

Dix grandes recommandations

Le rapport contient une série de 10 recommandations: 3 sont formulées à l’intention de l’AMF et 7 sont destinées à l’industrie. Elles s’appuient sur un recensement de cas d’utilisation et sur l’appréciation des risques et défis de l’implantation responsable de l’intelligence artificielle en finance. Ces recommandations reposent également sur une interprétation des principes de la Déclaration dans le contexte propre aux activités du secteur financier.

Parmi les recommandations destinées à l’AMF, deux visent essentiellement à ce que le régulateur adopte un cadre modèle de l’utilisation responsable de l’intelligence artificielle en finance et qu’il définisse avec les parties prenantes les sources et les types de données qu’il est légitime d’utiliser pour faire fonctionner les systèmes d’IA, et ce, indépendamment de la question de la protection des renseignements personnels.

«En proposant des valeurs et des principes, ce cadre permettra aux établissements financiers d’aligner leurs codes d’éthique de l’utilisation de l’intelligence artificielle et de définir les pratiques non acceptables», explique le professeur Dilhac.

En ce qui a trait aux recommandations pour les établissements financiers eux-mêmes, elles visent entre autres à ce qu’ils attribuent une responsabilité humaine aux décisions prises par les systèmes d’intelligence artificielle et qu’ils adoptent des mesures de contestation simples pour les clients qui, en général, n’ont pas les connaissances adéquates pour reconnaître les situations problématiques. De même, ils devraient s’assurer que leurs systèmes d’IA ne portent pas atteinte ni à l’équité ni à l’autonomie des consommateurs – l’IA pouvant non seulement reproduire, mais aussi renforcer les inégalités sociales, par exemple pour ce qui est de l’historique de crédit d’une personne.

Partager

Vous pourriez aimer