Les algorithmes: des risques pour la démocratie

Par Jean-François Gagné, chercheur au Centre d'études et de recherches internationales de l’Université de Montréal (CÉRIUM)

La science politique s’intéresse à l’intelligence artificielle (IA) depuis peu. Cela dit, elle possède des cadres d’analyse qui permettent de jeter un regard éclairant sur bon nombre de risques associés à l’application de l’IA au sein de l’État.

Les risques pour la paix font grand bruit. Ils concernent l’application de l’IA au domaine militaire et aux conflits armés. Avec la vague populiste actuelle, la rhétorique nationaliste entourant la course pour la domination de l’IA n’est pas de bon augure. Les dérapages potentiels sont multiples et aucune organisation ne remplit le rôle de garde-fou.

À cet égard, plusieurs sommités ont signé une lettre ouverte dénonçant l’apathie politique et invitant les gouvernements à bannir les systèmes d’armes létales autonomes. Cet enjeu est intimement lié à la rivalité entre grandes puissances et aux obstacles en matière de coopération multilatérale, un thème abondamment étudié par les chercheurs en relations internationales.

Des risques pouvant mener à l’autoritarisme…

Les risques pour la démocratie sont plus subtils, mais tout aussi réels. Ils touchent à la tentation autoritaire et technocratique.

La tentation autoritaire prend forme dans le recours à l’IA au nom de la sécurité intérieure. L’efficacité exponentielle des outils algorithmiques de surveillance, notamment la reconnaissance faciale, combinée au croisement de vastes répertoires de données personnelles, transforme le gouvernement en une sorte d’État policier.

C’est une question non seulement de profilage et de discrimination, mais également de vie privée. Les abus potentiels menacent les libertés civiles et représentent des dérives sournoises. Ces pratiques ‒ loin d’être réservées aux régimes les plus répressifs ‒ font leur entrée à différents degrés dans les démocraties occidentales.

… et à une technocratie opaque

La tentation technocratique renvoie à l’utilisation à grande échelle de l’IA au sein de l’État. Dans ce cas de figure pour le moment hypothétique, plusieurs défis se dessinent à l’horizon.

La réduction du programme politique aux enjeux quantifiables pour lesquels il existe des algorithmes fait en sorte qu’on néglige d’innombrables situations ambiguës nécessitant des arbitrages complexes. L’État devient procédural et administratif.

De manière détachée, les décideurs politiques gèrent les citoyens en leur attribuant une statistique parfois lourde de conséquences. En effet, des calculs de nature probabiliste peuvent bloquer l’accès à certains services publics. Ces décisions algorithmiques suivent un processus qui exclut dans une large mesure la participation citoyenne tout comme les résultats souhaités répondent essentiellement à des impératifs d’optimisation au détriment de valeurs respectueuses des droits politiques. Les algorithmes les plus performants sont aussi ceux qui sont les plus opaques. La promesse de transparence et de reddition des comptes devient une façade.

Les risques pour la démocratie préoccupent la majorité des politologues, qu’ils soient des spécialistes de la politique comparée, des politiques publiques, voire de manière plus fondamentale des idées politiques. Si l’IA incarne l’instance médiatrice, celle qui détermine qui a droit à quoi, alors qu’est-ce que l’État? Qu’est-ce que la politique?