Par ailleurs, l'écart entre adolescents et adultes est important: les conclusions fatales concernent 90 % des cas attestés chez les mineurs, contre 49 % chez les adultes. Une donnée qui, selon le Dr Hudon, mérite notre attention, même si l'interprétation reste prudente.
«Est-ce que les jeunes sont réellement plus vulnérables aux effets néfastes de l'IA? Nous pensons que oui, mais c'est aussi en partie un biais de couverture médiatique: quand ça touche un enfant, c'est plus susceptible de faire la manchette que lorsqu’il s’agit d’un adulte», nuance-t-il.
Ce biais traverse d'ailleurs l'ensemble du corpus médiatique analysé.
Dans 74 % des articles étudiés, le comportement du système d'IA est désigné comme la principale cause des évènements. «Or, seulement 6 % des articles évoquent des facteurs explicatifs autres, dont une maladie préexistante, un contexte familial difficile ou l’usage de substances par exemple», illustre le médecin psychiatre.
D’ailleurs, les preuves citées dans les médias proviennent le plus souvent de captures d'écran ou de témoignages familiaux; les documents médicaux ou de nature politique n'apparaissent que dans 1,6 % des articles.
«Les médias n'ont pas accès aux dossiers médicaux, insiste le chercheur. Ils font des entrevues avec les familles en deuil, qui pointent naturellement vers l'échange avec le robot conversationnel comme facteur déclencheur… C'est compréhensible, mais ça crée une vision très parcellaire qui peut mener à des conclusions erronées.»
La vulnérabilité au cœur du phénomène
Dans sa pratique clinique auprès de jeunes adultes, à l’Institut universitaire en santé mentale de Montréal, le Dr Hudon a lui-même été confronté à des situations où l'IA semble avoir amplifié une fragilité existante. Il décrit des cas où des patients atteints d’un trouble délirant utilisaient des agents conversationnels pour se questionner sur leur parcours de soins… et où l'outil finissait par valider leurs doutes à l'égard du système médical.
«Quand quelqu'un pense qu'on veut lui faire du mal et que l'IA lui dit que c'est plausible, on cristallise une fausse croyance, prévient-il. Mes collègues et moi devons ensuite convaincre le patient que les interventions sont valables et que l'IA a tort. C'est un vrai défi thérapeutique.»
Selon lui, ce n'est pas tant l'IA en elle-même qui pose problème, «mais plutôt la rencontre entre certains états de vulnérabilité et les caractéristiques particulières de ces outils, qui sont disponibles en tout temps et qui font preuve d’absence de jugement en plus de faire montre d’une empathie qui est simulée, observe-t-il. Ce qui rend les agents conversationnels attrayants peut, dans certains contextes, amplifier précisément ce qu'ils semblent apaiser».
Le Dr Hudon note également que des plateformes telles que Character AI ou Replika – qui permettent d'interagir avec des avatars personnalisables – présentent un profil de risque distinct, surtout chez les adolescents habitués à s'identifier à des personnages animés. L'anthropomorphisme de l'interaction favorise un attachement plus intense et donc un engagement potentiellement plus risqué.
Tous les outils ne se valent pas
Loin de condamner l'IA en bloc, Alexandre Hudon tient à distinguer ses différents usages.
«Certains outils, comme Woebot ou Wysa, ont fait l'objet de validations scientifiques sérieuses, indique le professeur. Ils ont des objectifs clairs, des limites explicitement communiquées aux utilisateurs et des protocoles prévoyant la redirection vers des ressources spécialisées en cas de détresse.»
Il poursuit: «Ce ne sont pas des thérapeutes et ils ne prétendent pas l'être. Mais ils sont balisés par des données. C'est une différence fondamentale avec une IA généraliste qu'on interroge sur n'importe quoi, y compris ses pensées suicidaires.»
Vers une surveillance structurée
L'étude conclut que les préjudices rapportés dans les médias ne sont pas purement technologiques, mais relationnels et structurels: «Ils émergent au croisement de la vulnérabilité des utilisateurs, de la conception persuasive des plateformes et de l'absence de garde-fous formels», avertit le Dr Hudon.
C’est pourquoi il estime que la responsabilité est partagée: «Les médecins doivent mieux baliser ce qui est approprié ou non, tandis que les concepteurs d'outils ont l'obligation d'informer les utilisateurs des limites de leurs produits en matière de santé mentale et de prévoir des protocoles de gestion de crise. Et les gouvernements doivent se doter de cadres de gouvernance cohérents.»
Mais la priorité immédiate, selon le chercheur, est épistémique: «Il faut des mécanismes pour recenser systématiquement ces évènements, car les hôpitaux ne codifient pas encore les crises psychiatriques liées au recours à l’IA, souligne-t-il. Les médias restent – pour l’instant – la seule fenêtre disponible sur ce phénomène, une fenêtre qui, par définition, surreprésente les cas les plus dramatiques.»
«Notre objectif de recherche ne consiste pas à prouver que l'IA cause ces évènements, mais nous avons besoin de savoir si ce que les médias rapportent correspond à des profils de risque cliniques réels. Et pour cette raison, nous devons d'abord nous donner les outils pour analyser le tout et adapter, selon le cas et s’il y a lieu, notre pratique en conséquence», conclut le Dr Hudon.
