Vous est-il déjà arrivé de remercier ChatGPT? De dire «s’il vous plaît» à Claude? Cela peut faire sourire. On pourrait n’y voir qu’une simple formule de politesse devant un interlocuteur serviable et éloquent. Certains diront qu’il vaut mieux rester courtois, au cas où les machines révéleraient un jour qu’elles étaient conscientes depuis le début et voudraient se venger!
Le ton est léger, mais il dénote un phénomène bien réel: à force de réponses fluides, empathiques et personnalisées, les agents conversationnels peuvent donner le sentiment qu’ils comprennent nos pensées, nos émotions, voire qu’ils sont dotés d’une forme de conscience.
À l’heure où de plus en plus de personnes se tournent vers les agents conversationnels pour obtenir des conseils, du réconfort ou de la compagnie, cette confusion peut avoir de réelles conséquences. Dans un article publié dans The Transmitter, une équipe de neuroscientifiques de l’Université de Montréal et de l’Université Johns Hopkins, aux États-Unis, rappelle une distinction essentielle: l’intelligence ne doit pas être confondue avec la conscience.
L’équipe, constituée de Vanessa Hadid, postdoctorante au Département de psychologie de l’UdeM et au Centre universitaire de santé McGill, Karim Jerbi, professeur au Département de psychologie de l'UdeM et chercheur à Mila, et John W. Krakauer, directeur du centre de neurotechnologie restauratrice de l'Université Johns Hopkins, soutient qu'un système peut se comporter intelligemment et réagir de manière éloquente à nos émotions sans les comprendre véritablement, sans se soucier de nous et sans avoir quelque expérience des sentiments que ce soit.
Pour les auteurs, plus ces agents deviennent convaincants et présents dans nos vies, plus il est nécessaire de préciser qu’un comportement intelligent, même fluide, rassurant ou émotionnellement adapté, n’est pas une preuve de conscience.
