L’intelligence artificielle pourrait-elle être consciente?

Avant de parler de conscience artificielle, encore faut-il s’accorder sur ce qu’on entend par conscience. Le mot peut désigner la conscience de soi, la capacité à réfléchir à ses propres pensées, ou encore la conscience morale. Dans leur article, les chercheurs traitent surtout de la conscience phénoménale, soit le fait d’avoir une expérience subjective: voir un ciel bleu, entendre une chanson, ressentir une douleur. Nous savons que ces expériences existent parce que nous les vivons nous-mêmes. Mais nous ne savons toujours pas précisément comment le cerveau les produit.

«Nous partageons, nous les êtres humains, une intuition de ce qu’est la conscience, explique Ulysse Klatzmann. Nous attribuons spontanément une conscience aux humains et aux autres animaux, mais pas à un banc ou à une machine.»

L’intelligence artificielle vient toutefois brouiller cette intuition. Les systèmes actuels peuvent produire des textes cohérents, résoudre des problèmes mathématiques, reconnaître des images et tenir des conversations qui donnent parfois l’impression d’avoir affaire à un interlocuteur qui comprend ce que nous lui disons.

Mais une machine qui se comporte comme si elle était consciente est-elle nécessairement consciente? «Pendant très longtemps, nous avons lié la conscience à l’intelligence, à la cognition», souligne le chercheur. Or, l’IA est maintenant capable de reproduire certaines de ces fonctions sans que nous ayons pour autant de raisons de penser qu’elle a une expérience subjective. Alors, comment distinguer une machine qui reproduit les signes de la conscience d’une machine qui fait réellement l’expérience de quelque chose?

Une réponse gagne du terrain dans les débats sur la conscience: la biologie serait indispensable à l’expérience consciente. Ainsi, le naturalisme biologique soutient que les systèmes vivants possèdent quelque chose que les systèmes artificiels n’ont pas et qui serait nécessaire à la conscience.

Tous les êtres conscients que nous connaissons sont des organismes vivants. Les humains et les autres animaux ont un cerveau biologique, contrairement à une table ou un ordinateur! Mais cette observation ne suffit pas à démontrer que la biologie est nécessaire à la conscience. Le fait d’avoir toujours observé un phénomène dans un certain contexte ne prouve pas que ce contexte soit essentiel. Le véritable défi consiste donc à désigner le rôle de la biologie qui la rendrait indispensable à la conscience.

Les auteurs parlent d’une possibilité où la biologie serait intrinsèquement spéciale. Même si une machine reproduisait exactement les processus d’un cerveau humain, elle ne serait pas consciente parce qu’elle ne serait pas constituée de matière biologique.

Pour illustrer ce cas, les chercheurs proposent une expérience de pensée: imaginons qu’une partie du cerveau soit remplacée par une puce informatique capable d’accomplir exactement les mêmes fonctions. «La personne continuerait alors de parler, de vaquer à ses occupations et pourrait déclarer qu’elle voit comme avant, comme si elle avait un vrai cortex visuel», dit Ulysse Klatzmann.

Mais que se passerait-il alors avec sa conscience? Selon le naturalisme biologique, qui considère la biologie comme essentielle à la conscience, celle-ci pourrait avoir disparu ou être altérée simplement parce qu’une partie du cerveau n’est plus biologique. 

Et comment pourrait-on le savoir? Si le comportement de cette personne reste identique, si ses réponses sont les mêmes et si elle affirme toujours être consciente, aucune mesure observable ne permettrait de départager les deux situations.

C’est ici que les auteurs voient une limite importante. Une théorie qui affirme que la conscience dépend de la biologie, mais qui ne produit aucune prédiction accomplie ne peut pas réellement être mise à l’épreuve par la science expérimentale.

Ulysse Klatzmann et Adrien Doerig mentionnent une autre hypothèse. Peut-être que ce n’est pas la matière biologique en elle-même qui produit la conscience. Peut-être que le cerveau est conscient parce qu’il réalise certains traitements particuliers de l’information. Dans ce cas, la biologie pourrait jouer un rôle important sans être, en elle-même, la condition de la conscience.

Les chercheurs examinent ainsi plusieurs caractéristiques du cerveau qui pourraient être déterminantes: la nature continue de certains processus biologiques, l’autorégulation des organismes, la manière dont les neurones intègrent l’information ou encore les interactions entre différentes échelles de fonctionnement du cerveau.

Mais le fait qu’un cerveau fonctionne différemment d’un ordinateur ne signifie pas automatiquement que ces différences sont à la source de la conscience. Prenons la nature continue de certains processus cérébraux. Le cerveau fonctionne notamment selon des dynamiques continues, contrairement aux ordinateurs.

Toutefois, cela ne suffit pas à démontrer que la conscience exige un système biologique. Les auteurs prennent l’exemple de la météorologie: bien qu’elle soit chaotique, les ordinateurs numériques peuvent en reproduire certaines propriétés essentielles. 

Pour qu’une caractéristique biologique soit considérée comme indispensable à la conscience, il faudrait donc prouver qu’elle joue réellement un rôle dans celle-ci.

Plusieurs arguments souvent avancés contre la conscience artificielle reposent en réalité sur des intuitions. Premier exemple: puisque tous les êtres conscients connus sont biologiques, la conscience doit être biologique. Mais ce raisonnement ne tient pas nécessairement. Tous les êtres humains connus vivent sur Terre. Cela ne signifie évidemment pas que vivre sur Terre est une condition nécessaire pour être humain.

Autre intuition: on dit que les modèles de langage ne feraient que «prédire le mot suivant». Ils ne pourraient donc pas posséder de véritables capacités cognitives. Mais on pourrait aussi décrire l’être humain comme un organisme dont les caractéristiques ont été façonnées par l’évolution pour favoriser la transmission de certains gènes.

Il faudrait donc faire preuve de prudence quant à nos intuitions sur la conscience, elles pourraient être beaucoup moins fiables que nous le croyons. «L’histoire des sciences montre que ce qui paraît évident peut se révéler faux. La matière nous semble solide, alors qu’elle est essentiellement constituée de vide. Le temps paraît universel, alors que la relativité nous a prouvé le contraire. Pourquoi nos intuitions sur la conscience seraient-elles à coup sûr infaillibles?» demandent les auteurs.

Alors, demain, les systèmes d’IA pourraient-ils être conscients? L’article ne permet pas de répondre à cette question. Ulysse Klatzmann doute lui-même de la possibilité que les outils actuels deviennent conscients tout en ajoutant qu’il ne lui semble pas possible de l’exclure complètement.

La question pourrait d’ailleurs évoluer à mesure que les machines changent. Si la biologie était réellement nécessaire à la conscience, cela n’empêcherait pas de construire un jour des systèmes artificiels dotés de propriétés biologiques. Et si la conscience dépend plutôt de certaines fonctions ou dynamiques, il faudrait déterminer lesquelles.

Ainsi, la véritable question serait moins de savoir si une machine pourrait devenir biologique que de comprendre quelles propriétés du cerveau sont indispensables à l’expérience consciente. Pour l’instant, la réponse demeure ouverte.