Michel Bitbol : La Conscience artificielle. Une critique vécue

Se procurer l’ouvrage.

 

Dans La conscience artificielle, paru récemment aux Éditions Mimésis (collection « Philosophie »), Michel Bitbol ne démontre pas seulement qu’il n’y a pas de sens à attribuer une conscience à des robots : il révèle en outre l’origine profonde de ce fantasme d’une conscience artificielle. En seulement 135 pages, l’ouvrage ne condensent rien de moins que 19 chapitres, ainsi qu’un « épilogue » qui éclaire la source de cette utopie qui envahit de plus en plus l’imaginaire collectif. Comme l’indique le sous-titre, l’ouvrage se présente comme « une critique vécue » de la conscience artificielle : en recourant à la méthode phénoménologique, l’auteur examine et remet en cause la possibilité d’artéfacts qui seraient à proprement parler conscients.

La conscience qui intéresse ici l’auteur est celle qu’il thématisait déjà dans La conscience a-t-elle une origine ?, à savoir la conscience qualitative, phénoménale, autrement dit l’expérience vécue, identifiée à la monstration elle-même.[1] Il s’agit de « l’aspect le plus intime et le plus insaisissable de la conscience » (p. 9), de la « précondition » de la parole, des concepts, du savoir, de la pensée, du sens du langage, de toute attribution d’existence et, surtout, de « toute recherche scientifique[2] » (p. 26). À ce titre, elle ne peut pas être interrogée (p. 10), elle est « indicible » (p. 18) ou « ineffable », extérieure au langage, « partagée silencieusement » entre les êtres sensibles, ou encore « invisible » (p. 26), transparente, comparable à un « angle mort agissant en sous-main ». Nous ne pouvons la montrer ou la décrire que « par allusions et métaphores » (p. 18). Mais beaucoup de chercheurs en intelligence artificielle esquivent, omettent ou oublient cette conscience, en vue précisément de « pouvoir présenter l’artéfact conscient comme un but accessible dans un futur proche moyennant un surcroît de technologie » (p. 9).

 

La conscience artificielle vue par l’IA

Après avoir indiqué que l’avènement de l’IA annonce une véritable « révolution post-anthropologique » (p. 13), Bitbol interroge deux IA (ChatGPT et Gemini) sur leurs rapports à la conscience. L’IA refuse alors de s’attribuer une conscience phénoménale, ou écarte temporairement cette attribution, par un argument semblable à celui de la « chambre chinoise » de John Searle.[3] Interrogée sur la conscience artificielle, l’IA ne peut qu’emprunter ses réponses « à l’état présent d’un débat philosophico-scientifique humain », qui reste « indécis voire confus ».[4] Mais contrairement à l’IA, nous, humains, pouvons avoir « la conscience pré-symbolique de la pensée formulée », prendre conscience silencieusement des étapes parcourues (p. 22). De plus, le fait d’être situé, incarné et sensible « oriente la pensée dans des directions que seul peut imposer le « souci » d’être soi, ainsi, en cet endroit du monde, et en dialogue avec des alter-ego ». La méta-pensée nous permet de réaliser que notre interrogation sur la conscience est un acte présent de notre conscience et que notre réponse n’a de sens que pour une ou des conscience(s). De sorte que la conscience prime sur ses objets et ses contenus. Et l’interrogation sur la possibilité d’une conscience artificielle « ne vaut pleinement que pour un être qui sait déjà ce qu’est la conscience par expérience directe » (p. 23)[5] :

« La présence d’une expérience du penseur est le codicille tacite de toute pensée sur la conscience artificielle ».

Appliquée au cas de la conscience, notre intelligence est capable « d’un dialogue entre plusieurs êtres conscients, et conscients de la conscience de leurs partenaires ».[6] L’individu qui s’interroge sur la conscience artificielle peut « faire appel à une expérience qu’il a, et que pourraient partager ses alter-ego humains ». Le discours d’une IA sur la conscience artificielle est au contraire « calqué sur la part la plus désengagée de l’enquête scientifique » (p. 25). Ce qui le rend « étranger à la vérité qu’il recherche », puisqu’aucune conscience ne peut se réduire à un « thème d’exercice parmi d’autres pour une intelligence abstraite ». La perspective d’une conscience artificielle promet de mélanger deux attitudes : d’une part imiter l’IA, cet « algorithme désincarné », et d’autre part agir en « être situé » en revenant « au sol familier d’où tous les projets de création sont issus » (p. 26). Un objet extérieur à nous serait en effet doté d’une intériorité vécue par lui. Nous déléguerions le souci de soi à un non-humain ; mais les scientifiques reproduiraient peut-être « l’extrême aliénation de leurs vies » qui a été la condition pour qu’ils conçoivent l’idée d’une conscience artificielle.

 

 

Sens et non-sens dans la quête d’une conscience artificielle

Après avoir disqualifié les principales tentatives d’explication quantique de l’émergence de la conscience, y compris phénoménale,[7] l’auteur récapitule : l’accomplissement des seules fonctions cognitives de l’esprit humain ne suffit probablement pas « à « engendrer » la conscience phénoménale, ou du moins à en faire entrer les éléments en coalescence » (p. 97). Des machines qui ne sont que comportementalement et fonctionnellement équivalentes aux êtres humains seraient probablement dépourvues de conscience phénoménale. De fait, « nous n’avons aucune certitude concernant lequel [des] éléments de substrats physiques [présents chez les êtres vivants] sous-tend ou ne sous-tend pas la conscience phénoménale. […] Rien, dans aucune science de la nature […] ne s’impose comme générateur ou porteur indubitable de l’expérience vécue » (p. 99), sauf à faire passer subrepticement l’objectif pour subjectif.[8]

« Nous n’avons rigoureusement aucun critère nous permettant de savoir a priori si un artéfact fabriqué par nous […] serait ou ne serait pas doté de conscience phénoménale » (p. 100).

Par définition, il n’y a aucun moyen objectif de tester la conscience phénoménale d’un artéfact, de sorte que notre ignorance à ce sujet restera à jamais insurmontable. Et tenter d’obtenir un résultat que l’on ne pourra par principe pas attester est « une proposition dénuée de sens » (p. 101). Bitbol suggère qu’essayer de fabriquer un robot pleinement conscient, doté d’une conscience phénoménale, « frise le non-sens ». Et c’est à la seule philosophie, non pas à la science, de s’interroger sur le sens ou le non-sens, avant l’attribution d’une valeur de vérité.

« La conscience (phénoménale) artificielle est, pour nous, un concept dénué de sens ».

Pourquoi le concept d’une conscience (phénoménale) artificielle est-il « dénué de sens » (p. 102) ? Parce qu’il « vise à faire ressaisir un fragment de ce qui se vit en première personne par des théories scientifiques, et des procédures de fabrication d’artéfacts, qui ne sont formulables qu’en troisième personne » (p. 103). La raison en est aussi que nous parlons couramment comme si la conscience phénoménale, relevant de la première personne, était fragmentable en différents corps vivants et humains, descriptibles en troisième personne. Or il faut ici revenir à « la pure expérience en première personne, éprouvée de facto au singulier » – expérience anonyme, impersonnelle, qui ne peut pas « servir d’attribut à quelque chose que ce soit, parce qu’elle est l’origine où se constitue le savoir des attributs et des choses » (p. 103-104).

 

 

L’alter ego peut-il être un alter-robot ?

L’auteur se demande si nous pouvons étendre « une sphère d’intersubjectivité » (« notre certitude vécue de la co-présence des alter-ego ») à des entités robotiques (p. 105). Il apparaît alors possible que, par une nouvelle sorte d’animisme, nous en venions à accepter des robots « comme membres de notre communauté d’inter-expérience ». De fait, « nous faisons de moins en moins la différence entre traiter une entité comme consciente et lui attribuer une conscience » (p. 119). La suite explicite le motif que nous aurions d’exiger que les robots soient réellement dotés d’une conscience phénoménale (p. 120), les intérêts apparents de « l’implémentation d’une conscience « réelle » dans un robot ». Reste que nous, humains, n’avons aucun moyen de savoir si l’attribution d’une conscience aux artéfacts « est faite à bon escient, et encore moins de la prouver ». La conscience s’atteste uniquement – sans être prouvée – par « l’évidence d’être, que vous et moi vivons en ce moment même, en première personne d’un singulier anonyme » (p. 122).

 

 

Être du monde et le fuir

L’épilogue distingue deux tendances antagonistes, constituant « les deux faces du rêve ambivalent qui [nous] définit par contraste avec le reste de la nature » (p. 134). D’une part, nous tentons de nous affranchir de la nature : nous nous vivons comme venus « après coup », nous nous posons comme en partie extérieurs au monde, ce dont témoigne cette connaissance a posteriori de la nature qu’est la science expérimentale.[9] D’autre part, Bitbol évoque la connivence, l’intégration ou l’« espoir de retour » (p. 127), notre désir de retour à l’origine. Comme tout animal, nous cherchons un compromis, vis-à-vis du monde environnant, entre ces deux tendances opposées, mais nous avons maximisé le détachement en perfectionnant le remodelage de notre milieu. Au point que « nous évoluons davantage dans l’architecture épurée de nos théories, de nos mythes ou de nos desseins que dans le contact concret avec ce qui se vit et se présente ». En s’appuyant sur les travaux de Renaud Barbaras, en particulier sur le concept de mouvement élaboré par ce dernier, l’auteur montre que « la différence sujet-monde et la participation du sujet au monde » sont compatibles.[10] Mais l’exploitation des ressources, ainsi que l’IA, la « fuite en avant technologique dans le domaine de l’Intelligence Artificielle », attestent que la pulsion séparatrice prime sur le désir de retour (p. 129). Le corps vivant et vécu fait néanmoins obstacle à cette pulsion, puisqu’il unit « l’esprit à la dynamique du monde dont il est l’envers, l’expression, le corrélat ». Tout comme il fait obstacle, comme signe de « notre indissoluble appartenance au monde », à l’utopie d’un robot capable de nous remplacer parce qu’il serait doté de toute notre structure cognitive (p. 131). Finalement, le projet d’une conscience artificielle révèle le « caractère à la fois impensable et contradictoire d’une dissociation trop complète vis-à-vis de notre propre condition » (p. 133-134). Et si ce fantasme nous obsède, c’est parce qu’une telle conscience nous permettrait de nous « désancrer entièrement » tout en retrouvant « le goût de l’ancrage lorsque le mal du pays se fait trop intense ». Bref, cela nous permettrait de concilier les deux tendances antagonistes précédemment repérées.

 

La Conscience artificielle est un ouvrage original, audacieux, captivant, et riche des multiples directions vers lesquelles chemine une enquête qui sait, pour autant, ne jamais perdre son fil directeur phénoménologique. Des neurosciences à la physique quantique, en passant par la robotique, ou encore la conquête spatiale, La Conscience artificielle décrit un parcourt passionnant, qui prolonge les recherches précédentes de Bitbol sur la conscience tout en explorant des questions inédites, aussi instantes qu’elles sont épineuses. Ce faisant, l’auteur démontre la pertinence de ses interrogations et la fécondité de sa méthode.

***

[1] La conscience phénoménale est « ce que cela fait d’être », « le savoir immédiat de la qualité sensible » (p. 10), voire la « sensation ininterprétée » (p. 11). Il s’agit de l’expérience pure, première, actuelle, immédiate, antérieure à tout geste attentionnel, à toute discrimination réflexive et à l’opposition entre sujet et objet. À la suite de Nishida, Bitbol la décrit comme « « la conscience présente des faits tels qu’ils sont » », inorganisée, « actuelle, nue et ininterprétée » (p. 10).

[2] C’est nous qui soulignons. « Elle imprègne les choses qui se montrent » (p. 26).

[3] L’IA nie « que la simple manipulation de symboles selon des règles […] soit équivalente à une véritable « compréhension » de la langue » (p. 17).

[4] D’où la contradiction que pointe Bitbol : d’un côté l’IA affirme ignorer la cause de la conscience phénoménale, mais d’un autre côté elle nie avoir une telle conscience parce qu’elle-même « ne repose pas sur un substrat incluant les conditions biologiques, physiques ou cognitives de l’émergence de la conscience humaine » (p. 19).

[5] Bitbol évoque « la référence directe, permanente, à son expérience vécue comme à un étalon indépassable de ce que devrait avoir l’artefact » (p. 23), « la référence réflexive et concrète à ce que vit l’être qui soulève la question de la conscience artificielle » (p. 23-24).

[6] p. 24. On peut en effet « s’éprouver comme le thème de l’expérience de l’autre, qui lui-même s’éprouve comme le thème de l’expérience de soi ».

[7] Bitbol montre que ces tentatives n’offrent aucune « garantie qu’un artéfact construit selon leurs spécifications serait nécessairement conscient » (p. 88). Ici l’auteur reprend notamment les acquis des analyses qu’il offrait dans Physique et philosophie de l’esprit. Les théories examinées n’expliquent pas vraiment le « vécu subjectif de l’expérience » (p. 95).

[8] Autrement dit, les mots de l’esprit (« émotion », « pensée », etc.), en passant du langage courant aux sciences, « perdent leur acception vécue et reçoivent une définition objective ». Puis l’on tente « de faire oublier que leur sens objectif n’a été obtenu qu’en les vidant entièrement de leur acception vécue initiale ». Ceci, afin « de se persuader collectivement qu’une fois la spécification objective de ces mots implémentée (dans un être vivant ou dans un artéfact), la signification vécue qu’ils avaient dans le langage courant en découlera automatiquement ».

[9] Bitbol décrit cette tendance à l’autonomie, à la séparation, au détachement ou à la rupture, comme « notre effort d’évasion hors du monde » (p. 135), notre « pulsion séparatrice d’avec le monde » (p. 129), nos « poussées fissionnelles », « l’activité de séparation », notre « projet séparateur », notre « pulsion séparatrice », notre « projet d’évasion » hors de notre condition, « notre évasion prométhéenne hors du monde », notre « dissociation […] vis-à-vis de notre propre condition » (p. 133), « l’exil de soi hors de soi » (p. 135)

[10] La rupture et l’espoir de retour dépendent de l’« expérience d’être et de déchirement » que décrit Renaud Barbaras lorsqu’il affirme que le sujet appartient au monde et s’en distingue « sous le même rapport ». C’est le concept de mouvement qui rend compatible « la différence sujet-monde et la participation du sujet au monde ». Le mouvement du monde nous porte et nous constitue, mais nous le « détachons du monde pour devenir nous-mêmes ». La « scission » est ce qui nous constitue en vis-à-vis du monde mouvant dont nous participons. Tentant de ressaisir ce que l’arrachement au monde lui a fait perdre, le sujet est hanté par un désir insatiable. Quant au monde, il « « est profondeur pure » » (p. 128), dans la mesure où l’objet, qui ne se donne que par esquisses, recèle une profondeur infinie d’apparitions futures. Mais le sujet peut entrer en « contact étroit […] avec « ce qui précède la scission » », en lui l’intime peut communiquer avec la transcendance : son intimité est le lieu où il rencontre ce qui le dépasse. Le sujet reste lié au monde d’où il provient.