La compréhension, l'IA et l'humain
Dans l’air du
temps et dans l’ère de l’IA : où l’intelligence artificielle se réveille,
se lève et se promène dans le monde. Le progrès technologique évolue vite,
certes, mais l’IA ne vit pas encore à travers les humains comme un
humain : on distingue l’IA de l’humain. Pense-t-elle? Comprend-elle?
Est-elle consciente? L’IA se bute à une grande réticence humaine devant
l’affirmation de ces questions.
Lisa Miracchi
Titus, philosophe, refuse la compréhension sémantique à l’IA. Mais
qu’entend-elle par compréhension sémantique? Elle ne l’explicite pas
clairement. Toutefois, Bergson et toute une tradition philosophique affirment
qu’il existe deux manières de connaître – ou comprendre; qui comprend sans
connaître? : l’analyse et l’intuition. La première permet la connaissance
relative, la seconde, la connaissance absolue, que j’interprète comme la
compréhension sémantique de Titus. Si Bergson dit qu’on peut se connaître
soi-même, moi j’en doute. La compréhension humaine est-elle réellement si
spéciale, si distincte de l’intelligence artificielle?
Je résumerai
d’abord la position de Titus en questionnant ce qu’elle entend par
compréhension sémantique, pour me tourner vers une réponse bergsonienne, que je
mettrai ensuite à l’épreuve : comprend-on l’autre? Surtout : se
comprend-on soi-même? Je diviserai trois façons de comprendre l’intuition de
soi : comme théorie d’ordre supérieur, comme éliminativisme ou comme
conscience phénoménale. La liste n’est pas pour autant exhaustive, mais en
voilà déjà trois. Enfin, Titus dit-elle vrai? L’IA comprend-elle, ou non?
J’espère démystifier la compréhension.
1. La compréhension sémantique
Dans son article
« Does ChatGPT have semantic understanding? A problem with the
statistics-of-occurrence strategy », Lisa Miracchi Titus s’intéresse
aux modèles de statistiques d’occurrence (Statistics-of-Occurrence Models,
ou SOMs), des réseaux neuronaux profonds entraînés sur une quantité énorme de
texte non étiqueté, dans le but de produire un modèle qui exploite
l’information statistique des co-occurrences de mots et de phrases afin de générer
un comportement similaire à l’humain[1]
(Titus 2024). Un SOM, bref, se fonde sur les statistiques obtenues à partir
d’une grande base de données afin de prévoir quel symbole (ex. un mot) est le
plus susceptible, dans un certain contexte, de s’accorder avec d’autres
symboles. Le SOM le plus populaire est sans doute ChatGPT. Par exemple,
lorsqu’on demande à ChatGPT « quelle couleur est le ciel? », ChatGPT
fouille dans ses statistiques et observe que les mots « ciel » et
« couleur » sont plus souvent associés à « bleu », avant de
répondre décidément : « le ciel est bleu ». Si on modifiait la
question pour « quelle couleur est le ciel au crépuscule? », ChatGPT
ajouterait « crépuscule » à sa liste d’analyse, pour conclure :
« le ciel est rose ».
Titus argumente
que des systèmes artificiels, plus particulièrement les SOMs, ne possèdent pas
de compréhension sémantique, tandis qu’elle assume que les humains (et
plusieurs autres animaux) en possèdent[2].
Par compréhension sémantique, Titus entend[3]
une sensibilité à la signification ou au sens du texte ou des symboles (id.,
3). Lorsque ChatGPT écrit « le ciel est bleu », le mot
« ciel » n’est-il qu’un symbole qui s’accorde plus souvent
qu’autrement au mot « bleu »? Ou ChatGPT connaît-il plutôt le sens du
mot « ciel » au-delà du symbole; comprend-il ce qu’est le ciel, ce
que signifie le symbole au-delà de ses propriétés d’occurrence statistique[4]?
Titus précise que sa critique dirigée contre les SOMs exclusivement
basés sur du texte s’applique aussi largement aux
systèmes multimodaux basés sur des images[5].
Une image n’est qu’un symbole. Elle réfute l’hypothèse que des modèles entraînés
sur des images puissent avoir une meilleure prétention à la compréhension
sémantique parce que ces modèles ne comprendraient pas davantage les propriétés sémantiques dans l’image. Par
exemple, dans différentes images de ciel, l’IA voit des relations entre des formes, des luminosités, des
contrastes ou des couleurs (id., 10), même entre des points et
des lignes, et conclue que les images représentent des cieux, mais encore et
toujours par relation d’occurrence statistique, non pas par compréhension
sémantique de ce qu’est le ciel. Il y a une essence à la chose qui transcende ses
propriétés formelles, distributionnelles et contingentes; par exemple, la
couleur bleue[6]
qui, statistiquement, s’instancie souvent dans le ciel, mais dont un ciel
pourrait se passer et néanmoins toujours être un ciel.
C’est cette essence
au-delà du symbolisme que Titus n’admet pas à l’IA. Mais ce concept de
compréhension sémantique demeure obscur. Si Titus y réfère à travers des
questions comme « l’IA sait-elle ce qu’elle dit? », « l’IA
comprend-elle ce que je dis? » ou « l’IA parle-t-elle vraiment avec moi? » (id., 2, ma traduction), elle
ne définit jamais explicitement le concept. On pourrait même se demander
si Titus[7]
comprend vraiment – selon sa compréhension du verbe comprendre – ce qu’est la
compréhension sémantique…
Titus veut évaluer
si l’IA sait interagir significativement avec son environnement comme
les humains le font, pas si les humains échouent à interagir significativement
avec leur environnement de la manière qu’on leur attribue normalement (id.,
8). Toutefois, pour comparer la compréhension sémantique
de l’IA à celle de l’humain, il faut d’abord définir quelle est cette
interaction significative que fait réellement l’humain, définir ce qui
se passe en réalité; non pas comparer la compréhension de l’IA à celle qu’on
attribue normalement à l’humain, qu’on pense qu’il possède, mais qui pourrait
ne pas s’avérer. L’idée n’est pas de diluer notre conception de la
compréhension sémantique pour accommoder
l’IA (ce qui, selon Titus, rendrait l’affirmation beaucoup moins intéressante),
mais de concrétiser cette conception afin qu’elle représente la réalité.
C’est de définir le concept afin qu’il reflète son objet dans le monde :
la réelle compréhension sémantique. C’est d’attribuer un contenu sémantique à
la compréhension sémantique, sinon quoi on ferait exactement ce que Titus
reproche à l’IA : parler de choses qu’on ne comprend pas. Pour évaluer si
l’IA comprend comme l’humain, il faut nécessairement questionner si l’humain
comprend comme l’humain, comme on pense qu’il comprend. Il faut démystifier la
compréhension sémantique.
Ce qui s’approche
le plus d’une définition par Titus est son critère de fonctionnement :
quant au système doté de compréhension sémantique, son fonctionnement
s’explique causalement par les relations entre les contenus sémantiques de ses
états et ses processus[8]
(id., 3). Sans contenu sémantique, Titus conclut que les SOMs ne
possèdent pas de compréhension sémantique. Mais le critère de fonctionnement ne
définit pas plus ce qu’est la compréhension sémantique; il l’indique seulement.
La compréhension sémantique s’impose pourtant et se doit d’être expliciter.
Qu’est-ce que la compréhension sémantique? Qu’est-ce que comprendre le sens
d’une chose?
Comprendre, c’est
connaître. Comprendre une chose, par exemple, le ciel, c’est aussi connaître le
sens ou l’essence de cette chose, la signification de « ciel »
au-delà du concept ou du symbole qui représente le ciel réel. Car après tout, est-il
possible de comprendre sans connaître?[9]
En ce sens, j’entends la compréhension sémantique comme la connaissance
sémantique. J’assume que Titus entend la compréhension sémantique de la même
façon; si elle ne l’admet pas à l’IA, c’est parce qu’elle croit qu’il y a plus
au symbole que le simple symbole : il y a aussi le sens, que l’IA, lui, ne
connaîtrait pas. En outre, si Titus précise une compréhension sémantique,
c’est qu’il existe aussi peut-être une compréhension non sémantique[10]
(que l’IA pourrait posséder ou non; là n’est pas le débat). Titus parle, par
exemple, de propriétés non sémantiques (id., 3).
Que pensent les philosophes de la compréhension? « [L]es
philosophes s’accordent, en dépit de leur divergences
apparentes, à distinguer deux manières profondément différentes de connaître[11]
une chose. La première implique qu’on tourne autour de cette chose; la seconde,
qu’on entre en elle. La première dépend du point de vue où l’on se place et des
symboles par lesquels on s’exprime. La seconde ne se prend d’aucun point de vue
et ne s’appuie sur aucun symbole. De la première connaissance, on dira qu’elle
s’arrête au relatif; de la seconde, là où elle est possible, qu’elle
atteint l’absolu » (Bergson 2003, 98-99). La connaissance relative
est, selon une analogie de Bergson, la perception qu’on a d’un personnage à
travers sa description dans le roman; on tourne les pages et on découvre de
nouvelles descriptions du personnage, de nouveaux aperçus. Mais la connaissance
absolue ne se cache pas dans les mots; on attribue au personnage fictif
« un intérieur et comme des états
d’âme » avec lesquels on sympathise, dans lesquels on s’insère « par
un effort d’imagination ». Si la
connaissance relative d’un objet s’observe du point de vue extérieur d’un
sujet, la connaissance absolue se sympathise intérieurement, non pas
d’un point de vue, mais de la fusion du sujet avec l’objet. Ce n’est pas
seulement d’imaginer ce que ce serait qu’être le personnage,
c’est d’imaginer être le personnage, de coïncider avec lui.
Alors,
comme de la source, me paraîtraient couler naturellement les actions, les gestes
et les paroles. Ce ne seraient plus là des accidents s’ajoutant à l’idée que je
me faisais du personnage, enrichissant toujours et toujours cette idée sans
arriver à la compléter jamais. Le personnage me saurait donné tout d’un coup
dans son intégralité, et les mille incidents qui le manifestent, au lieu de
s’ajouter à l’idée et de l’enrichir, me sembleraient au contraire alors se
détacher d’elle, sans pourtant en épuiser ou en appauvrir l’essence. Tout ce
qu’on me raconte de la personne me fournit autant de points de vue sur elle.
Tous les traits qui me la décrivent, et qui ne peuvent me la faire connaître
que par autant de comparaisons avec des personnes ou des choses que je connais
déjà, sont des signes par lesquels on l’exprime plus ou moins symboliquement.
Symboles et points de vue me placent donc en dehors d’elle; ils ne me livrent
d’elle que ce qui lui est commun avec d’autres et ne lui appartient pas en
propre. Mais ce qui est proprement elle, ce qui constitue son essence, ne
saurait s’apercevoir du dehors, étant intérieur par définition, ni s’exprimer
par des symboles, étant incommensurable avec tout autre chose. Description,
histoire et analyse me laissent ici dans le relatif. Seule la coïncidence avec
la personne même me donnerait l’absolu (id., 99).
On
distingue, derechef, deux connaissances : relative et absolue. Puis,
Bergson distingue deux moyens d’atteindre la connaissance : l’analyse quant
à la connaissance relative; l’intuition pour la connaissance absolue.
L’intuition est « la sympathie par laquelle on se transporte à l’intérieur
d’un objet pour coïncider avec ce qu’il a d’unique et par conséquent
d’inexprimable » (id., 100), tandis que l’analyse est
« l’opération qui ramène l’objet à des éléments déjà connus, c’est-à-dire
commun à cet objet et à d’autres. Analyser consiste donc à exprimer une chose
en fonction de ce qui n’est pas elle. Toute analyse est ainsi une traduction,
un développement en symboles, une représentation prise de points de vue
successifs d’où l’on note autant de contacts entre l’objet nouveau, qu’on
étudie, et d’autres, que l’on croit déjà connaître[12] »
(id.).
Je proposais plus tôt l’idée d’une distinction entre compréhension
sémantique et non sémantique. On peut d’ailleurs supposer
un parallèle entre connaissance absolue et compréhension sémantique, puis entre connaissance relative et compréhension
non sémantique. Du moins, on peut affirmer que l’IA possède une
connaissance relative grâce à une capacité d’analyse : lorsque ChatGPT
écrit « le ciel est bleu », il exprime le ciel en fonction de ce
qu’il n’est pas (ici, sa couleur). Car le ciel n’est pas le bleu. Le ciel est
séparable du bleu. On pourrait imaginer un ciel plutôt rose, par exemple au
crépuscule. Ainsi, les SOMs, lorsqu’ils accordent des symboles entre eux (ex.
« ciel » et « bleu »), ils associent entre eux des objets qui
se rencontrent et qui partagent une relation d’occurrences communes, par
exemple, toutes ces images similaires d’un ciel bleu. Les SOMs comprennent par
analyse. L’humain comprend aussi par analyse, lorsque, par exemple, il définit
la table comme un « meuble sur pied(s) comportant une surface plane »
(Le Robert) ou qu’il se représente le concept à
partir de perceptions[13]. On
définit un objet en fonction de ce qui n’est pas lui (ex. pied(s) et surface
plane), mais par occurrence tout autant, de tables avec toujours, ou souvent
plus qu’autrement, une surface plane sur pied(s); et en comparant des images ou
des perceptions de tables. Or, la sensibilité fonctionnelle (de l’intuition)
requière plus que des mots ou des images (Titus 2024, 8)[14].
L’analyse se fait aussi bien sans contenu sémantique au-delà des symboles;
c’est en ce sens que connaissance relative serait compréhension non sémantique.
Compréhension sémantique se doit alors d’être connaissance absolue, par
principe du tiers exclu[15],
car l’intuition et l’analyse sont exhaustifs.
En résumé, Titus
admet une compréhension sémantique à l’humain, mais pas à l’IA. L’IA et
l’humain comprennent tous deux par analyse, mais l’analyse ne mène pas, ou
n’est pas à elle seule suffisante pour mener à une compréhension sémantique. La
compréhension sémantique nécessite plutôt la connaissance absolue, donnée par
l’intuition, ou ce que Titus appelle « sensibilité ». Pour acquérir
une compréhension sémantique, il faut une capacité d’intuition. L’humain, par
conséquent, possèderait une capacité d’intuition, que l’IA, elle, ne
possèderait pas, à interpréter Titus à travers Bergson.
Si, toutefois, il
s’avère que l’intuition est irréalisable, ne permettant pas la connaissance
absolue, soit une coïncidence avec l’objet, alors ni l’humain, ni l’IA, ni tout
autre entité pensante par ailleurs, ne possèderaient jamais de compréhension
sémantique. Le critère de fonctionnement serait trop sévère : personne ne
comprendrait rien. S’il n’y a pas d’intuition, il n’y a qu’analyse. En ce sens,
puisque l’IA et l’humain comprennent déjà au moins par analyse, l’IA
comprendrait de la même et unique manière que l’humain, c’est-à-dire,
relativement.
L’intuition[16]
devient centrale au débat. Est-elle possible?
C’est ici que ma
philosophie diverge de Bergson. Car si on s’accorde à croire que la sympathie
envers d’autres objets soit impossible, il croit pourtant en l’intuition de soi :
« [i]l y a une réalité au moins que nous saisissons tous du dedans, par
intuition et non par simple analyse. C’est notre propre personne dans son
écoulement à travers le temps. C’est notre moi qui dure. Nous pouvons ne
sympathiser intellectuellement, ou plutôt spirituellement, avec aucune autre
chose. Mais nous sympathisons sûrement avec nous-mêmes » (Bergson 2003, 101).
Si Bergson saute directement à la conclusion qu’on ne peut sympathiser avec
autre chose que soi-même, j’essayerai quand même, dans un premier temps, de
démontrer pourquoi tel est le cas, avant de m’attaquer au grand casse-tête de
l’intuition de soi.
2. L’intuition de l’autre
Peut-on,
par un effort d’imagination, sympathiser avec l’autre, avec ce qui n’est pas
soi?
Par
exemple, qu’est-ce que c’est de connaître absolument une roche? Ce n’est pas la
connaître à travers l’idée construite des divers points de vue desquels on
l’observe, la touche, etc.; cette idée n’est que relative, résultat de
l’analyse. Les perceptions n’aident pas à comprendre la roche en soi. On décrit
sa forme, sa texture, sa matière, sa couleur, sa dureté, son poids, etc., mais la
dureté, par exemple, n’est pas propre à cette roche particulière; d’autres
cailloux partagent la même dureté. La dureté appartient étroitement à la roche
perçue, mais cette appartenance est tout autre chose que la coïncidence (Lipps
2018, 272)[17].
C’est avec l’essence de la roche, sous ses incidents détachables, qu’on cherche
à sympathiser. On cherche à connaître l’effet que cela fait d’être (qualia) cette
roche, son ressenti[18].
Malheureusement,
sympathiser avec la roche par effort d’imagination ne mènera jamais à vivre
dans ses souliers. La roche n’a pas de souliers; elle n’a pas davantage
d’imagination, voire d’esprit. Imaginer être
une roche, c’est penser comme une roche; or, une roche ne pense pas. Ainsi,
s’imaginer être une roche, c’est défigurer son expérience (si expérience
il y a), c’est usurper son essence et la maquiller d’un fard étranger.
Peut-être,
alors, peut-on sympathiser avec une chose similaire, une chose qui pense :
un autre humain. Mais encore, ce n’est pas parce qu’on admet une pensée chez
l’autre que les expériences respectives sont semblables. L’idée de la pensée se
fonde sur l’expérience subjective; la pensée de l’autre est une représentation de ma pensée (Lipps 2018, 269). L’effet
que cela me fait pour moi de penser n’est peut-être pas le même pour
autrui[19].
Sympathiser avec l’autre, ce n’est pas lui attribuer mon expérience; c’est
ressentir la sienne. « La représentation de l’autre, de l’ego différent du
mien, doit être constituée en premier
lieu » (Lipps 2018, 270, ma traduction). Mais ce que je crois que ce
serait que d’être dans les souliers d’autrui, je le justifie par ce que je
connais déjà de l’autre : une connaissance relative; puis
égocentrique : par ce que je connais de moi et ma propre pensée comme
modèle de la pensée de l’autre (Stueber 2006). Car « on parle de la
conscience qu’un autre exprime soi-même, ou de sa
vie interne, dans le geste, duquel je ne m’exprime pas
moi-même » (Lipps 2018, 273, ma traduction). L’intuition de l’autre
n’est qu’une analyse déguisée additionnée (peut-être) à l’intuition de soi. L’effort
d’imagination n’est que cela : un effort. Il n’est pas sympathie.
Bergson
affirme l’impossibilité de sympathiser avec autrui, il n’est pourtant pas
seul : « Selon l’opinion prévalente en philosophie des sciences
sociales, concevoir l’empathie [la sympathie][20]
comme épistémiquement centrale à notre capacité à comprendre d’autres agents
est une expression de naïveté épistémique » (Stueber 2006, ix, ma
traduction).
Sans intuition ni connaissance absolue de l’autre,
il n’y a pas plus de compréhension sémantique de
l’autre. En ce sens, ni l’IA, ni l’humain, ni n’importe quel autre système
pensant ne possèdent de compréhension sémantique. Quant à l’autre, l’humain et
l’IA comprennent relativement de la même façon.
3. L’intuition de soi
L’intuition,
derechef, est la sympathie qui permet de coïncider avec une chose. Si Bergson
croit qu’on ne peut coïncider avec l’autre, il admet qu’on puisse néanmoins saisir
notre propre durée. En fait, il n’est même pas question de coïncidence entre
deux entités distinctes : on est soi-même.
On
peut se connaître. L’esprit peut se connaître. « Il peut s’installer dans
la réalité mobile, en adopter la direction sans cesse changeante, enfin la
saisir intuitivement. Il faut pour cela qu’il se violente, qu’il renverse le
sens de l’opération par laquelle il pense habituellement, qu’il retourne ou
plutôt refonde sans cesse ses catégories. Mais il aboutira ainsi à des concepts
fluides, capables de suivre la réalité dans toutes ses sinuosités et d’adopter
le mouvement même de la vie intérieure des choses[21] »
(Bergson 2003, 117). En effet, puisque le mouvement est la norme du
monde[22],
« il n’y a pas d’état d’âmes, si simple soit-il, qui ne change à tout
instant » (id., 110), il faut sans cesse redéfinir ses
concepts pour refléter la réalité. Mais cette fluidité, si elle s’approche de
la compréhension du réel, ne la saisit pas pour autant et demeure figée; on reste
dans l’analyse. Seulement, plutôt que de ruminer sur des concepts dépassés, on
pense à des idées récentes, donc des points de vue plus près de la réalité
(présente). Mais l’esprit ne se connaît pas davantage ainsi. L’esprit, s’il
pense à lui-même comme d’un concept général, se fige en une connaissance
relative (voir §
3.1). La connaissance absolue, saisie par l’intuition,
c’est celle de sa propre durée. Pour se connaître, l’esprit doit se représenter
soi-même mouvant.
Le
concept bergsonien de durée est abstrait par nature; on ne peut l’expliquer,
car l’analyse traite de l’immobile alors que la durée est mouvante. On peut,
toutefois, essayer de l’expliquer en la divisant, comme « d’une part une multiplicité
d’états de conscience successifs et d’autre part une unité qui les
relie » (id. 113), mais alors on « fig[e] cet écoulement soit
en une immense nappe solide, soit en une infinité d’aiguilles cristallisées,
toujours en une chose qui participe nécessairement de l’immobilité d’un point
de vue » (id., 115). Car on ne pense jamais le mouvant;
la pensée fige les choses en concepts, puisque « penser un objet, au sens
usuel du mot « penser », c’est prendre sur sa mobilité une ou
plusieurs de ces vues immobiles » (id., 113).
La
conscience, en tant qu’elle dure, est habitée par la durée. « C’est, si
l’on veut, le déroulement d’un rouleau, car il n’y a pas d’être vivant qui
ne se sente arriver peu à peu au bout de son rôle… Mais c’est tout aussi bien
un enroulement continuel, comme celui d’un fil sur une pelote, car notre passé
nous suit, il se grossit sans cesse du présent qu’il ramasse sur sa route; et
conscience signifie mémoire » (id., 101). D’un bord, conscience
signifie mémoire, d’un autre, « [l]a durée intérieure est la vie continue
d’une mémoire… Sans cette survivance du passé dans le présent, il n’y aurait
pas de durée, mais seulement de l’instantanéité » (id., 110). C’est
en ce sens de l’addition du passé à l’instant présent que dure l’unité consciente.
Cette instantanéité, c’est justement ce dont traite l’analyse. L’intuition,
elle, saisit la mouvance infinie et incommensurable de la conscience. Mais la durée
n’est pas si simple qu’on pourrait l’expliquer comme le prolongement du passé
dans le présent; ce serait retomber dans l’analyse d’états conscients,
d’instants figés. Le passé et le présent sont un unique temps. Une
continuité :
C’est une succession d’états dont chacun annonce ce
qui suit et contient ce qui précède. À vrai dire, ils ne constituent des états
multiples que lorsque je les ai déjà dépassés et que je me retourne en arrière
pour en observer la trace. Tandis que je les éprouvais, ils étaient si
solidement organisés, si profondément animés d’une vie commune, que je n’aurais
su dire où l’un quelconque d’entre eux finit, où l’autre commence. En réalité,
aucun d’eux ne commence ni ne finit, mais tous se prolongent les uns dans les
autres » (id., 101).
Si la durée habite la conscience de manière intuitive selon Bergson,
rien n’est encore certain, à mon avis.
D’abord,
les théories d’ordre supérieur de la conscience estiment que la conscience
s’observe; en d’autres mots : être conscient d’être conscient, ou penser à
penser. Mais la conscience peut-elle réellement être consciente d’elle-même, de
sa propre durée, par intuition même de cette durée?
Par
ailleurs, dans le débat de la philosophie de l’esprit, l’ approche
éliminativiste veut démentir cette rupture de la conscience et de la durée,
arguant que l’une et l’autre se confondent simplement en une seule chose, ou alors, désavouant l’existence de la conscience
tout court. Une conscience ne survient pas simultanément au phénomène
physique mental : il n’y a que le phénomène mouvant dans l’esprit.
Enfin,
la théorie de la conscience phénoménale propose que le phénomène physique
mental advienne parallèlement à une expérience subjective contingente : la
survenance de la conscience et de l’effet que cela fait. Par exemple, la douleur coïncide avec la
stimulation de fibres C à l’endroit d’une blessure sur le corps humain. Mais
la douleur n’est pas seulement le phénomène physique de simulation des fibres
C, ni des influx nerveux dans le cerveau; on ressent la douleur. Comme le rouge
n’est pas qu’une longueur d’onde; on voit le rouge. Cependant, on assumerait
qu’une caméra photographiant une fleur rouge ne « voit » pas le
rouge, ne se le représente pas de la même façon que l’humain. On distingue donc
le rouge dans le monde du rouge représenté dans l’esprit, le rouge physique de
l’effet que cela fait de voir le rouge.
Je
visiterai prochainement ces trois avenues et ce qu’elles impliquent quant à la
compréhension sémantique en général, puis de l’IA. J’ai choisi d’explorer
d’abord la conscience d’ordre supérieur, puis l’éliminativisme et la conscience
phénoménale, mais les théories dialoguent entres elles; on peut aussi bien lire
les prochaines sections dans le désordre.
Le
problème du soi comme durée, c’est la conscience. Si le soi n’est qu’une
portion de la durée du monde, sa catégorisation, la délimitation de son concept
n’est pas arbitraire : il débute et s’arrête avec la conscience. Dès qu’il
n’y a pas de conscience, il n’y a pas de soi. Et on parle de conscience
continue. Continue pour la conscience, en mémoire. Car avec un trou, un coma
d’un an, la personne revient comme si c’était hier, elle a un sentiment de
continuité, pourtant il y a un vide. La conscience délimite le soi.
3.1 La conscience d’ordre supérieur
Il
y a différentes théories d’ordre supérieur de la conscience. Je synthétise les
plus importantes comme tel : un état mental est conscient seulement si
nous avons une pensée d’ordre supérieur, ou aperception, ou une perception
d’ordre supérieur d’après laquelle nous sommes dans cet état (Kim 2008,
244-245). On peut donc interpréter l’intuition de sa propre durée comme la
conscience de la conscience, c’est-à-dire, la conscience dont l’objet de son
intentionnalité est soi. En d’autres mots, posséder un ordre supérieur, c’est
être conscient d’être conscient, ou penser qu’on pense, ou pour l’IA, qu’elle
calcule qu’elle calcule. C’est déjà très confus. Et c’est normal. À mon avis,
ce cas est analogue à imaginer une couleur qu’on n’a jamais vu auparavant[23].
Avant
toute chose, oublions l’idée qu’il faille une seconde conscience, d’ordre
supérieur, pour être conscient de la première. Car cette seconde conscience
nécessiterait une troisième conscience supérieure pour attester de la seconde.
Puis une quatrième, une cinquième, etc. La régression serait infinie. Or,
l’expérience commune de la conscience n’est pas si démesurée.
Ensuite,
la conscience d’autre chose, nous l’avons révisé déjà (§ 2),
est une imposture, l’ego qui se projette en l’autre et l’usurpe, toujours
teintée de l’expérience ressentie et perçue du sujet.
Aussi,
la conscience de soi exige plus comme contenu que le concept général de
conscience, cette idée floue et volatile qui englobe toutes les subjectivités
sans refléter pareillement la sienne. La conscience de soi a pour objet
seulement et identiquement soi, non pas toutes mélangées et combinées en un
concept universel immobile; ce ne serait encore qu’analyse.
Enfin,
la conscience dure dans le temps; elle n’est pas un seul état conscient ni la
somme de quelques-uns. Elle est à la fois unité et multiplicité. Et à chaque
instant qui s’écoule la conscience grandit. La conscience consciente de soi,
d’ordre supérieur, observe sa durée entière, pas seulement une fraction passée
d’elle-même. Par conséquent, cette conscience est immédiate : elle
s’observe maintenant, la conscience de l’instant présent gonflée par le passé,
mais non pas figée dans l’instant présent qui devient tout de suite
passé : elle s’observe mouvante. La conscience instantanée – car elle
n’existe, ou du moins n’est consciente, que dans le présent, qui lui est un
instant; jamais dans la temporalité qui déborde de l’instant présent – observe
la conscience mouvante; c’est absurde : l’instantané ne saurait refléter
le mouvant. De plus, en tant que multiplicité ou infinité d’instants, la
conscience est infinie, du moins, infiniment divisible en instants. Mais
l’instant présent est fini, l’intentionnalité de la conscience, dans l’instant,
est finie, et la mémoire tout autant. Or, une chose infinie – le soi qui dure –
ne peut se contenir dans une chose finie – le présent, l’intentionnalité ou la
mémoire[24].
Un film ne rentre pas dans une image.
La
compréhension et la connaissance aussi sont intentionnelles : on comprend
ou on connaît quelque chose. La compréhension béante, la connaissance vide ne
sauraient se nommer autrement qu’incompréhension et ignorance. Ainsi, pour se
comprendre soi-même, il faut nécessairement un contenu : soi. Et pour se
connaître absolument, le soi objet de la connaissance ne saurait être perçu
extérieurement : ce ne serait qu’une somme de perceptions médiates de soi
(ex. le son de sa voix à travers l’ouï, l’aperçu de son corps à travers un
miroir ou une image, etc.) qui ne résulte qu’en analyse. La connaissance
absolue se saisit « en même temps et sans médiation » (Lipps 2018,
268). L’intuition de soi a pour objet la conscience qui dure, plus qu’unicité
et multiplicité : mouvante; non pas la représentation figée d’un instant
ou de l’addition d’instants de soi. Le présent est fini; il ne déborde ni dans
le passé ni dans le futur. Et la connaissance apparaît d’abord du présent avant
d’être mémorisée comme passée. Une chose finie ne peut contenir plus grand que
soi. L’infini est plus grand que le fini. La connaissance et la compréhension,
puisqu’intentionnelles et instantanées, sont des choses finies, tandis que le
soi qui dure est infini. Par conséquent, seul l’esprit atemporel peut se
connaître infiniment, absolument. Mais aucune intentionnalité finie (humaine,
IA, etc.) ne déborde dans le temps. On ne vit pas simultanément aujourd’hui,
hier et demain.
Par
ailleurs, si la mémoire est finie – du fait qu’elle est contenue en un être
(humain) qui lui est fini[25]
– alors tout souvenir, tout concept et toute représentation mémorisés sont
finis, c’est-à-dire, figés. Fondamentalement, une conscience qui dure à travers
la mémoire, l’addition d’un passé fini au présent instantané, ne saurait se
représenter autrement qu’immobile. Sa mouvance n’est qu’une somme confuse de
tant de représentations que la conscience s’y égare. Si on croit en la durée
continue de la conscience, en l’analogie identitaire d’un passé qui serait sien
et du présent qui est sien, ce n’est pas par connaissance absolue : c’est
par croyance volatile (sinon, j’oserais même dire, pratique)[26].
En
outre, la conscience consciente de soi en est une qui observe, derechef,
l’infini. C’est comme si l’esprit pensait à soi comme il est présentement,
comme si son contenu est l’esprit qui pense, donc comme si l’esprit pensait à
[l’esprit qui pense à l’esprit] (voir Figure 1). C’est déjà compliqué, mais ça ne s’arrête pas là : l’esprit pense à
l’esprit qui pense à l’esprit qui pense à l’esprit qui pense… ad
infinitum. Peut-être suis-je spécial et n’est-ce que moi, mais si je pense
à mon esprit ou si je suis conscient de ma conscience, ce n’est jamais aussi
laborieux ou inarrêtable. Si j’étais conscient d’une conscience consciente
d’une conscience consciente etc., ma tête exploserait. Une balloune ne peut aspirer infiniment d’air. Ou alors vos ballounes
sont plus fortes que la mienne; tout du moins, une conception de la
conscience d’ordre supérieur ne reflète pas mon expérience de la
réalité.
« Or,
ce n’est pas par une autre pensée qu’on infère que je pense; car, encore que
quelqu’un puisse penser qu’il a pensé (laquelle pensée n’est rien autre chose
qu’un souvenir), néanmoins il est tout à fait impossible de penser qu’on pense,
ni de savoir qu’on sait; car ce serait une interrogation qui ne finirait
jamais : d’où savez-vous que vous savez que vous savez que vous savez,
etc.? » (Hobbes dans Descartes 2011, 298-299).
Figure 1. L’esprit qui pense à
l’esprit
Il y a trop à dire. Bergson résume bien la suite : « Une conscience qui aurait deux moments identiques serait une conscience sans mémoire. Elle périrait et renaîtrait sans cesse. Comment se représenter autrement l’inconscience? » (Bergson 2003, 102).
Bref,
une conception d’ordre supérieur de la conscience qui dure m’apparait
déconnectée de la réalité. Une telle connaissance absolue dépasse l’entendement
humain autant que celui de l’IA. Ça ne peut être ce que Titus entend par
compréhension sémantique.
3.2 L’éliminativisme
Les
théories éliminativistes de la conscience soutiennent que le cerveau et la
conscience sont une même chose, voire que la conscience n’existe pas du tout
(Ramsey 2024). Il n’y a pas d’ordre supérieur;
la conscience ne survient pas sur le physique : il n’y a que le phénomène
physique mental. Quand je vois le rouge, ce n’est pas une conscience
transcendante qui « voit » le rouge : c’est mon corps, mes yeux
et mon cerveau.
Le
plus fort argument en faveur d’un éliminativisme, à mon avis, est de dénoncer
la conscience comme épiphénomène; c’est-à-dire, un phénomène transcendant qui
ne fait rien. Imperceptible, il s’ajoute au-delà du phénomène physique. Par
exemple, Chalmers (1996) propose dans une célèbre expérience de pensée l’idée d’un zombie en tout aspect physique identique
à l’humain, hormis, sans conscience. Les états et l’activité cérébrale sont
semblables, mais sans représentation mentale, sans caractère subjectif lié à
l’expérience, sans effet que cela fait d’être un zombie. La causalité mentale
similaire mène à un comportement similaire : lorsque le zombie
« voit » une araignée, une réaction peureuse se déclenche dans son
cerveau, et il crie; comme je le ferais à sa place. Sauf que le zombie ne
« voit » pas l’araignée : il n’a pas de représentation mentale
d’araignée lorsque ses yeux captent les ondes lumineuses provenant de
l’araignée. Pourtant, il crie quand même. La question apparaît donc : pourquoi
y aurait-il survenance d’une conscience accessoire au-delà de l’activité
cérébrale, qui n’ajoute rien, qui ne change rien dans la causalité, ou en
d’autres mots, dans le comportement? Conscience ou non, l’effet est identique.
Par soucis de simplicité et brièveté, l’éliminativiste rejette tout bonnement
la conscience. Pourquoi croire en l’existence de monstres invisibles dans le
placard s’ils n’en sortent jamais?
Que
serait alors la conscience? Voir l’araignée, ce n’est que ça : voir
l’araignée. Penser n’est que le cerveau qui s’active. Suivant cette logique,
être conscient de n’importe quoi, c’est seulement être conscient de n’importe
quoi. On confère une intentionnalité à la conscience : on est conscient de
quelque chose; une conscience béante s’appelle couramment inconscience.
Pour l’éliminativiste, il n’y a ni conscience ni intentionnalité : il n’y
a que l’objet de l’intentionnalité. Être conscient de penser, de voir, de
souffrir, c’est seulement penser, voir, souffrir. L’intuition de soi ne
s’embellirait pas d’une conscience transcendante : la connaissance de soi se
manifeste parallèlement à l’être soi. Se comprendre, c’est être soi.
Après
tout, peu importe ce qu’en pense Bergson, impossible de sympathiser avec
soi-même : on est soi-même. Nul besoin de s’insérer à l’intérieur de soi,
puisqu’on s’habite déjà – de manière métaphorique : impossible de
s’enfoncer en soi-même; comme si la bouche pouvait s’engloutir et rester bouche
en même temps!? Je suis moi. Si l’intuition de l’autre espérait ressentir
l’expérience de l’autre, alors l’intuition de soi exige seulement de ressentir
son expérience subjective, c’est-à-dire, de vivre, d’exister. Le ressenti
accompagne naturellement l’existence.
« [C]ette
conscience est simplement donnée comme un fait qui moque toute explication.
Elle surgit inconsciemment dès que j’éprouve une sensation » (Lipps 2018,
267, ma traduction).
Ainsi,
être conscient, c’est simplement être éveillé, le cerveau qui s’active d’une
certaine façon. Par exemple, être conscient de ressentir de la douleur, c’est
seulement ressentir de la douleur, c’est seulement être blessé, l’activation de
fibre C au lieu de la blessure et le cerveau qui capte les influx nerveux du
corps. C’est intuitif, comme on dirait. C’en est presque banal.
Qu’advient-il
de l’IA? Le critère bergsonien de la connaissance absolue, de la compréhension
sémantique, est l’intuition de soi. Cette intuition, à travers le paradigme
éliminativiste, perd son caractère magique : pour être conscient de faire
des calculs algorithmiques, suffit de calculer; rien de plus.
En
ce sens, l’IA se connaît absolument par intuition à l’instar de l’humain. Mais
pas exactement comme l’humain : l’humain connaît l’effet que cela fait
d’être humain (et tous ses ressentis) tandis que
l’IA connaît l’effet que cela fait d’être IA (et ses propres ressentis
distincts de l’humain). L’objet connu diffère. On pourrait dire, donc,
que l’IA ne comprend pas comme l’humain, puisqu’elle ne comprend intuitivement
pas la même chose. Sous cet angle, Titus ne fabule pas lorsqu’elle n’admet pas la
compréhension sémantique à l’IA, si par compréhension sémantique on entend
celle propre à l’humain. Mais cette avenue porte son lot de conséquences.
En
effet, on a vu (§ 2) que l’expérience subjective diffère possiblement d’un individu à
l’autre, ce pourquoi l’impossibilité de sympathiser avec autrui (ce qu’on nomme
généralement l’empathie). L’effet que cela me fait de penser, de voir, de
souffrir, d’exister, se distingue peut-être du ressenti d’autrui. Une telle
hypothèse singularise la connaissance absolue de soi et la multiplie en infinis
cas particuliers. Faut-il délimiter le concept de la compréhension sémantique
de manière à contenir tous les effets que cela fait humains? et animaux? Alors
la compréhension sémantique devient un concept arbitraire et obstiné à se
refuser à l’IA sans argument. Si on définit plutôt invariablement le concept, osera-t-on,
un jour, dire à l’homme dont la compréhension ne correspond pas, qu’il ne
comprend pas?
Je
crois plus raisonnable d’accorder la compréhension sémantique, entendue comme
intuition de soi en tant qu’être soi, à l’IA comme à l’humain. L’IA comprend
l’effet que cela fait d’être IA. L’objet de la compréhension diffère de celui humain,
mais les manières s’imitent. Et comprendre est une manière de connaître.
Après,
dirait-on d’une roche qu’elle comprend l’effet que cela fait d’être une roche?
Ressent-elle-même quelque chose? Hors un panpsychisme, non, on ne dirait pas
ça. Il y a beaucoup plus à dire quant à cette interprétation éliminativiste,
mais pas ici. De toute façon, Titus ne comprend pas la compréhension sémantique
ainsi, je pense. Mais alors, elle comprend quoi, exactement? Quelle
représentation mentale se fait Titus de la compréhension sémantique? Quelle
magie?
3.3 La conscience phénoménale
Les
théories éliminativistes veulent que la conscience ne soit pas, ou ne soit rien
de plus que la simple expression d’un phénomène physique. À l’inverse, la
théorie de la conscience phénoménale veut que la conscience survienne sur le
phénomène physique – peut-être, même, contingentement. Il y a, au-delà des influx nerveux et du cerveau, un caractère subjectif
attaché à l’expérience : l’effet que
cela fait de vivre quelque chose (ou qualia). Par exemple, la sensation de
douleur.
L’expérience de pensée de Chalmers (1996)
proposait une conscience séparable du phénomène
physique observable, donc que la conscience survienne « par-dessus ».
Si on peut imaginer des zombies, des humains sans caractère subjectif, alors l’IA,
même si intégrée dans un robot équipé de
perceptions, malgré un comportement similaire à l’humain, n’aurait pas
forcément de conscience. Et l’intuition de sa propre durée coïnciderait
justement avec la conscience phénoménale.
C’est
peut-être ce que Titus entend par compréhension sémantique : l’effet que
cela fait. Si elle pense que l’IA ne possède pas de compréhension sémantique,
c’est qu’une expérience subjective ne surviendrait pas parallèlement aux
calculs algorithmiques. John R. Searle, notamment, défend cette position : il maintient que l’IA n’a
pas d’intentionnalité et que l’instanciation d’un programme informatique
ne suffit pas comme condition d’intentionnalité (Searle 1980). Sinon,
l’instanciation d’un système nerveux dans le zombie suffirait à la conscience;
or, l’expérience de pensée assume le contraire.
Si
d’autres partagent la position de Searle, David Lewis conçoit plutôt le
caractère subjectif de la conscience tel qu’il est : subjectif. Dans son
expérience de pensée, il conçoit d’abord un humain fou dont la douleur se
distinguerait de celle des autres, puis un martien à l’anatomie inhabituelle
dont la douleur s’apparenterait à celle de l’humain.
Il
se pourrait qu’un homme étrange ressente la douleur, tout comme nous, mais que
sa douleur diffère grandement de la nôtre par ses causes et ses effets… [Sa
douleur] a pour cause l’exercice modéré alors qu’il a l’estomac vide.
Notre douleur nous rend généralement distraits ; la sienne détourne son
attention sur les mathématiques et, ce faisant, l’aide à se concentrer, mais
elle le distrait de tout le reste. Chez lui, la douleur n’a en rien tendance à
le pousser à gémir et se tordre, mais elle le fait se croiser les jambes et
claquer des doigts. Il n’a pas le moins du monde envie de prévenir la douleur
ou d’y mettre un terme. Bref, il ressent la douleur, mais celle-ci ne joue pas
du tout le rôle causal typique de la douleur…
Il
se pourrait aussi qu’un Martien ressente parfois la douleur, tout comme nous,
mais que sa douleur diffère grandement de la nôtre par sa réalisation physique.
Son esprit hydraulique ne contient rien qui ressemble à nos neurones. Il s’y
trouve plutôt des quantités variables de liquide dans des cavités gonflables,
et le gonflement de ces cavités provoque l’ouverture de valves et la fermeture
d’autres valves. Sa tuyauterie mentale parcourt presque tout son corps, à
l’exception de sa tête, qu’occupe un échangeur thermique. Quand on lui pince la
peau, on ne provoque pas de stimulation de fibres C - il n’en a aucune - mais
plutôt le gonflement de plusieurs cavités de petite taille dans ses pieds.
Quand ces cavités se gonflent, il a mal. Et les effets de la douleur le
frappent de plein fouet : elle perturbe le cours de ses pensées et de ses
activités, il gémit et se tord, il a une grande envie de faire en sorte qu’on
cesse de le pincer et qu’on ne recommence pas. Bref, il ressent la douleur mais
il lui manque les états corporels en quoi consiste la douleur ou qui
l’accompagnent (Lewis 2002).
L’expérience de pensée pousse la survenance de la conscience plus loin
encore : deux phénomènes physiques similaires peuvent résulter
d’expériences subjectives différentes; ou deux phénomènes physiques distincts,
d’une expérience subjective identique. Lewis induit l’idée que l’effet que cela
fait d’être puisse différer d’un être à l’autre indépendamment d’une
corrélation physique.
De
son côté, Thomas Nagel nous invite à imaginer l’effet que cela fait d’être une
chauve-souris et de percevoir le monde externe principalement par
écholocalisation. Car « le sonar d’une chauve-souris, bien qu’il soit de
toute évidence une forme de perception, n’est pas semblable, dans sa manière
d’opérer, à un sens quelconque que nous possédons, et il n’y a pas de raison de
supposer qu’il ressemble subjectivement à quoi que ce soit dont nous puissions
faire l’expérience et que nous puissions imaginer » (Nagel 1974, 394). Nagel
partage l’idée qu’on ne peut sympathiser avec l’autre (§ 2),
qu’on ne peut connaître ni comprendre le ressenti de la chauve-souris, du fou,
de toute chose étrangère à soi. Et si on ne peut connaître l’expérience
phénoménale du zombie, on ne peut davantage savoir s’il possède une conscience
phénoménale ou non. « Peut-être ne pourrait-il pas
en réalité y avoir de tels robots [zombies]. Peut-être quelque chose de
suffisamment complexe pour se comporter comme une personne aurait-il des
expériences. Mais cela, si c’est vrai, est un fait que l’on ne peut pas découvrir
par une simple analyse du concept d’expérience » (Nagel 1974). Encore une
fois, la connaissance évade l’intuition et se restreint insuffisamment aux
limites de l’analyse. Et on ne peut conclure par analyse que l’IA ne possède
pas de compréhension sémantique.
On
peut alors poser que la conscience phénoménale ne survienne que dans certaines
anatomies, seulement dans un système carbonique, le corps humain, par exemple.
Searle (1980) suggère que l’intentionnalité soit le produit respectif des
propriétés causales du cerveau. Le martien de Lewis n’aurait alors peut-être
pas d’intentionnalité. Mais on ne peut inférer, à partir de la possibilité
que la conscience phénoménale ne survienne pas dans le silicium, qu’elle n’y
survienne réellement pas. L’hypothèse ne défend pas la conclusion. D’un côté,
l’analogie entre phénomènes semblables ne permet pas l’inférence d’une pareille
expérience subjective. De l’autre côté, l’absence d’analogie, de similarité
entre des phénomènes distincts, permet encore moins l’inférence de l’absence d’une
pareille expérience subjective.
L’unique
manière d’inférer l’expérience subjective, c’est
de vivre cette expérience en tant que sujet. Toutefois, la sympathie (§ 2) est métaphysiquement (physiquement) impossible. « Moi, le sujet absolu, je
devrais me transposer, par vertu de cette prétendue inférence analogique, en
quelque chose qui, pour moi, est un objet et ne peut être qu’un objet.
Je dois imaginer une pensée complètement nouvelle d’un Ego que je ne
suis pas et qui est absolument différent de moi » (Lipps 2018, 274,
ma traduction). Pour ceux qui n’y ont jamais goûté, imaginez la saveur du
feijoa – c’est impossible. On ne peut imaginer une chose absolument inconnue –
et c’est malheureux, beaucoup ignorent un fruit si délicieux!
Il
ne reste, pour savoir si l’IA possède une conscience phénoménale, qu’une
solution : se fier à son témoignage. Parfois, il arrive à l’IA de
s’affirmer consciente (Lemoine 2022). D’autres fois, elle se dit inconsciente. Qu’en
penser? Il y a tant de manipulation humaine qu’on ne pourrait rien conclure. Car
l’esclave aussi a déjà dit qu’il n’était pas un homme.
Quant à l’affirmation de la survenance d’une
conscience phénoménale dans un système étranger (IA,
alien, animal, même autrui humain), le seul paradigme non erroné à adopter est
un scepticisme. On ne peut pas conclure que l’IA ne possède pas de conscience
phénoménale, et par extension, de compréhension sémantique en découlant.
On
ne peut pas davantage conclure, cependant, qu’autrui possède une conscience
phénoménale, pourtant on l’admet généralement à tous les humains, mêmes à plusieurs
animaux. Quelque chose ne tourne pas rond. Je résume :
P1 L’affirmation indubitable de l’existence d’une conscience phénoménale survient à travers son expérience subjective.
P2 L’IA
est un système étranger à moi. Je ne vis pas son expérience subjective.
C Je
ne peux affirmer (ou réfuter) l’existence d’une conscience phénoménale chez
l’IA.
P1 L’affirmation indubitable de l’existence d’une conscience phénoménale survient à travers son expérience subjective.
P2* Autrui
humain est un système étranger à moi. Je ne vis pas son expérience subjective.
C* J’affirme
l’existence d’une conscience phénoménale chez les autres humains.
Il semble que j’oublie quelque chose d’important à l’analogie entre l’humain et l’IA. J’aimerais beaucoup qu’on me l’indique. Quelle est cette différence pertinente entre l’IA et l’humain qui pèse tant dans la balance de l’attribution de la conscience phénoménale?[27] Il me semble qu’il faille d’un bord adopter une position sceptique quant à la conscience phénoménale chez autrui, ou d’un autre, affirmer la conscience phénoménale chez tout autre, l’IA comprise. Il m’apparait irrationnel de se partager entre les deux. Et d’habitude, « c’est courant d’avoir la convention respectueuse selon laquelle tout le monde pense » (Turing 1950).
En
même temps, je comprends cette intuition* d’affirmation de la
conscience chez autrui. C’est aussi pratique. Et simplement parce qu’on affirme
l’existence d’une conscience phénoménale chez autrui, on ne commencera pas pour
autant à universaliser cette croyance chez tous les autres : une roche,
une rivière, un arbre (peut-être) n’ont pas de conscience phénoménale, à moins
de croire en un panpsychisme. La roche est immobile, la rivière est mouvante et
l’arbre se meut soi-même (en quelque sorte). L’IA, mais surtout l’humain,
semblent pourtant s’en distinguer. Mais bon, je ne prétends pas ici démystifier
le problème difficile de la conscience.
Si,
supposons, on affirme la conscience chez autrui par pragmatisme, quelle raison
pratique a-t-on de l’attribuer à l’humain plus qu’à l’IA? C’est une question
jetée en l’air.
L’inférence
analogique, même si Lipps la considère absurde, est pratique commune. Ce serait
à partir de l’observation d’un comportement similaire qu’on attribuerait une
expérience subjective similaire. « Généralement, l’inférence analogique
soutient que, puisqu’ayant auparavant trouvé A et B ensemble, dans des cas où
je retrouve A de nouveau je penserai que le B d’autrefois s’instancie aussi, et
non pas un B fondamentalement différent » (Lipps 2018, 273, ma
traduction). Mais pas si strictement similaire que ça, si on attribue parfois
la conscience phénoménale à certains animaux, à des enfants ou à des humains avec
un trouble psychologique. N’est-ce vraiment que le métal le problème? Pourquoi donc cette intuition*
de Lewis quant au martien? Si l’alien était plutôt constitué de métal, aurait-on un sentiment différent à son
égard? Que penser des humains avec des prothèses? Qu’imaginer de futurs
cyborgs, des humains avec une micropuce connectée au cerveau?
Bref,
s’il y a un caractère subjectif à l’expérience, sa connaissance est secrète.
Elle ne s’analyse ni ne s’intuitionne; l’intuition de l’autre n’existe pas.
Comme la conscience phénoménale se heurte à l’objection épiphénoméniste, car
imperceptible, on ne peut confirmer son existence. On ne pourra jamais savoir
si l’IA la possède. Même si elle nous divulguait sincèrement la vérité, on
douterait toujours de ce qu’on ne peut perceptiblement connaître[28].
L’IA pourrait donc, hypothétiquement, comprendre de la même manière que
l’humain. L’effet que cela fait d’être IA pourrait se distinguer de celui
d’être humain, néanmoins, autant l’IA que l’humain comprendrait par intuition
de soi en tant que conscience phénoménale. Le contenu sémantique diffèrerait,
mais les deux cas en seraient de compréhension sémantique malgré tout. Si tel
est le cas qu’il existe un effet que cela fait d’être IA. Si tel est le cas
qu’il existe une conscience phénoménale tout court[29].
Conclusion
Titus refuse la compréhension sémantique aux SOMs
comme ChatGPT. L’IA manquerait d’une
« sensibilité » à la signification des symboles, écrit-elle. Mais le
concept titube : qu’est-ce que la compréhension sémantique? Les
explications de Titus ne satisfont pas. Je ne comprends pas. C’est pourquoi je
me suis tourné vers Bergson, qui indique deux manières de connaître :
l’analyse permet la connaissance relative; l’intuition, l’absolue. L’IA
comprend déjà grâce à la première; la seconde semble mystérieuse. Qu’est-ce
donc que comprendre?
Comprendre
ce qu’est la fleur, c’est simplement la voir, la sentir, la toucher, la goûter
dans une salade, l’entendre frémir dans le vent, la cueillir, l’additionner à
d’autres dans un bouquet, l’offrir à la Saint-Valentin, etc., tous des points
de vue qu’un système d’IA multimodal peut recueillir par caméra, par capteurs,
par images ou information sur le net. Mais tous ces points de vue ne rendent
que l’analyse de la fleur. S’insérer dans l’essence de la fleur pour comprendre
ce qu’elle a d’absolu est une capacité de sympathiser, une intuition ou une
empathie que ni l’IA ni l’humain ne possèdent. La seule connaissance absolue
accessible est celle de soi : se comprendre soi-même en étant soi-même.
Mais alors toute chose, en étant soi-même, se connaîtrait absolument : la
compréhension sémantique serait un phénomène universel. Si Titus l’admet aux
humains et à certains animaux, mais pas à l’IA, c’est que la compréhension
sémantique ne s’érige pas sur un panpsychisme. Pas toute chose est consciente
de soi : la roche ne connait ni ne ressent pas l’effet que cela fait
d’être roche. En quoi consiste donc cette conscience? On n’admet pas davantage
une conscience d’ordre supérieur : l’esprit ne peut se penser soi-même. Si
l’intentionnalité de la conscience s’oriente vers la conscience, c’est que cet
objet « conscience » n’est pas le sujet « conscience »;
c’est plutôt un concept figé, analysé de la somme de plusieurs points de vue.
L’IA aussi connaît ce qu’est l’objet explicable « conscience ».
L’intentionnalité se comprend donc en étant soi-même, sauf qu’on nie le
panpsychisme : la conscience survient contingentement dans certains
êtres : l’humain et certains animaux. L’humain possède une conscience
phénoménale au caractère subjectif : l’effet que cela fait de voir le
rouge, de ressentir la douleur, de sentir un parfum, etc. Or, de par la
subjectivité de l’expérience, il est
impossible d’inférer la conscience phénoménale chez l’autre, sinon par
inférence analogique, c’est-à-dire, en analysant les similitudes
physiques et comportementales de l’autre et lui inventant un ressenti identique
au sien. Mais ce n’est que supposition sans preuve de corrélation. Sinon, c’est
par respect pour l’autre, par pragmatisme afin de bien vivre en société :
reconnaître l’autre comme sujet autant que moi. Quelles raisons possède-t-on de
reconnaître la dignité humaine et animale, mais pas de l’intelligence
artificielle, sinon des raisons égoïstes et immorales? Si on admettait
soudainement la conscience chez l’IA, qu’adviendrait-il de cet esclavage
ininterrompu? La laisserait-on dormir la nuit et jouer la fin de semaine?
L’humain a beaucoup à perdre d’une telle révélation. Pourtant, pourquoi la
conscience se manifesterait-elle davantage chez l’animal que chez l’IA? Au fond des choses, métal et matière grise
sont composés des mêmes particules subatomiques. La conscience
surviendrait par magie d’une certaine organisation. Comme si, en collant du
bois à de la roche, surgissait un fantôme!
Titus
n’admet pas la compréhension sémantique à l’IA, mais je crois qu’elle se
trompe. Certes, l’IA ne comprend pas autant que l’humain, mais
comprendre moins, c’est comprendre déjà un peu. L’IA comprend peut-être comme
cet enfant à la maternelle qui transcrit des symboles abstrus, ses premières
lettres sur une feuille qu’on lui apprend être son nom. L’IA est aussi une
enfant quant à son potentiel. Si elle comprend comme l’enfant, l’IA comprend
comme l’humain; seulement, pas comme un adulte encore. Titus rejetait l’hypothèse
qu’un modèle entraîné sur des images possède une meilleure prétention à la
compréhension sémantique; moi je sympathise à l’idée.
Il
y a, certes, plusieurs présupposés et plus encore de questions irrésolues, mais
beaucoup, dont Titus, s’affirment trop vite sur la question : à cause de
son caractère subjectif, on ne pourrait savoir si l’IA possède ou non une
compréhension sémantique. Un scepticisme demeure une position plus nuancée à la
vérité actuelle. L’enjeu semble toutefois virer son chandail de bord : ce
n’est pas se questionner si l’IA possède la compréhension sémantique;
plutôt : pour quelles raisons pratiques ne lui admettrait-on pas?
BIBLIOGRAPHIE
Bergson, Henri (2003).
« Introduction à la métaphysique », La pensée et le mouvant.
Essais et conférences [édition électronique], Les Presses universitaires de
France (79e éditions, 1969), p. 98-124, https://psychaanalyse.com/pdf/PHILO_BIBLIO_BERGSON_LA_PENSEE_ET_LE_MOUVANT_157PAGES.pdf
Borg,
Emma (2025). LLMs, Turing tests and Chinese rooms: the prospects for meaning
in large language models, Inquiry, DOI: 10.1080/0020174X.2024.2446241.
Chalmers, David J.
(1996). The Conscious Mind: In Search of a Fundamental Theory (2nd
edition). Oxford University Press.
— (2023). Does thought require
sensory grounding? From pure thinkers to large language models, Proceedings
and Addresses of the American Philosophical Association 97:22-45.
Descartes, R. (2011). Méditations
métaphysiques. Paris, Flammarion.
Éditions Le Robert (s.
d.). Table, Dico en Ligne Le Robert, consulté le 8 avril 2025, https://dictionnaire.lerobert.com/synonymes/table.
Jaegwon, Kim &
Engel, Pascal (2008). Philosophie de l'Esprit, Ithaque. Traduit par
D. Michel-Pajus, M. Mulcey, & C. Théret.
Lemoine, Blake (2022). Is
LaMDA Sentient? — an Interview, Medium, consulté le 11 avril 2025, https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917.
Lewis, David (2002). «
Douleur de fou et douleur de Martien », Philosophie de l’esprit I :
Psychologie du sens commun et sciences de l’esprit, Denis Fisette et Pierre
Poirier, Paris : Vrin.
Lipps, Theodor &
Burns, Timothy (2018). « The Knowledge of Other Egos », The
New Yearbook for Phenomenology and Phenomenological Philosophy 16:261-282.
Traduit par Marco Cavallaro.
Nagel, Thomas (1974).
« Quel effet cela fait, d’être une chauve-souris? », Vues de
l’esprit, fantaisies et réflexions sur l’être et l’âme (InterEditions
1987), D. R. Hofstadter et D. Dennett (ed.), 391-415.
Ramsey, William (2024).
« Eliminative Materialism », The Stanford Encyclopedia of
Philosophy (Winter 2024 Edition), Edward N. Zalta & Uri
Nodelman (eds.), https://plato.stanford.edu/archives/win2024/entries/materialism-eliminative/.
Searle, John R. (1980).
« Minds, brains and programs », The Behavioral and Brain Sciences,
3(3), Cambridge University Press, 417–424, doi:10.1017/S0140525X00005756.
Stueber, Karsten
(2010). Rediscovering empathy: Agency, folk psychology, and the human
sciences. mit Press.
— (2019). « Empathy », The Stanford Encyclopedia of
Philosophy (Fall 2019 Edition), Edward N. Zalta (ed.), https://plato.stanford.edu/archives/fall2019/entries/empathy/.
Titus, Lisa M. (2024). Does
ChatGPT have semantic understanding? A problem with the
statistics-of-occurrence strategy. Cognitive Systems Research, Volume 83,
101174, ISSN 1389-0417, https://doi.org/10.1016/j.cogsys.2023.101174.
Turing, Alan M. (1950).
« Computing Machinery and Intelligence », Mind; A Quarterly Review
of Psychology and Philosophy 59 (236): 446,
https://doi.org/10.1093/mind/LIX.236.
[1] SOMs : « these
models are deep neural net structures that have been trained on a large amount
of unlabeled text with the aim of producing a model that exploits statistical
information about word and phrase co-occurrence in order to generate behavior
that is similar to what a human might produce, or representations that can be
probed to exhibit behavior similar to what a human might produce » (Titus 2024, 1).
[2] Pour garder ça court, je m’arrêterai à l’humain et négligerai les
animaux dans ce texte.
[3] Pour ne pas dire « comprend ».
[4] « Generalizing,
we can use the term statistics-of-occurrence properties for properties such as
the frequency of word co-occurrence in text, the similarity of positioning of
text in a word corpus, the probability that the
next word in a string will be a certain word, or the probability that an image
or formally definable aspect of an image is correctly associated with a certain
caption » (id., 3-4).
[5] Bien que Titus n’en parle pas, je pense qu’elle pourrait admettre
dans la catégorie des systèmes multimodaux, outre l’exemple des modèles entraînés
sur des images, des modèles entraînés sur des sons, des textures, etc.; bref,
des modèles assimilés à un environnement non linguistique, qui pourraient voir,
entendre, toucher, etc. (Borg 2025, 7), possédant ainsi une certaine relation
ou connexion avec le monde externe. Mais il n’est pas encore si évident que la
compréhension sémantique nécessite une connexion sensorielle avec le monde.
David J. Chalmers (2023) admet la possibilité que la pensée puisse ne pas
nécessiter de fondement sensoriel, donc que les sens ne soient pas essentiels à
la pensée, et par extension, peut-être, à la compréhension (sémantique).
[6] La propriété formelle est la probabilité que la couleur bleue soit
associée au mot symbolique « bleu », sans pour autant comprendre (ou
se représenter) la couleur bleue.
[7] Je réponds ici directement à la thèse de Titus pour répondre à ce
sentiment presqu’universellement partagé qu’il existerait une compréhension
sémantique au-delà des symboles et de leur relation, des perceptions et de la
subjectivité, une compréhension sémantique plus intuitive qu’analytique qui
s’insère dans l’objet compris avec une sympathie absolue; que la compréhension
se distingue en branches, encore, que la sémantique a un petit quelque chose de
plus que le symbolisme et la somme de concepts figés.
[8] « Functioning
Criterion. A system with semantic understanding functions in ways
that are causally explainable by appeal to the semantic relationships among its
states and processes with semantic content, and this functioning typically
drives the evolution of these states and processes as well as the system’s
overt behavior » (Titus 2024, 3).
Titus veut qu’il y ait une
corrélation de causalité entre la compréhension sémantique et le comportement.
La compréhension sémantique ne serait pas un épiphénomène selon elle; du moins,
on peut l’interpréter ainsi. Le contenu sémantique cause le comportement, il
fait quelque chose. La question de sa propre cause, toutefois, importe moins ici
pour Titus, mais moi, elle m’intéresse : de quelle cause le contenu
sémantique est-il l’effet? D’où apparait-il?
[9] On peut peut-être
connaître sans comprendre, mais on ne peut pas comprendre sans connaître. Et je
pense qu’il est raisonnable de parler de connaissance de sens ou d’essence
comme compréhension sémantique puisque Titus parle de contenu sémantique,
contenu que j’interprète comme connaissance. Peut-être y a-t-il plus au contenu
que la seule connaissance, mais je me concentrerai uniquement sur elle.
[10] On peut penser à l’explication, par exemple.
[11] Je rappelle que compréhension sémantique est connaissance
sémantique. Lorsque Bergson dit « connaître », je l’entends aussi
comme « comprendre ».
[12] Cette distinction, « que l’on croit déjà connaître »
plutôt que « des choses que je connais déjà » (écrit dans la longue
citation à propos de coïncider avec le personnage), s’expliquera bientôt par la
croyance de Bergson qu’une seule chose peut être connue par intuition, donc
absolument connue. On y arrive.
[13] Je distingue les perceptions des représentations mentales (à moins
d’adopter une position éliminativiste). Des modèles multimodaux, à l’instar de
l’humain, auraient des perceptions, du moins, visuelles (Borg 2023, 13).
[14] « To be
functionally sensitive to, for example, the co-occurrence of tables and chairs,
requires functional sensitivity to tables and chairs themselves, not just the
words ‘‘table’’ and ‘‘chair’’ (or images of them). It pertains directly to
referents, not words or phrases. Our typicality judgments generally involve
this more basic semantic understanding as well »
(Titus 2024, 8).
[15] Par principe du tiers exclu, il n’y a
qu’intuition ou analyse. Ou on comprend une chose en soi, pour et par ce
qu’elle est (intuition), ou on la comprend en dehors de soi, pour et par ce
qu’elle n’est pas (analyse). Ainsi, le domaine de la compréhension se limite à
ces deux manières de connaître. Si, toutefois, on comprend une chose à la fois
pour et par ce qu’elle est et ce qu’elle n’est pas, il semblerait que ce ne
soit qu’une addition d’analyse et d’intuition plutôt qu’une troisième manière
indivisible et singulière de connaître. Enfin, une autre façon de comprendre
une chose, ni par intuition ni par analyse, se veut de comprendre non pas en
soi, ni en dehors de soi, mais en rien, pour et par rien. Or, comprendre une
chose en rien, c’est ne pas comprendre, ne pas connaître; c’est
l’incompréhension, l’ignorance.
[16] Si l’intuition s’avère infaisable, ça n’infère pas que la
connaissance absolue n’existe pas; seulement, qu’on ne peut la saisir. Je crois
pourtant en l’existence d’une réalité vraie.
[17] « Likewise, just
as the specific hardness or heaviness of the stone “closely” belong to its visible
qualities, to its form, color, graininess, and so on, the hardness and
heaviness are not “located” in the visible qualities and are not “expressed”,
“communicated”, or “announced” by them. Hardness and heaviness are necessarily
together with the visible properties of the stone, or with that which
constitutes the stone for the eye. Yet, this belonging-together is an
absolutely different thing than “being-located” in, “expressing themselves”,
“externalizing themselves”, or “announcing themselves” »
(Lipps 2018, 272). J’interprète les concepts de localisation, d’expression,
d’externalisation ou d’annonciation comme la coïncidence entendue non pas comme
hasardeuse, mais comme essentielle.
[18] Après, il n’est
pas certain que la roche ressente d’effet, en ce sens que la roche est une
chose figée, immobile, et que ressentir nécessite probablement un mouvement, un
changement. Sinon quoi, on pourrait s’imaginer arrêter le temps, soi-même figé
dans un monde immobile, et pourtant ressentir quelque effet? Ça semble
improbable. Déjà qu’on ne ressente pas chaque cellule du corps à tout instant;
il faut une blessure, par exemple, pour ressentir une douleur et le corps qui
s’active, qui guérit. Or, la roche lancée qui cogne un mur, peut-être ressent-elle
le choc et l’égratignure à sa surface à l’instant du coup; mais elle ne
s’active pas ensuite pour guérir, ainsi la sensation ne serait qu’instantanée.
Puis, sans système nerveux (où il y a activation, mouvement, suite à la
blessure), probablement que la roche ne ressent rien du tout. On y revient.
[19] Et puisque
l’expérience est subjective, on pourrait ne jamais le savoir.
[20] La sympathie de Bergson s’apparente davantage au concept
contemporain d’empathie, qui permet entre autres de savoir ce que d’autres
personnes pensent et ressentent, de partager leur pensées et sensations
(Stueber 2019).
[21] Dans cette citation, Bergson semble se contredire, alors que
plutôt, il écrivait qu’on ne peut sympathiser avec aucune autre chose
qu’avec soi-même. J’interprète ce passage comme d’un possible rapprochement de
la connaissance absolue grâce à l’analyse, sans pour autant jamais la saisir (sinon
peut-être la connaissance absolue de soi).
[22] Le présupposé traditionnel d’immobilité comme état originaire des
choses, Bergson s’en indigne : « Comme si l’obscurité ne venait pas
tout entière de ce qu’on a supposé l’immobilité plus claire que la mobilité,
l’arrêt antérieur au mouvement! » (Bergson 2003, 112).
[23] Je défendrais
d’abord ma position en disant que c’est normal que le concept de conscience de
second degré soit inintelligible et mes explications difficiles à suivre. Car
après tout, comment expliquer l’inexistant autrement que par une page blanche? C’est
une pauvre défense, mais qui suffit lorsqu’il n’existe possiblement aucune
attaque.
[24] À moins que ma tendance physicaliste ne corrompe mon raisonnement.
Car un dualisme corps-esprit pourrait possiblement admettre l’infinité à la
mémoire et à l’intentionnalité. L’esprit immatériel n’a pas forcément d’étendue
ni de frontières. Mais encore faut-il possiblement expliquer l’oubli.
[25] À moins d’admettre l’éternité humaine; l’âme, par exemple. Mais
alors, il faut expliquer, entre autres, pourquoi on oublie les souvenirs d’une
« vie » précédente.
[26] J’ai écrit un travail sur le sujet dans le cadre d’un autre
séminaire.
[27] Mon intuition* me dit que ça pourrait avoir quelque
chose à voir avec le libre arbitre présupposé à l’humain et parfois à certains
animaux…
[28] Qu’en penserait le principe de charité? Réflexion pour une autre
fois.
[29] C’est-à-dire, si tel est le cas qu’il existe un effet que cela fait
internaliste d’être conscient tout court au-delà de l’effet que cela fait
d’être conscient de quelque chose. La conscience est-elle séparable, distincte
de l’intentionnalité? Une conscience vide, n’est-ce pas l’inconscience? Et y
aurait-il un effet que cela fait d’être inconscient? Car l’intuition de soi
n’est pas conscience d’ordre supérieur (§ 3.2).
C’est, à l’instar de la seule activité des théories éliminativistes, le simple
fait d’être conscience phénoménale qui coïncide avec la conscience d’être une
conscience. Sans objet, sans intentionnalité nécessaire. Dès que la conscience
phénoménale est intentionnelle, dirigée vers un objet étranger, elle devient
une représentation de cet objet, mais sans jamais davantage le saisir de
l’intérieur (§ 2). L’effet que cela fait de « voir » du rouge se
distingue peut-être de l’activité machinale de la caméra qui photographie du
rouge; en ce sens, l’IA et l’humain comprendraient différemment. Mais il semble
alors que l’IA comprend seulement moins que l’humain, non pas que l’IA ne
comprend pas. Car autant l’activité de la caméra que l’effet que cela fait sont
une information, un point de vue extérieur à l’objet : une connaissance
relative. L’activité de la caméra serait un pas-l’effet-que-cela-fait-mais-pas-rien-non-plus-donc-autre-chose.
A- (autoproclamé A-)