L'humain et ses créatures : automates, androïdes, intelligence artificielle

Depuis le règlement européen sur l'intelligence artificielle du 13 juin 2024, un fournisseur doit faire en sorte que les personnes qui conversent avec certains systèmes « soient informées qu'elles interagissent avec un système d'IA », sauf si cela ressort clairement des circonstances (article 50). La règle paraît modeste. Elle est en réalité vertigineuse : il a fallu une loi pour garantir à chacun le droit de savoir s'il parle à un homme. Pendant des siècles, la question ne se posait pas ; on reconnaissait un humain à ce qu'il parle. Le critère le plus ancien du propre de l'homme est devenu insuffisant.

Le rêve de fabriquer un être à notre image est aussi vieux que la littérature : les servantes d'or d'Héphaïstos dans l'Iliade, la statue que Pygmalion supplie Vénus d'animer chez Ovide, le Golem que la légende attribue au rabbin Loew de Prague. Ce qui a changé n'est pas le rêve, c'est sa réalisation partielle. Et chaque fois qu'on a voulu fabriquer un humain, on a d'abord dû décider ce qu'est un humain.

10.1 Le test de Descartes : à quoi reconnaît-on un homme ?

L'âge classique invente l'automate savant, et en même temps la philosophie qui le pense. Pour Descartes, le corps des animaux et le corps humain sont des machines : des pièces, des ressorts, des tuyaux, mus selon les lois de la mécanique. Il faut donc dire ce qui, dans l'homme, n'est pas machine — et comment on le reconnaît du dehors.

La cinquième partie du Discours de la méthode (1637) a déjà servi deux fois dans ce livre : contre l'animal (chapitre 3) et pour définir le langage (chapitre 4). On y revient pour une page que ces chapitres laissent de côté : celle où Descartes imagine une machine qui aurait « la ressemblance de nos corps » et imiterait nos actions autant qu'il est possible. Nous aurions pourtant, écrit-il, « deux moyens très certains pour reconnoître qu'elles ne seroient point pour cela de vrais hommes ». Le premier est la parole : on peut concevoir une machine qui profère des mots, et même qui crie qu'on lui fait mal si on la touche à tel endroit, « mais non pas qu'elle les arrange diversement pour répondre au sens de tout ce qui se dira en sa présence, ainsi que les hommes les plus hébétés peuvent faire ». Le second est l'universalité : la machine peut faire certaines choses mieux que nous, mais elle échouera dans d'autres, car elle agit par la disposition de ses organes et non par connaissance, alors que « la raison est un instrument universel qui peut servir en toutes sortes de rencontres » (figure 1).

La distinction utile est celle de réagir (une sortie déclenchée par une entrée) et de répondre (ajuster sa parole au sens de ce qui est dit). Notez que Descartes ne dit pas qu'une machine ne pourra jamais parler, mais qu'elle ne pourra pas répondre : la différence est exactement celle que nos machines actuelles semblent franchir. C'est ce critère que La Mettrie retourne et que Turing transforme en test.

Pascal, qui avait construit dès 1642 une machine à calculer, en tire une distinction voisine, notée dans les Pensées : « La machine d'arithmétique fait des effets qui approchent plus de la pensée que tout ce que font les animaux ; mais elle ne fait rien qui puisse faire dire qu'elle a de la volonté, comme les animaux. » La machine calcule mieux que l'animal, mais l'animal veut et la machine ne veut pas. Pascal sépare ainsi deux choses que l'on confond sous le mot « intelligence » : la performance et le vouloir.

10.2 Le double inquiétant : la créature des romanciers

Les philosophes demandent si une machine peut penser. Les écrivains posent une autre question : que se passe-t-il entre la créature et ceux qui l'approchent ? Trois fictions du XIX^e siècle y répondent, et aucune ne parle vraiment de technique.

Dans L'Homme au sable d'E.T.A. Hoffmann (recueilli dans les Contes nocturnes, 1816-1817), l'étudiant Nathanaël tombe amoureux d'Olympia, la fille du professeur Spalanzani, qu'il observe à travers une lorgnette achetée à l'inquiétant marchand Coppola. Olympia ne dit presque rien, danse avec une raideur étrange, écoute sans se lasser : Nathanaël la trouve plus profonde que sa fiancée Clara, qui lui répond. Olympia est un automate ; Nathanaël sombre dans la folie. Freud a tiré de ce conte son essai sur « l'inquiétante étrangeté » (1919) : l'effroi que provoque le doute sur le caractère vivant ou mécanique d'un être. Le point important : ce n'est pas la machine qui devient humaine, c'est l'amant qui préfère une créature sans réponse à une femme qui lui répond. Olympia ne passe pas le test de Descartes ; c'est Nathanaël qui ne le fait pas passer.