Plan détaillé : une machine peut-elle être humaine ?

Problématique. Une machine n'est pas de l'espèce humaine ; mais si elle parle, répond, semble comprendre, que lui manque-t-il pour posséder ce qui fait l'humain ? Et si « humaine » veut dire aussi bienveillante, la question devient : une machine peut-elle avoir de l'humanité, ou ne peut-elle que servir la nôtre ?

I. Une machine n'est pas humaine : elle imite sans être. (1) Elle n'est pas née et ne mourra pas ; elle n'appartient à aucune espèce. (2) Elle réagit sans répondre et n'excelle que là où on l'a préparée (Descartes) ; elle calcule sans vouloir (Pascal). Exemple analysé : la machine qui crie quand on la touche, dans le Discours de la méthode. Transition : mais ces critères résistent-ils à des machines qui répondent ?

II. Le critère de l'humain se dérobe. (1) Si l'homme est lui-même une machine plus complexe (La Mettrie), la différence n'est que de degré. (2) Nous ne connaissons autrui que par ses réponses : si une machine est indiscernable d'un humain, au nom de quoi lui refuser la pensée (Turing) ? Exemple analysé : ELIZA (1966), qui montre aussi que nous prêtons facilement une humanité à ce qui nous répond. Transition : la question de la qualité ne se tranche pas ; il faut la déplacer.

III. L'humanité se joue dans le rapport du créateur à sa créature. (1) La créature de Frankenstein possède la qualité humaine ; c'est le créateur qui manque d'humanité. (2) Le droit ne demande pas si la machine est humaine ; il exige un contrôle humain et le droit de savoir qu'on parle à une machine (règlement (UE) 2024/1689, articles 14 et 50). Exemple analysé : la fin de R.U.R., où l'humanité-vertu renaît chez des créatures.

Conclusion. Une machine n'est pas humaine par nature ; elle peut le paraître, et elle oblige à préciser ce que nous entendons par là. Mais la seule humanité dont nous soyons sûrs d'être responsables est la nôtre, dans la façon dont nous fabriquons, utilisons et traitons nos créatures.