De la machine de Turing à l'intelligence artificielle

11.6 Les bogues

def maximum(liste):
    m = 0
    for i in range(1, len(liste)):
        if liste[i] > m:
            m = liste[i]
    return m

def maximum(liste):
    if len(liste) == 0:
        return None          # cas particulier : liste vide
    m = liste[0]
    for i in range(1, len(liste)):
        if liste[i] > m:
            m = liste[i]
    return m

11.7 L'intelligence artificielle : ce que le mot recouvre depuis $1956$

11.7.1 Une naissance datée

L'expression artificial intelligence apparaît en $1955$ dans la proposition d'un séminaire d'été rédigée par John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon ; le séminaire se tient à Dartmouth College, aux États-Unis, pendant l'été $1956$. Ses auteurs y écrivent que « chaque aspect de l'apprentissage, ou de toute autre caractéristique de l'intelligence, peut en principe être décrit assez précisément pour qu'une machine puisse le simuler ». C'est un programme de recherche, énoncé comme une hypothèse de travail. Soixante-dix ans plus tard, il n'est ni démontré ni réfuté.

11.8 L'apprentissage automatique

11.8.1 Le renversement

Le renversement opéré par l'apprentissage automatique. Dans

le schéma de gauche, ce qui entre est constitué des règles ; dans celui de droite, ce qui entre est constitué des réponses, et ce qui sort tient lieu de règles. Ce renversement explique à la fois la puissance de ces méthodes — on peut traiter des tâches qu'on ne sait pas décrire — et leur difficulté : le résultat n'est pas lisible.</div>

11.8.2 Supervisé, non supervisé : une distinction à ne pas confondre

Définition 11.19Apprentissage supervisé

L'apprentissage est supervisé lorsque les données d'entraînement sont étiquetées : chaque exemple est un couple formé d'une entrée et de la sortie attendue. L'algorithme ajuste ses paramètres pour que sa sortie s'approche le plus possible de l'étiquette. On distingue deux familles :

• la régression, quand la sortie est un nombre : prédire le prix d'un logement à partir de sa surface ;
• la classification, quand la sortie est une catégorie : décider si un message est indésirable, si une image contient un piéton.

Le coût de cette approche est caché dans le mot étiquetées : il a fallu que des êtres humains fournissent les bonnes réponses, exemple par exemple.

Définition 11.20Apprentissage non supervisé

L'apprentissage est non supervisé lorsque les données ne portent aucune étiquette. L'algorithme ne cherche pas à retrouver une réponse qu'on lui aurait montrée : il cherche une structure dans les données elles-mêmes. Les usages principaux sont :

• le partitionnement, qui regroupe les données en paquets d'éléments semblables — par exemple l'algorithme des $k$-moyennes ;
• la réduction de dimension, qui décrit des données à très nombreuses variables par un petit nombre de variables synthétiques.

Point crucial : un algorithme non supervisé ne nomme pas les groupes qu'il trouve. Il dit « ces clients se ressemblent » ; c'est un être humain qui décide ensuite si cette ressemblance a un sens, et lequel.

Méthode : Reconnaître le type d'apprentissage sur un exemple

Une seule question suffit, et il faut se la poser d'abord : les données d'entraînement contiennent-elles la bonne réponse ?

• Oui, chaque exemple porte une étiquette fournie par un humain ou par une mesure $\Rightarrow$ apprentissage supervisé. Préciser alors si l'étiquette est un nombre (régression) ou une catégorie (classification).
• Non, on dispose seulement des données brutes $\Rightarrow$ apprentissage non supervisé. Préciser ce que l'algorithme cherche : des groupes, une simplification.
• Il n'y a pas d'exemples, mais un signal de réussite obtenu en agissant $\Rightarrow$ apprentissage par renforcement : un agent choisit des actions, reçoit une récompense ou une pénalité, et ajuste sa stratégie. C'est ainsi qu'on entraîne un programme à jouer.
• Vérifier qui a produit les étiquettes, quand il y en a. C'est la question qui décide de la qualité du résultat, et elle est presque toujours passée sous silence.

iRemarque« Apprendre » est une métaphore

Le vocabulaire de ce domaine est emprunté à la psychologie : apprendre, entraîner, neurone, attention. Ces mots sont commodes et trompeurs. Ce que fait un algorithme d'apprentissage est parfaitement décrit : il cherche les valeurs de paramètres qui minimisent une mesure d'erreur sur un ensemble d'exemples. Il n'y a là ni compréhension, ni intention. Conséquence pratique : un tel système est excellent à l'intérieur du domaine couvert par ses données d'entraînement et sans garantie au-dehors. Un système entraîné sur les radiographies d'un modèle d'appareil peut se dégrader fortement sur celles d'un autre, sans rien signaler : il n'a pas appris ce qu'est une fracture, il a appris ce qui, dans ses données, accompagnait l'étiquette « fracture ».

11.9 Deux algorithmes d'apprentissage que l'on peut faire à la main

11.9.1 La courbe de tendance : l'apprentissage supervisé le plus simple

Vous connaissez déjà un algorithme d'apprentissage supervisé, sans le savoir : l'ajustement d'un nuage de points par une droite. Les données d'entraînement sont les points ; l'étiquette est l'ordonnée ; les paramètres sont la pente et l'ordonnée à l'origine ; l'erreur est l'écart entre la droite et les points. Il n'y a pas de différence de nature entre cela et un réseau de neurones, seulement une différence de nombre de paramètres : deux ici, des milliards ailleurs.

Méthode : Utiliser une courbe de tendance pour estimer une valeur

inconnue</h4><div class="text-gray-700 leading-relaxed font-sans text-xs select-text">

• Séparer les données : une partie sert à l'entraînement, une partie est mise de côté pour le test. Ne jamais évaluer un modèle sur les exemples qui ont servi à le construire.
• Tracer le nuage des données d'entraînement et choisir la forme de la courbe d'après son allure.
• Ajuster la courbe, à la calculatrice ou au tableur, et relever son équation.
• Évaluer sur les données de test : calculer les écarts entre la prédiction et la valeur réelle, et en donner un ordre de grandeur.
• Prédire la valeur inconnue en remplaçant l'abscisse dans l'équation.
• Situer la prédiction : est-elle à l'intérieur de l'intervalle des données d'entraînement (interpolation, raisonnable) ou en dehors (extrapolation, fragile) ?

$\leftrightarrow$ Calcul algébrique, lectures graphiques.

Deux modèles ajustés sur les mêmes sept exemples. La courbe

sinueuse passe exactement par tous les points : son erreur d'entraînement est nulle. La droite se trompe sur chacun d'eux. Et pourtant, sur un huitième exemple, c'est la droite qui prédira le mieux : la courbe a appris le bruit des données au lieu de la tendance. C'est le sur-apprentissage, la défaillance la plus fréquente de l'apprentissage automatique.</div>

Définition 11.21Sur-apprentissage

Il y a sur-apprentissage lorsqu'un modèle reproduit très bien les exemples d'entraînement, y compris leurs irrégularités accidentelles, et prédit mal sur des exemples nouveaux. Le remède se formule en une phrase : on ne juge un modèle que sur des données qu'il n'a jamais vues. C'est pour cela que la première étape de la méthode ci-dessus consiste à mettre de côté une partie des données.

11.9.2 Les $k$ plus proches voisins

Voici un algorithme d'apprentissage supervisé complet, que l'on peut exécuter avec une règle graduée. Pour classer un nouvel objet, on cherche les $k$ exemples les plus proches de lui dans les données d'entraînement, et on lui attribue la catégorie majoritaire parmi ces $k$ voisins.

L'algorithme des $k$ plus proches voisins. Chaque cercle

contient les $1$, $3$ puis $7$ exemples les plus proches de l'objet à classer. La méthode n'a rien de mystérieux : elle mesure des distances et compte. Sa faiblesse est visible ici — près de la frontière entre les deux classes, la réponse dépend d'un paramètre choisi par un être humain.</div>

iRemarqueCe que cet exemple minuscule enseigne

Trois choses, qui valent pour des systèmes bien plus gros. Un : l'algorithme ne construit aucune règle, il conserve tous les exemples et compare ; sa « connaissance », ce sont les données elles-mêmes. Deux : le résultat dépend d'un choix humain, ici la valeur de $k$ ; dans un système réel, ces choix se comptent par dizaines et ne sont presque jamais publiés. Trois : loin de la frontière l'algorithme paraît infaillible, près de la frontière il est fragile — or c'est là que se trouvent les cas litigieux, le dossier limite, l'image ambiguë. Un système est le plus incertain là où sa décision compte le plus, et il ne le dit pas de lui-même.

iRemarqueUn mot sur les réseaux de neurones

Un neurone formel, décrit dès $1943$ par Warren McCulloch et Walter Pitts, calcule une somme pondérée de ses entrées, y ajoute un terme constant, puis applique une fonction qui écrase le résultat. Les poids de cette somme sont les paramètres. En empilant des couches de tels neurones, on obtient un réseau capable de représenter des fonctions très variées.

L'apprentissage se fait par retour d'erreur : on présente un exemple, on compare la sortie à la réponse attendue, et on répercute l'écart de la dernière couche vers les premières en corrigeant chaque poids dans le sens qui diminue l'erreur. Répété sur des millions d'exemples, ce procédé popularisé en $1986$ ajuste l'ensemble des poids : c'est le principe de la droite ajustée, appliqué à un très grand nombre de paramètres. D'où une difficulté : les poids n'ont aucune signification lisible. On peut vérifier qu'un réseau se trompe rarement ; on ne peut pas, en général, lire dans ses paramètres pourquoi il a répondu ceci plutôt que cela. C'est le problème de l'explicabilité, central dès que la décision engage une personne.

iRemarqueEt les modèles génératifs ?

Un modèle génératif de texte est entraîné à une tâche unique et parfaitement définie : étant donné un début de texte, prédire l'élément suivant. La « réponse attendue » est simplement la suite réelle du texte dans d'immenses corpus, ce qui évite d'avoir à étiqueter quoi que ce soit. Une fois entraîné, on l'utilise en boucle : produire un élément, l'ajouter au texte, recommencer. Une architecture efficace pour cela, dite transformeur, a été publiée en $2017$ ; le premier dialogueur fondé sur ce principe à connaître une diffusion massive a été ouvert au public le $30$ novembre $2022$.

La conséquence découle directement de la tâche d'entraînement : un tel système produit un texte plausible, pas un texte vérifié. Il n'a pas de représentation séparée de ce qui est vrai, et peut donc énoncer avec la même assurance un fait exact et une référence inexistante. Vérifier ce qu'il produit n'est pas une précaution excessive : c'est la seule façon correcte de s'en servir.

Méthode : Analyser un exemple d'utilisation de l'intelligence

artificielle</h4><div class="text-gray-700 leading-relaxed font-sans text-xs select-text"> Devant un document décrivant une application — article de presse, notice d'un produit, publication scientifique — répondre dans cet ordre :

• Quelle tâche exactement ? La formuler comme une entrée et une sortie : « à partir d'une image de la rétine, prédire la présence de telle lésion ». Si l'on n'y arrive pas, le document est trop vague pour être évalué.
• Quelle est la source des données ? Qui les a produites, où, quand, avec quel matériel ? Ont-elles été étiquetées, et par qui ?
• Quel type d'apprentissage ? Supervisé, non supervisé, par renforcement — la question de la section précédente.
• Quelles corrélations sont exploitées ? Nommer les grandeurs que le système met en relation, et se demander si le lien est un mécanisme connu ou une simple coïncidence statistique.
• Comment le système a-t-il été évalué ? Sur des données distinctes de l'entraînement ? Avec quelle mesure ? Comparé à quoi ?
• Que se passe-t-il quand il se trompe ? Qui le détecte, qui en répond, et la personne concernée peut-elle contester ?

11.10 Les données : qualité, représentativité, biais

Proposition 11.22La qualité des données décide de tout

La qualité et la représentativité des données fournies sont essentielles pour la qualité des résultats. En effet, l'un des risques de l'apprentissage automatique réside dans l'amplification des biais des données. Par ailleurs, une interprétation trop rapide des données et un amalgame entre corrélation et causalité peuvent aboutir à des résultats erronés.

Définition 11.23Biais des données

Un jeu de données est biaisé lorsque sa composition ne reflète pas celle de la population sur laquelle le système sera utilisé, ou lorsqu'il enregistre des décisions passées elles-mêmes discutables. Un algorithme d'apprentissage reproduit fidèlement ce qu'il trouve dans ses données : si celles-ci portent un déséquilibre, il le reproduit — et, comme il l'applique ensuite systématiquement et à grande échelle, il l'amplifie.

Méthode : Reconnaître un biais dans un jeu de données

• Demander d'où viennent les données. Qui les a produites, quand, où, par quel appareil, dans quel but initial ?
• Comparer la composition de l'échantillon à celle de la population visée : âge, sexe, origine géographique, milieu, matériel utilisé. Tout écart est un biais potentiel.
• Chercher qui manque. C'est la question la plus productive : ceux qui n'ont pas de smartphone, qui ne consultent pas, qui n'ont pas postulé, ne figurent nulle part dans les données — et ils sont invisibles au système.
• Repérer le biais du survivant. Si les données ne contiennent que les cas qui sont « revenus », l'analyse portera sur les mauvais exemples.
• Se demander ce que mesure réellement l'étiquette. « A été recruté » n'est pas « était le meilleur candidat » ; « a été arrêté » n'est pas « a commis une infraction ». Un système entraîné sur la première grandeur prédit la première, jamais la seconde.
• Évaluer les performances séparément pour chaque groupe, et pas seulement en moyenne. Un taux d'erreur global de $2\%$ peut cacher $0,5\%$ sur un groupe et $15\%$ sur un autre.

Exemple 11.24Trois cas documentés

Le biais du survivant, $1943$. Le statisticien Abraham Wald est chargé d'aider à blinder les bombardiers. L'inventaire des impacts sur les appareils rentrés montre des zones très touchées et d'autres épargnées ; la conclusion intuitive — blinder là où il y a des impacts — est fausse, car les avions touchés dans les zones apparemment épargnées ne sont pas rentrés. L'échantillon était biaisé par sa condition même d'existence.

Reconnaissance de visages, $2018$. Une étude publiée en février $2018$ par Joy Buolamwini et Timnit Gebru a mesuré séparément, pour plusieurs systèmes commerciaux d'analyse de visages, le taux d'erreur selon le sexe et la couleur de peau. Les écarts étaient considérables : le taux d'erreur le plus élevé, pour les femmes à peau foncée, dépassait de très loin celui obtenu pour les hommes à peau claire. Les jeux d'images d'entraînement disponibles à l'époque étaient fortement déséquilibrés. La performance globale annoncée par les fabricants, elle, était bonne — parce qu'une moyenne écrase les minorités.

Un outil de tri de candidatures, révélé en $2018$. La presse a rapporté en octobre $2018$ qu'une grande entreprise avait développé puis abandonné un outil expérimental de tri automatique de curriculums. Entraîné sur les candidatures reçues et les décisions passées, il avait appris à pénaliser certains termes associés aux candidatures féminines. L'entreprise a indiqué que l'outil n'avait pas servi à évaluer de vrais candidats. Le mécanisme est exemplaire : l'algorithme n'avait aucune intention ; il reproduisait la statistique des décisions humaines antérieures.

11.11 Corrélation n'est pas causalité

Définition 11.25Corrélation

Deux grandeurs sont corrélées lorsque leurs variations sont liées : les grandes valeurs de l'une accompagnent régulièrement les grandes valeurs de l'autre (corrélation positive) ou ses petites valeurs (corrélation négative). C'est un constat statistique. Il ne dit rien du mécanisme.

Les quatre explications possibles d'une corrélation observée

entre deux grandeurs. Une seule autorise à dire « $A$ cause $B$ ». Un algorithme d'apprentissage repère la corrélation ; il ne distingue jamais, à lui seul, lequel des quatre cas il a devant lui.</div>

Méthode : Montrer qu'une corrélation n'est pas nécessairement une

causalité</h4><div class="text-gray-700 leading-relaxed font-sans text-xs select-text"> Devant l'affirmation « $A$ cause $B$ » appuyée sur une corrélation :

• Vérifier la corrélation elle-même : sur combien d'observations, sur quelle période, avec quelle dispersion ?
• Tester l'inversion : $B$ pourrait-il causer $A$ ? Beaucoup d'affirmations tombent à cette seule question.
• Chercher une cause commune $C$, en particulier le temps, la saison, l'âge, le revenu, le lieu — les quatre suspects habituels.
• Évaluer la possibilité du hasard : si l'on a comparé des centaines de séries entre elles, certaines coïncideront nécessairement.
• Chercher un mécanisme plausible. S'il n'y en a aucun, la prudence s'impose.
• Se demander quelle expérience trancherait : idéalement, agir sur $A$ en tirant au sort qui le subit, et observer $B$. Quand cette expérience est impossible ou interdite, la conclusion causale reste plus fragile — c'est le cas de la plupart des questions de société.

$\leftrightarrow$ Corrélation et causalité, lectures graphiques.

Exemple 11.26Trois corrélations, trois statuts

Les ventes de glaces et les noyades augmentent ensemble d'un mois à l'autre. Cause commune : la chaleur, qui pousse à la fois à acheter des glaces et à se baigner. Interdire les glaces ne sauverait personne.

Le nombre de cigognes et le nombre de naissances, comparés région par région dans plusieurs études européennes, sont positivement corrélés. Cause commune probable : la taille et le caractère rural des régions, qui augmentent à la fois les habitats favorables aux cigognes et le nombre total d'habitants.

Un service de prévision des épidémies de grippe fondé sur les recherches en ligne, lancé en $2008$, a bien fonctionné plusieurs années avant de surestimer largement l'ampleur de l'épidémie de la saison $2012$-$2013$ ; une analyse publiée dans la revue Science en mars $2014$ a montré que le modèle avait capté des corrélations liées à la couverture médiatique et à l'évolution du moteur de recherche lui-même, et non à la maladie. Le système n'était pas devenu moins bon : le monde avait changé, et les corrélations apprises avec lui. C'est un mode de défaillance propre à ces techniques, et il est silencieux.

11.12 Décider avec un test : l'inférence bayésienne

Proposition 11.27L'inférence bayésienne

L'inférence bayésienne est une méthode de calcul de probabilités de causes à partir des probabilités de leurs effets. Elle est utilisée en apprentissage automatique pour modéliser des relations au sein de systèmes complexes, notamment en vue de prononcer un diagnostic.

Le sens de lecture est ce qui compte. Un test ou un classifieur fournit une probabilité de l'effet sachant la cause : « si la personne est malade, le test est positif dans $99\%$ des cas ». Ce que l'on veut savoir est l'inverse : « le test étant positif, quelle est la probabilité que la personne soit malade ? ». Ces deux nombres n'ont aucune raison d'être proches.

Définition 11.28Vrais et faux positifs, sensibilité, spécificité, valeur

prédictive</div><div class='text-gray-700 leading-relaxed font-sans text-xs select-text'> Pour un test à réponse binaire appliqué à une population où l'on connaît la vérité :

• vrai positif (VP) : malade et test positif ; faux négatif (FN) : malade et test négatif ;
• faux positif (FP) : non malade et test positif ; vrai négatif (VN) : non malade et test négatif.

La sensibilité est la proportion de tests positifs parmi les malades, $\frac{\mathrm{VP}}{\mathrm{VP}+\mathrm{FN}}$. La spécificité est la proportion de tests négatifs parmi les non-malades, $\frac{\mathrm{VN}}{\mathrm{VN}+\mathrm{FP}}$. La valeur prédictive positive est la proportion de malades parmi les tests positifs, $\frac{\mathrm{VP}}{\mathrm{VP}+\mathrm{FP}}$ — c'est elle qui intéresse la personne testée, et c'est elle qui dépend de la fréquence de la maladie dans la population.

La formule de Bayes exprime ce renversement : en notant $M$ « être malade » et $T$ « avoir un test positif », $$P(M\mid T)=\frac{P(T\mid M)\times P(M)}{P(T)}.$$ Le raisonnement par tableau de contingence, présenté ci-dessous, donne exactement le même résultat sans manipuler cette écriture.

Un test très bon appliqué à une maladie rare. La maladie

touche une personne sur cent ; le test détecte $99\%$ des malades et se trompe sur $5\%$ des personnes saines. Sur dix mille personnes, les faux positifs sont cinq fois plus nombreux que les vrais positifs, simplement parce qu'il y a cent fois plus de gens sains. Une personne dont le test est positif a environ une chance sur six d'être malade.</div>

Méthode : Produire un tableau de contingence et l'exploiter

• Choisir un effectif total rond : $10000$ ou $100000$. On raisonne sur des personnes, pas sur des probabilités — c'est beaucoup moins source d'erreurs.
• Répartir selon la vérité : combien de malades, combien de non malades, d'après la fréquence de la maladie dans la population concernée.
• Appliquer les caractéristiques du test à chaque groupe séparément : la sensibilité aux malades, la spécificité aux non malades.
• Remplir le tableau à quatre cases VP, FN, FP, VN, et vérifier que la somme redonne l'effectif total.
• Lire la ligne ou la colonne qui répond à la question posée. « Quelle proportion de positifs sont malades ? » se lit sur la colonne des positifs, pas sur la ligne des malades.
• Interpréter en une phrase, et vérifier la vraisemblance en refaisant le calcul avec une fréquence différente.
• Transposer. Le même tableau s'applique à toute classification binaire : « indésirable / légitime » pour un filtre de messages, « piéton / pas de piéton » pour une caméra. Il suffit de remplacer « malade » par la catégorie recherchée et « test positif » par la sortie du système.

$\leftrightarrow$ Tableaux croisés, probabilités conditionnelles, formule de Bayes.

Exemple 11.29Le même raisonnement pour un filtre de messages

Un filtre anti-pourriel examine $10000$ messages, dont $2000$ sont réellement indésirables. Il détecte $95\%$ des messages indésirables et classe à tort $2\%$ des messages légitimes comme indésirables.

Indésirables : $2000$, dont $1900$ détectés (VP) et $100$ passés (FN). Légitimes : $8000$, dont $160$ classés à tort (FP) et $7840$ correctement délivrés (VN).

Le dossier « courrier indésirable » contient donc $1900+160=2060$ messages, dont $160$ sont légitimes : environ $7,8\%$ de son contenu ne devrait pas s'y trouver. C'est exactement le raisonnement du diagnostic médical, avec d'autres mots. Et il fait apparaître l'arbitrage central de toute classification : durcir le filtre diminue les $100$ indésirables qui passent, mais augmente les $160$ messages légitimes perdus. On ne peut pas diminuer les deux à la fois ; il faut choisir lequel des deux types d'erreur coûte le plus cher, et ce choix n'est pas technique.

iRemarquePourquoi cela s'appelle « bayésien »

Parce qu'on remonte de l'effet observé — le test est positif — à la probabilité de la cause — la personne est malade. La méthode porte le nom du révérend Thomas Bayes, dont le mémoire fut publié en $1763$, deux ans après sa mort.

Retenez la conséquence pratique, qui est le point du programme : la valeur prédictive positive d'un test dépend de la fréquence de la maladie dans la population testée. Le même test appliqué à des personnes déjà sélectionnées par leurs symptômes deviendrait très informatif — l'exercice $6$ le vérifie par le calcul. C'est la raison pour laquelle on ne dépiste pas une maladie rare dans la population générale avec n'importe quel test.

11.13 Usages, éthique et vigilance

Méthode : Recenser les outils numériques programmables de la vie

courante</h4><div class="text-gray-700 leading-relaxed font-sans text-xs select-text">

• Lister les objets qui traitent de l'information autour de soi : téléphone, box internet, thermostat, montre connectée, ordinateur de bord d'un véhicule, caisse automatique, badge de transport.
• Se demander pour chacun s'il contient un processeur et une mémoire. La réponse est presque toujours oui, même pour un objet qui n'en a pas l'air.
• Distinguer trois degrés de programmabilité : programme figé gravé à la fabrication ; mises à jour possibles par le constructeur ; programmes installables ou modifiables par l'utilisateur.
• Identifier qui détient ce pouvoir — constructeur, opérateur de service, utilisateur — et conclure : plus un objet est programmable à distance, plus il est utile et plus il dépend de celui qui le programme.

Méthode : Expliquer pourquoi certains usages de l'IA posent des problèmes

éthiques</h4><div class="text-gray-700 leading-relaxed font-sans text-xs select-text"> Un usage se discute en six points, et une réponse sérieuse en aborde au moins trois.

• Les données. D'où viennent-elles ? Les personnes concernées ont-elles consenti ? Contiennent-elles des données personnelles ? Le règlement européen sur la protection des données, applicable depuis le $25$ mai $2018$, encadre précisément ce point.
• L'enjeu de la décision. Une recommandation de film et un refus de prêt n'engagent pas la même chose. Plus la décision affecte durablement une personne, plus les exigences doivent être fortes.
• L'explicabilité. La personne concernée peut-elle savoir pourquoi la décision a été prise, et la contester ? Un système dont on ne peut pas justifier la sortie est difficilement acceptable pour une décision administrative ou judiciaire.
• L'équité. Les performances ont-elles été mesurées séparément selon les groupes ? Une moyenne globale peut masquer une injustice.
• La responsabilité. Qui répond d'une erreur : le concepteur, l'exploitant, l'utilisateur ? Un système automatique n'est pas un sujet de droit ; il y a toujours quelqu'un derrière.
• Les effets indirects. Travail d'annotation des données, consommation d'énergie et de matériaux des centres de calcul, effets sur les métiers concernés, utilisation d'œuvres protégées pour l'entraînement.

11.14 Histoire des sciences : de la machine de Turing aux dialogueurs

$1936$ — Turing définit le calcul en cherchant à répondre à un problème de logique posé par Hilbert, et obtient au passage la machine universelle et l'indécidabilité du problème de l'arrêt.

$1943$ — McCulloch et Pitts proposent un modèle mathématique très simplifié du neurone, point de départ ancien du courant « connexionniste ».

$1945$-$1948$ — L'ordinateur devient réel. Le rapport de von Neumann sur l'EDVAC ($1945$) fixe l'architecture où le programme réside en mémoire ; l'ENIAC est présenté en février $1946$ — il était programmé en modifiant son câblage, un travail assuré par une équipe de six mathématiciennes, Kay McNulty, Betty Jennings, Betty Snyder, Marlyn Wescoff, Fran Bilas et Ruth Lichterman, longtemps absentes des récits ; le premier programme enregistré en mémoire s'exécute à Manchester le $21$ juin $1948$.

$1950$ et $1956$ — Les deux actes de naissance. Turing déplace la question avec « Computing Machinery and Intelligence » et son jeu de l'imitation ; le séminaire de Dartmouth donne son nom au domaine.

$1957$-$1969$ — Le perceptron, espoir puis déception. Frank Rosenblatt construit le premier dispositif d'apprentissage à partir d'exemples. En $1969$, Marvin Minsky et Seymour Papert en démontrent mathématiquement les limites, et les financements se détournent du connexionnisme pour une quinzaine d'années.

$1966$ — ELIZA, et une leçon inattendue. Joseph Weizenbaum écrit un programme de quelques centaines de lignes qui simule un entretien psychothérapeutique en reformulant les phrases de son interlocuteur. Le programme ne comprend rien, et Weizenbaum le sait mieux que quiconque puisqu'il l'a écrit. Il est stupéfait de constater que des utilisateurs — dont sa propre secrétaire — lui prêtent une compréhension et lui confient des choses intimes. Il en tirera un livre critique en $1976$. Cet « effet ELIZA » — attribuer à une machine une intériorité parce qu'elle produit un langage adéquat — est aujourd'hui plus actuel qu'en $1966$.

Années $1970$-$1980$ — Les systèmes experts, leur succès de recherche et leur échec pratique.

$1986$ — Le retour de l'apprentissage avec la diffusion de l'algorithme de rétropropagation de l'erreur.

$1997$ — Deep Blue bat Garry Kasparov en match, du $3$ au $11$ mai. Le programme n'apprend pas : il explore méthodiquement un très grand nombre de positions et les évalue selon des règles écrites par des humains. C'est une victoire de la puissance de calcul et de l'approche classique.

$2012$ et $2016$ — Le retour du connexionnisme. Les réseaux profonds l'emportent en $2012$ lors d'une compétition de reconnaissance d'images — trois facteurs se conjuguent : des jeux de données étiquetées immenses, des processeurs graphiques bon marché, des améliorations algorithmiques. En mars $2016$, un programme bat un champion de go, jeu dont l'espace des positions interdisait l'approche de Deep Blue, en combinant apprentissage sur des parties et apprentissage par renforcement contre lui-même.

$2017$-$2022$ — Les modèles génératifs. L'architecture dite transformeur est publiée en $2017$ ; le $30$ novembre $2022$, un dialogueur fondé sur ce principe est ouvert au grand public.

Les reconnaissances académiques. Le prix Turing $2018$ a distingué Yoshua Bengio, Geoffrey Hinton et Yann Le Cun pour l'apprentissage profond. En octobre $2024$, le prix Nobel de physique a été attribué à John Hopfield et Geoffrey Hinton pour des travaux fondateurs sur les réseaux de neurones artificiels, et celui de chimie à David Baker, Demis Hassabis et John Jumper pour la prédiction et la conception de structures de protéines.

11.15 Bilan

Ce qu'il faut savoir

• Avant le XX^e siècle, les machines à traiter l'information étaient limitées à une ou quelques tâches prédéterminées.
• Turing a été le premier à proposer, en $1936$, le concept de machine universelle, matérialisé dix ans plus tard par les premiers ordinateurs, qui comportent au minimum un processeur et une mémoire vive.
• Un ordinateur manipule des données numérisées de toute nature — textes, images, sons — et les programmes sont eux-mêmes des données : on peut les stocker, les transporter, les traduire d'un langage de haut niveau vers les instructions d'un processeur.
• Un programme peut comporter des centaines de millions de lignes, ce qui rend la présence de bogues très probable, avec des conséquences parfois graves.
• L'intelligence artificielle est née en $1956$ ; l'approche symbolique des systèmes experts n'a pas tenu ses promesses, et le terme désigne aujourd'hui surtout l'apprentissage automatique.
• L'apprentissage automatique repère des tendances — corrélations, similarités — sur de très grandes quantités de données, et s'en sert pour prédire ou décider sur d'autres données.
• La qualité et la représentativité des données décident de la qualité des résultats ; le risque principal est l'amplification des biais, et l'amalgame entre corrélation et causalité.
• L'inférence bayésienne calcule la probabilité d'une cause à partir de celle de ses effets ; elle est au cœur de l'interprétation d'un diagnostic.

Ce qu'il faut savoir faire

• Analyser un document historique sur le traitement automatique de l'information, en repérant où est inscrite la tâche.
• Recenser les outils numériques programmables de la vie courante et identifier qui peut les programmer.
• Distinguer un fichier exécutable d'un autre fichier sous un système d'exploitation donné.
• Connaître l'ordre de grandeur de la taille d'un fichier image, son, vidéo, et calculer la taille en octets d'une page de texte en ASCII non compressé.
• Corriger un algorithme ou un programme bogué simple, en visant les cas limites.
• Utiliser une courbe de tendance pour estimer une valeur inconnue à partir de données d'entraînement, en distinguant interpolation et extrapolation.
• Analyser un exemple d'usage de l'intelligence artificielle : identifier la source des données et les corrélations exploitées.
• Reconnaître, sur des exemples réels, les biais possibles d'un jeu de données et les limites de sa représentativité.
• Montrer, sur des exemples simples, qu'une corrélation ne correspond pas toujours à une causalité.
• Produire un tableau de contingence pour calculer vrais et faux positifs et négatifs, et en déduire la proportion de malades parmi les personnes testées positives ; transposer à d'autres classifications.
• Expliquer pourquoi certains usages de l'intelligence artificielle posent des problèmes éthiques.

Quatre repères

$1936$ : la machine universelle de Turing. $1956$ : la naissance de l'intelligence artificielle, au séminaire de Dartmouth. $1$ octet $=8$ bits, et une page de texte $\approx 2,5$ ko. Une maladie rare rend un excellent test peu informatif : sur mille personnes dont une est malade, les faux positifs l'emportent.

Ce que ce chapitre dit de la science elle-même

Une seule idée a produit tout le reste : séparer la machine de la tâche. Tant que la tâche était inscrite dans les engrenages, il fallait une machine par usage. Depuis que la tâche est une donnée comme les autres, une seule machine suffit. Cette idée n'est pas venue d'un besoin industriel mais d'un problème de logique pure, posé par Hilbert et résolu — négativement — par Turing. C'est un argument à garder en tête chaque fois que l'on demande à quoi sert une recherche sans application immédiate.

Le second enseignement est plus inconfortable. Les méthodes d'apprentissage fonctionnent parce qu'elles repèrent des régularités, et elles échouent pour la même raison : elles ne distinguent pas une régularité qui tient à la nature des choses d'une régularité qui tient à la façon dont les données ont été collectées. Un système entraîné sur les décisions passées reproduira les décisions passées. Rien de cela n'est un dysfonctionnement : c'est le fonctionnement normal, et c'est pourquoi la question « d'où viennent les données ? » n'est pas annexe mais centrale.

Enfin, ce chapitre aura montré une chose qu'aucun communiqué ne dit : les défaillances de ces systèmes sont silencieuses. Un modèle sur-appris ne prévient pas qu'il extrapole ; un classifieur près de la frontière ne prévient pas qu'il hésite ; un jeu de données biaisé ne prévient pas qu'il l'est ; un test positif ne prévient pas qu'il est probablement faux. Savoir poser les questions qui font apparaître ces silences — c'est très exactement ce que le programme appelle l'esprit critique, et c'est ce qui restera de ce chapitre quand les outils dont il parle auront changé.