L'erreur qui tue ne s'apprend pas

Ce que l'évolution a câblé dans nos cerveaux, ce que les modèles d'intelligence artificielle redécouvrent à leurs frais, et pourquoi nous continuons de confondre le rare et l'important.

Enquête. Toutes les expériences citées sont décrites, avec leur protocole, leur mesure et l'état du débat. Sources liées.

En 2023, tout le monde a remarqué la même chose. Les générateurs d'images produisaient des visages saisissants de réalisme, posés sur des mains à six doigts. En vidéo, c'était pire : un objet passait derrière un poteau et n'en ressortait pas, ou en ressortait en double, ou changeait de couleur en chemin. La matière n'obéissait plus. Les modèles avaient appris à quoi ressemble le monde sans apprendre qu'il est fait de choses qui persistent.

Or il existe un être humain qui ne sait rien du monde, qui n'a jamais rien appris, et qui pourtant s'étonne exactement de cela. Un nourrisson de quelques mois regarde plus longtemps un objet qui disparaît sans raison. Cette réaction précède l'expérience, ou du moins la précède de beaucoup trop peu de temps pour en découler simplement.

La tentation est immédiate : ce que l'évolution a inscrit dans nos cerveaux serait précisément ce qui coûte trop cher à apprendre, et une machine qui doit tout apprendre depuis zéro rejouerait en accéléré les erreurs que la biologie nous a épargné de commettre. L'intuition est belle. Elle est aussi, dans le détail, à moitié fausse. Et la moitié fausse est la plus intéressante.

1. Comment on interroge un bébé qui ne parle pas

Tout part d'un problème méthodologique. Un nourrisson ne répond pas aux questions, ne suit pas les consignes, et contrôle mal ses mains. La seule chose qu'il maîtrise très tôt, c'est son regard. Toute la psychologie du développement moderne est construite sur cette unique variable.

L'expérience fondatrice est celle du pont-levis, publiée par Renée Baillargeon en 1987. Un écran plat est posé à plat sur une table, face au bébé. Il se relève en pivotant vers l'arrière sur 180 degrés, comme un pont-levis. Le bébé s'habitue à ce mouvement. Puis on place une boîte derrière l'écran, dans sa trajectoire. Deux suites possibles : soit l'écran se relève et s'arrête à 112 degrés, bloqué par la boîte, ce qui est l'événement possible ; soit il poursuit son mouvement complet jusqu'à 180 degrés, ce qui est impossible puisqu'il devrait traverser la boîte.

Les nourrissons de trois mois et demi regardent plus longtemps l'écran qui traverse la boîte. Interprétation : ils savent que la boîte existe toujours bien qu'elle soit cachée, et que deux solides ne s'interpénètrent pas.

Ce résultat a fait basculer le domaine. Jean Piaget, à partir de 1954, situait l'acquisition de la permanence de l'objet vers huit ou neuf mois, en s'appuyant sur un tout autre indice : l'enfant cherche-t-il un objet caché avec ses mains ? La critique adressée à Piaget n'est pas qu'il observait mal, c'est qu'il mesurait autre chose. Chercher un objet exige de planifier une action motrice, ce dont un bébé de quatre mois est incapable. Regarder, non. En changeant d'instrument, on a fait descendre l'âge à cinq mois, puis à trois mois et demi, puis à deux mois et demi.

Elizabeth Spelke a généralisé ces observations sous le nom de core knowledge, la connaissance de base. Dans sa version actuelle, exposée dans What Babies Know (2022), elle postule six systèmes séparés, dédiés respectivement aux objets, aux lieux, au nombre, aux formes, aux agents et aux êtres sociaux. Le système des objets obéirait à trois principes : la cohésion, un objet est d'un seul tenant et garde ses bords ; la continuité, il suit une trajectoire continue dans l'espace et le temps, il n'apparaît ni ne disparaît ni ne se téléporte ; le contact, il n'agit pas à distance.

2. Le problème de l'instrument

Il faut s'arrêter sur ce que mesure vraiment un temps de regard, parce que toute l'inférence en dépend et que le débat n'est pas clos.

La critique la plus dure vient de Rivera, Wakeley et Langer (1999), qui ont refait l'expérience du pont-levis en retirant simplement la boîte. Sans obstacle, sans rien à traverser, sans aucune violation physique possible, les bébés regardent tout de même plus longtemps la rotation complète à 180 degrés. Leur conclusion est brutale : ce que mesure le dispositif n'est peut-être pas une surprise conceptuelle mais une préférence perceptive pour le mouvement le plus ample. Baillargeon a répondu en 2000, et la discussion est restée ouverte plutôt que tranchée.

Marshall Haith avait formulé l'objection de fond dès 1998, sous un titre qui est resté : Who put the cog in infant cognition? Passer d'un regard prolongé à une attente violée, puis d'une attente violée à un concept, est une chaîne d'inférences que rien dans la donnée n'impose. Richard Aslin a ajouté en 2007 une objection redoutable : la théorie ne prédit pas la direction de l'effet. Un bébé peut regarder plus longtemps ce qui le surprend, mais aussi ce qui lui est familier, selon son âge, le nombre d'essais d'habituation et la complexité de la scène. Une théorie qui accommode les deux directions est difficile à réfuter.

Ce que la réplication à grande échelle a montré

Depuis 2017, un consortium international appelé ManyBabies applique à ce domaine la méthode qui a servi à évaluer la psychologie sociale après sa crise de reproductibilité. Le principe : des dizaines de laboratoires exécutent le même protocole, préenregistré avant toute collecte, sur des centaines de bébés, et l'on regarde ce qui survit.

ManyBabies 1 a testé la préférence des nourrissons pour la parole adressée aux bébés, ce ton aigu et chantant que les adultes adoptent spontanément. Sur 2 329 nourrissons dans 67 laboratoires et 13 langues, l'effet existe. Mais sa taille tombe à un d d'environ 0,35, là où la synthèse des études antérieures annonçait 0,67. L'effet est réel et deux fois plus petit qu'on ne le croyait.

ManyBabies 4 s'est attaqué à un résultat beaucoup plus spectaculaire, publié dans Nature en 2007 par Hamlin, Wynn et Bloom, et devenu célèbre sous le nom d'expérience du bébé moral. Le protocole original : on montre au nourrisson un petit théâtre de formes géométriques animées. Une forme, le grimpeur, tente de gravir une pente et échoue. Une deuxième survient et la pousse vers le haut, c'est l'aidant. Une troisième la repousse vers le bas, c'est le gêneur. On présente ensuite les deux figurines à l'enfant et on mesure laquelle il attrape. Les bébés choisissaient massivement l'aidant, ce dont on concluait à une évaluation sociale précoce, une forme de sens moral avant le langage.

La réplication multi-laboratoires n'a rien trouvé. Sur 1 018 nourrissons testés et 567 retenus, dans 37 laboratoires sur cinq continents, 49,34 pour cent choisissent l'aidant en condition sociale. Le hasard pur est à 50. En condition non sociale, où les mêmes mouvements sont produits sans intention apparente, on obtient 55,85 pour cent, et aucune des deux proportions ne se distingue statistiquement du hasard ni de l'autre.

Une étude préenregistrée récente, mesurant cette fois la dilatation de la pupille plutôt que le temps de regard chez des bébés de neuf à dix mois, ne trouve aucune différence entre issues attendues et inattendues sur quatre domaines de connaissance. La pupille se dilate sous l'effet de la surprise ; si la surprise était là, elle devrait se voir.

Consensus : partiel. Le noyau physique précoce est robuste. Son caractère génétiquement spécifié plutôt qu'appris très vite ne l'est pas.

3. Ce qui est réellement câblé n'est presque jamais un comportement

C'est ici que l'intuition de départ se déplace, et le déplacement change tout. Quand on cherche ce que l'évolution a effectivement inscrit, on ne trouve pratiquement jamais une réponse toute faite. On trouve une contrainte sur ce qu'il est permis d'apprendre.

Les singes qui n'ont pas peur des serpents

L'expérience est de Michael Cook et Susan Mineka, à la fin des années 1980. On sait depuis Seligman que certaines peurs s'installent anormalement vite chez l'humain : serpents, araignées, hauteurs. On en concluait à une peur innée.

Ce qui est câblé n'est donc pas la peur du serpent. C'est l'autorisation d'apprendre très vite cette association précise, et l'interdiction d'apprendre aussi vite les autres. Le terme technique est preparedness, la préparation. Préparé n'est pas inné, et la distinction est le cœur du sujet.

L'eau brillante, bruyante et sucrée

L'autre expérience canonique est de John Garcia et Robert Koelling, publiée en 1966. Elle est construite autour d'une idée de dispositif remarquablement simple.

Chaque groupe a pourtant vécu la même expérience sensorielle. Ce qui diffère n'est pas ce qu'ils ont perçu, c'est ce qu'ils étaient autorisés à en conclure. Un rat n'apprendra jamais qu'un cliquetis l'a rendu malade, quel que soit le nombre d'essais. Le résultat a été rejeté par plusieurs revues avant d'être admis, parce qu'il contredisait le dogme béhavioriste selon lequel n'importe quel stimulus peut être associé à n'importe quelle conséquence.

L'ensemble des travaux de Garcia établira par ailleurs que l'aversion gustative se forme malgré des délais très longs entre la boisson et le malaise, là où la théorie de l'apprentissage exige normalement une quasi-simultanéité. Ce point relève d'autres expériences que celle décrite ici, et il ne faut pas le lui attribuer.

Autrement dit : quand la structure du monde rend un apprentissage générique impossible, parce que la conséquence arrive trop tard pour être attribuée à sa cause, l'évolution ne câble pas la réponse. Elle câble le pont associatif autorisé. Elle ne dit pas au rat quoi croire, elle lui dit dans quelle direction chercher.

Les chinchillas qui entendent des phonèmes

Un troisième cas ruine une conclusion trop rapide. Dès 1971, Eimas et ses collègues montraient que des nourrissons d'un à quatre mois distinguent /ba/ de /pa/ de façon catégorielle : ils perçoivent une frontière nette là où le signal acoustique varie de façon continue. On y a vu un câblage linguistique, un début de preuve pour la grammaire universelle.

Puis Kuhl et Miller ont trouvé la même perception catégorielle chez le chinchilla, un rongeur qui ne parlera jamais. Le mécanisme est donc une propriété générale du système auditif des mammifères, réutilisée par le langage, et non une adaptation au langage. Le câblage est réel. Il n'est pas là où on le croyait.

Consensus : établi. Le glissement de « comportements innés » vers « contraintes innées sur l'apprentissage » fait l'objet d'un large accord.

4. Pourquoi câbler plutôt qu'apprendre

Il existe une réponse formelle, et elle est plus subtile que la formule qu'on répète habituellement.

La version populaire dit : environnement stable, on câble ; environnement variable, on apprend. C'est faux par omission. Le modèle de référence, dû à David Stephens en 1991, comporte deux paramètres indépendants. L'apprentissage n'est favorisé que si l'environnement est à la fois imprévisible entre générations, sans quoi le génome pourrait anticiper et le ferait à moindre coût, et prévisible à l'intérieur d'une vie, sans quoi ce qu'on apprend le matin ne vaut plus rien le soir.

C'est ce second axe, presque toujours oublié, qui identifie ce qui n'est apprenable par personne. Une régularité peut être parfaitement stable et pourtant hors de portée de l'apprentissage individuel, si l'individu n'a pas les moyens de l'observer à temps.

Apprendre coûte, et ce coût se mesure

On croit volontiers que la capacité d'apprendre est un pur bénéfice. Frederic Mery et Tadeusz Kawecki ont montré le contraire par sélection expérimentale sur la drosophile. En sélectionnant sur plusieurs générations des lignées de mouches meilleures en apprentissage, ils obtiennent des mouches effectivement plus performantes, et dont les larves perdent en compétitivité face aux lignées témoins. C'est un coût constitutif, le prix d'avoir la capacité. Un travail complémentaire montre un coût opérationnel distinct, le prix de s'en servir : les mouches qui exercent effectivement leur apprentissage pondent moins. D'autres travaux trouvent un compromis symétrique avec la longévité.

Le cas limite qui commande tout le reste

Le médecin évolutionniste Randolph Nesse a formalisé la conséquence sous le nom de principe du détecteur de fumée. Un détecteur de fumée se déclenche pour des toasts brûlés. C'est agaçant et c'est optimal : le coût d'un faux positif est une nuisance, celui d'un faux négatif est la mort. Quand les deux erreurs sont à ce point asymétriques, la sélection favorise un système hypersensible qui se trompe souvent dans le sens inoffensif. Nos peurs, nos nausées, nos douleurs sont calibrées ainsi. Elles ne sont pas justes, elles sont prudentes.

Comment l'appris devient inné, et l'inverse

La question de savoir comment la nature bascule d'un régime à l'autre a une réponse précise, et un modèle formel signé Geoffrey Hinton et Steven Nowlan en 1987, sous un titre limpide : How Learning Can Guide Evolution.

Rien de l'expérience n'est transmis au génome : ce n'est pas du lamarckisme. L'apprentissage ne communique rien, il déforme l'espace de recherche de l'évolution et rend atteignable ce qui ne l'était pas. C'est le mécanisme moderne de l'effet Baldwin, et il est le pont conceptuel entre les deux domaines de cet article.

Le sens inverse existe aussi, et on l'oublie systématiquement. Un travail de Giles Mayley montre que l'assimilation d'un caractère appris vers le génome ne se produit que si l'apprentissage a un coût. Sans coût, l'apprentissage masque l'absence de câblage : la sélection ne voit plus la différence entre l'individu qui sait d'avance et celui qui apprend, la pression sur le câblage disparaît, et le câblage se dégrade. Un instinct que la culture remplace efficacement finit par se perdre.

Consensus : le modèle de Hinton et Nowlan est un argument de possibilité, non une démonstration que le mécanisme opère souvent dans la nature. Sa fréquence réelle reste débattue.

5. Les machines rejouent-elles la même histoire ?

Passons à l'autre versant, en appliquant la même exigence : décrire les protocoles avant de citer les chiffres.

Les mains, ou la cardinalité

Un modèle de diffusion apprend à retirer progressivement du bruit d'une image, guidé par une description textuelle. Il optimise une ressemblance locale : chaque zone doit être plausible compte tenu de son voisinage. Une main à six doigts est localement plausible partout. On lit souvent que la fonction de coût ne pénalise pas la cardinalité ; l'argument est intuitif mais je n'ai trouvé aucune publication qui l'établisse formellement, et il ne devrait pas circuler comme un fait.

Ce qui est démontré se situe plus en amont. Paiss et ses collègues (ICCV 2023) ont montré que CLIP, le modèle qui encode le texte pour guider la génération, échoue sur les concepts compositionnels dont le comptage fait partie. Leur correctif consiste à fabriquer automatiquement des légendes négatives ne différant que par le nombre, puis à entraîner le modèle à les distinguer. La conclusion importe : le modèle ne rate pas seulement le comptage des pixels, sa représentation du nombre est faible avant même que la génération commence.

Quant à la réparation, la littérature publiée est sans ambiguïté. HandRefiner détecte les mains malformées, reconstruit un maillage anatomique de main en trois dimensions, en extrait une carte de profondeur, et la réinjecte comme contrainte via un ControlNet pour ne repeindre que la zone concernée. Le maillage en question, appelé MANO, comporte 778 sommets et 21 points articulaires. C'est du câblage explicite : on fournit au modèle la structure qu'il n'arrivait pas à inférer. Aucune de ces méthodes n'est un effet d'échelle.

Le scaling ne produit pas la loi physique

C'est l'expérience centrale du dossier, et elle mérite d'être décrite en entier. Elle est due à Bingyi Kang et ses collègues chez ByteDance, sous le titre How Far is Video Generation from World Model: A Physical Law Perspective (ICML 2025, site du projet : phyworld.github.io).

Le diagnostic des auteurs va plus loin que le constat. Le modèle ne généralise pas en abstrayant une règle, il généralise par cas : confronté à une situation nouvelle, il retrouve l'exemple d'entraînement le plus proche et l'imite. Et l'ordre dans lequel il juge de cette proximité a été mesuré : d'abord la couleur, puis la taille, puis la vitesse, et enfin la forme. Il classe donc les situations physiques par ressemblance visuelle et non par pertinence mécanique. Un objet rouge lourd sera rapproché d'un objet rouge léger avant de l'être d'un objet bleu de même masse.

Leur conclusion tient en une phrase : « scaling alone is insufficient for video generation models to uncover fundamental physical laws ». Plus de données ne produit pas la loi, elle produit une meilleure interpolation.

Beau et faux sont deux axes indépendants

Le benchmark Physics-IQ, développé par Saman Motamed et des chercheurs de Google DeepMind et de l'INSAIT (arXiv:2501.09038), pose la question sur des vidéos réelles.

Le résultat le plus important n'est pas dans ce tableau, il est dans la corrélation. Les auteurs ont mesuré en parallèle le réalisme visuel, en demandant à un modèle multimodal de distinguer les vidéos générées des vidéos réelles. La corrélation entre réalisme visuel et compréhension physique est de r = -0,46 avec p = 0,247, autrement dit non significative.

Le benchmark IntPhys 2 (Meta, 2025) enfonce le clou en important directement le paradigme des psychologues : on présente au modèle des paires de vidéos, l'une possible et l'autre violant la permanence, l'immuabilité, la continuité spatio-temporelle ou la solidité, et on mesure s'il manifeste davantage de surprise devant l'impossible. La plupart des modèles sont au niveau du hasard, là où la performance humaine est quasi parfaite.

La contre-preuve qu'il faut regarder en face

Tout cela irait dans le sens de l'intuition de départ s'il n'y avait pas un résultat qui la contredit, publié en février 2025 par Quentin Garrido, Nicolas Ballas et Yann LeCun chez Meta FAIR, sous un titre qui annonce la couleur : Intuitive physics understanding emerges from self-supervised pretraining on natural videos (code disponible).

Un modèle entraîné sur l'équivalent d'une seule semaine de vidéo dépasse déjà le hasard. Les auteurs en tirent une conclusion frontale : cela « challenges the idea that core knowledge, a set of innate systems to help understand the world, needs to be hardwired ».

Deux nuances s'imposent, et elles sont dans le papier. D'abord les scores sont excellents sur le benchmark le plus simple et nettement plus modestes sur les deux autres. Ensuite V-JEPA n'est pas un modèle génératif : il ne fabrique pas d'images, il discrimine des violations. On ne peut donc pas en conclure qu'un générateur bien entraîné respecterait la physique. Le résultat déplace la cible, il ne la supprime pas.

Symétriquement, un travail publié dans Nature Human Behaviour en 2022 par Luis Piloto, Peter Battaglia et Matthew Botvinick chez DeepMind va dans l'autre sens. Leur modèle, PLATO, est explicitement inspiré de la psychologie du développement et construit autour de représentations centrées sur les objets, avec une mémoire par objet. Il acquiert des effets de violation d'attente robustes avec seulement 50 000 exemples, soit l'équivalent de 28 heures d'expérience visuelle. Et lorsqu'on lui retire ses représentations d'objets, il échoue. Sa capacité en dépend, disent les auteurs, de façon critique.

Consensus : absent. DeepMind conclut qu'il faut des représentations d'objets, Meta conclut qu'il n'en faut pas, sur le même paradigme expérimental. Aucun arbitrage publié n'existe à ce jour.

6. Le vrai prix du câblage, chiffré

Il existe une expérience naturelle qui quantifie le compromis, et elle vient de la vision par ordinateur.

Pendant vingt ans, les réseaux convolutifs ont dominé le traitement d'images. Leur architecture encode une hypothèse forte sur le monde : un motif a le même sens où qu'il se trouve dans l'image. Un chat reste un chat qu'il soit en haut à gauche ou au centre. Cette invariance par translation n'est pas apprise, elle est imposée par la structure du réseau. C'est un câblage, au sens exact de cet article.

Les Vision Transformers ont retiré cette hypothèse pour laisser le modèle tout apprendre. Le prix a été immédiatement visible. Pour dépasser les convolutifs, il a fallu un pré-entraînement sur JFT-300M, soit 300 millions d'images. Détail révélateur : entraîné seulement sur ImageNet, le grand modèle fait moins bien que le petit. Sans biais inductif, la capacité supplémentaire ne sert à rien en régime de données limitées.

Puis DeiT est arrivé et a atteint 83,1 pour cent sur ImageNet en n'utilisant qu'ImageNet, un million d'images, soit deux ordres de grandeur de moins. Mais comment ? Par des augmentations agressives, une forte régularisation, et surtout par un jeton de distillation entraîné contre un professeur convolutif. Le biais inductif retiré de l'architecture a été réintroduit par transfert depuis un réseau qui, lui, le possédait.

Deux résultats théoriques encadrent la question, et tous deux sont régulièrement mal cités. Le théorème No Free Lunch de Wolpert et Macready établit que, moyenné sur tous les problèmes possibles, aucun algorithme d'apprentissage n'est supérieur à un autre. Conséquence : un apprenant sans aucun biais ne généralise pas mieux que le hasard, donc tout apprentissage utile contient un biais. Mais le théorème ne désigne aucun biais particulier. S'en servir pour justifier un module d'objets ou une contrainte anatomique est un contresens fréquent ; un biais aussi générique que « prédire dans un espace latent » le satisfait tout autant.

À l'opposé, la Bitter Lesson de Richard Sutton (2019) soutient que sur le long terme, les méthodes générales exploitant le calcul disponible battent systématiquement celles qui encodent la connaissance humaine du domaine. Échecs, go, reconnaissance vocale, vision : à chaque fois, le savoir-faire injecté à la main a fini par être balayé. Cette tension n'est pas résolue, et personne ne l'a résolue. La lecture la plus défendable distingue les biais faibles et généraux, que Sutton tolère puisqu'il en emploie lui-même, des biais forts et spécifiques, qu'il condamne. Le désaccord porte alors sur l'emplacement de la frontière.

Il faut d'ailleurs enterrer une caricature. Personne de sérieux ne défend la table rase. Quand Gary Marcus conteste en 2018 l'affirmation qu'AlphaZero apprendrait tabula rasa, il fait remarquer que le système reçoit les règles du jeu, la géométrie du plateau, les symétries et un algorithme de recherche arborescente. Yann LeCun répond que la convolution est elle-même un prior câblé, et qu'il en est l'auteur. Le désaccord porte sur le degré et la nature du câblage, jamais sur son existence.

7. La convergence

Ce qui permet de reformuler proprement l'intuition de départ. Sa version forte et défendable n'est pas « il faut câbler l'inné », c'est : le problème n'est pas l'absence d'inné, c'est le choix de l'objectif d'apprentissage. Un modèle qui apprend à ressembler apprendra la ressemblance. Un modèle qui apprend à prédire apprend, accessoirement, ce qui rend le monde prédictible.

Là où l'analogie casse, et il faut le dire

L'évolution biologique n'a pas d'objectif exogène : le paysage de sélection est co-produit par la population qui s'y déplace. Une fonction de coût est posée du dehors et tenue constante. Ensuite, un génome ne transmet pas des connaissances mais des recettes de développement, alors qu'un jeu de poids transmet un adulte tout formé : les poids sont l'équivalent du somatique, et l'analogue du génotype serait plutôt le code, l'architecture et la composition du corpus. Enfin le pré-entraînement inscrit l'acquis directement, ce qui est lamarckien, et tue l'analogie darwinienne. Le bon référent n'est donc pas l'évolution mais la transmission culturelle, cumulative et à cliquet.

8. Et si la continuité elle-même était un montage ?

Il reste une question que tout ce qui précède contourne. On a supposé que le nourrisson s'étonne parce que le monde a violé une règle qu'il connaît. Le neurologue Lionel Naccache, de la Pitié-Salpêtrière et de l'Institut du cerveau, propose de prendre le problème par l'autre bout.

Dans Le Cinéma intérieur, il défend que notre cerveau ne reçoit pas le monde, il le produit. Le sujet tisse en permanence l'étoffe de ses fictions et fabrique le sens des choses à l'intersection du cerveau et de l'expérience subjective. Ce que nous appelons percevoir est déjà un montage.

Dans Apologie de la discrétion, il pousse l'idée jusqu'à sa conséquence physique, en s'appuyant sur la distinction mathématique entre le discret et le continu. Nos organes fonctionnent en grains séparés : la transmission synaptique est discontinue, l'échantillonnage sensoriel l'est aussi, la vision est faite de fixations séparées par des saccades pendant lesquelles nous sommes aveugles. Le continu que nous éprouvons n'est nulle part dans le signal. Notre cinéma intérieur lisse et raccorde des micro-séquences discrètes pour produire l'illusion d'un flux.

9. Ce que nous ne savons pas apprendre, et qui nous coûte

Reste à mesurer le prix de nos propres câblages, car ils ne se contentent pas de nous avoir sauvés. Ils nous trompent aujourd'hui, tous les jours, à grande échelle.

Reprenons le principe du détecteur de fumée. Une menace rare et mortelle ne peut pas s'apprendre par essais, puisque le premier essai est le dernier. La sélection a donc câblé un détecteur hypersensible, qui traite la saillance comme un indice de fréquence. Cela fonctionnait remarquablement dans un environnement où presque tout ce dont on entendait parler s'était produit à quelques kilomètres.

Yuval Noah Harari a réuni les chiffres qui montrent ce que ce câblage devient dans un environnement statistique moderne, au chapitre consacré au terrorisme de 21 Leçons pour le XXIe siècle.

Le chiffre le plus troublant n'est pas dans ce tableau. En 2002, au plus fort de la campagne d'attentats contre Israël, quand les autobus et les restaurants explosaient presque chaque jour, le terrorisme a tué 451 Israéliens. La même année, dans le même pays, les accidents de la route en ont tué 542. Le pays entier était organisé autour du premier chiffre.

Harari en tire une image devenue célèbre. Le terroriste est une mouche qui veut détruire un magasin de porcelaine. Elle est bien trop faible pour déplacer la moindre tasse. Alors elle trouve un taureau, se glisse dans son oreille et se met à bourdonner. Le taureau devient fou de peur et de rage, et détruit le magasin lui-même. La violence physique du terrorisme est négligeable ; toute son efficacité consiste à déclencher une réponse chez celui qui la subit.

Et cette réponse n'est pas une faiblesse morale, c'est un système fonctionnant exactement comme il a été calibré. Le détecteur de fumée fait ce pour quoi il est fait. Les chaînes d'information en continu n'ont rien inventé : elles ont trouvé le levier et elles l'actionnent. Une menace rare, spectaculaire, intentionnelle et racontable déclenche notre apprentissage prioritaire ; une menace fréquente, lente, diffuse et sans coupable ne le déclenche pas. Le sucre ne complote pas, l'air n'a pas de visage.

La conséquence que personne ne tire

Nous voici au bout du raisonnement, et il se referme sur lui-même d'une façon assez déplaisante.

Nous construisons aujourd'hui des systèmes dont l'objet est précisément de traiter des régularités statistiques qui nous échappent : détecter une dérive lente, pondérer un risque diffus, arbitrer entre des probabilités que notre intuition ne sait pas représenter. Or nous les concevons, nous les entraînons et surtout nous les évaluons avec le même appareil biaisé. Nous choisissons ce qui compte selon ce qui nous frappe.

La preuve la plus nette de ce biais à l'œuvre dans nos laboratoires est le résultat de Physics-IQ cité plus haut. Nous avons collectivement classé les modèles vidéo selon leur réalisme visuel, parce que c'est ce qui saute aux yeux, et il se trouve que ce critère n'a aucun rapport statistique avec la justesse physique. Pendant des années, l'industrie a hiérarchisé ses modèles sur la dimension spectaculaire en négligeant la dimension structurante, exactement comme un journal télévisé hiérarchise ses morts. Ce ne sont pas deux fois le même mécanisme, ce sont deux systèmes indépendants qui commettent la même erreur de hiérarchie, l'un dans une salle de rédaction et l'autre sur un banc d'essai.

De la même façon, nous surréagissons à l'erreur spectaculaire d'un modèle, une main à six doigts, une citation inventée, et nous sous-réagissons à sa dérive chronique, une généralisation par cas qui produit d'excellents résultats sur ce qui ressemble au passé et s'effondre dès qu'on en sort. Le premier défaut se voit, se raconte et fait un titre. Le second est un accident de la route.

Nos limites d'apprentissage ne bornent donc pas seulement ce que nous savons. Elles bornent ce que nous sommes capables de demander à des outils censés nous dépasser, et ce que nous saurons reconnaître comme un progrès quand il se produira. Une intelligence qui pondérerait correctement le rare et le fréquent nous paraîtrait, très probablement, froide et à côté de la plaque. Nous ne sommes pas seulement mauvais juges des probabilités. Nous sommes mauvais juges de ce qui juge mieux que nous.

Corrections apportées après publication

Cet article a été corrigé trois fois depuis sa mise en ligne. Les corrections sont listées ici plutôt qu'effacées, parce qu'un texte qui reproche à d'autres de durcir des résultats ne peut pas se permettre de nettoyer les siens en silence.

1. Section 4, sévérité de la lecture des réplications. La première version laissait entendre un effondrement général de la psychologie du nourrisson, alors que la dégradation est graduée selon le niveau d'abstraction. Un encadré de correction a été ajouté dans la section concernée.
2. Section 3, protocole de Cook et Mineka. Il était écrit que les macaques acquièrent la peur après une seule observation. C'est faux : le protocole comportait douze séances de visionnage. Les stimuli opposés étaient des serpents et un crocodile en plastique contre des fleurs et un lapin en peluche, et les bandes vidéo étaient découpées puis recollées pour que la même réaction de terreur semble viser des objets différents. Le passage a été réécrit, et la démonstration en sort plus forte.
3. Section 3, expérience de Garcia et Koelling. L'article attribuait à cette expérience de 1966 la découverte que l'aversion gustative se forme malgré plusieurs heures de délai. C'était une fusion de deux résultats distincts : ce papier porte sur l'association sélective, et le résultat sur le délai vient d'autres travaux de Garcia. Le protocole réel, dont la phase de test sépare les composantes du stimulus composite, a été rétabli, et l'attribution du délai est désormais explicitement dissociée.

Un point n'a pas été corrigé mais signalé sur place : l'explication courante selon laquelle la fonction de coût d'un modèle de diffusion ne pénalise pas la cardinalité est plausible et n'est appuyée par aucune publication que j'aie pu trouver. Elle est marquée comme telle dans le texte.

Note sur les sources

Ont été vérifiés directement à la source primaire, avec citations relevées dans l'article ou l'abstract original : Kang et al. 2024, Motamed et al. 2025 et sa table de scores complète, Garrido et al. 2025 et ses intervalles de confiance, Piloto et al. 2022, IntPhys 2, HandRefiner, Paiss et al. 2023, Marcus 2018, Dosovitskiy et al. 2020, ManyBabies 1 et 4 avec leurs effectifs, Rivera et al. 1999, la réplique de Baillargeon 2000, l'étude de pupillométrie, Mery et Kawecki 2003, le chapitre de Harari et tous ses chiffres.

Ont été revérifiés dans un second temps, après qu'un contrôle éditorial eut relevé que les protocoles les plus spectaculaires étaient aussi les moins vérifiés : Cook et Mineka 1989, dont le protocole comportait douze séances de visionnage et opposait serpents et crocodile en plastique à des fleurs et un lapin en peluche ; Garcia et Koelling 1966, dont la phase de test sépare les composantes du stimulus composite et qui porte sur l'association sélective et non sur le délai long ; Hinton et Nowlan 1987, dont la simulation accorde mille tentatives par individu avec une valeur sélective décroissante en fonction du nombre d'essais.

Sont cités comme résultats classiques du domaine sans revérification page par page : Kuhl et Miller 1975, Eimas et al. 1971, Stephens 1991, Nesse 2005, Mayley 1996, Piaget 1954, Haith 1998, Aslin 2007, Wolpert et Macready 1997, Sutton 2019. Les thèses de Lionel Naccache sont restituées à partir des présentations éditoriales de ses deux ouvrages et non d'une lecture intégrale.

Trois points sont explicitement non tranchés et signalés comme tels dans le texte : le caractère inné plutôt qu'appris très précocement du noyau physique du nourrisson ; l'arbitrage entre PLATO et V-JEPA sur la nécessité de représentations d'objets ; la cause réelle de l'amélioration des mains dans les modèles commerciaux récents, qui ne fait l'objet d'aucune publication technique et reste donc indécidable entre effet d'échelle et câblage.

Références principales

• Kang, B. et al. (2024). How Far is Video Generation from World Model: A Physical Law Perspective. arXiv:2411.02385, ICML 2025. Site : phyworld.github.io
• Motamed, S. et al. (2025). Do generative video models understand physical principles? arXiv:2501.09038. Benchmark : physics-iq.github.io
• Garrido, Q., Ballas, N., LeCun, Y. et al. (2025). Intuitive physics understanding emerges from self-supervised pretraining on natural videos. arXiv:2502.11831
• Piloto, L., Weinstein, A., Battaglia, P., Botvinick, M. (2022). Intuitive physics learning in a deep-learning model inspired by developmental psychology. Nature Human Behaviour
• Meta AI (2025). IntPhys 2: Benchmarking Intuitive Physics Understanding. arXiv:2506.09849
• Lu, W. et al. (2023). HandRefiner. arXiv:2311.17957
• Paiss, R. et al. (2023). Teaching CLIP to Count to Ten. arXiv:2302.12066, ICCV 2023
• Hinton, G. & Nowlan, S. (1987). How Learning Can Guide Evolution. Complex Systems 1, 495-502
• ManyBabies Consortium (2020). Quantifying sources of variability in infancy research using the infant-directed speech preference. Open Mind
• Lucca, K. et al. (2024). ManyBabies 4: Infants' Social Evaluation of Helpers and Hinderers. Developmental Science
• Rivera, S., Wakeley, A., Langer, J. (1999). The drawbridge phenomenon: representational reasoning or perceptual preference? Developmental Psychology
• Margoni, F., Surian, L., Baillargeon, R. (2024). The violation-of-expectation paradigm: a conceptual overview. Psychological Review 131(3), 716-748
• No clear evidence for a domain-general violation of expectation effect in the pupillary responses of 9- to 10-month-olds. PMC12469091
• Spelke, E. (2022). What Babies Know. Précis dans Behavioral and Brain Sciences
• Mery, F. & Kawecki, T. (2003). A fitness cost of learning ability in Drosophila melanogaster. Proc. R. Soc. B 270, 2465-2469
• Marcus, G. (2018). Innateness, AlphaZero, and Artificial Intelligence. arXiv:1801.05667
• Dosovitskiy, A. et al. (2020). An Image is Worth 16x16 Words. arXiv:2010.11929
• Harari, Y. N. (2018). 21 Lessons for the 21st Century, chapitre 10, Terrorism
• Naccache, L. Le Cinéma intérieur. Projection privée au cœur de la conscience, Odile Jacob. Présentation
• Naccache, L. Apologie de la discrétion. Comment faire partie du monde ?, Odile Jacob. Présentation