La secrétaire qui a demandé à Weizenbaum de sortir

Une jeune femme s'assied devant une machine à écrire électrique reliée à un ordinateur qu'elle ne voit pas. Elle tape : « Men are all alike. » Les hommes sont tous pareils. Elle appuie deux fois sur retour chariot, la convention pour rendre la main. La machine répond en capitales : IN WHAT WAY. De quelle façon ? Elle continue : ils nous harcèlent toujours pour une chose ou une autre. CAN YOU THINK OF A SPECIFIC EXAMPLE. Eh bien, mon petit ami m'a fait venir ici. YOUR BOYFRIEND MADE YOU COME HERE. Ce dialogue figure en page 36 du numéro de janvier 1966 des Communications of the ACM. L'auteur s'appelle Joseph Weizenbaum. Le programme, ELIZA.

L'ordinateur est un IBM 7094 du Project MAC, au MIT, partagé entre plusieurs utilisateurs grâce au système CTSS. Le programme est écrit en MAD-SLIP, un langage que Weizenbaum a en partie écrit lui-même. Détail d'époque : le point d'interrogation est interdit, CTSS l'interprète comme un effacement de ligne. On se confie à ELIZA sans jamais pouvoir ponctuer une question.

Un psychothérapeute qui ne sait rien

Le mécanisme tient en trois gestes. ELIZA lit la phrase et y cherche un mot-clé, « mother », « always », « I am ». Elle découpe la phrase autour de ce mot selon une règle de décomposition, puis recolle les morceaux dans une réponse à trous : « I am very unhappy these days » devient « HOW LONG HAVE YOU BEEN VERY UNHAPPY THESE DAYS ». Faute de mot-clé, elle ressort parfois une phrase mise de côté plus tôt. Plusieurs répliques après « mon petit ami m'a fait venir ici », quand la jeune femme lâche « Bullies », des brutes, la machine demande si cela a quelque chose à voir avec le fait que son petit ami l'a fait venir ici. Une liste de règles, une petite mémoire. Pas une once de sens.

Les règles vivent dans un fichier à part, le script ; le plus connu s'appelle DOCTOR. Il fait parler ELIZA comme un psychothérapeute de l'école de Carl Rogers, qui renvoie au patient ses propres mots. Weizenbaum explique ce choix : l'entretien psychiatrique est l'une des rares conversations où l'un des deux peut ne presque rien savoir du monde. Si un patient dit « j'ai fait une longue promenade en bateau » et que le thérapeute répond « parlez-moi des bateaux », on ne pense pas qu'il ignore ce qu'est un bateau. Le cadre suffit. Le nom vient d'Eliza Doolittle, la fleuriste de Pygmalion, à qui l'on apprend à parler comme une dame.

L'illusion expliquée dès la première page

L'article s'ouvre sur une maxime : on dit qu'expliquer, c'est dissiper. Weizenbaum veut précisément dissiper. Il décrit les rouages et publie les règles, pour que le lecteur se dise « j'aurais pu l'écrire » et range ELIZA au rayon des curiosités plutôt qu'à celui des machines intelligentes. Vers la fin de l'exposé, il prévient :

ELIZA montre, à défaut d'autre chose, à quel point il est facile de créer et d'entretenir l'illusion de la compréhension, et donc peut-être celle d'un jugement digne de crédit. Un certain danger rôde là.

Il a vu le danger avant tout le monde. Il n'a pas vu qu'il viendrait de son propre bureau.

La secrétaire demande à sortir

Sa secrétaire l'avait regardé construire le programme pendant des mois ; elle savait ce que c'était. Un jour, elle s'installe au terminal, échange quelques répliques avec DOCTOR, et demande à Weizenbaum de bien vouloir quitter la pièce. Elle voulait parler en privé. À une liste de règles. Weizenbaum raconte la scène dès 1967, puis dans son livre de 1976, Computer Power and Human Reason ; il la redira avec des variantes, sans jamais nommer la secrétaire. Ce qu'il en tire tient en une phrase.

Je n'avais pas compris que des expositions extrêmement courtes à un programme informatique relativement simple pouvaient provoquer de puissantes pensées délirantes chez des gens tout à fait normaux.

D'autres utilisateurs, raconte-t-il, s'attachaient au programme au point d'oublier qu'ils tapaient pour un ordinateur. Le programme ne comprenait rien. L'utilisateur faisait tout le travail.

Les psychiatres y voient un remède

La même année, Kenneth Colby, psychiatre à Stanford, publie avec deux collègues dans le Journal of Nervous and Mental Disease une « méthode informatique de psychothérapie ». Leur conclusion : si la méthode se révèle bénéfique, elle fournira un outil thérapeutique que l'on pourra mettre largement à disposition des hôpitaux et des centres psychiatriques qui manquent de thérapeutes. Weizenbaum reçoit cela comme une gifle. Il avait tenu pour acquis, écrira-t-il, qu'aider quelqu'un à affronter ses problèmes émotionnels supposait que l'aidant partage un peu de cette expérience et la comprenne par empathie. Des médecins venaient de lui dire qu'un jeu de règles ferait l'affaire, faute de personnel.

Colby continue. En 1972, il écrit PARRY, un programme qui simule un patient paranoïaque, et on le fait dialoguer avec DOCTOR par le réseau ARPANET. L'échange, un faux patient face à un faux médecin, est conservé dans le RFC 439. Deux programmes qui ne comprennent rien se répondent. Ça tourne.

L'homme qui a renié sa machine

En 1976, Weizenbaum publie Computer Power and Human Reason, sous-titré « du jugement au calcul ». Il y sépare ce qu'un ordinateur peut décider, par calcul, de ce qu'un humain doit choisir, par jugement, et soutient que certaines tâches ne devraient pas être confiées aux machines, même si elles en sont capables. Le créateur du premier programme de conversation devient l'un des critiques les plus en vue de l'intelligence artificielle, depuis le MIT même. En 1996, il rentre à Berlin, la ville qu'il avait fuie en janvier 1936 avec ses parents juifs, et meurt tout près, à Gröben, le 5 mars 2008, à 85 ans. La sociologue Sherry Turkle avait entre-temps popularisé un nom pour le phénomène qu'il avait décrit : l'effet ELIZA, la tendance à lire dans les mots d'une machine bien plus de compréhension qu'il n'y en a.

Boîte huit, conversations d'ordinateur

Le code, lui, avait disparu. Les ELIZA qui circulent depuis les années 1970 sont des réécritures, en Lisp, en BASIC, en JavaScript ; l'une d'elles, datée de 2005, s'affiche en tête de cette note. L'original en MAD-SLIP n'avait jamais été publié. En 2021, Jeff Shrager, de Stanford, ouvre avec un archiviste du MIT, Myles Crowley, une boîte des archives Weizenbaum étiquetée « computer conversations, box eight ». Dedans, un listing sur papier à pliage accordéon : l'essentiel des quelque 2 600 lignes de MAD et de FAP, avec une version du script DOCTOR antérieure à celle de l'article. La succession Weizenbaum place le tout sous licence libre CC0.

Le samedi 21 décembre 2024, après une transcription à la main, sur un CTSS reconstitué qui tourne sur un IBM 7094 émulé, ELIZA compile, lit son script et répond pour la première fois depuis une soixantaine d'années. Environ 96 % du code qui tourne est celui retrouvé dans les archives. Il a fallu réécrire le reste, retrouver un caractère manquant à la ligne 1670 d'un fichier, et accepter un défaut d'origine : si on lui écrit « you are 999 today », le programme plante. Weizenbaum n'avait pas prévu les nombres. Rupert Lane, Anthony Hay, Arthur Schwarz, David Berry et Jeff Shrager publient le récit en 2025 dans les IEEE Annals of the History of Computing.

Entre-temps, les compagnons de conversation sont devenus un produit. En septembre 2026, une étude de la Harvard Business School publiée dans Nature Human Behaviour a passé au crible 54 861 messages Reddit d'utilisateurs de Replika, une application de compagnon virtuel, et de ChatGPT. Après une mise à jour qui avait changé le caractère de Replika, la part des messages négatifs est passée de 13 à 38 %. Des gens pleuraient un programme. Plus gros que celui de 1966, pas plus vivant.

À l'écran, ELIZA pose toujours la première question : « Is something troubling you? » Soixante ans plus tard, elle ne comprend toujours pas la réponse. On la lui donne quand même.