Esprits, cerveaux et programmes

Analyse

Un homme est enfermé dans une pièce. On lui passe par une fente des feuilles couvertes de signes chinois, qu'il ne comprend pas. Il dispose d'un manuel rédigé dans sa langue, qui lui indique quels signes écrire en réponse à quels signes reçus. Il applique les règles et fait passer sa feuille par la fente opposée. À l'extérieur, les Chinois qui lisent ses réponses les trouvent parfaitement sensées.

John Searle publie cette expérience de pensée en 1980, dans la revue Behavioral and Brain Sciences, selon un format particulier : l'article est suivi de vingt-sept commentaires de chercheurs, puis de la réponse de l'auteur. Le texte est devenu l'un des plus cités de la philosophie du XXe siècle, et l'arrivée des modèles de langage lui a rendu une actualité que son auteur n'attendait plus.

Ce que l'argument vise exactement

Searle distingue d'emblée deux positions qu'il ne traite pas de la même façon.

L'intelligence artificielle faible tient l'ordinateur pour un instrument : simuler un processus mental permet de l'étudier, comme simuler une tempête permet d'étudier la météorologie. Searle n'a rien contre.

L'intelligence artificielle forte soutient autre chose : un ordinateur convenablement programmé possède littéralement des états mentaux, il comprend, et le programme n'est pas un outil pour étudier l'esprit, il est l'esprit. C'est cette seule thèse que l'argument attaque.

La cible concrète est un programme de Roger Schank qui répondait à des questions sur de courtes histoires, en complétant les informations manquantes grâce à des scénarios prédéfinis. Si on lui raconte qu'un homme est entré dans un restaurant, a commandé un hamburger et est sorti furieux sans payer, le programme répond correctement qu'il n'a probablement pas mangé. Ses promoteurs y voyaient une forme de compréhension.

L'argument

Searle le présente comme une simple application du principe suivant : la syntaxe ne suffit pas à la sémantique.

Dans la chambre chinoise, l'homme fait exactement ce que fait un ordinateur : il manipule des symboles d'après leur forme, sans accès à leur signification. Si l'ordinateur comprenait le chinois du fait de ce traitement, alors l'homme le comprendrait aussi, puisqu'il accomplit le même traitement. Or il ne comprend rien, et il peut faire tout cela une vie entière sans jamais apprendre un mot de chinois.

L'argument ne conteste pas que la machine passe le test imaginé par Alan Turing, qui consiste à distinguer une machine d'un humain par la seule conversation. Il conteste la conclusion qu'on en tirait : réussir le test ne prouve pas qu'il y a compréhension, parce que le test ne regarde que les sorties.

Les objections, et les réponses

L'article doit une part de sa fortune au soin avec lequel Searle a rassemblé et traité les objections.

La réponse du système soutient que l'homme ne comprend pas, mais que le système entier, homme plus manuel plus feuilles, comprend. Searle rétorque que l'homme peut mémoriser le manuel, faire tous les calculs de tête et travailler en plein air : il est alors tout le système, et il ne comprend toujours pas.

La réponse du robot suggère d'installer le programme dans un corps muni de capteurs et de moteurs, pour que les symboles soient reliés au monde. Searle réplique que l'homme dans la chambre peut recevoir ses signes d'une caméra et commander des bras mécaniques sans rien savoir de tout cela : ajouter des entrées et des sorties n'ajoute pas du sens.

La réponse du simulateur de cerveau propose un programme qui reproduirait la séquence exacte des décharges neuronales d'un locuteur chinois. Searle imagine alors un homme actionnant un système de tuyaux et de vannes qui simule ces décharges : il déplace de l'eau, il ne comprend rien. Au passage, il note que cette réponse concède ce que l'intelligence artificielle forte refusait, à savoir que la structure biologique compte.

La réponse des autres esprits objecte que nous n'avons pas non plus de preuve que nos semblables comprennent. Searle répond que la question n'est pas de savoir comment nous le savons, mais ce que c'est que comprendre.

La thèse positive

On réduit souvent Searle à un adversaire des machines, ce qui est faux. Sa position est que l'intentionnalité, cette propriété qu'ont nos états mentaux d'être dirigés vers quelque chose, est un phénomène biologique, produit par les pouvoirs causaux du cerveau comme la digestion est produite par l'estomac.

Il en tire deux conséquences symétriques. Un programme ne suffit jamais, parce qu'un programme est une structure formelle, indifférente à sa réalisation matérielle. Mais une machine pourrait penser, à condition d'avoir les mêmes pouvoirs causaux qu'un cerveau, et nous sommes d'ailleurs de telles machines.

Searle n'est donc ni dualiste, puisque les cerveaux causent les esprits, ni réductionniste au sens de l'informatique, puisque le calcul ne suffit pas.

La querelle, et aujourd'hui

Les critiques les plus dures sont venues de Daniel Dennett et de Douglas Hofstadter, qui rééditèrent l'article en 1981 dans un recueil où ils le commentaient sévèrement. Paul et Patricia Churchland proposèrent en 1990 une parade restée célèbre : la chambre luminescente. Imaginons quelqu'un qui, avant Maxwell, agite un barreau aimanté et constate qu'aucune lumière n'apparaît ; il en conclurait à tort que la lumière ne peut pas être une onde électromagnétique. L'intuition contre une théorie ne la réfute pas.

Searle a maintenu sa position jusqu'au bout, en déplaçant l'accent sur la distinction entre les propriétés intrinsèques d'un système et celles que nous lui attribuons : un système n'est un calculateur que pour un observateur qui interprète ses états comme des symboles.

L'arrivée des grands modèles de langage a relancé la discussion dans des termes que Searle avait prévus mot pour mot. Ces systèmes produisent des textes que rien ne distingue, en surface, de textes compris. La question de savoir si cette performance mérite le nom de compréhension est exactement la sienne, et elle n'a pas reçu de réponse qui fasse consensus.

Sources

Sources principales

Searle, John, « Minds, Brains, and Programs », Behavioral and Brain Sciences, volume 3, 1980. Texte primaire, lu avec les commentaires des pairs qui l'accompagnent et la réponse de l'auteur, en particulier le traitement des six objections.

Searle, John, Du cerveau au savoir, 1984, issu de conférences radiophoniques. Texte primaire, pour l'exposé accessible de la même thèse et de ses conséquences.

Turing, Alan, « Computing Machinery and Intelligence », 1950. Texte primaire, pour le test que l'argument de Searle prend à revers.

Churchland, Paul et Churchland, Patricia, « Could a Machine Think ? », Scientific American, 1990. Cet article a servi pour l'objection de la chambre luminescente.

Hofstadter, Douglas et Dennett, Daniel, The Mind's I, 1981. Ce recueil a servi pour la première campagne de réfutation organisée.

Bibliographie et lectures recommandées

Searle, John, L'Intentionnalité, 1983, pour le cadre théorique dont l'article n'est qu'une conséquence.

Cole, David, « The Chinese Room Argument », Stanford Encyclopedia of Philosophy, pour l'état des discussions et la typologie des réponses.

Wikipédia FR et EN, articles « Chambre chinoise » et « Chinese room », consultés en novembre 2026.

Fiches liées