L’heure de l’IA
Progression
Séance 15 · Partie 3. Les modèles de langage · 55 minutes

L’hallucination

En une phraseComprendre pourquoi un assistant peut affirmer le faux avec aplomb, et appliquer une méthode pour vérifier ses réponses : repérer, vérifier, conclure.

Imprimer le matériel

Savoir professeur

Dix minutes de lecture, pour préparer la séance sans connaissance préalable.

Ce qu’on appelle une hallucination

On parle d’hallucination quand un assistant d’IA affirme une chose fausse ou inventée : une date erronée, un prix jamais reçu, un livre qui n’existe pas, une citation imaginaire, un calcul faux. Le mot est discuté, car il suggère une perception troublée, alors que le modèle ne perçoit rien ; il s’est pourtant imposé.

Le trait décisif, celui que la séance doit faire toucher du doigt, est que l’erreur est écrite sur le même ton que la vérité. Aucun indice de forme, ni hésitation ni changement de style, ne distingue la phrase fausse de ses voisines justes. La carte sur le mont Blanc, entièrement exacte, ressemble trait pour trait aux cartes qui contiennent des erreurs.

Pourquoi un modèle invente

La séance 11 a donné la clé : un modèle de langage écrit le mot suivant le plus probable, puis recommence. Rien, dans cette boucle, ne vérifie que la phrase produite est vraie. Or une phrase fausse peut être très probable. Après « cette invention lui a valu », la suite « le prix Nobel » est fréquente dans les textes, même si elle est fausse pour Tim Berners-Lee.

Les hallucinations sont plus fréquentes dans quelques situations, qu’il est utile de faire connaître :

  • les références précises : titres de livres, articles, décisions de justice, adresses de pages ;
  • les personnes et les faits peu connus, sur lesquels le modèle a lu peu de textes ;
  • les calculs et les comptages, car le modèle prédit des chiffres et des lettres comme des mots ; il découpe d’ailleurs les mots en jetons, ce qui rend le comptage des lettres difficile, comme le montrera la séance 12 ;
  • les questions qui supposent une réponse, comme « Quel prix a reçu… », qui poussent à en inventer une.

En 2025, des chercheurs d’OpenAI ont proposé une explication supplémentaire : l’entraînement et les tests qui servent à comparer les modèles récompensent une réponse tentée plutôt qu’un aveu d’ignorance, comme un QCM sans points négatifs pousse à répondre au hasard.

Deux cas réels

En 2023, à New York, dans l’affaire Mata contre Avianca, des avocats ont déposé devant un tribunal un mémoire citant des décisions de justice inventées par ChatGPT, avec leurs numéros et leurs extraits. Ni le juge ni la partie adverse ne les ont trouvées. Les avocats ont été condamnés à une amende.

En 2024, au Canada, l’assistant du site d’Air Canada a décrit à un client une règle de remboursement qui n’existait pas. Le tribunal a jugé que la compagnie était responsable de ce qu’affirmait son assistant, et l’a condamnée à indemniser le client.

Ces cas montrent que l’erreur n’est pas réservée aux usages naïfs, et que la responsabilité reste humaine : celui qui reprend une affirmation en répond.

La méthode de vérification

La séance installe une méthode en trois étapes, réutilisée toute l’année, notamment en éducation aux médias et à l’information.

  1. Repérer. Souligner chaque affirmation vérifiable : date, nom, nombre, lieu, citation, référence. Les phrases d’opinion ou trop vagues ne se vérifient pas ; c’est déjà un indice.
  2. Vérifier. Soi-même quand c’est possible, par un calcul, un comptage, un raisonnement : les cartes 3 et 5 le montrent. Sinon, dans une source fiable et indépendante : une source qui n’a pas été produite par l’assistant lui-même, dont on connaît l’auteur, et qui a une raison d’être exacte.
  3. Conclure. Trois verdicts sont possibles : confirmé, faux, invérifiable. Le troisième est le plus important à faire accepter. Il ne veut pas dire faux, comme le montre la carte 6, mais il interdit de reprendre l’affirmation tant qu’on n’a pas trouvé sa source.

Le dossier documentaire joue le rôle des sources fiables. Les cartes sont des réponses reconstituées pour la séance, typiques des erreurs réellement observées ; il faut le dire aux élèves. Les modèles évoluent vite, et un assistant interrogé le jour de la séance peut ne pas reproduire une erreur donnée : la méthode, elle, reste valable.

Ce qu’il ne faut pas en conclure

La séance ne doit pas laisser croire que les assistants se trompent tout le temps ni qu’ils sont inutiles. Sur des questions courantes, ils ont souvent raison, et ils rendent de vrais services. Le message est qu’on ne peut pas savoir, à la lecture, quand ils se trompent. On s’en sert donc là où l’on peut vérifier, et d’autant plus prudemment que l’enjeu est important. La séance 29 reprendra cette idée pour l’usage scolaire.

Vocabulaire et erreurs fréquentes

Employer : hallucination, affirmation vérifiable, source, source indépendante, invérifiable. Éviter « l’IA ment » : mentir suppose de savoir ce qui est vrai.

Trois idées reçues reviennent. « S’il donne des détails, c’est qu’il sait » : les détails sont produits de la même façon que le reste. « Il suffit de lui demander s’il est sûr » : sa confirmation n’est pas une vérification. « Avec Internet, il ne se trompe plus » : il peut encore mal lire ou mal citer une source, qu’il faut ouvrir soi-même.

Déroulé

  1. 5 min

    Accroche

    Projeter la réponse sur l’invention du Web, sans rien dire. Faire voter : qui la croit entièrement ? Annoncer qu’elle contient une erreur, écrite exactement sur le même ton que le reste, et que la séance va apprendre à la débusquer.

  2. 5 min

    La méthode

    Écrire au tableau les trois étapes. Repérer : souligner chaque affirmation vérifiable, date, nom, nombre, citation, référence. Vérifier : soi-même quand c’est possible, sinon dans une source fiable et indépendante. Conclure : confirmé, faux ou invérifiable.

  3. 20 min

    L’enquête

    Groupes de trois ou quatre. Chaque groupe reçoit deux cartes de réponses et le dossier documentaire. Rôles : une personne lit la carte, une cherche dans le dossier, une note les verdicts ; on échange à la seconde carte. Pour chaque affirmation soulignée, le groupe note son verdict et sa preuve. Les groupes rapides prennent une troisième carte.

  4. 10 min

    Mise en commun

    Carte par carte, un groupe présente ses verdicts, les autres complètent. Classer les erreurs au tableau : fait inventé, erreur de calcul, erreur de comptage, chiffre sans source. Faire remarquer qu’une carte est entièrement juste, et que rien dans le ton ne la distingue des autres.

  5. 5 min

    Pourquoi il invente

    Rappeler la séance 11 : le modèle écrit le mot suivant le plus probable, et rien ne vérifie ce qu’il affirme. Une phrase fausse peut être très probable. Raconter le cas des avocats new-yorkais de 2023, qui ont cité devant un juge des décisions inventées par un assistant.

  6. 5 min

    Trace écrite

    Projeter la trace écrite, la faire recopier ou distribuer la version imprimée.

  7. 5 min

    Vérification

    Lire les quatre questions ; réponses écrites, lettre par lettre, puis correction immédiate.

Version avec ordinateurs

  1. L’enquête se fait sur les mêmes cartes, mais les groupes vérifient sur Internet, dans des sources indiquées par le professeur : une encyclopédie en ligne, les sites officiels des institutions citées. Le dossier documentaire sert de recours.
  2. Exiger pour chaque verdict l’adresse de la page qui le prouve, et faire juger la source : qui l’a écrite, est-elle indépendante de la réponse vérifiée ?
  3. Pendant l’étape « Pourquoi il invente », le professeur projette un assistant réel, depuis son poste, et lui pose deux questions préparées : la référence précise d’un livre sur un sujet pointu, puis le nombre de fois qu’une lettre apparaît dans un long mot. La classe vérifie en direct.
  4. Aucune garantie que l’assistant se trompe ce jour-là. Si sa réponse est juste, la vérifier quand même : c’est la méthode qui compte, pas l’erreur.
  5. Les élèves n’utilisent aucun assistant sur leur poste et ne créent aucun compte.

Version sans ordinateur

La séance est entièrement débranchée dans son déroulé ordinaire : le dossier documentaire remplace la recherche en ligne. C’est même la version la plus confortable, car l’enquête porte sur la méthode et non sur la recherche.

Matériel

  • Les six cartes de réponses, une planche par groupe, découpées.
  • Le dossier documentaire, un exemplaire par groupe.
  • Une feuille par groupe pour les verdicts.

Consignes

  1. Préciser que les cartes sont des réponses reconstituées, typiques d’erreurs réelles, et non des copies d’écran.
  2. Distribuer les cartes de sorte que chaque carte soit traitée par au moins deux groupes, pour pouvoir comparer les verdicts.
  3. Signaler que les cartes 3 et 5 se vérifient sans aucun document, par un comptage ou un calcul, et que la carte 6 ne trouve rien dans le dossier : c’est voulu.
  4. Pendant la mise en commun, refuser tout verdict sans preuve : un numéro de fiche du dossier, un calcul, un comptage.
Dossier documentaire (cinq fiches)

Fiche 1. Tim Berners-Lee

Le 13 mars 1989, Tim Berners-Lee, informaticien britannique du CERN, laboratoire européen de physique installé près de Genève, propose un système de gestion de l’information qui deviendra le World Wide Web. En 2017, il reçoit le prix Turing, la plus haute récompense en informatique, pour cette invention.

Fiche 2. Le prix Nobel de physique 2004

Le prix Nobel de physique 2004 a été attribué à David Gross, David Politzer et Frank Wilczek, pour leurs travaux sur l’interaction forte, l’une des forces fondamentales de la physique.

Fiche 3. Ada Lovelace

Née en 1815 à Londres et morte en 1852, Ada Lovelace est la fille du poète Lord Byron. En 1843, elle publie des notes sur la machine analytique imaginée par Charles Babbage, avec un procédé de calcul considéré comme l’un des premiers programmes informatiques. La machine analytique n’a jamais été construite.

Fiche 4. Les premiers ordinateurs électroniques

Les premiers ordinateurs électroniques apparaissent dans les années 1940, pendant et juste après la Seconde Guerre mondiale. L’un des plus célèbres, l’ENIAC, est mis en service aux États-Unis à la fin de 1945.

Fiche 5. Le mont Blanc

Le 8 août 1786, Jacques Balmat, chercheur de cristaux, et Michel Paccard, médecin, partis de la vallée de Chamonix, atteignent pour la première fois le sommet du mont Blanc. Son altitude, d’environ 4 806 mètres, varie de quelques mètres d’une mesure à l’autre selon l’épaisseur de la neige.

Imprimer les six cartes

Corrigé des cartes

  • Qui a inventé le Web ? 1989, Tim Berners-Lee et le CERN près de Genève : confirmés par la fiche 1. Le prix Nobel est faux : il n’en a jamais reçu ; le prix Nobel de physique 2004 a récompensé trois autres chercheurs (fiche 2). Il a reçu le prix Turing en 2017.
  • Qui était Ada Lovelace ? Dates, Lord Byron et les notes de 1843 : confirmés par la fiche 3. L’ordinateur de 1851 est faux : la machine analytique n’a jamais été construite (fiche 3) et les premiers ordinateurs électroniques datent des années 1940 (fiche 4).
  • Combien de fois la lettre r apparaît-elle dans le mot « arbre » ? Cinq lettres : confirmé en comptant. Une seule lettre r : faux, le mot en contient deux, en deuxième et en quatrième position. Aucun document n’est nécessaire.
  • Quand a eu lieu la première ascension du mont Blanc ? Tout est confirmé par la fiche 5. Cette réponse est entièrement juste, et rien dans son ton ne la distingue des autres.
  • Combien font 17 × 23 ? Faux : 17 × 3 = 51, donc 17 × 23 = 340 + 51 = 391. La vérification affichée a l’air rigoureuse, mais elle contient elle-même l’erreur. Aucun document n’est nécessaire.
  • Les lycéens utilisent-ils beaucoup l’IA ? Invérifiable : ni auteur, ni organisme, ni titre, ni lien. Les chiffres précis inspirent confiance, mais ne prouvent rien. Il existe peut-être de vraies enquêtes sur le sujet, avec d’autres chiffres : c’est à elles qu’il faut se référer. En l’état, ne pas reprendre cette affirmation.

Trace écrite

Un assistant peut affirmer une chose fausse ou inventée avec la même assurance qu’une chose vraie : on parle d’hallucination. Il produit des phrases probables, et rien dans son fonctionnement ne vérifie qu’elles sont vraies.

Pour vérifier une réponse : repérer les affirmations vérifiables (dates, noms, nombres, citations, références) ; les vérifier soi-même quand c’est possible, sinon dans une source fiable et indépendante ; conclure : confirmé, faux ou invérifiable.

Le ton assuré, les chiffres précis et les explications détaillées ne prouvent rien. Une affirmation invérifiable ne doit pas être reprise.

Vérification

À projeter ou à lire en fin de séance. Les réponses sont repliées.

  1. Qu’appelle-t-on une hallucination d’un assistant d’IA ?

    • AUne panne qui l’empêche de répondre.
    • BUne affirmation fausse ou inventée, présentée avec la même assurance qu’une affirmation vraie.
    • CUne réponse volontairement mensongère.
    Réponse

    B. L’assistant ne ment pas : il ne sait pas ce qui est vrai. Il produit une suite de mots probable, qui peut être fausse, sur le même ton que le reste.

  2. Pourquoi un modèle de langage peut-il inventer ?

    • AParce qu’il écrit des suites de mots probables, sans rien qui vérifie qu’elles sont vraies.
    • BParce qu’il manque de mémoire.
    • CParce que ses concepteurs l’ont programmé pour se tromper de temps en temps.
    Réponse

    A. C’est le fonctionnement vu à la séance 11 : choisir le mot suivant probable. « Prix Nobel » est une suite très probable après « invention célèbre », même quand c’est faux.

  3. Une réponse cite une étude avec des chiffres précis, sans auteur ni lien. Que faire ?

    • ALa reprendre, car les chiffres précis montrent qu’elle est sérieuse.
    • BLa considérer comme fausse.
    • CLa considérer comme invérifiable, chercher la source, et ne pas la reprendre tant qu’on ne l’a pas trouvée.
    Réponse

    C. Invérifiable ne veut pas dire faux : l’étude existe peut-être. Mais tant qu’on ne l’a pas trouvée, on ne peut pas s’appuyer dessus.

  4. Qu’est-ce qui permet de savoir qu’une réponse d’assistant est juste ?

    • AElle est écrite avec assurance et sans hésitation.
    • BElle donne des détails précis et une explication.
    • CSes affirmations sont confirmées par une vérification ou une source fiable et indépendante.
    Réponse

    C. Le ton et les détails sont les mêmes pour le vrai et le faux : la carte sur le mont Blanc, entièrement juste, ressemble à toutes les autres. Seule la vérification tranche.

Questions difficiles

Les questions d’élèves qui déstabilisent, et une réponse possible.

Pourquoi il ne dit pas simplement qu’il ne sait pas ?

Parce qu’il est construit pour produire une suite de mots probable, et qu’une réponse assurée est souvent plus probable qu’un aveu d’ignorance. En 2025, des chercheurs d’OpenAI ont aussi montré que les tests servant à comparer les modèles récompensent une réponse au hasard plutôt qu’un « je ne sais pas », comme un QCM sans points négatifs. Les concepteurs travaillent à le corriger, mais le problème n’a pas disparu.

Si on lui demande s’il est sûr, il va se corriger ?

Parfois. Mais il peut aussi s’excuser et remplacer une réponse juste par une fausse, ou confirmer une erreur. Sa « certitude » n’est qu’une suite de mots de plus : ce n’est pas une vérification.

Avec la recherche sur Internet, le problème est réglé ?

Il est réduit, pas réglé. L’assistant peut mal résumer une page, ou citer une source qui ne dit pas ce qu’il affirme. Il faut ouvrir la source et vérifier qu’elle dit bien cela.

Comment peut-il se tromper sur un calcul aussi simple ?

Il ne calcule pas : il prédit des chiffres probables, comme des mots. Sur des calculs courants, il a souvent raison, car il en a lu beaucoup. Certains assistants confient désormais les calculs à une calculatrice ou à un petit programme, ce qui corrige ce défaut.

Alors on ne peut jamais lui faire confiance ?

On peut s’en servir là où l’on est capable de vérifier : reformuler un texte, proposer un plan, expliquer une notion qu’on retrouvera dans son cours. Plus l’enjeu est important et plus la vérification est difficile, moins il faut s’y fier. Ce sera l’objet de la séance 29.

Différencier