Une hallucination, c’est quand l’IA invente une réponse fausse avec aplomb. Ce n’est pas toujours une panne : c’est souvent un effet du fonctionnement. Ce glossaire explique le terme, montre un cas local, et renvoie vers la méthode pour vérifier.
Définition
En intelligence artificielle, on appelle hallucination une sortie fausse ou non fondée, formulée avec assurance. Le cas le plus visible concerne les assistants fondés sur un LLM : ils prédisent une suite de mots plausible. Quand l’information manque, est floue, ou sort de ce qu’ils ont vu à l’entraînement, ils peuvent combler le trou plutôt que d’avouer l’ignorance.
Ce n’est pas une « vision » au sens médical. C’est un mot du domaine technique, repris par le grand public, pour dire : l’outil invente. L’invention peut être totale (une étude qui n’existe pas) ou partielle (une vraie mairie, un faux horaire). Dans les deux cas, le ton reste souvent fluide, poli, convaincant.
L’hallucination n’est pas réservée aux débutants maladroits. Une demande précise réduit le risque ; elle ne l’annule pas. Des consignes du type « n’invente rien, signale ce qui manque » aident. La vérification reste nécessaire dès qu’un détail engage quelqu’un : date d’atelier, montant, citation, article de loi.
Retenez la distinction utile : bug technique (l’outil plante) versus hallucination (l’outil répond correctement… avec un contenu faux). Le second cas est plus dangereux, car rien n’alerte visuellement. Pour la méthode de contrôle, voir vérifier une réponse.
Les formes fréquentes : une date ou un horaire inventés ; une citation entre guillemets sans source ouvrable ; un chiffre rond sans origine ; un article de loi au numéro fantaisiste ; un lien qui ne mène nulle part. Chacune peut passer inaperçue si vous lisez trop vite, séduit par le ton.
Exemple en région
À Dunkerque, un bénévole demande à un assistant l’horaire d’ouverture d’une mairie annexe un samedi. La réponse arrive en deux phrases soignées, avec une heure précise. Or le site de la ville indique un autre créneau, ou une fermeture. L’outil n’a pas « consulté » l’affiche : il a assemblé une réponse qui ressemble à une fiche pratique.
Autre scène, à Lille : une enseignante demande une citation d’un rapport régional « pour ancrer le cours ». L’assistant fournit une phrase entre guillemets et un titre de document. Sans page ouverte, impossible de savoir si la citation existe. Les guillemets ne prouvent rien.
Dans une association à Arras, un compte-rendu généré ajoute une décision « votée à l’unanimité » alors que les notes disent seulement « reporté ». L’invention arrange le texte ; elle fausse le procès-verbal. Ici, l’hallucination n’est pas un détail : elle crée une obligation fictive.
Même logique pour une aide sociale ou un tarif culturel à Amiens : une réponse fluide qui cite un montant « habituel » peut être fausse pour votre commune. Le site de la structure, l’affiche, ou un agent d’accueil tranche. L’assistant, lui, produit surtout une vraisemblance.
On confond souvent
On confond souvent hallucination et mensonge volontaire. L’outil n’a pas d’intention de tromper. Il privilégie une suite fluide. Le résultat peut pourtant tromper autant qu’un mensonge, surtout si vous le recopiez sans contrôle.
On confond aussi hallucination et simple approximation. Reformuler un peu maladroitement n’est pas la même chose qu’inventer une date. Priorisez le contrôle sur les faits durs : noms, chiffres, horaires, citations, références juridiques.
Enfin, on confond « l’outil cite une source » et « la source confirme ». Un lien inventé, un PDF fantasmé, une page hors sujet : la présence d’une référence dans la réponse ne suffit pas. Ouvrez la page. Comparez la phrase exacte.
On confond également hallucination et biais. Un biais oriente systématiquement certaines réponses (stéréotypes, angles oubliés). Une hallucination affirme un fait précis qui n’est pas fondé. Les deux méritent attention ; ce n’est pas le même diagnostic.
Ce que ça change
Pour vous, le mot hallucination devient un réflexe : soulignez d’abord ce qui ferait du tort s’il était faux. Cherchez-le dans une source que vous pouvez ouvrir (site officiel, vos notes, un message de l’organisateur). Si vous ne pouvez pas vérifier, retirez.
Dans la demande, donnez les faits, ou exigez le signalement des trous. Après la réponse, ne vous fiez pas au ton. Vérifier une réponse détaille une méthode en plusieurs réflexes. Croisez avec LLM pour comprendre pourquoi la fluidité n’équivaut pas à la vérité.
Aucune statistique miracle, aucun détecteur « infaillible » ne remplace ce geste. Les outils qui affichent des sources aident seulement si vous ouvrez réellement ces sources. Votre signature reste la dernière étape.
Adoptez une règle simple avant publication : zéro fait non vérifié dans le message final. Le reste — ton, ordre des idées, longueur — peut attendre. Cette règle seule évite la plupart des incidents liés aux inventions fluides.
Dans une équipe, formalisez le réflexe en une ligne : « Pas de date, de montant ni de citation sans page ouverte. » Elle protège aussi bien le bénévole pressé que l’agent qui publie sur le site. L’hallucination cesse alors d’être un mystère technique : c’est un risque de publication, géré comme les autres.
Questions fréquentes
Pourquoi l’IA invente-t-elle des choses ?
Parce qu’elle privilégie souvent une suite de mots plausible. Quand l’info manque, elle peut combler plutôt que s’arrêter. Ce n’est pas forcément une panne : c’est un effet du fonctionnement des modèles de langage.
Comment m’en protéger au quotidien ?
Donnez les faits dans la demande. Demandez de signaler les manques. Soulignez noms, chiffres, dates et citations dans la réponse. Vérifiez-les dans une source ouverte. Sinon, rayez. Traitez le ton confiant comme un décor, pas comme une preuve. Voir vérifier une réponse.
Les outils « avec sources » hallucinent-ils encore ?
Oui, c’est possible. Une source affichée peut être hors sujet, inventée, ou mal lue. Ouvrez la page et comparez la phrase exacte. La citation dans la fenêtre ne remplace pas la page réelle. Si le lien ne s’ouvre pas, retirez l’affirmation liée.
Puis-je faire confiance pour un texte créatif ?
Pour un brouillon de ton, un plan, une reformulation sans fait local, le risque est moindre. Dès qu’apparaissent horaire, montant, nom, élu, aide ou citation, le contrôle revient. Le créatif n’excuse pas un détail factuel inventé glissé dans le même paragraphe.