Ce qu’est une hallucination
Un LLM produit le texte le plus probable à partir de ce qu’il a appris et de ce qu’on lui donne. La plupart du temps, ce texte est juste. Mais quand l’information lui manque, le modèle ne s’arrête pas toujours : il complète avec quelque chose de plausible. Le résultat est une hallucination : une date, un montant, une référence de loi ou un nom de fournisseur qui semble crédible et qui est faux.
Le mot est trompeur : le modèle ne « voit » rien. Il produit une suite de mots vraisemblable, sans distinguer ce qu’il sait de ce qu’il invente.
Pourquoi ça arrive
- La question porte sur une information que le modèle n’a pas : vos données internes, un événement récent, un document qu’on ne lui a pas fourni.
- La consigne est floue ou pousse à répondre coûte que coûte.
- Le document fourni est illisible, incomplet ou contradictoire.
Ce que ça change au bureau
Dans une fiduciaire ou une PME, une hallucination n’est pas une curiosité : un taux de TVA inventé, une échéance fausse ou une facture attribuée au mauvais client ont des conséquences. C’est pourquoi l’IA ne doit pas être utilisée comme une source de vérité, mais comme un outil qui prépare un travail vérifiable.
Comment les limiter
- Donner au modèle les documents dont il a besoin, par la technique du RAG, et lui demander de citer ses sources.
- Rédiger un prompt précis, qui autorise explicitement la réponse « je ne sais pas ».
- Restreindre la tâche : extraire un montant d’une facture est plus sûr que rédiger une analyse fiscale.
- Faire valider les résultats sensibles par une personne : c’est le principe du human in the loop.
- Tester l’outil sur de vrais documents avant de le mettre en service.
Nous détaillons cette dernière étape dans notre article sur la façon de tester un système IA avant de le montrer.