Pourquoi l'IA hallucine - et comment le réduire

Ce qu'est réellement une hallucination de l'IA

Une hallucination est une sortie fluide, plausible et assurée, mais factuellement fausse ou entièrement inventée. Le modèle ne 'ment' pas au sens humain : il n'a ni intention ni conscience qu'une chose soit fausse. Le terme est une métaphore : le système produit un contenu sans équivalent dans ses données d'entraînement ni dans la réalité.

• Faits inventés : noms, dates, chiffres ou événements inexistants.
• Fausses sources : études, arrêts ou URL inexistants aux titres crédibles.
• Amalgame : fragments exacts combinés en une affirmation globale fausse.

Le mécanisme : prédiction, pas connaissance

Un modèle de langage ne stocke aucune base de faits. Il apprend, sur d'immenses corpus, quel mot tend à suivre quel autre, et calcule pour chaque requête la continuation la plus probable, jeton après jeton. La vérité n'est pas un critère : le modèle optimise la plausibilité, pas l'exactitude. Tant que réponses justes et fausses sonnent aussi fluides, il peut produire les deux avec la même assurance.

De plus, générer est plus difficile que reconnaître. Un modèle sait souvent juger si une affirmation donnée est vraie, mais échoue à produire correctement la même information à partir de rien. Pour des faits rares aux nombreuses valeurs possibles - une date exacte, un nombre précis - la probabilité d'atteindre l'unique valeur correcte est d'autant plus faible.

Pourquoi l'entraînement et l'évaluation récompensent la devinette

Les hallucinations ne sont pas un pur accident technique : elles sont en partie apprises. Une analyse très remarquée de chercheurs d'OpenAI (Kalai, Nachum, Vempala, Zhang, septembre 2025) soutient que les benchmarks courants traitent les modèles comme des candidats à un examen : une réponse devinée peut rapporter des points, alors qu'un honnête 'je ne sais pas' vaut zéro à coup sûr. Sous de telles incitations, deviner est payant - et c'est précisément ce que nous apprenons aux modèles.

Conséquence pratique : tant que les classements récompensent l'assurance et pénalisent la retenue, les erreurs assurées restent un sous-produit systématique. Une partie de la solution n'est donc pas un nouveau modèle mais une meilleure évaluation qui revalorise l'incertitude calibrée et l'abstention.

Quand les hallucinations sont les plus probables

• Savoir de niche rare : faits quasi absents des données d'entraînement (entités de longue traîne, détails locaux).
• Détails précis : nombres exacts, citations, dispositions légales, DOI ou références.
• Actualité : événements postérieurs à la date de coupure du modèle, sans lien vers des sources à jour.
• Invites ambigues ou orientées tenant pour acquise une prémisse fausse.
• Longues chaînes de raisonnement où les erreurs initiales se propagent.
• 'Température' élevée : des sorties plus créatives et aléatoires accroissent le risque sur les tâches factuelles.

Réduire les hallucinations : grounding, RAG, vérification

Aucun modèle n'hallucine jamais, mais une approche par couches réduit fortement le risque. Chaque mesure traite une classe d'erreur différente ; combinées, elles sont les plus efficaces. Commencez par le grounding et l'abstention, qui suppriment la plus grande part des erreurs à moindre effort, et ajoutez la vérification là où une réponse fausse coûte cher.

• Grounding / RAG : injecter les documents pertinents dans le contexte et demander au modèle de répondre uniquement à partir d'eux, avec citation des sources.
• Autoriser l'abstention : permettre explicitement 'je ne sais pas' au lieu de forcer une réponse.
• Vérification : confronter les sorties critiques aux sources - via un second modèle, chain-of-verification ou revue humaine.
• Sortie contrainte : formats structurés, listes fermées ou schémas qui compliquent l'invention libre.
• Température plus basse et invite précise pour les tâches factuelles ; donner rôle, contexte et format clairs.
• Qualité des données : curer, mettre à jour et organiser la base de connaissances par thème - de mauvaises sources donnent de mauvaises réponses.

L'angle suisse : l'IA en contextes réglementés

En Suisse et dans l'espace DACH, les sorties de l'IA servent de plus en plus dans des domaines sensibles - droit, santé, finance, administration. Une hallucination n'y est pas un défaut cosmétique mais un risque de responsabilité et de conformité. Quiconque traite des données personnelles reste responsable au titre de la loi révisée sur la protection des données (nLPD / revDSG) ; le PFPDT attend des processus traçables et exacts. Une disposition légale ou un diagnostic inventé n'est, en cas de doute, pas la faute de l'IA mais de l'organisation qui l'adopte sans contrôle.

Conséquence pratique : dans les processus réglementés, associez toujours les sorties de l'IA à une validation humaine (human-in-the-loop), des sources documentées et des responsabilités claires. Traitez le modèle comme un assistant rapide mais peu fiable, non comme une source de vérité.