Hallucinations et vérification

Qu'est-ce qu'une hallucination

Une hallucination est une réponse générée par un modèle qui semble plausible et confiante, mais qui est factuellement fausse : une citation inventée, une fonction de code qui n'existe pas, une date erronée. Tous les modèles (GPT, Claude, Gemini, Llama, peu importe le fournisseur) peuvent halluciner, aucun n'en est totalement exempt.

Pourquoi ça arrive

Un modèle de langage prédit le mot le plus probable suivant, sans "savoir" au sens humain du terme s'il énonce un fait vrai. Sur des sujets où les données d'entraînement sont rares ou ambiguës, le modèle peut générer une réponse cohérente en apparence mais inventée.

Le réflexe de vérification

flowchart TD
    A[Réponse du modèle] --> B{Fait vérifiable\nfacilement ?}
    B -- Oui --> C[Vérifier la source\navant utilisation]
    B -- Non, information critique --> D[Recouper avec une\nsource fiable externe]
    B -- Non, création créative --> E[Pas de vérification\nfactuelle nécessaire]

Plus l'enjeu d'une réponse est important (donnée juridique, chiffre financier, référence médicale), plus la vérification externe est indispensable, quel que soit le modèle utilisé.

Cas concret

Un utilisateur demande à un modèle de citer un article de loi précis pour justifier une décision RH. Le modèle génère un numéro d'article qui semble plausible mais n'existe pas réellement dans le code du travail. Sans vérification auprès d'une source juridique fiable, cette hallucination aurait pu conduire à une décision basée sur une référence légale inventée.

Erreurs fréquentes

• Faire une confiance aveugle à une réponse parce qu'elle est formulée avec assurance : le ton confiant d'un modèle n'est pas un indicateur de véracité.
• Ne jamais vérifier des faits critiques (chiffres, citations, références légales) avant de les utiliser dans un document officiel.
• Croire qu'un modèle plus récent ou plus cher hallucine moins systématiquement sur tous les sujets : la fréquence d'hallucination varie selon le domaine, pas uniquement selon la génération du modèle.

À retenir

• Tous les modèles (Claude, GPT, Gemini, Llama, Mistral...) peuvent halluciner, sans exception totale.
• Le ton confiant d'une réponse n'indique jamais sa véracité factuelle.
• Plus l'enjeu d'une information est important, plus une vérification externe indépendante est nécessaire.

Mini-exercice

Un modèle d'IA génère un rapport citant trois statistiques précises sur le marché. Avant d'inclure ce rapport dans une présentation client, que faire ?

Réponse : vérifier chaque statistique auprès d'une source externe fiable (étude originale, organisme officiel) avant utilisation, indépendamment de la confiance apparente de la réponse générée, car une hallucination peut produire des chiffres plausibles mais inventés.