Elle devine le mot suivant, un peu comme au Scrabble

Le principe : deviner ce qui vient après

Quand une IA générative comme ChatGPT ou Claude "répond" à une question, elle ne cherche pas la réponse dans une base de données comme le ferait un moteur de recherche. Elle génère sa réponse mot par mot (ou plutôt, morceau de mot par morceau de mot), en devinant à chaque étape quel est le mot le plus probable pour continuer le texte de façon cohérente.

flowchart LR
    A[Votre question] --> B[L'IA devine\nle mot le plus probable]
    B --> C[Elle l'ajoute\nà la réponse]
    C --> D{Réponse\nterminée ?}
    D -- Non --> B
    D -- Oui --> E[Réponse envoyée]

Une comparaison simple : la suggestion de mot, en beaucoup plus puissant

Vous connaissez sans doute la fonction qui propose le mot suivant sur un téléphone quand vous écrivez un SMS. Une IA générative fait quelque chose de similaire, mais en beaucoup plus sophistiqué : elle prend en compte tout ce qui a été dit dans la conversation, la question posée, et des millions d'exemples de textes semblables, pour choisir, à chaque étape, le mot qui a le plus de sens.

Ce mécanisme explique pourquoi une IA peut écrire des textes très fluides et cohérents : elle est extrêmement douée pour deviner la suite logique d'un texte, ce qui donne l'impression qu'elle "réfléchit", alors qu'elle prédit, étape par étape.

Pourquoi elle peut inventer des choses fausses

Comme elle devine le mot le plus probable plutôt que de vérifier un fait dans une base de données fiable, une IA peut produire une phrase qui sonne juste mais qui est factuellement fausse. On appelle ça une "hallucination" : l'IA invente un nom, une date, une source, avec la même assurance que si c'était vrai.

Cas concret

Une personne demande à une IA le nom du livre qui a reçu tel prix littéraire une année précise. Si l'IA n'a pas d'information fiable sur ce fait précis, elle peut tout de même produire un titre de livre plausible (un titre qui "sonne" comme un vrai titre primé), sans que ce soit réellement exact. La phrase est grammaticalement parfaite et sonne convaincante, mais l'information peut être totalement inventée.

Erreurs fréquentes

• Faire confiance à une IA sur un fait précis sans vérifier, surtout pour des chiffres, des dates, des noms propres ou des sources.
• Penser qu'une réponse bien écrite est forcément vraie : la qualité de l'écriture n'a aucun rapport avec l'exactitude du contenu.
• Ne pas comprendre pourquoi l'IA "invente" : ce n'est pas une intention de mentir, c'est une conséquence directe de sa façon de fonctionner (deviner le plus probable, pas vérifier le vrai).

À retenir

• Une IA générative construit sa réponse mot par mot, en devinant à chaque étape ce qui est le plus probable.
• Ce mécanisme la rend très douée pour écrire de façon fluide, mais il peut aussi la faire "halluciner" (inventer des faits faux avec assurance).
• Pour toute information importante (chiffre, date, nom, source), il vaut mieux vérifier ailleurs avant de faire confiance à la réponse.

Mini-exercice

Une IA vous donne, avec beaucoup d'assurance, un nom d'hôpital et une adresse précise pour une urgence médicale. Devez-vous lui faire confiance sans vérifier ?

Réponse : non. Une IA peut inventer une information précise (nom, adresse) tout en ayant l'air très sûre d'elle. Pour une urgence, il faut toujours vérifier l'information par une source fiable (numéro d'urgence officiel, moteur de recherche, annuaire) avant d'agir.