Contraintes et garde-fous

Dire ce qu'il ne faut pas faire

Un prompt peut inclure des contraintes négatives explicites, tout aussi utiles que les instructions positives : "ne pas inventer de chiffres", "ne pas utiliser de jargon technique", "ne pas dépasser 100 mots".

"Résume cet article. Ne mentionne aucune statistique qui
n'apparaît pas explicitement dans le texte source. Si une
information demandée n'est pas présente, indique-le clairement
plutôt que de la déduire."

Cette dernière contrainte réduit directement le risque d'hallucination sur ce prompt précis.

Structurer la sortie avec un format explicite

"Analyse ce ticket support et réponds STRICTEMENT dans ce format :

Catégorie : [réseau/matériel/logiciel/compte]
Priorité : [basse/moyenne/haute/critique]
Résumé : [une phrase]
Action recommandée : [une phrase]"

Un format strict facilite le traitement automatisé de la réponse (par un script, par exemple) et réduit la variabilité entre plusieurs exécutions.

Vérifier la cohérence entre plusieurs modèles

Sur une tâche critique, comparer la réponse de deux modèles différents (par exemple Claude et GPT, ou Gemini et Mistral) sur le même prompt peut révéler des divergences qui signalent une zone d'incertitude, un signal utile avant de faire confiance à une seule réponse.

Cas concret

Une équipe automatise le tri de tickets support via un script qui appelle un modèle d'IA et parse sa réponse. Sans format de sortie strict, le modèle varie parfois sa structure de réponse (une liste ici, un paragraphe là), cassant le script de parsing automatique. Imposer un format rigide (JSON ou structure fixe) dans le prompt rend le traitement automatisé fiable.

Erreurs fréquentes

• Ne définir aucune contrainte de format pour une réponse destinée à être traitée automatiquement par un script, causant des erreurs de parsing imprévisibles.
• Ne jamais inclure de contrainte anti-hallucination explicite ("ne pas inventer", "indiquer si l'information est absente") sur des tâches factuelles sensibles.
• Faire confiance à une seule réponse d'un seul modèle sur une décision critique sans recouper avec une autre source ou un second modèle.

À retenir

• Les contraintes négatives ("ne pas faire X") sont aussi utiles que les instructions positives, notamment contre les hallucinations.
• Un format de sortie strict est indispensable dès qu'une réponse doit être traitée automatiquement par un script.
• Comparer les réponses de plusieurs modèles sur une tâche critique révèle les zones d'incertitude.

Mini-exercice

Un script doit extraire automatiquement la priorité d'un ticket depuis la réponse d'un modèle d'IA. Quelle instruction ajouter au prompt pour fiabiliser ce traitement automatisé ?

Réponse : imposer un format de sortie strict et prévisible (ex. "réponds uniquement avec un mot parmi : basse, moyenne, haute, critique, sans phrase autour"), garantissant que le script puisse parser la réponse de façon fiable à chaque exécution.