Comment cadrer un agent IA pour éviter les hallucinations

Les hallucinations des modèles de langage, c'est quand un LLM invente une information qu'il présente comme vraie. Pour un usage grand public, c'est gênant. Pour un agent déployé dans une entreprise, c'est un risque opérationnel réel. La bonne nouvelle : c'est largement évitable avec un bon cadrage.

Pourquoi un LLM hallucine

Un LLM n'a pas de mémoire des faits. Il génère des tokens (morceaux de texte) en fonction des patterns qu'il a appris. Quand on lui pose une question sur des faits précis qu'il ne connaît pas (vos tarifs, vos délais, votre politique de retour), il fait ce pour quoi il est entraîné : produire une réponse plausible. Pas forcément vraie, mais plausible.

La solution n'est pas de changer le modèle. C'est de changer la façon dont on lui fournit l'information et dont on délimite son périmètre.

Les quatre leviers du cadrage

1. Les instructions système (system prompt)

Le system prompt est la première chose que le modèle lit avant toute conversation. C'est là qu'on définit : son rôle exact ("tu es l'assistant commercial de l'entreprise X"), ce qu'il peut dire, ce qu'il ne doit jamais dire, le ton à adopter, et les situations qui nécessitent une escalade vers un humain.

Un system prompt bien écrit est la pièce la plus importante d'un agent fiable. Il doit être explicite, pas implicite : "ne donne jamais de tarif précis sans consulter la base de données" plutôt que "reste professionnel".

2. Le contexte fourni (RAG)

RAG signifie Retrieval-Augmented Generation. Le principe : à chaque question de l'utilisateur, le système recherche dans votre base documentaire les passages pertinents et les injecte dans le contexte du modèle avant qu'il réponde.

Résultat : le modèle répond à partir de vos documents réels, pas de ses connaissances générales. Si la réponse n'est pas dans vos documents, il doit l'indiquer clairement plutôt qu'inventer.

3. La délimitation du périmètre

Un agent doit savoir ce qui est dans son périmètre et ce qui ne l'est pas. Si un visiteur pose une question sur un sujet hors périmètre (médical, juridique, concurrent), l'agent doit l'indiquer clairement et orienter vers un humain ou une ressource adaptée.

Cette délimitation se construit dans les instructions système et se teste avec des scénarios adversariaux : qu'est-ce que des utilisateurs pourraient demander que l'agent ne devrait pas traiter ?

4. Les tests et l'itération

Un agent n'est pas fiable parce qu'on l'a configuré. Il devient fiable parce qu'on l'a testé sur des centaines de cas réels et qu'on a corrigé les écarts. Le cadrage initial est un point de départ, pas une garantie.

Les garde-fous complémentaires

Le circuit d'escalade : pour toute question sensible (plainte, demande juridique, situation inhabituelle), l'agent doit passer la main à un humain plutôt que de tenter de répondre.

La journalisation des conversations : enregistrer les échanges permet d'identifier les cas où l'agent sort de son périmètre et de corriger le cadrage en conséquence.

Les sources citées : demander à l'agent de toujours indiquer d'où vient son information ("selon votre fiche produit") réduit la confiance accordée aux réponses non sourcées.

Ce que ça donne en pratique

Un agent bien cadré peut répondre à 80 à 90% des questions courantes de manière fiable. Pour les 10 à 20% restants, il oriente vers un humain. Ce n'est pas de la perfection, mais c'est une fiabilité opérationnelle réelle.

L'objectif n'est pas un agent infaillible. C'est un agent dont on sait précisément ce qu'il peut et ne peut pas faire.

Voir comment on cadre nos agents IA métier ou discuter de votre projet.