Pourquoi l'IA hallucine sur les questions réglementaires (et comment y mettre fin)

Posez une question réglementaire à une IA généraliste et le danger n'est pas qu'elle refuse de répondre. Le danger, c'est qu'elle réponde brillamment, et faux. Elle citera un numéro de règlement, vous donnera un résumé assuré, puis passera à autre chose, sans le moindre signal indiquant que tout cela a été inventé. Dans un brainstorming, c'est sans conséquence. Dans un dossier de conformité, c'est un problème dont vous pouvez être tenu responsable.

Cet article explique pourquoi l'IA hallucine précisément sur les questions réglementaires et juridiques, les modes de défaillance à surveiller, pourquoi "rédiger un prompt plus soigné" ne résout rien, et la seule chose qui fonctionne.

Ce qu'est réellement une hallucination

Un grand modèle de langage est entraîné à produire les mots suivants les plus plausibles, pas à retrouver des faits vérifiés. Il a appris la forme d'une réponse réglementaire : une autorité, un numéro de règlement, une date, un article. Quand vous posez une question, il génère un texte dans cette forme, que les faits précis existent ou non. La réponse est fluide justement parce que la fluidité est ce qu'il optimise. L'exactitude est un effet secondaire, pas une garantie.

C'est pourquoi une citation hallucinée ressemble exactement à une vraie. Le modèle ne ment pas au sens délibéré du terme. Il complète des motifs, et un numéro de règlement d'apparence plausible est une excellente complétion de motif.

Pourquoi la réglementation y est particulièrement exposée

Trois caractéristiques du travail réglementaire en font le pire scénario possible pour un modèle sans ancrage.

La précision n'est pas négociable

La plupart des questions tolèrent une réponse approximative. Pas la réglementation. L'article exact, le seuil exact, la date d'entrée en vigueur exacte : c'est cela, la réponse. Un modèle qui est "à peu près juste" vous a, en pratique, dit quelque chose de faux, car en conformité ce sont les détails qui portent l'obligation.

La vérité change en permanence

Un modèle connaît le monde jusqu'à sa date de coupure d'entraînement. La réglementation bouge chaque semaine : des consultations ouvrent et ferment, des seuils sont modifiés, des échéances glissent, des textes sont abrogés. Interrogé sur "les dernières nouveautés", le modèle décrit un instantané figé du passé et le présente comme actuel.

Le statut est invisible dans la prose

Le fait le plus important concernant n'importe quelle règle est son statut : proposition, consultation, adoptée ou en vigueur. Ce statut est une métadonnée, pas quelque chose d'encodé de façon fiable dans la prose sur laquelle un modèle a été entraîné. Il résumera donc un projet de texte et une obligation contraignante avec la même voix assurée.

Le modèle n'est pas mauvais en langage. Il lui manque la seule chose dont vit le travail réglementaire : un registre vérifié, à jour et structuré de ce que dit la règle et de son statut.

Les quatre modes de défaillance à surveiller

• Citations fabriquées. Un règlement, un article ou un numéro d'affaire qui semble correct et n'existe pas, ou ne dit pas ce que le modèle affirme.
• Texte obsolète. Une réponse qui était vraie il y a un an, présentée sans aucune indication qu'elle a changé depuis.
• Projet traité comme du droit. Une mesure proposée décrite comme si elle était déjà contraignante, ou l'inverse.
• Mélange de juridictions. Des règles d'une juridiction discrètement mêlées à celles d'une autre, parce que le modèle a fait des rapprochements entre régimes similaires.

Pourquoi "rédiger un prompt plus soigné" ne résout rien

Le réflexe courant est d'instruire le modèle : "ne cite que des sources réelles", "n'invente rien", "dis-moi si tu n'es pas sûr". Cela aide à la marge et échoue sur le fond. Le modèle ne peut pas vérifier une citation à laquelle il n'a pas accès, et il ne peut pas savoir que ses données d'entraînement sont périmées. Lui demander d'être prudent ne lui donne pas les faits manquants. Vous demandez à un système sans connexion en direct à la source de vérité de se surveiller lui-même face à une lacune qu'il ne peut pas voir.

Il en va de même pour un modèle plus grand ou plus récent. Un raisonneur plus capable raisonne mieux sur les données dont il dispose. Si ces données sont périmées et invérifiables, un meilleur raisonnement produit une mauvaise réponse plus convaincante, pas une réponse correcte.

La solution : ancrer le modèle dans des données vérifiées

L'hallucination ne se résout pas en changeant de modèle. Elle se résout en changeant ce que le modèle peut atteindre. Quand un assistant peut interroger une source en direct, faisant autorité et structurée au moment même de la question, il cesse de deviner et se met à récupérer. La réponse porte une vraie source, une vraie date et un vrai statut, parce qu'ils proviennent des données, pas de l'imagination du modèle.

Cela reformule tout le problème, et c'est le cœur de l'intelligence réglementaire agentique : vous avez déjà l'intelligence dans l'assistant de votre choix, ce qui lui manque, ce sont les données. Fournissez une couche de données réglementaires vérifiées et les modes de défaillance ci-dessus disparaissent en grande partie, parce que le modèle n'est plus la source des faits.

À quoi ressemble une réponse ancrée

La différence se voit dans une seule réponse. Sans ancrage, vous obtenez un paragraphe assuré, une citation que vous ne pouvez pas vérifier et aucune date. Avec ancrage, vous obtenez l'action précise, la source officielle, la date exacte, le statut actuel et un lien. La seconde réponse est celle que vous pourriez transmettre à votre auditeur sans la vérifier vous-même au préalable, ce qui est tout l'intérêt.

Pour le mécanisme qui permet à un assistant d'atteindre ces données, voir RAG vs MCP pour l'IA réglementaire. Pour comprendre pourquoi la source de ces données compte, voir ce que signifie une donnée réglementaire tier-0.

Ce qu'il faut retenir

L'IA hallucine sur la réglementation parce qu'elle est construite pour sembler juste, alors que la conformité exige d'être juste, preuves à l'appui. Le modèle n'est pas le problème à corriger. C'est la couche de données vérifiées manquante qui l'est. Donnez cette couche à votre assistant et la réponse assurée mais fausse cesse d'être un risque que vous portez.