Stellen Sie einer Allzweck-KI eine regulatorische Frage, und die Gefahr ist nicht, dass sie die Antwort verweigert. Die Gefahr ist, dass sie brillant antwortet, und falsch. Sie nennt eine Verordnungsnummer, liefert eine selbstsichere Zusammenfassung und geht zum nächsten Punkt über, ohne jedes Signal, dass all das erfunden wurde. In einem Brainstorming ist das harmlos. In einer Compliance-Akte ist es ein Problem, für das Sie zur Verantwortung gezogen werden können.

Dieser Artikel erklärt, warum KI gerade bei regulatorischen und rechtlichen Fragen halluziniert, welche Fehlermuster Sie kennen sollten, warum "sorgfältigeres Prompten" das Problem nicht löst, und was es tatsächlich löst.

Was eine Halluzination wirklich ist

Ein großes Sprachmodell ist darauf trainiert, die plausibelsten nächsten Wörter zu erzeugen, nicht darauf, verifizierte Fakten abzurufen. Es hat die Form gelernt, in der eine regulatorische Antwort klingt: eine Behörde, eine Verordnungsnummer, ein Datum, ein Artikel. Wenn Sie eine Frage stellen, erzeugt es Text in dieser Form, ob die konkreten Fakten nun existieren oder nicht. Die Ausgabe ist gerade deshalb flüssig, weil Flüssigkeit das ist, worauf das Modell optimiert. Genauigkeit ist ein Nebeneffekt, keine Garantie.

Deshalb sieht ein halluziniertes Zitat exakt wie ein echtes aus. Das Modell lügt nicht in einem absichtlichen Sinn. Es vervollständigt Muster, und eine plausibel aussehende Verordnungsnummer ist eine sehr gute Mustervervollständigung.

Warum Regulierung besonders anfällig ist

Drei Eigenschaften der regulatorischen Arbeit machen sie zum Worst-Case-Szenario für ein Modell ohne Verankerung.

Präzision ist nicht verhandelbar

Die meisten Fragen vertragen eine ungefähre Antwort. Regulierung nicht. Der exakte Artikel, der exakte Schwellenwert, das exakte Geltungsdatum: das ist die Antwort. Ein Modell, das "ungefähr richtig" liegt, hat Ihnen in der Praxis etwas Falsches gesagt, denn in der Compliance tragen die Details die Pflicht.

Die Wahrheit ändert sich ständig

Ein Modell kennt die Welt bis zu seinem Trainingsstichtag. Regulierung bewegt sich jede Woche: Konsultationen öffnen und schließen, Schwellenwerte werden geändert, Fristen verschieben sich, Texte werden aufgehoben. Nach "dem Neuesten" gefragt, beschreibt das Modell eine eingefrorene Momentaufnahme der Vergangenheit und präsentiert sie als aktuell.

Der Status ist im Fließtext unsichtbar

Die wichtigste Information zu jeder Vorschrift ist ihr Status: Vorschlag, Konsultation, verabschiedet oder in Kraft. Dieser Status ist eine Metainformation, nichts, was in dem Fließtext, mit dem ein Modell trainiert wurde, zuverlässig kodiert ist. Es fasst deshalb einen Entwurf und eine verbindliche Pflicht mit derselben selbstsicheren Stimme zusammen.

Das Modell ist nicht schlecht in Sprache. Ihm fehlt das Eine, wovon regulatorische Arbeit lebt: ein verifiziertes, aktuelles, strukturiertes Verzeichnis dessen, was die Vorschrift sagt und wo sie steht.

Die vier Fehlermuster, auf die Sie achten sollten

  • Erfundene Zitate. Eine Verordnung, ein Artikel oder ein Aktenzeichen, das richtig aussieht und nicht existiert, oder nicht das besagt, was das Modell behauptet.
  • Veralteter Text. Eine Antwort, die vor einem Jahr richtig war, präsentiert ohne jeden Hinweis darauf, dass sie sich seither geändert hat.
  • Entwurf als Gesetz behandelt. Eine vorgeschlagene Maßnahme, beschrieben, als wäre sie bereits verbindlich, oder umgekehrt.
  • Vermischung von Rechtsräumen. Vorschriften eines Rechtsraums, die stillschweigend mit denen eines anderen vermengt werden, weil das Modell Muster über ähnliche Regime hinweg abgeglichen hat.

Warum "sorgfältigeres Prompten" das Problem nicht löst

Der übliche Reflex ist, das Modell anzuweisen: "zitiere nur echte Quellen", "erfinde nichts", "sag mir, wenn du unsicher bist". Das hilft am Rand und scheitert im Kern. Das Modell kann ein Zitat nicht prüfen, auf das es keinen Zugriff hat, und es kann nicht wissen, dass seine Trainingsdaten veraltet sind. Es zur Sorgfalt aufzufordern gibt ihm die fehlenden Fakten nicht. Sie verlangen von einem System ohne Live-Verbindung zur Quelle der Wahrheit, sich selbst gegen eine Lücke abzusichern, die es nicht sehen kann.

Dasselbe gilt für ein größeres oder neueres Modell. Ein fähigerer Denker denkt besser über die Daten nach, die er hat. Sind diese Daten veraltet und nicht überprüfbar, erzeugt besseres Denken eine überzeugendere falsche Antwort, keine richtige.

Die Lösung: das Modell in verifizierten Daten verankern

Halluzination wird nicht gelöst, indem man das Modell wechselt. Sie wird gelöst, indem man ändert, worauf das Modell zugreifen kann. Wenn ein Assistent im Moment der Frage eine aktuelle, maßgebliche, strukturierte Quelle abfragen kann, hört er auf zu raten und beginnt abzurufen. Die Antwort trägt eine echte Quelle, ein echtes Datum und einen echten Status, weil diese aus den Daten stammen, nicht aus der Vorstellung des Modells.

Das stellt das ganze Problem neu, und genau das ist der Kern der agentischen Regulatory Intelligence: Die Intelligenz haben Sie bereits im Assistenten Ihrer Wahl, was ihm fehlt, sind die Daten. Stellen Sie eine verifizierte regulatorische Datenschicht bereit, und die oben beschriebenen Fehlermuster verschwinden weitgehend, weil das Modell nicht mehr die Quelle der Fakten ist.

Verhindern Sie, dass Ihr Assistent bei Regulierung rät

Verbinden Sie Obsidians verifizierte tier-0 Regulierungsdaten mit Claude, ChatGPT oder Cursor und erhalten Sie Antworten mit echter Quelle, Datum und Status. Kostenloser Tarif, Einrichtung in zwei Minuten.

Den Obsidian MCP entdecken

Wie eine verankerte Antwort aussieht

Der Unterschied zeigt sich in einer einzigen Antwort. Ohne Verankerung erhalten Sie einen selbstsicheren Absatz, ein Zitat, das Sie nicht überprüfen können, und kein Datum. Mit Verankerung erhalten Sie die konkrete Maßnahme, die offizielle Quelle, das exakte Datum, den aktuellen Status und einen Link. Die zweite Antwort ist eine, die Sie an Ihren Auditor weiterleiten könnten, ohne sie vorher selbst zu prüfen, und genau darum geht es.

Zum Mechanismus, der einem Assistenten den Zugriff auf diese Daten ermöglicht, siehe RAG vs MCP für regulatorische KI. Warum die Quelle dieser Daten zählt, erklärt was tier-0 Regulierungsdaten bedeuten.

Das Fazit

KI halluziniert bei Regulierung, weil sie darauf gebaut ist, richtig zu klingen, während Compliance verlangt, richtig zu liegen, mit Belegen. Nicht das Modell ist das Problem, das es zu beheben gilt. Es ist die fehlende verifizierte Datenschicht. Geben Sie Ihrem Assistenten diese Schicht, und die selbstsichere, aber falsche Antwort ist kein Risiko mehr, das Sie tragen.