Por qué la IA alucina con las preguntas regulatorias (y cómo evitarlo)

Plantee una pregunta regulatoria a una IA generalista y el peligro no es que se niegue a responder. El peligro es que responda de forma brillante, y errónea. Citará el número de un reglamento, le dará un resumen seguro de sí mismo y seguirá adelante, sin ninguna señal de que todo eso ha sido inventado. En una lluvia de ideas es inofensivo. En un expediente de cumplimiento, es un problema del que se le puede pedir cuentas.

Este artículo explica por qué la IA alucina precisamente con las preguntas regulatorias y jurídicas, los modos de fallo que hay que vigilar, por qué "redactar el prompt con más cuidado" no lo arregla, y la única cosa que sí lo hace.

Qué es realmente una alucinación

Un gran modelo de lenguaje está entrenado para producir las siguientes palabras más plausibles, no para recuperar hechos verificados. Ha aprendido la forma que tiene una respuesta regulatoria: una autoridad, el número de un reglamento, una fecha, un artículo. Cuando usted formula una pregunta, genera texto con esa forma, existan o no los datos concretos. El resultado es fluido precisamente porque la fluidez es lo que optimiza. La exactitud es un efecto secundario, no una garantía.

Por eso una cita alucinada tiene exactamente el mismo aspecto que una real. El modelo no miente en ningún sentido deliberado. Completa patrones, y un número de reglamento de apariencia plausible es una excelente compleción de patrón.

Por qué la regulación es especialmente propensa

Tres rasgos del trabajo regulatorio lo convierten en el peor escenario posible para un modelo sin anclaje.

La precisión no es negociable

La mayoría de las preguntas toleran una respuesta aproximada. La regulación no. El artículo exacto, el umbral exacto, la fecha de aplicación exacta: eso es la respuesta. Un modelo que acierta "más o menos" le ha dicho, en la práctica, algo falso, porque en cumplimiento son los detalles los que llevan aparejada la obligación.

La verdad cambia constantemente

Un modelo conoce el mundo hasta su fecha de corte de entrenamiento. La regulación se mueve cada semana: se abren y se cierran consultas, se modifican umbrales, se desplazan plazos, se derogan textos. Preguntado por "lo último", el modelo describe una instantánea congelada del pasado y la presenta como actual.

El estatus es invisible en la prosa

El dato más importante sobre cualquier norma es su estatus: propuesta, consulta, adoptada o en vigor. Ese estatus es un metadato, no algo que quede codificado de forma fiable en la prosa con la que se entrenó el modelo. Por eso resumirá un borrador y una obligación vinculante con la misma voz segura.

El modelo no es malo con el lenguaje. Le falta lo único de lo que vive el trabajo regulatorio: un registro verificado, actualizado y estructurado de lo que dice la norma y de en qué punto se encuentra.

Los cuatro modos de fallo que hay que vigilar

• Citas fabricadas. Un reglamento, un artículo o un número de asunto que parece correcto y no existe, o que no dice lo que el modelo afirma.
• Texto desactualizado. Una respuesta que era cierta hace un año, presentada sin ninguna indicación de que ha cambiado desde entonces.
• Borrador tratado como ley. Una medida propuesta descrita como si ya fuera vinculante, o viceversa.
• Mezcla de jurisdicciones. Normas de una jurisdicción mezcladas discretamente con las de otra, porque el modelo emparejó patrones entre regímenes similares.

Por qué "redactar el prompt con más cuidado" no lo arregla

El reflejo habitual es dar instrucciones al modelo: "cita solo fuentes reales", "no inventes nada", "dime si no estás seguro". Esto ayuda en el margen y falla en el fondo. El modelo no puede comprobar una cita a la que no tiene acceso, y no puede saber que sus datos de entrenamiento están desfasados. Pedirle que sea cuidadoso no le da los datos que le faltan. Está pidiendo a un sistema sin conexión en vivo con la fuente de la verdad que se vigile a sí mismo frente a una laguna que no puede ver.

Lo mismo se aplica a un modelo más grande o más nuevo. Un razonador más capaz razona mejor sobre los datos que tiene. Si esos datos están desfasados y no son verificables, un mejor razonamiento produce una respuesta errónea más convincente, no una respuesta correcta.

La solución: anclar el modelo en datos verificados

La alucinación no se resuelve cambiando de modelo. Se resuelve cambiando aquello a lo que el modelo puede acceder. Cuando un asistente puede consultar una fuente en vivo, autorizada y estructurada en el momento mismo de la pregunta, deja de adivinar y empieza a recuperar. La respuesta lleva una fuente real, una fecha real y un estatus real, porque salieron de los datos, no de la imaginación del modelo.

Esto replantea todo el problema, y es el corazón de la inteligencia regulatoria agéntica: usted ya tiene la inteligencia en el asistente de su elección, lo que le falta son los datos. Aporte una capa de datos regulatorios verificados y los modos de fallo anteriores desaparecen en gran medida, porque el modelo deja de ser la fuente de los hechos.

Cómo es una respuesta anclada

La diferencia se ve en una sola respuesta. Sin anclaje, obtiene un párrafo seguro de sí mismo, una cita que no puede verificar y ninguna fecha. Con anclaje, obtiene la acción concreta, la fuente oficial, la fecha exacta, el estatus actual y un enlace. La segunda respuesta es la que podría reenviar a su auditor sin comprobarla usted primero, que es justamente de lo que se trata.

Para el mecanismo que permite a un asistente llegar a esos datos, consulte RAG vs MCP para la IA regulatoria. Para entender por qué importa la fuente de esos datos, consulte qué significa un dato regulatorio tier-0.

La conclusión

La IA alucina con la regulación porque está construida para sonar correcta, mientras que el cumplimiento exige estar en lo correcto, con pruebas. El modelo no es el problema que hay que arreglar. Lo es la capa de datos verificados que falta. Dele a su asistente esa capa y la respuesta segura pero errónea deja de ser un riesgo que usted asume.