IA con trazabilidad: cómo saber de dónde sale cada dato

Cuando un sistema de inteligencia artificial redacta un informe o resume un expediente, la persona que firma el documento necesita poder contestar a una pregunta sencilla sobre cada cifra y cada afirmación: de dónde sale. Si la respuesta es «lo ha escrito la IA», el documento no se puede defender ante un cliente, un auditor o un comité.

Este artículo explica qué es la trazabilidad en un sistema de IA, qué mecanismos la hacen posible y qué relación tiene con el Reglamento europeo de IA.

Qué es la trazabilidad en un sistema de IA

La trazabilidad en un sistema de IA es la capacidad de reconstruir, para cualquier resultado, qué fuentes se usaron, qué versión de cada documento estaba vigente, qué pasos dio el sistema y qué personas lo revisaron o aprobaron. Un resultado trazable puede auditarse sin depender de la memoria de quien lo produjo.

El concepto viene de sectores como la alimentación o la industria, donde cada lote se puede seguir hasta su origen. En un sistema de IA, el «lote» es una afirmación dentro de un documento.

Por qué importa en el uso empresarial

Los modelos de lenguaje pueden generar afirmaciones plausibles que no están respaldadas por ninguna fuente. En un borrador interno eso es una molestia. En una oferta, un informe técnico o un expediente administrativo puede acarrear consecuencias formales, económicas o de reputación.

La trazabilidad responde a cuatro necesidades de cualquier empresa que use IA en procesos con documentos y decisiones:

• Responsabilidad. Quien firma un documento responde de su contenido y necesita saber en qué se apoya cada dato.
• Coste de revisión. Un texto sin fuentes obliga al revisor a rehacer la investigación. Con la fuente enlazada, la revisión consiste en abrir el documento citado y confirmar el pasaje.
• Aprendizaje. Cuando algo falla, el registro permite saber si el error estaba en la fuente, en una versión antigua o en el paso del sistema que la interpretó.
• Auditoría. Clientes, auditores y reguladores piden cada vez más evidencias de cómo se produjo un resultado.

Seis mecanismos de trazabilidad explicados para dirección

Un sistema de IA trazable combina varios mecanismos sencillos, cada uno de los cuales responde a una pregunta concreta. La tabla los resume y las secciones siguientes los explican.

Enlace a la fuente en cada afirmación

Cada afirmación del resultado lleva una referencia al documento, la página o el apartado del que procede, y el revisor puede abrirla con un clic. Si una afirmación no tiene fuente, el sistema la marca como no respaldada para que no pase inadvertida.

Versionado de fuentes y resultados

Los contratos, las políticas internas y las fichas técnicas cambian. El versionado guarda cada versión de las fuentes y de los resultados, de modo que siempre se puede saber con qué versión de un documento se generó un texto y qué cambió entre un borrador y el siguiente.

Registro de actividad

El registro de actividad anota, con fecha y usuario, cada consulta, cada generación, cada edición y cada aprobación. Sirve para auditorías y también para mejorar el sistema, porque muestra dónde se corrigen más resultados.

Marcadores de dato pendiente

Cuando el sistema no encuentra un dato en las fuentes autorizadas, deja un marcador visible, por ejemplo «[PENDIENTE: fecha de vigencia del contrato]», y lo añade a la lista de tareas del revisor. Un hueco señalado se resuelve en minutos. Un dato inventado con apariencia verosímil puede pasar todas las revisiones.

Comprobaciones deterministas basadas en reglas

Para las revisiones críticas (importes, plazos, fechas, campos obligatorios o coherencia entre documentos) conviene usar reglas programadas, que dan siempre el mismo resultado ante la misma entrada. El modelo de lenguaje puede ayudar a localizar el dato en un documento largo; la regla comprueba después si cumple el requisito. Esta separación hace que las comprobaciones importantes sean repetibles y explicables.

Aprobación humana

Un resultado no pasa a estado definitivo hasta que una persona con permiso lo aprueba. El sistema guarda quién firmó, cuándo y sobre qué versión. La decisión final la toma el equipo, y el sistema deja constancia de quién la tomó.

Qué dice el Reglamento europeo de IA

El Reglamento (UE) 2024/1689 de Inteligencia Artificial exige a los sistemas de IA clasificados como de alto riesgo, entre otras obligaciones, el registro de actividad y la supervisión humana. El artículo 12 establece que estos sistemas deben permitir técnicamente el registro automático de eventos durante todo su ciclo de vida. El artículo 14 exige que se diseñen para que personas físicas puedan supervisarlos de forma efectiva, lo que incluye poder decidir no usar el sistema o descartar su resultado.

Las fechas de aplicación se modificaron en 2026. Según la Comisión Europea (2026), tras la entrada en vigor del llamado «Omnibus digital» sobre IA, las normas para los sistemas de alto riesgo del anexo III se aplican desde el 2 de diciembre de 2027, y las de los sistemas integrados en productos del anexo I, desde el 2 de agosto de 2028.

Que un sistema concreto sea de alto riesgo depende de su finalidad y de su contexto de uso. El anexo III incluye ámbitos como el empleo, la educación o las infraestructuras críticas. Muchos usos empresariales sobre documentos no entrarán en esa categoría, y la clasificación de cada caso debe analizarse con asesoramiento jurídico. Este artículo tiene carácter informativo y no constituye asesoramiento legal.

Con independencia de la clasificación, los mecanismos descritos aquí facilitan responder a una auditoría interna o a la pregunta de un cliente sobre cómo se obtuvo un resultado. Por sí solos no garantizan el cumplimiento de ninguna norma.

Cómo incorporar trazabilidad a un sistema existente

La trazabilidad se puede introducir por fases, empezando por los resultados que alguien firma. Estos cinco pasos ordenan el trabajo.

1. Identificar los resultados de IA que acaban en un documento firmado o en una decisión con efectos económicos.
2. Exigir enlace a la fuente para cada afirmación de esos resultados y marcar como no respaldadas las que no lo tengan.
3. Activar el versionado de fuentes y resultados y un registro de actividad con fecha y usuario.
4. Traducir los requisitos críticos (importes, plazos, campos obligatorios) a reglas deterministas.
5. Definir quién aprueba cada tipo de resultado y bloquear el paso a definitivo sin esa aprobación.

La trazabilidad se diseña desde el principio

Añadir fuentes, versiones y registros a un sistema que ya está en uso es posible, pero resulta más caro que preverlos desde el diseño, porque obliga a reconstruir información que nunca se guardó. Adoq AI incorpora estos mecanismos desde la primera versión de cada sistema, con evidencias enlazadas, control de versiones, auditoría de acciones y aprobación humana antes de dar un resultado por definitivo.