Artículo 14 del AI Act: cómo demostrar la supervisión humana

Aprobar no es supervisar.

16 de noviembre de 2026Lectura: 7 min
Respuesta corta

El artículo 14 del Reglamento (UE) 2024/1689 obliga a que los sistemas de IA de alto riesgo puedan ser vigilados por personas que entienden lo que hace el sistema, detectan cuándo se están fiando demasiado de él, saben interpretar su resultado y pueden ignorarlo o pararlo. Para demostrarlo no basta con un registro que diga «aprobado». Hay que poder reconstruir cada decisión: quién la revisó, qué vio, cuándo y si de verdad podía decir que no.

Piense en un flujo de aprobación típico: un botón verde, un nombre y una fecha. Ahora pregúntese qué vio esa persona antes de pulsar. Si la respuesta es «no lo sabemos», ese es el hueco que este artículo intenta cerrar.

Qué dice el artículo 14, en cristiano

  1. 14.1El sistema de alto riesgo debe diseñarse para que personas físicas lo puedan vigilar de forma efectiva mientras se usa, incluso con herramientas de interfaz adecuadas.
  2. 14.2El objetivo es prevenir o reducir riesgos para la salud, la seguridad o los derechos fundamentales, también cuando el sistema se usa mal de forma previsible.
  3. 14.3Las medidas deben ser proporcionales al riesgo, a la autonomía del sistema y al contexto. Las integra el proveedor o las aplica quien lo despliega.
  4. 14.4La persona que supervisa debe poder: a) entender las capacidades y los límites del sistema y detectar anomalías; b) ser consciente del sesgo de automatización, la tentación de fiarse sin pensar; c) interpretar bien el resultado; d) decidir no usarlo, ignorarlo, anularlo o revertirlo; e) intervenir o detener el sistema con un botón de parada o algo equivalente.
  5. 14.5En identificación biométrica remota, ninguna decisión se toma sin que la verifiquen por separado al menos dos personas competentes.

Quién tiene que hacer qué

Proveedor
Diseña el freno

Diseña el sistema para que se pueda supervisar (art. 14) y guarda registros automáticos de su funcionamiento (art. 12).

Responsable del despliegue (su empresa)
Demuestra que alguien podía frenar

Asigna la supervisión a personas con competencia, formación y autoridad (art. 26.2) y conserva los registros al menos seis meses (art. 26.6).

Cuándo aplica

Ya hoy · España
CGPJ, Instrucción 2/2026

Control humano obligatorio sobre la IA en la Justicia. Ver análisis

2 dic. 2027
Alto riesgo · Anexo III

Empleo, crédito, servicios esenciales, educación. Fecha tras el Digital Omnibus.

Ago. 2028
Alto riesgo · Anexo I

IA integrada en productos regulados.

Las empresas que esperen a 2027 llegarán tarde a su propia auditoría.

Qué evidencia necesita, requisito a requisito

RequisitoEvidenciaCómo hacerla verificable
Entender el sistema14.4.aFormación de la persona, documentación de uso recibida y versión del modelo vigente ese día.Sellar la versión del modelo y la ficha de formación con fecha cierta.
Sesgo de automatización14.4.bTasa de anulaciones, tiempo por revisión, alertas de aprobación en bloque.Registrar esas métricas donde nadie pueda reescribirlas después.
Interpretar el resultado14.4.cLo que vio en pantalla: entrada, resultado y puntuación de confianza.Guardar una huella criptográfica de ese contexto, no solo el «OK».
No usarlo o anularlo14.4.dLa decisión, el motivo y quién la tomó.Firma de la persona y sello de tiempo.
Intervenir o parar14.4.eQue la parada existía y funcionaba, y cada vez que se usó.Registro sellado de pruebas periódicas de la parada.

Las cinco preguntas que le hará un auditor

  1. 1¿Quién supervisó esta decisión y tenía autoridad para pararla?
  2. 2¿Qué información tenía delante cuando decidió?
  3. 3¿Qué versión del modelo estaba en producción ese día?
  4. 4¿Cuántas veces su equipo ha dicho que no al sistema este trimestre?
  5. 5¿Puede demostrar que estos registros no se han tocado desde entonces?

Si la quinta pregunta le incomoda, no está solo. La mayoría de registros viven en el mismo sistema que se quiere auditar, y quien lo administra los puede editar.

Errores habituales

Aprobar en bloque cien decisiones con un clic. Un «human in the loop» que nunca ha anulado nada. Registros en una hoja de cálculo compartida. Formación sin fecha ni firma. Y la más cara: nadie sabe quién puede parar el sistema un viernes por la tarde.

Un ejemplo: scoring de crédito

Vio
Puntuación, 3 factores, confianza
Decidió
Anular la recomendación
Motivo
Ingresos mal leídos por el modelo
Cuándo
Fecha y hora selladas

Un banco usa un modelo para puntuar solicitudes de crédito, un caso de alto riesgo del Anexo III. La analista ve la puntuación, los tres factores que más pesan y el nivel de confianza. Rechaza la recomendación porque el cliente tiene ingresos que el sistema no ha leído bien. Ese momento, con lo que vio, su decisión, su motivo y la hora, es lo que hay que poder enseñar dos años después. Lo explicamos paso a paso en el caso práctico de gobernanza de IA de alto riesgo.

Preguntas frecuentes

¿Vale una casilla de «aprobado»?

Sola, no. Demuestra que alguien hizo clic, no que pudo entender y parar el sistema.

¿Cuánto tiempo hay que guardar los registros?

Al menos seis meses según el artículo 26.6, salvo que otra norma, como la del sector financiero, pida más.

¿Aplica a la IA generativa?

Solo si se usa en un caso de alto riesgo. Un chatbot de atención al cliente no lo es. Un modelo que filtra candidatos, sí.

¿Y a los agentes de IA?

Sí, si actúan en un ámbito de alto riesgo. Con agentes es aún más importante registrar qué podían hacer y quién autorizó cada acción.

Fuentes

Reglamento (UE) 2024/1689, arts. 12, 14 y 26 (EUR-Lex) · CGPJ, Instrucción 2/2026 (análisis en el Journal) · V-PROOF: calendario de aplicación del EU AI Act y Digital Omnibus.

Siguiente
Siguiente

Ratio IA/humano: qué es y cómo demostrarlo en una auditoría