Aprovar no és supervisar.
L'article 14 del Reglament (UE) 2024/1689 obliga que els sistemes d'IA d'alt risc puguin ser vigilats per persones que entenen el que fa el sistema, detecten quan se n'estan fiant massa, saben interpretar-ne el resultat i poden ignorar-lo o aturar-lo. Per demostrar-ho no n'hi ha prou amb un registre que digui «aprovat». Cal poder reconstruir cada decisió: qui la va revisar, què va veure, quan i si de debò podia dir que no.
Penseu en un flux d'aprovació típic: un botó verd, un nom i una data. Ara pregunteu-vos què va veure aquesta persona abans de prémer. Si la resposta és «no ho sabem», aquest és el buit que aquest article intenta tancar.
Què diu l'article 14, en cristià
- 14.1 El sistema d'alt risc s'ha de dissenyar perquè persones físiques el puguin vigilar de manera efectiva mentre es fa servir, fins i tot amb eines d'interfície adequades.
- 14.2 L'objectiu és prevenir o reduir riscos per a la salut, la seguretat o els drets fonamentals, també quan el sistema s'usa malament de manera previsible.
- 14.3 Les mesures han de ser proporcionals al risc, a l'autonomia del sistema i al context. Les integra el proveïdor o les aplica qui el desplega.
- 14.4 La persona que supervisa ha de poder: a) entendre les capacitats i els límits del sistema i detectar anomalies; b) ser conscient del biaix d'automatització, la temptació de refiar-se sense pensar; c) interpretar bé el resultat; d) decidir no fer-lo servir, ignorar-lo, anul·lar-lo o revertir-lo; e) intervenir o aturar el sistema amb un botó de parada o alguna cosa equivalent.
- 14.5 En identificació biomètrica remota, cap decisió no es pren sense que la verifiquin per separat almenys dues persones competents.
Qui ha de fer què
Dissenya el sistema perquè es pugui supervisar (art. 14) i guarda registres automàtics del funcionament (art. 12).
Assigna la supervisió a persones amb competència, formació i autoritat (art. 26.2) i conserva els registres almenys sis mesos (art. 26.6).
Quan aplica
Control humà obligatori sobre la IA a la Justícia. Veure anàlisi
Ocupació, crèdit, serveis essencials, educació. Data després del Digital Omnibus .
IA integrada en productes regulats.
Les empreses que esperin el 2027 arribaran tard a la seva auditoria.
Quina evidència necessita, requisit a requisit
| Requisit | Evidència | Com fer-la verificable |
|---|---|---|
| Entendre el sistema 14.4.a | Formació de la persona, documentació dús rebuda i versió del model vigent aquell dia. | Segellar la versió del model i la fitxa de formació amb data certa. |
| Biaix d'automatització 14.4.b | Taxa d´anul·lacions, temps per revisió, alertes d´aprovació en bloc. | Registrar aquestes mètriques on ningú no les pugui reescriure després. |
| Interpretar el resultat 14.4.c | El que va veure a la pantalla: entrada, resultat i puntuació de confiança. | Guardar una empremta criptogràfica d'aquest context, no només l'OK. |
| No fer-lo servir o anul·lar-lo 14.4.d | La decisió, el motiu i qui la va prendre. | Signatura de la persona i segell de temps. |
| Intervenir o aturar 14.4.e | Que la parada existia i funcionava, i cada vegada que es va fer servir. | Registre segellat de proves periòdiques de la parada. |
Les cinc preguntes que us farà un auditor
- 1 Qui va supervisar aquesta decisió i tenia autoritat per aturar-la?
- 2 Quina informació tenia al davant quan va decidir?
- 3 Quina versió del model estava en producció aquell dia?
- 4 Quantes vegades el vostre equip ha dit que no al sistema aquest trimestre?
- 5 Podeu demostrar que aquests registres no s'han tocat des de llavors?
Si la cinquena pregunta us incomoda, no està sol. La majoria de registres viuen en el mateix sistema que es vol auditar, i qui ho administra els pot editar.
Errors habituals
Aprovar en bloc cent decisions amb un clic. Un “human in the loop” que mai no ha anul·lat res. Registres en un full de càlcul compartit. Formació sense data ni signatura. I la més cara: ningú no sap qui pot aturar el sistema un divendres a la tarda.
Un exemple: scoring de crèdit
Un banc fa servir un model per puntuar sol·licituds de crèdit, un cas d'alt risc de l'Annex III. L'analista veu la puntuació, els tres factors que pesen més i el nivell de confiança. Rebutja la recomanació perquè el client té ingressos que el sistema no ha llegit bé. Aquest moment, amb el que va veure, la decisió, el motiu i l'hora, és el que cal poder ensenyar dos anys després. Ho expliquem pas a pas en el cas pràctic de governança d'IA d'alt risc .
Preguntes freqüents
Val una casella d'«aprovat»?
Sola, no. Demostra que algú va fer clic, no que va poder entendre i aturar el sistema.
Quant de temps cal guardar els registres?
Almenys sis mesos segons l'article 26.6, tret que una altra norma, com la del sector financer, demani més.
Aplica a la IA generativa?
Només si es fa servir en un cas d'alt risc. Un chatbot datenció al client no ho és. Un model que filtra candidats, sí.
I els agents d'IA?
Sí, si actuen en un àmbit d'alt risc. Amb agents encara és més important registrar què podien fer i qui va autoritzar cada acció.
Reglament (UE) 2024/1689, arts. 12, 14 i 26 ( EUR-Lex ) · CGPJ, Instrucció 2/2026 ( anàlisi al Journal ) · V-PROOF: calendari d'aplicació de l'EU AI Act i Digital Omnibus .
