Article 14 de la loi AI Act : comment démontrer la supervision humaine

Approuver ne revient pas à superviser.

16 novembre 2026Temps de lecture : 7 min
Réponse courte

L'article 14 du règlement (UE) 2024/1689 impose que les systèmes d'IA à haut risque puissent être surveillés par des personnes qui comprennent le fonctionnement du système, détectent les cas où l'on se fie trop à celui-ci, savent interpréter ses résultats et sont en mesure de les ignorer ou de l'arrêter. Pour en apporter la preuve, un simple enregistrement indiquant « approuvé » ne suffit pas. Il faut pouvoir retracer chaque décision : qui l’a examinée, ce qu’il a constaté, à quel moment et s’il pouvait réellement s’y opposer.

Imaginez un processus de validation classique : un bouton vert, un nom et une date. Demandez-vous maintenant ce que cette personne a vu avant d'appuyer sur ce bouton. Si la réponse est « nous ne le savons pas », c'est précisément cette lacune que cet article tente de combler.

Que dit l'article 14, en termes simples ?

  1. 14.1Le système à haut risque doit être conçu de manière à ce que des personnes physiques puissent le surveiller efficacement pendant son utilisation, notamment à l’aide d’outils d’interface adaptés.
  2. 14.2L'objectif est de prévenir ou de réduire les risques pour la santé, la sécurité ou les droits fondamentaux, y compris lorsque le système fait l'objet d'une utilisation abusive prévisible.
  3. 14.3Les mesures doivent être proportionnées au risque, à l’autonomie du système et au contexte. Elles sont intégrées par le fournisseur ou mises en œuvre par celui qui le déploie.
  4. 14.4La personne chargée de la supervision doit être en mesure : a) de comprendre les capacités et les limites du système et de détecter les anomalies ; b) d’être consciente du biais lié à l’automatisation, c’est-à-dire de la tentation de se fier aveuglément au système ; c) d’interpréter correctement le résultat ; d) de décider de ne pas l’utiliser, de l’ignorer, de l’annuler ou de le rétablir ; e) d’intervenir ou d’arrêter le système à l’aide d’un bouton d’arrêt ou d’un dispositif équivalent.
  5. 14.5En matière d'identification biométrique à distance, aucune décision n'est prise sans avoir été vérifiée séparément par au moins deux personnes compétentes.

Qui doit faire quoi ?

Fournisseur
Concevez le frein

Concevez le système de manière à ce qu'il puisse faire l'objet d'une surveillance (art. 14) et conservez des enregistrements automatiques de son fonctionnement (art. 12).

Responsable du déploiement (votre entreprise)
Cela prouve que quelqu'un aurait pu freiner

Confiez la supervision à des personnes compétentes, formées et dotées de l'autorité nécessaire (art. 26.2) et conservez les registres pendant au moins six mois (art. 26.6).

Quand cela s'applique-t-il ?

Aujourd'hui même · Espagne
CGPJ, Instruction n° 2/2026

Contrôle humain obligatoire de l'IA dans le domaine judiciaire. Voir l'analyse

2 décembre 2027
Risque élevé · Annexe III

Emploi, crédit, services essentiels, éducation. Le point sur la loi « Digital Omnibus ».

Août 2028
Risque élevé · Annexe I

IA intégrée dans des produits réglementés.

Les entreprises qui attendront jusqu'en 2027 arriveront trop tard pour leur propre audit.

De quelles pièces justificatives avez-vous besoin, condition par condition ?

Condition requisePreuvesComment la rendre vérifiable
Comprendre lesystème 14.4.aFormation de la personne, documentation d'utilisation reçue et version du modèle en vigueur ce jour-là.Apposez un cachet attestant la date sur la version du modèle et la fiche de formation.
Biais lié àl'automatisation 14.4.bTaux d'annulation, délai de vérification, alertes d'approbation groupée.Enregistrez ces indicateurs de manière à ce que personne ne puisse les modifier par la suite.
Interpréter lerésultat 14.4.cCe que vous avez vu à l'écran : saisie, résultat et score de confiance.Conserver une empreinte cryptographique de ce contexte, et pas seulement le « OK ».
Ne pas l'utiliser oul'annuler 14.4.dLa décision, la raison et la personne qui l'a prise.Signature de la personne et horodatage.
Intervenir ous'arrêter 14.4.eQue l'arrêt existait et fonctionnait, et à chaque fois qu'il a été utilisé.Registre scellé des essais périodiques de l'arrêt.

Les cinq questions qu'un auditeur vous posera

  1. 1Qui a supervisé cette décision et avait le pouvoir de l'annuler ?
  2. 2De quelles informations disposiez-vous au moment de prendre votre décision ?
  3. 3Quelle version du modèle était en production ce jour-là ?
  4. 4Combien de fois votre équipe a-t-elle dit « non » au système ce trimestre ?
  5. 5Pouvez-vous prouver que ces registres n'ont pas été modifiés depuis lors ?

Si la cinquième question vous met mal à l'aise, vous n'êtes pas le seul. La plupart des enregistrements se trouvent dans le même système que celui que l'on souhaite auditer, et la personne qui l'administre peut les modifier.

Erreurs courantes

Valider en bloc une centaine de décisions d’un simple clic. Un « human in the loop » qui n’a jamais annulé quoi que ce soit. Des enregistrements dans une feuille de calcul partagée. Une formation sans date ni signature. Et le plus grave : personne ne sait qui peut arrêter le système un vendredi après-midi.

Un exemple : le scoring de crédit

Il a vu
Score, 3 facteurs, confiance
Il a décidé
Annuler la recommandation
Motif
Revenus mal interprétés par le modèle
Quand
Date et heure enregistrées

Une banque utilise un modèle pour attribuer une note aux demandes de crédit, un cas à haut risque figurant à l’annexe III. L’analyste examine la note, les trois facteurs les plus déterminants et le niveau de confiance. Elle rejette la recommandation car le système n’a pas correctement pris en compte les revenus du client. Ce moment précis, avec ce qu’elle a observé, sa décision, sa motivation et l’heure, est ce qu’il faut pouvoir présenter deux ans plus tard. Nous l’expliquons étape par étape dans le cas pratique de gouvernance de l’IA à haut risque.

Foire aux questions

Une case « approuvé » suffit-elle ?

À elle seule, non. Cela prouve simplement que quelqu'un a cliqué, pas qu'il a compris et a pu arrêter le système.

Combien de temps faut-il conserver ces registres ?

Au moins six mois, conformément à l'article 26, paragraphe 6, sauf si une autre réglementation, telle que celle du secteur financier, impose une durée plus longue.

Cela s'applique-t-il à l'IA générative ?

Uniquement s'il est utilisé dans un contexte à haut risque. Un chatbot dédié au service client n'en fait pas partie. Un modèle servant à filtrer les candidats, oui.

Et les agents d'IA ?

Oui, s'ils interviennent dans un environnement à haut risque. Dans le cas des agents, il est d'autant plus important de consigner ce qu'ils ont pu faire et qui a autorisé chaque action.

Sources

Règlement (UE) 2024/1689, articles 12, 14 et 26 (EUR-Lex) · CGPJ, Instruction n° 2/2026 (analyse dans le Journal) · V-PROOF : calendrier de mise en œuvre de la loi européenne sur l'IA et du paquet « Digital Omnibus ».

Suivant
Suivant

Ratio IA/humain : qu'est-ce que c'est et comment le démontrer lors d'un audit