Artikel 14 des AI Act: Wie lässt sich die menschliche Überwachung nachweisen?

Genehmigen ist nicht dasselbe wie überwachen.

16. November 2026Lesezeit: 7 Min.
Kurze Antwort

Artikel 14 der Verordnung (EU) 2024/1689 schreibt vor, dass KI-Systeme mit hohem Risiko von Personen überwacht werden müssen, die verstehen, was das System tut, erkennen, wann man sich zu sehr auf es verlässt, seine Ergebnisse interpretieren können und in der Lage sind, diese zu ignorieren oder das System anzuhalten. Um dies nachzuweisen, reicht ein Eintrag mit der Angabe „genehmigt“ nicht aus. Jede Entscheidung muss nachvollziehbar sein: Wer hat sie überprüft, was hat er gesehen, wann und ob er tatsächlich „Nein“ sagen konnte.

Stellen Sie sich einen typischen Genehmigungsablauf vor: eine grüne Schaltfläche, ein Name und ein Datum. Fragen Sie sich nun, was diese Person gesehen hat, bevor sie auf die Schaltfläche geklickt hat. Wenn die Antwort „Das wissen wir nicht“ lautet, dann ist das genau die Lücke, die dieser Artikel schließen möchte.

Was steht in Artikel 14, in einfachen Worten?

  1. 14.1Das Hochrisikosystem muss so konzipiert sein, dass natürliche Personen es während des Betriebs wirksam überwachen können, auch mithilfe geeigneter Schnittstellenwerkzeuge.
  2. 14.2Ziel ist es, Risiken für die Gesundheit, die Sicherheit oder die Grundrechte zu verhindern oder zu verringern, auch wenn das System in vorhersehbarer Weise missbraucht wird.
  3. 14.3Die Maßnahmen müssen in einem angemessenen Verhältnis zum Risiko, zur Autonomie des Systems und zum Kontext stehen. Sie werden vom Anbieter integriert oder von demjenigen umgesetzt, der das System einsetzt.
  4. 14.4Die überwachende Person muss in der Lage sein: a) die Fähigkeiten und Grenzen des Systems zu verstehen und Anomalien zu erkennen; b) sich der Verzerrung durch die Automatisierung und der Versuchung, dem System bedingungslos zu vertrauen, bewusst zu sein; c) das Ergebnis richtig zu interpretieren; d) zu entscheiden, ob sie es nicht verwenden, ignorieren, aufheben oder rückgängig machen will; e) mit einem Stoppknopf oder einer gleichwertigen Funktion einzugreifen oder das System anzuhalten.
  5. 14.5Bei der biometrischen Fernidentifizierung wird keine Entscheidung getroffen, ohne dass diese von mindestens zwei kompetenten Personen separat überprüft wird.

Wer muss was tun?

Lieferant
Entwirf die Bremse

Das System ist so zu gestalten, dass es überwacht werden kann (Art. 14), und es sind automatische Aufzeichnungen über seinen Betrieb zu führen (Art. 12).

Verantwortlicher für die Bereitstellung (Ihr Unternehmen)
Das beweist, dass jemand bremsen konnte

Beauftragen Sie Personen mit der entsprechenden Kompetenz, Ausbildung und Befugnis mit der Überwachung (Art. 26 Abs. 2) und bewahren Sie die Aufzeichnungen mindestens sechs Monate lang auf (Art. 26 Abs. 6).

Wann gilt dies?

Schon heute · Spanien
CGPJ, Anweisung 2/2026

Obligatorische menschliche Kontrolle über die KI in der Justiz. Siehe Analyse

2. Dez. 2027
Hohes Risiko · Anhang III

Beschäftigung, Kredite, lebenswichtige Dienstleistungen, Bildung. Der Zeitplan nach dem „Digital Omnibus“.

Aug. 2028
Hohes Risiko · Anhang I

In regulierte Produkte integrierte KI.

Unternehmen, die bis 2027 warten, werden zu spät zu ihrer eigenen Prüfung kommen.

Welche Nachweise benötigen Sie, Anforderung für Anforderung?

VoraussetzungBeweiseWie man sie überprüfbar macht
DasSystem verstehen14.4.aSchulung der betreffenden Person, erhaltene Gebrauchsanweisung und an diesem Tag gültige Modellversion.Die Version des Musters und das Schulungsformular mit einem beglaubigten Datum versehen.
Automatisierungsverzerrung14.4.bStornierungsquote, Bearbeitungszeit, Benachrichtigungen bei Sammelgenehmigungen.Diese Kennzahlen so speichern, dass sie später von niemandem mehr geändert werden können.
DasErgebnis interpretieren14.4.cWas auf dem Bildschirm zu sehen war: Eingabe, Ergebnis und Konfidenzwert.Speichere einen kryptografischen Fingerabdruck dieses Kontexts, nicht nur das „OK“.
Nicht verwenden oderdeaktivieren 14.4.dDie Entscheidung, der Grund dafür und wer sie getroffen hat.Unterschrift der Person und Zeitstempel.
Eingreifen oderstoppen 14.4.eDass die Haltestelle existierte und in Betrieb war, und jedes Mal, wenn sie genutzt wurde.Versiegeltes Protokoll über die regelmäßigen Prüfungen der Abschaltung.

Die fünf Fragen, die Ihnen ein Wirtschaftsprüfer stellen wird

  1. 1Wer hat diese Entscheidung überwacht und war befugt, sie zu stoppen?
  2. 2Welche Informationen lagen Ihnen vor, als Sie sich entschieden haben?
  3. 3Welche Modellversion wurde an diesem Tag produziert?
  4. 4Wie oft hat Ihr Team in diesem Quartal „Nein“ zum System gesagt?
  5. 5Können Sie nachweisen, dass diese Aufzeichnungen seitdem nicht verändert wurden?

Wenn Ihnen die fünfte Frage Unbehagen bereitet, sind Sie nicht allein. Die meisten Datensätze befinden sich in demselben System, das geprüft werden soll, und derjenige, der es verwaltet, kann sie bearbeiten.

Häufige Fehler

Hundert Entscheidungen mit einem Klick pauschal genehmigen. Ein „Human in the Loop“, der noch nie etwas abgelehnt hat. Einträge in einer gemeinsam genutzten Tabelle. Schulungen ohne Datum und ohne Unterschrift. Und das Teuerste daran: Niemand weiß, wer das System an einem Freitagnachmittag stoppen kann.

Ein Beispiel: Kredit-Scoring

Er sah
Punktzahl, 3 Faktoren, Vertrauen
Er beschloss
Die Empfehlung aufheben
Grund
Vom Modell falsch interpretierte Eingaben
Wann
Datum und Uhrzeit gestempelt

Eine Bank verwendet ein Modell zur Bewertung von Kreditanträgen – ein Fall mit hohem Risiko aus Anhang III. Die Analystin sieht die Bewertung, die drei Faktoren mit dem größten Gewicht und das Konfidenzniveau. Sie lehnt die Empfehlung ab, da das System die Einkünfte des Kunden nicht korrekt erfasst hat. Genau diesen Moment – mit dem, was sie gesehen hat, ihrer Entscheidung, ihrem Motiv und der Uhrzeit – muss man zwei Jahre später nachweisen können. Wir erklären dies Schritt für Schritt am Fallbeispiel der KI-Governance bei hohem Risiko.

Häufig gestellte Fragen

Reicht ein Häkchen bei „Bestanden“ aus?

Das allein reicht nicht aus. Es zeigt lediglich, dass jemand darauf geklickt hat, nicht aber, dass er es verstanden und das System gestoppt hat.

Wie lange müssen die Aufzeichnungen aufbewahrt werden?

Mindestens sechs Monate gemäß Artikel 26.6, sofern nicht eine andere Vorschrift, wie beispielsweise die für den Finanzsektor, eine längere Frist vorschreibt.

Gilt das auch für generative KI?

Nur wenn er in einem Fall mit hohem Risiko eingesetzt wird. Ein Chatbot für den Kundenservice fällt nicht darunter. Ein Modell, das Bewerber filtert, hingegen schon.

Und was ist mit den KI-Agenten?

Ja, wenn sie in einem Bereich mit hohem Risiko tätig sind. Bei Einsatzkräften ist es sogar noch wichtiger, festzuhalten, was sie tun durften und wer die jeweilige Maßnahme genehmigt hat.

Quellen

Verordnung (EU) 2024/1689, Artikel 12, 14 und 26 (EUR-Lex) · CGPJ, Anweisung 2/2026 (Analyse im Journal) · V-PROOF: Zeitplan für die Umsetzung des EU-KI-Gesetzes und des Digital Omnibus.

Weiter
Weiter

KI-zu-Mensch-Verhältnis: Was es ist und wie man es bei einem Audit nachweist