Sein Agent ist bereits aktiv. Kann er zeigen, wozu er fähig ist?
KI-Agenten beschränken sich nicht mehr darauf, nur zu antworten: Sie greifen auf Systeme zu, wählen Tools aus und übertragen Daten. Die Frage, die vom Wirtschaftsprüfer, vom Kunden oder vom Risikoausschuss gestellt wird, ist einfach: Was konnte dieser Agent tun, mit welchen Berechtigungen und wer hat dies genehmigt?
Vom Beifahrer, der dem handelnden Beamten antwortet
Mit einem Co-Piloten stellt eine Person eine Frage, das Modell gibt eine Antwort und die Person trifft eine Entscheidung. Das Risiko liegt im Inhalt.
Mithilfe eines Agenten entscheidet das Modell über den nächsten Schritt. Es kann eine API aufrufen, eine Wissensdatenbank abfragen oder einen Ablauf starten, ohne dass dies zu diesem Zeitpunkt von jemandem überprüft wird. Der Schwerpunkt der Governance liegt nicht mehr auf der Antwort, sondern auf der Handlung.
Und wenn etwas schiefgeht, ändert sich der Ton der Diskussion. Es reicht nicht mehr aus, zu wissen, was die KI gesagt hat. Man muss rekonstruieren können, was sie tun konnte, warum sie dazu in der Lage war und welche Grenzen sie hatte.
Sieben Fragen, die man beantworten können muss
Welcher Beamte hat eingegriffen?
Der konkrete Akteur oder die konkrete Komponente, die bei der Ausführung eine Rolle gespielt hat.
Was ihn dazu befähigte.
Die übertragene Befugnis, die diesen Eingriff ermöglichte.
Welche Regeln galten?
Die zu diesem Zeitpunkt geltenden Regeln und Beschränkungen.
Was er getan hat und worum es dabei ging.
Der durchgeführte Vorgang sowie das betroffene Werkzeug, die betroffene Daten oder der betroffene Vermögenswert.
Unter welchen Bedingungen?
Die Darstellung, der Hergang und die Abfolge der Ereignisse rund um die Entscheidung.
Wer hat das Wort ergriffen?
Die Überprüfung oder Genehmigung durch eine Person, die Teil des Arbeitsablaufs war.
Was hat das bewirkt?
Das Ergebnis der Ausführung, verbunden mit dessen Nachweis.
Die meisten Organisationen können zumindest eine davon beantworten. Nur sehr wenige können alle beantworten – mit Angabe eines Datums und gegenüber einem Dritten.
Kontrolle und Nachweis sind zwei verschiedene Ebenen
Ausführungsplattformen schränken den Agenten während seiner Arbeit ein, erteilen ihm Berechtigungen und blockieren ihn. Das ist notwendig, hinterlässt jedoch keine Nachweise. V-PROOF ersetzt diese Ebene nicht und fungiert auch nicht als Firewall: Es liefert die Nachweise.
In der Praxis liest V-PROOF die Konfiguration jedes verbundenen Agenten aus: Modell, Version, Tools, Berechtigungen, Sicherheitsvorkehrungen und alles, was für den unbeaufsichtigten Betrieb erforderlich ist. Es handelt sich dabei ausschließlich um Lesezugriffe. Anweisungen und Unterhaltungen verlassen die Ursprungsplattform nicht.
Für diese Konfiguration gelten acht Kontrollmechanismen: Authentifizierung, Zugriff, Werkzeuge, Fachwissen, menschliche Überwachung, Sicherheitsvorkehrungen, Dokumentation und Veröffentlichung. Keiner davon verwendet ein Sprachmodell, sodass das Ergebnis deterministisch ist: Derselbe Agent gibt immer dasselbe Urteil ab. Was die Plattform nicht auswertet, bleibt als „nicht bewertet“ stehen, niemals als „erfüllt“.
Eine Genehmigung gilt für eine bestimmte Konfiguration
Jede Konfiguration hinterlässt einen Fingerabdruck. Wenn jemand ein Tool hinzufügt oder eine Berechtigung erweitert, ändert sich der Fingerabdruck, und die vorherige Genehmigung gilt nicht mehr. Das „ V-Seal “ protokolliert jede Genehmigung mit einem eindeutigen Datum und einem kryptografischen Nachweis, der auch ohne Konto überprüft werden kann.
Für diejenigen, die mit der EU-KI-Verordnung arbeiten, entspricht dies zwei Anforderungen, die bei Systemen mit hohem Risiko immer wieder auftauchen: dokumentierte menschliche Aufsicht (Art. 14) und Protokollierung der Aktivitäten (Art. 12).
Wo soll man anfangen?
Der Vertex AI-Konnektor ist mittlerweile in einer Produktionsumgebung validiert; für Copilot Studio, Azure AI Foundry, Amazon Bedrock, Agentforce und ServiceNow stehen Konnektoren zur Verfügung, deren Validierung derzeit läuft.
Der Ausgangspunkt ist einfach: Man wählt die Agenten aus, die bereits auf Systeme oder Daten einwirken, verbindet sie im schreibgeschützten Modus und prüft, welche Kontrollen erfolgreich sind, welche fehlschlagen und welche gar nicht geprüft werden.
Der Akteur soll die Führung übernehmen. Er soll Taten sprechen lassen.
Sehen Sie sich an, wie ein echter Agent geprüft wird.
Konfiguration im schreibgeschützten Modus, acht Steuerelemente ohne KI und die Genehmigung durch einen kryptografischen Nachweis besiegelt.
Demo ansehen