Son agent est déjà à l'œuvre. Pouvez-vous démontrer ce dont il était capable ?
Les agents d'IA ne se contentent plus de répondre : ils consultent des systèmes, choisissent des outils et transfèrent des données. La question que posera l'auditeur, le client ou le comité des risques est simple : que pouvait faire cet agent, avec quelles autorisations et qui l'a approuvé ?
Du copilote qui répond à l'agent en action
Avec un copilote, une personne pose une question, le modèle y répond et la personne prend une décision. Le risque réside dans le contenu.
À l'aide d'un agent, le modèle décide de la prochaine étape. Il peut appeler une API, consulter une base de connaissances ou lancer un flux sans que personne ne le vérifie à ce moment-là. Le périmètre de gouvernance n'est plus la réponse. C'est l'action.
Et lorsque quelque chose tourne mal, le ton de la conversation change. Il ne suffit plus de savoir ce qu’a dit l’IA. Il faut pouvoir déterminer ce qu’elle était capable de faire, pourquoi elle en était capable et quelles étaient ses limites.
Sept questions auxquelles il faut pouvoir répondre
Quel agent est intervenu ?
L'agent ou le composant spécifique qui a joué un rôle dans l'exécution.
Ce qui lui permettait de le faire.
Le pouvoir délégué qui permettait cette intervention.
Quelles étaient les règles en vigueur ?
Les règles et les limites en vigueur à cette époque.
Qu'a-t-il fait et à quel sujet ?
L'opération effectuée et l'outil, la donnée ou l'actif concerné.
Dans quelles conditions ?
La version des faits, les circonstances et le déroulement des événements qui ont conduit à cette décision.
Qui est intervenu ?
La vérification ou l'approbation humaine qui faisait partie du processus.
Qu'est-ce que cela a entraîné ?
Le résultat de l'exécution, lié à sa preuve.
La plupart des organisations sont en mesure de répondre à certaines de ces questions. Très peu d'entre elles sont capables d'y répondre toutes, en indiquant une date, et devant un tiers.
Le contrôle et la preuve constituent des niveaux distincts
Les plateformes d'exécution restreignent, autorisent et bloquent l'agent pendant qu'il travaille. C'est nécessaire, mais cela ne laisse aucune trace. V-PROOF ne remplace pas cette couche et ne fait pas office de pare-feu : il apporte la preuve.
Concrètement, V-PROOF lit la configuration de chaque agent connecté : modèle, version, outils, autorisations, mesures de sécurité et tout ce qui permet son fonctionnement sans surveillance. Il se contente de lire. Les instructions et les conversations ne quittent pas la plateforme d'origine.
Huit contrôles s'appliquent à cette configuration : authentification, accès, outils, connaissances, supervision humaine, mesures de protection, documentation et publication. Aucun d'entre eux n'utilise de modèle linguistique, de sorte que le résultat est déterministe : un même agent rend toujours le même verdict. Ce que la plateforme ne mentionne pas est considéré comme « non évalué », et jamais comme conforme.
Une validation s'applique à une configuration spécifique
Chaque configuration possède sa propre empreinte. Si quelqu’un ajoute un outil ou étend une autorisation, l’empreinte change et l’approbation précédente ne s’y applique plus. L’ V-Seal e enregistre chaque approbation avec une date certaine et une preuve cryptographique, vérifiable sans compte.
Pour ceux qui travaillent sur le règlement européen relatif à l'IA, cela correspond à deux exigences récurrentes dans les systèmes à haut risque : la supervision humaine documentée (art. 14) et l'enregistrement des activités (art. 12).
Par où commencer ?
À ce jour, le connecteur Vertex AI est validé en environnement réel ; Copilot Studio, Azure AI Foundry, Amazon Bedrock, Agentforce et ServiceNow disposent d'un connecteur et sont en cours de validation.
Le point de départ est simple : choisir les agents qui interviennent déjà sur des systèmes ou des données, les connecter en lecture seule et voir quels contrôles sont validés, lesquels échouent et lesquels ne sont pas évalués.
Que l'agent prenne les rênes. Qu'il passe à l'action.
Découvrez comment se déroule l'audit d'un agent immobilier.
Configuration en lecture seule, huit contrôles sans IA et validation scellée par une preuve cryptographique.
Voir la démo