V-PROOF en pleine expansion : qui prend les décisions dans un monde comptant des millions de modèles d'IA ?
Le journal *Expansión* rapporte le point de vue de Gil Blancafort, cofondateur de V-PROOF, sur la prolifération des modèles d’intelligence artificielle spécialisés. Son intervention place une question au cœur du débat : comment démontrer que les organisations gardent le contrôle sur l’IA qu’elles utilisent.
Le reportage « Verra-t-on apparaître une industrie comptant un million de modèles d'IA ? » explore un avenir dans lequel les grands modèles généralistes coexisteraient avec des systèmes adaptés à des secteurs, des entreprises et des tâches spécifiques.
Les perspectives ne sont pas identiques. Enrique Lizaso, de Multiverse Computing, estime que ce chiffre est plausible si l'on inclut les versions compressées et spécialisées. Juan Morán, de TuringDream, envisage un scénario comportant moins de modèles de base et une meilleure adaptation à chaque organisation.
Pour V-PROOF, la question de la responsabilité reste d'actualité dans les deux cas.
« La confiance ne se déclare pas, il faut pouvoir la démontrer. »
Gil Blancafort, cofondateur de V-PROOF, dans Expansión.
De nombreux agents.
Qui est responsable de leurs actes ?
Éléments illustratifs. Le flux représente leur activité et leurs données ; il ne s'agit ni de connexions en direct ni d'intégrations automatiques.
L'intégrité d'une preuve ne suffit pas à elle seule à démontrer qu'une décision est juste. L'examen et le jugement humain restent indispensables.
Plus de modèles, plus de décisions à superviser
La spécialisation peut contribuer à adapter l'intelligence artificielle à des processus spécifiques. Cependant, un modèle conçu pour une tâche donnée ne dispense pas de fixer des limites, de désigner des responsables et de contrôler ses résultats.
Chez V-PROOF, nous considérons que la gouvernance doit accompagner l'utilisation quotidienne de ces systèmes. Il ne suffit pas de savoir quels outils une organisation utilise : il est également important de connaître les versions actives, leur utilisation et ce qui se passe en cas de changement de fournisseur, de source de données ou de flux de travail.
La question pratique est simple : si, demain, quelqu’un examine une intervention assistée par l’IA, pourra-t-il reconstituer le déroulement des événements ?
Des modèles différents, une gouvernance commune
Ce reportage aborde également les opportunités offertes par la spécialisation dans des domaines tels que la banque, l'assurance, le droit et la santé, ainsi que la combinaison de modèles généralistes et de systèmes optimisés pour des tâches spécifiques.
Selon nous, cette combinaison nécessite de superviser l'ensemble du processus. Lorsqu'une application utilise plusieurs modèles, il ne suffit pas d'analyser chaque composant séparément. Il faut également comprendre comment ils s'articulent entre eux, quelles informations ils échangent et qui valide le résultat.
Imaginons un flux documentaire : un système extrait des informations, un autre prépare une proposition et une personne la vérifie. Pour retracer ce processus, il est important de conserver le lien entre les données d'entrée, les versions utilisées, le contenu généré et la validation humaine.
L'efficacité et la traçabilité répondent à des questions différentes. Une organisation doit tenir compte des deux.
De la politique aux données factuelles
L'approche de V-PROOF en matière de gouvernance vérifiable s'articule autour de trois axes :
Identifier : connaître les systèmes utilisés, leur finalité et les personnes en charge.
Superviser : mettre en place des contrôles et consigner les révisions, les validations et les exceptions.
Conserver les preuves : associer l'activité à des enregistrements permettant de vérifier son intégrité et de retracer le processus.
Ces tâches permettent de transformer une déclaration générale de responsabilité en pratiques pouvant faire l'objet d'un suivi.
Il est également important de reconnaître les limites de chaque élément de preuve. Un contrôle d'intégrité peut aider à détecter des modifications apportées à un enregistrement, mais il ne prouve pas à lui seul qu'une réponse est correcte, qu'une décision est équitable ou que toutes les obligations applicables sont respectées.
Les données techniques doivent venir compléter l'évaluation et le jugement humain, et non les remplacer.
Le point de vue de V-PROOF
V-PROOF développe une infrastructure de gouvernance vérifiable pour l'intelligence artificielle. Notre approche relie les activités d'IA, les contrôles et la supervision humaine à des éléments de preuve permettant leur vérification ultérieure.
Il ne s'agit pas simplement de choisir entre des modèles de grande ou de petite taille. Il s'agit de conserver la capacité de comprendre, de superviser et de démontrer comment chaque système est utilisé au sein d'une organisation.
La contribution de Gil Blancafort au débat lancé par Expansión met en évidence cette priorité : au-delà du nombre de modèles disponibles, ce qui importe, c'est de savoir qui est responsable de leur utilisation.
Pour nous, le développement de l'IA doit s'accompagner d'une responsabilité tout aussi concrète : savoir qui prend les décisions, qui exerce le contrôle et comment cela peut être justifié.
Cet article rend compte de la participation de V-PROOF à ce reportage et expose notre propre point de vue sur la gouvernance vérifiable de l'IA.
La discussion se poursuit dans Expansión.
Votre entreprise utilise déjà l'IA.
Pouvez-vous démontrer comment vous la contrôlez ?
Identifiez les systèmes que vous utilisez, les personnes qui les supervisent et les justificatifs que vous devez conserver.
