V-PROOF a Expansión: qui respon en un món de milions de models d'IA
Expansión recull la visió de Gil Blancafort, cofundador de V-PROOF sobre la proliferació de models d'intel·ligència artificial especialitzats. La seva aportació situa una qüestió al centre del debat: com demostrar que les organitzacions mantenen el control sobre la IA que utilitzen.
El reportatge "Hi haurà una indústria amb un milió de models d'IA?" explora un futur en què els grans models generalistes conviuen amb sistemes adaptats a sectors, empreses i tasques concretes.
Les perspectives no són idèntiques. Enrique Lizaso, de Multiverse Computing, considera plausible aquesta xifra si s'hi inclouen versions comprimides i especialitzades. Juan Morán, de TuringDream, planteja un escenari amb menys models de base i una adaptació més gran a cada organització.
Per a V-PROOF, la pregunta sobre la responsabilitat continua vigent en tots dos casos.
«La confiança no es pot declarar, sinó que cal demostrar-la».
Gil Blancafort, cofundador de V-PROOF, a Expansión.
Molts agents.
Qui respon del que fan?
Agents il·lustratius. El flux representa la seva activitat i evidències; no connexions en directe ni integracions automàtiques.
La integritat d‟una evidència no demostra per si sola que una decisió sigui correcta. La revisió i el criteri humà continuen sent essencials.
Més models, més decisions que supervisar
L´especialització pot ajudar a adaptar la intel·ligència artificial a processos concrets. Tot i això, un model dissenyat per a una tasca no elimina la necessitat d'establir límits, assignar responsables i revisar-ne els resultats.
Des de V-PROOF, entenem que la governança ha d'acompanyar l'ús quotidià d'aquests sistemes. No n'hi ha prou de conèixer quines eines utilitza una organització: també interessa saber quines versions estan actives, per a què es fan servir i què passa quan canvia un proveïdor, una font de dades o un flux de treball.
La pregunta pràctica és senzilla: si demà algú revisa una actuació assistida per IA, podrà reconstruir els fets?
Models diferents, una governança comuna
El reportatge també aborda les oportunitats de l'especialització en àmbits com ara banca, assegurances, dret i salut, així com la combinació de models generalistes i sistemes optimitzats per a tasques específiques.
La nostra lectura és que aquesta combinació exigeix supervisar el procés complet. Quan una aplicació utilitza diversos models, no n'hi ha prou d'analitzar cada component per separat. També cal comprendre com es connecten, quina informació intercanvien i qui valida el resultat.
Pensem en un flux documental: un sistema extreu informació, un altre prepara una proposta i una persona la revisa. Per reconstruir aquesta actuació, és rellevant conservar la relació entre les entrades, les versions utilitzades, el contingut generat i l'aprovació humana.
L'eficiència i la traçabilitat responen preguntes diferents. Una organització necessita atendre totes dues.
De la política a l'evidència
La perspectiva de V-PROOF sobre governança verificable s'articula en tres tasques:
Identificar: conèixer els sistemes utilitzats, la finalitat i les persones responsables.
Supervisar: establir controls i registrar les revisions, les aprovacions i les excepcions.
Conservar evidències: vincular l'activitat amb registres que permetin comprovar-ne la integritat i reconstruir el procés.
Aquestes tasques converteixen una declaració general de responsabilitat en pràctiques que es poden revisar.
També és important reconèixer els límits de cada evidència. Una prova d integritat pot ajudar a detectar modificacions en un registre, però no demostra per si sola que una resposta sigui correcta, que una decisió sigui justa o que es compleixin totes les obligacions aplicables.
L'evidència tècnica ha d'acompanyar l'avaluació i el criteri humà, no substituir-los.
La perspectiva de V-PROOF
V-PROOF desenvolupa infraestructura de governança verificable d'intel·ligència artificial. El nostre enfocament connecta l'activitat d'IA, els controls i la supervisió humana amb evidències que donin suport a la revisió posterior.
No es tracta només de triar entre models grans o petits. Es tracta de mantenir la capacitat de comprendre, supervisar i demostrar com s'utilitza cada sistema dins una organització.
L'aportació de Gil Blancafort al debat d'Expansión expressa aquesta prioritat: més enllà del nombre de models disponibles, importa qui respon del seu ús.
Per nosaltres, el creixement de la IA ha d'anar acompanyat d'una responsabilitat igualment concreta: saber qui decideix, què controla i com ho pot acreditar.
Aquesta entrada recull la participació de V-PROOF al reportatge i desenvolupa la nostra perspectiva pròpia sobre governança verificable d'IA.
La conversa continua a Expansión.
La vostra empresa ja utilitza IA.
Pot demostrar com la controla?
Identifiqueu quins sistemes utilitza, qui els supervisa i quines evidències necessita conservar.
