Quina versió del seu model està en producció i qui ho va aprovar?
El vostre equip de dades sap quina versió és la campiona. Allò que una auditoria pregunta és una altra cosa: qui va decidir posar-la en producció, amb quins controls i quins fitxers exactes estaven funcionant el dia de l'incident.
El que MLflow ja sap, i allò que no
MLflow és l'estàndard de facto per registrar models. Sap quina execució va produir cada versió, amb quines dades es va entrenar i quines mètriques va obtenir. Per a lequip de dades és suficient.
Per a governança li falten tres coses. Controls amb evidència. Una aprovació abans de producció, perquè avui qualsevol persona amb permís d'escriptura pot moure l'àlies de producció sense deixar-ne constància. I la prova que els fitxers d?avui són els que estaven en producció el dia de l?auditoria.
Sis controls, resultats reproduïbles
Verifiable AI MLOps Governance llegeix el MLflow de l'empresa, sense escriure-hi mai, i avalua cada versió amb sis controls sense cap model de llenguatge:
Esquema dentrada.
Que el model declari quines dades espera rebre.
Serialització.
Que no es guardi en formats que poden executar codi en carregar-se.
Requisits.
Llibreries fixades a una versió i sense avisos de seguretat coneguts.
Llinatge de dades.
Amb quins conjunts de dades es va entrenar cada versió.
Descripció i llicència.
Què és el model i sota quina llicència es fa servir.
Promoció.
Que allò que està en producció tingui una aprovació.
En el MLflow de demostració, un model ben governat passa 6 de 6 . Un altre, en producció sense aprovació, passa 0 de 6 i obre una alerta. La diferència no la decideix una opinió: la decideix una regla. Amb les mateixes entrades, regles i fonts davaluació, el resultat és reproduïble.
Abans de producció, una persona diu que sí
L'aprovació de desplegament la signa una persona responsable, amb la seva atestació. Si una versió arriba a producció sense, s'obre una alerta en Supervisió; l'execució de controls següent comprova l'aprovació i actualitza l'estat de l'alerta. És la supervisió humana de l'article 14, aplicada on neix el risc.
El Model V-Seal : què era exactament aquesta versió
Segellar una versió registra l'empremta de cada fitxer del model, dels seus conjunts de dades i dels resultats, amb prova criptogràfica. Si canvieu una mètrica o un fitxer, cal un segell nou.
De l?empresa només en surt un manifest xifrat d?empremtes i recomptes. Ni el model, ni les dades, ni el valor d'una mètrica no surten de la seva infraestructura. Qualsevol verifica el segell a la pàgina pública, sense compte.
Per què importa ara
El que el Reglament Europeu d'IA demana a un sistema d'alt risc (dades, documentació, registre, supervisió i exactitud: arts. 10, 11, 12, 14 i 15) neix al cicle de vida del model. És aquí on l'evidència existeix o no existeix.
Amb honestedat: la sincronització es llança a mà, així que un canvi d'àlies es detecta a la següent execució, no a l'instant. I amb MLflow a Databricks el càlcul d'empremtes encara no està provat; ho cobreix l'script del pipeline.
Cada versió, avaluada. Cada desplegament, aprovat i demostrable.
Un model, les versions i la prova de cadascuna.
Enregistrat sobre el Portal V-PROOF connectat a un MLflow de demostració.
Veure la demo