V-PROOF auf Expansionskurs: Wer hat das Sagen in einer Welt mit Millionen von KI-Modellen?
„Expansión“ berichtet über die Sichtweise von Gil Blancafort, Mitbegründer von V-PROOF, zur zunehmenden Verbreitung spezialisierter KI-Modelle. Sein Beitrag rückt eine Frage in den Mittelpunkt der Debatte: Wie lässt sich nachweisen, dass Unternehmen die Kontrolle über die von ihnen eingesetzte KI behalten?
Der Bericht „Wird es eine Branche mit einer Million KI-Modellen geben?“ beleuchtet eine Zukunft, in der große, allzwecktaugliche Modelle neben Systemen existieren, die auf bestimmte Branchen, Unternehmen und Aufgaben zugeschnitten sind.
Die Prognosen gehen auseinander. Enrique Lizaso von Multiverse Computing hält diese Zahl für plausibel, wenn komprimierte und spezialisierte Versionen mit einbezogen werden. Juan Morán von TuringDream geht von einem Szenario mit weniger Basismodellen und einer stärkeren Anpassung an die jeweilige Organisation aus.
Für V-PROOF bleibt die Frage nach der Haftung in beiden Fällen weiterhin aktuell.
„Vertrauen lässt sich nicht einfach erklären, sondern muss bewiesen werden.“
Gil Blancafort, Mitbegründer von V-PROOF, in der Zeitung „Expansión“.
Viele Akteure.
Wer ist für deren Handeln verantwortlich?
Beispiele. Der Ablauf stellt ihre Aktivitäten und Belege dar; es handelt sich weder um direkte Verbindungen noch um automatische Integrationen.
Die Vollständigkeit der Beweislage allein reicht nicht aus, um die Richtigkeit einer Entscheidung zu belegen. Die Überprüfung und das menschliche Urteilsvermögen bleiben weiterhin unverzichtbar.
Mehr Modelle, mehr Entscheidungen, die es zu überwachen gilt
Durch Spezialisierung lässt sich künstliche Intelligenz besser an konkrete Prozesse anpassen. Ein für eine bestimmte Aufgabe entwickeltes Modell macht es jedoch nicht überflüssig, Grenzen festzulegen, Verantwortliche zu benennen und die Ergebnisse zu überprüfen.
Wir bei V-PROOF sind der Ansicht, dass die Governance mit der täglichen Nutzung dieser Systeme einhergehen muss. Es reicht nicht aus, zu wissen, welche Tools eine Organisation einsetzt: Es ist auch wichtig zu wissen, welche Versionen aktiv sind, wofür sie verwendet werden und was passiert, wenn sich ein Anbieter, eine Datenquelle oder ein Arbeitsablauf ändert.
Die praktische Frage ist einfach: Wenn morgen jemand eine KI-gestützte Handlung überprüft, wird er dann rekonstruieren können, was geschehen ist?
Unterschiedliche Modelle, eine gemeinsame Steuerung
Der Bericht befasst sich zudem mit den Möglichkeiten der Spezialisierung in Bereichen wie Bankwesen, Versicherungen, Recht und Gesundheitswesen sowie mit der Kombination von generalistischen Modellen und für bestimmte Aufgaben optimierten Systemen.
Unserer Ansicht nach erfordert diese Kombination eine Überwachung des gesamten Prozesses. Wenn eine Anwendung mehrere Modelle nutzt, reicht es nicht aus, jede Komponente einzeln zu analysieren. Man muss auch verstehen, wie sie miteinander verbunden sind, welche Informationen sie austauschen und wer das Ergebnis validiert.
Stellen wir uns einen Dokumentenfluss vor: Ein System extrahiert Informationen, ein anderes erstellt einen Vorschlag, und eine Person prüft diesen. Um diesen Ablauf nachzuverfolgen, ist es wichtig, die Beziehungen zwischen den Eingaben, den verwendeten Versionen, den generierten Inhalten und der menschlichen Freigabe zu dokumentieren.
Effizienz und Rückverfolgbarkeit beziehen sich auf unterschiedliche Aspekte. Ein Unternehmen muss beiden gerecht werden.
Von der Politik zur Evidenz
Der Ansatz von V-PROOF zur verifizierbaren Governance gliedert sich in drei Aufgabenbereiche:
Identifizieren: Die verwendeten Systeme, deren Zweck und die verantwortlichen Personen kennen.
Überwachen: Kontrollmaßnahmen festlegen und Überprüfungen, Genehmigungen und Ausnahmen protokollieren.
Nachweise aufbewahren: Die Aktivität mit Aufzeichnungen verknüpfen, anhand derer sich ihre Vollständigkeit überprüfen und der Ablauf rekonstruieren lässt.
Diese Aufgaben setzen eine allgemeine Haftungserklärung in überprüfbare Praktiken um.
Es ist ebenfalls wichtig, die Grenzen der einzelnen Nachweise zu erkennen. Eine Integritätsprüfung kann zwar dabei helfen, Änderungen an einem Datensatz aufzudecken, beweist jedoch für sich genommen nicht, dass eine Antwort korrekt ist, eine Entscheidung gerecht ist oder alle geltenden Verpflichtungen erfüllt werden.
Technische Erkenntnisse sollten die Bewertung und das menschliche Urteilsvermögen ergänzen, nicht ersetzen.
Die Sichtweise von V-PROOF
V-PROOF entwickelt eine Infrastruktur für die überprüfbare Governance im Bereich der künstlichen Intelligenz. Unser Ansatz verknüpft KI-Aktivitäten, Kontrollmechanismen und menschliche Überwachung mit Belegen, die eine spätere Überprüfung ermöglichen.
Es geht nicht nur darum, sich zwischen großen und kleinen Modellen zu entscheiden. Es geht darum, weiterhin in der Lage zu sein, zu verstehen, zu überwachen und nachzuweisen, wie jedes einzelne System innerhalb einer Organisation genutzt wird.
Der Beitrag von Gil Blancafort zur Debatte in „Expansión“ bringt diese Priorität zum Ausdruck: Unabhängig von der Anzahl der verfügbaren Modelle kommt es darauf an, wer für deren Nutzung verantwortlich ist.
Für uns muss das Wachstum der KI mit einer ebenso konkreten Verantwortung einhergehen: zu wissen, wer entscheidet, wer die Kontrolle ausübt und wie dies nachgewiesen werden kann.
Dieser Beitrag fasst die Beteiligung von V-PROOF an der Reportage zusammen und erläutert unsere eigene Sichtweise auf die überprüfbare Governance von KI.
Das Gespräch wird in „Expansión“ fortgesetzt.
Ihr Unternehmen setzt bereits KI ein.
Können Sie nachweisen, wie Sie diese kontrollieren?
Ermitteln Sie, welche Systeme Sie nutzen, wer diese überwacht und welche Nachweise Sie aufbewahren müssen.
