EU AI Act: Systemische Risiken und strenge GPAI-Pflichten rechtssicher vermeiden
Ein wesentlicher Vorteil der Möglichkeit zur Modellauswahl liegt in der Option zur Steuerung der Einstufung als Anbieter eines KI-Modells mit allgemeinem Verwendungszweck (GPAI, General Purpose AI) gemäß Art. 51. Durch die Entscheidung für spezialisierte, kompaktere Modelle, deren Trainingsaufwand unter der Schwelle von 10 hoch 25 FLOPS liegt, lassen sich die weitreichenden Pflichten für Modelle mit systemischem Risiko, wie sie in den Art. 52a bis 55 definiert sind, vermeiden.
Die Auswahl exakt auf den Anwendungsfall zugeschnittener Architekturen reduziert die Komplexität des Trainings, Betriebs und der Konformitätsbewertung. Juristisch läßt sich durch das genannte Vorgehen sicherstellen, dass das verantwortliche Unternehmen nicht unbeabsichtigt in die strengste Regulierungskategorie fällt, die unter anderem umfangreiche Abstimmungen und Mitteilungen an z.B. die Bundesnetzagentur als zentrale Stelle für den deutschen Staat (Art. 52b) erfordern würde.
EU AI Act Art. 10 & 15: Compliance durch KI-Fine-Tuning und kuratierte Daten
Ein Fine-Tuning der Sprach- und Vision-Modelle sowie weiterer KI-Modelle, ermöglicht eine Umsetzung der Governance-Anforderungen gemäß Art. 10. Während öffentliche Standardmodelle (OpenAI, Gemini, etc.) oft auf heterogenen, potenziell verzerrten öffentlichen Daten basieren, erlaubt das lokale Fine-Tuning die Verwendung kuratierter, unternehmenseigener Datensätze.
Ziel der Auswahl, des Feintunings oder Trainings spezifischer Modelle ist die signifikante Steigerung der Genauigkeit und Robustheit nach Art. 15. Insbesondere für Hochrisiko-KI-Systeme nach Anhang III ist die Erfüllung dieser Anforderungen essenziell.
Durch den Zugriff auf die Gewichte des Modells während des Fine-Tunings sowie die Verwendung von Bias-Detection-Algorithmen lassen sich Verzerrungen gezielt minimieren oder vermeiden. Ein solches Maß an Kontrolle ist bei der Nutzung externer Cloud-APIs technisch ausgeschlossen. Der Betreiber einer KI-Applikation trägt das Rest-Risiko für Verstöße laut AI Act und kann diese nicht an den jeweiligen Anbieter für z.B. ein Sprachmodell weitergeben.
EU AI Act Art. 10 & 15: Compliance durch KI-Fine-Tuning und kuratierte Daten
Der AI Act fordert detaillierte Angaben über die Trainingsmethoden, die Rechenressourcen und die Validierungsprozesse. Hinsichtlich der technischen Dokumentation nach Art. 11 und Anhang IV bietet die Kombination aus Modellwahl und lokalem Fine-Tuning, im Gegensatz zu geschlossenen Modellen, die Möglichkeit zur nahezu lückenlosen Nachvollziehbarkeit („Chain of Custody“).
Die Implementierung der menschlichen Aufsicht gemäß Art. 14 wird durch die Modellwahl, etc. ebenfalls vereinfacht. Ein feingetuntes Modell kann so trainiert werden, dass es bei Unsicherheiten explizite Warnhinweise ausgibt oder alternative Ergebnisse mit entsprechenden Konfidenzintervallen aufzeigt.
Diese Methodik erleichtert es dem menschlichen Beobachter/Aufseher, Ergebnisse und Berechnungen kritisch zu hinterfragen, zu intervenieren sowie Feedback zu geben und somit die nach Art. 13 geforderte Transparenz gegenüber dem Nutzer auf ein sehr hohes Niveau zu heben. Nachfolgend bzw. nebenstehend findet sich eine beispielhafte Umsetzung innerhalb der Applikation DookuSense der Open Logic Systems (Open LS).
Fragen zum Thema AI Act?
Kontaktieren Sie uns gerne oder buchen Sie unser Seminar zur Stärkung Ihrer KI-Expertise.