Auditierbarkeit
KI-Glossar
Die Eigenschaft eines KI-Systems, dass seine Entscheidungen, Prozesse und Grundlagen durch unabhängige Stellen nachvollzogen und überprüft werden können.
Kurzdefinition
Auditierbarkeit bezeichnet die Fähigkeit eines KI-Systems und seiner betreibenden Organisation, auf Anfrage nachzuweisen, wie Entscheidungen zustande gekommen sind, welche Daten verwendet wurden und ob die relevanten Anforderungen eingehalten werden.
Einfach erklärt
Ein auditierbares KI-System ist eines, das sich „aufmachen“ lässt: Wer hat es trainiert? Mit welchen Daten? Wie wurde es getestet? Welche Entscheidungen hat es getroffen und auf welcher Grundlage? Diese Fragen lassen sich bei guter Dokumentation beantworten – bei schlechter Dokumentation nicht. Auditierbarkeit ist damit eine direkte Folge von Dokumentationspraxis und Transparenz.
In der Praxis wird Auditierbarkeit durch Maßnahmen wie Protokollierung von Systemverhalten, Versionierung von Modellen und Trainingsdaten sowie klare Dokumentation von Entscheidungsprozessen erreicht. Für Hochrisiko-KI im Sinne des EU AI Act ist eine bestimmte Form der Auditierbarkeit vorgeschrieben. Für andere KI-Systeme ist sie eine freiwillige, aber empfehlenswerte Qualitätseigenschaft.
Beispiel aus dem Arbeitsalltag
Ein Unternehmen nutzt KI zur Kreditwürdigkeitsprüfung. Im Rahmen einer regulatorischen Prüfung muss es nachweisen, wie das System Entscheidungen trifft, welche Merkmale die größte Rolle spielen und ob diskriminierende Muster ausgeschlossen werden können. Dank vollständiger Dokumentation und Logging kann das Unternehmen die Anforderungen erfüllen.
Warum ist der Begriff wichtig?
Ohne Auditierbarkeit können Fehler in KI-Systemen schwer entdeckt und noch schwerer belegt werden. Das ist ein Problem für interne Qualitätssicherung und externe Regulierung gleichermaßen.
Mit dem EU AI Act steigen die formalen Anforderungen an Dokumentation und Nachvollziehbarkeit für bestimmte KI-Systeme. Organisationen sollten prüfen, ob ihre Systeme die relevanten Kriterien erfüllen.
Chancen
- Nachvollziehbarkeit stärkt das Vertrauen in KI-Entscheidungen
- Fehler und Bias können systematisch erkannt und behoben werden
- Regulatorische Anforderungen können gezielt erfüllt werden
- Interne Lernfähigkeit steigt durch dokumentierte Entscheidungsmuster
Risiken und typische Fehler
- Vollständige Auditierbarkeit erzeugt Dokumentationsaufwand
- Komplexe Modelle (Deep Learning) sind schwerer zu erklären als einfachere Modelle
- Protokolldaten können selbst personenbezogene Daten enthalten und datenschutzrechtlich relevant sein
- Scheinauditierbarkeit: Dokumentation vorhanden, aber nicht aussagekräftig
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.