Erklärbarkeit
KI-Glossar
Erklärbarkeit bezeichnet die Fähigkeit, die Entscheidungen oder Ausgaben eines KI-Systems in verständlicher Form zu begründen oder nachzuvollziehen.
Kurzdefinition
Erklärbarkeit (englisch: Explainability) ist ein Qualitätsmerkmal von KI-Systemen, das beschreibt, inwieweit die interne Logik oder die Grundlagen einer KI-Ausgabe für Menschen nachvollziehbar gemacht werden kann. Es ist eng verwandt mit dem Begriff Interpretierbarkeit.
Einfach erklärt
Einfache Regelmodelle in der KI (wie Entscheidungsbäume) sind gut erklärbar: Man kann Schritt für Schritt nachvollziehen, welche Merkmale zu welcher Entscheidung geführt haben. Bei großen Sprachmodellen ist das erheblich schwieriger, weil die internen Berechnungen Milliarden von Parametern umfassen.
Praktische Erklärbarkeit bedeutet in vielen Anwendungsfällen nicht vollständige technische Transparenz, sondern eine sinnvolle Näherung: Welche Eingaben hatten den größten Einfluss auf dieses Ergebnis? Welche Alternativen hätten zu einem anderen Ergebnis geführt? Diese Informationen können Nutzenden helfen, Ausgaben einzuschätzen.
Im Unternehmenskontext ist Erklärbarkeit besonders relevant, wenn KI-Systeme Entscheidungen unterstützen, die Menschen direkt betreffen: Kreditwürdigkeitsprüfungen, Personalentscheidungen, medizinische Diagnosen. Hier können Betroffene einen Anspruch auf Erklärung haben (u. a. nach DSGVO Art. 22).
Beispiel aus dem Arbeitsalltag
Eine Bank nutzt ein KI-Modell zur Bewertung von Kreditanträgen. Das Modell lehnt einen Antrag ab. Um Erklärbarkeit zu gewährleisten, liefert das System dem Sachbearbeiter eine Übersicht der wichtigsten Einflussfaktoren: Beispielsweise war das Verhältnis von beantragter Summe zu Einkommen der ausschlaggebende Faktor. Der Sachbearbeiter kann diese Begründung prüfen und gegebenenfalls manuell korrigieren.
Warum ist der Begriff wichtig?
Erklärbarkeit ist eine Voraussetzung dafür, dass Mitarbeitende KI-Ausgaben kritisch prüfen können statt sie blind zu übernehmen.
Für Hochrisiko-KI-Anwendungen schreibt der EU AI Act entsprechende Dokumentations- und Erklärungspflichten vor.
Chancen
- Erklärt KI stärkt das Vertrauen der Nutzenden und erleichtert Human-in-the-Loop-Prozesse
- Fehleranalyse und Modellverbesserung werden durch erklärbare Systeme vereinfacht
- Rechtliche Anforderungen (DSGVO, EU AI Act) können leichter erfüllt werden
- Fördert eigenverantwortlichen Umgang mit KI-Ergebnissen
Risiken und typische Fehler
- Erklärbarkeit und Modellgenauigkeit stehen manchmal in einem Zielkonflikt: einfachere Modelle sind erklärbarer, aber oft weniger präzise
- Vereinfachte Erklärungen können ein falsches Sicherheitsgefühl erzeugen
- Erklärungen, die Nutzende nicht verstehen, nützen wenig
- Rechenaufwand für Erklärbarkeitsverfahren kann erheblich sein
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.