Verlässlichkeit
KI-Glossar
Verlässlichkeit bezeichnet die Eigenschaft eines KI-Systems, unter verschiedenen Bedingungen konsistent, korrekt und stabil zu funktionieren.
Kurzdefinition
Verlässlichkeit (englisch: Reliability) ist ein Qualitätsmerkmal, das beschreibt, inwieweit ein KI-System seine Aufgabe zuverlässig und reproduzierbar erfüllt. Ein verlässliches System liefert bei gleichen oder ähnlichen Eingaben stabile Ergebnisse und versagt nicht unerwartet.
Einfach erklärt
Verlässlichkeit umfasst mehrere Aspekte: Konsistenz (ähnliche Eingaben liefern ähnliche Ausgaben), Robustheit (das System funktioniert auch bei leicht veränderten, fehlerhaften oder ungewöhnlichen Eingaben) und Stabilität (das System bricht nicht ab oder liefert keine extremen Ausreißer).
Bei generativen KI-Systemen wie Sprachmodellen ist Verlässlichkeit eine besondere Herausforderung: Dasselbe Modell kann auf scheinbar gleiche Fragen unterschiedliche Antworten geben. Das ist in kreativen Anwendungen erwünscht, kann aber in fachkritischen Kontexten problematisch sein.
Verlässlichkeit sollte geprüft werden, bevor ein KI-System für kritische Aufgaben eingesetzt wird. Dazu gehören Tests mit repräsentativen Eingabedaten, Edge-Case-Tests und eine kontinuierliche Überwachung des Systems im Betrieb. Standardisierte Benchmarks können dabei helfen, Systeme zu vergleichen.
Beispiel aus dem Arbeitsalltag
Ein Unternehmen prüft, ob ein KI-gestütztes System zur automatischen Kategorisierung von Kundenbeschwerden für den Produktionseinsatz geeignet ist. Dafür wird das System mit 500 historischen Beschwerden getestet, für die eine korrekte Kategorisierung bekannt ist. Die Trefferquote und die Art der Fehler werden analysiert. Erst wenn Verlässlichkeit in einem definierten Toleranzbereich nachgewiesen ist, geht das System in Betrieb.
Warum ist der Begriff wichtig?
Verlässlichkeit ist eine Voraussetzung für verantwortungsvolle KI-Nutzung. Systeme, die unzuverlässig funktionieren, können in Entscheidungsprozessen mehr schaden als nützen.
Für Hochrisiko-KI schreibt der EU AI Act spezifische Anforderungen an Genauigkeit, Robustheit und Cybersicherheit vor.
Chancen
- Verlässliche Systeme schaffen Vertrauen bei Mitarbeitenden und Führungskräften
- Systematische Tests vor dem Einsatz reduzieren das Risiko von Fehlentscheidungen
- Kontinuierliches Monitoring ermöglicht frühzeitiges Erkennen von Leistungsabfällen
- Dokumentierte Verlässlichkeitsprüfungen erleichtern Audits und Compliance-Nachweise
Risiken und typische Fehler
- Verlässlichkeit kann sich nach Modell-Updates oder bei veränderten Eingabedaten verschlechtern
- Scheinbar gute Testergebnisse können bei veränderten realen Bedingungen nicht halten
- Ohne Monitoring im Betrieb bleiben Verlässlichkeitsprobleme oft unerkannt
- Kein KI-System ist hundertprozentig verlässlich; realistische Erwartungen sind notwendig
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.