Datenbias
KI-Glossar
Eine Verzerrung in den Daten, mit denen ein KI-Modell trainiert wird, die dazu führt, dass das Modell systematisch fehlerhafte oder ungerechte Ausgaben erzeugt.
Kurzdefinition
Datenbias bezeichnet systematische Schieflage in einem Trainingsdatensatz, die dazu führt, dass ein darauf trainiertes KI-Modell bestimmte Gruppen, Kontexte oder Situationen überrepräsentiert, unterrepräsentiert oder verzerrt wiedergibt.
Einfach erklärt
Ein KI-Modell lernt aus Daten. Wenn diese Daten nicht repräsentativ sind – weil bestimmte Gruppen fehlen, historische Ungleichheiten abgebildet werden oder nur bestimmte Quellen berücksichtigt wurden –, lernt das Modell diese Verzerrungen mit. Das Ergebnis ist ein Modell, das für manche Eingaben systematisch schlechtere Ergebnisse liefert.
Datenbias kann viele Formen annehmen: Sampling Bias (bestimmte Gruppen im Datensatz unterrepräsentiert), Historical Bias (Daten spiegeln vergangene Ungleichheiten), Confirmation Bias (Daten bestätigen bestehende Annahmen). Da Trainingsdaten die Grundlage jedes KI-Modells sind, ist die Qualität und Repräsentativität der Daten eine der wichtigsten Stellschrauben für faire KI-Ausgaben.
Beispiel aus dem Arbeitsalltag
Ein KI-Übersetzungstool wurde hauptsächlich mit englischsprachigen Texten aus westlichen Quellen trainiert. Bei der Übersetzung von Texten aus anderen Kulturräumen produziert es häufiger Fehler und unangemessene Formulierungen. Eine Analyse zeigt, dass diese Kulturräume im Trainingsdatensatz stark unterrepräsentiert waren.
Warum ist der Begriff wichtig?
Datenbias ist eine der häufigsten Ursachen für diskriminierende oder fehlerhafte KI-Ausgaben. Da er im Modell unsichtbar verankert ist, ist er schwer nachträglich zu korrigieren.
Organisationen, die KI-Systeme einsetzen, sollten hinterfragen, mit welchen Daten das eingesetzte Modell trainiert wurde, und prüfen, ob bekannte Bias-Risiken für ihren Anwendungsfall relevant sind.
Chancen
- Bewusstsein für Datenbias verbessert Datenerhebung und -auswahl
- Systematische Analyse von Trainingsdaten erhöht Modellqualität
- Offene Kommunikation über Datenbias stärkt Vertrauen in KI-Systeme
Risiken und typische Fehler
- Datenbias ist oft schwer zu erkennen und zu quantifizieren
- Nachträgliche Korrekturen erfordern aufwendige Datenarbeit oder Neutraining
- Organisationen, die externe Modelle nutzen, haben begrenzte Einsicht in Trainingsdaten
- Kein Datensatz ist vollständig frei von Bias
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.