Risikoklasse
KI-Glossar
Eine Einstufung von KI-Systemen nach dem Grad des potenziellen Schadens, den sie verursachen können – die Grundlage des risikobasierten Ansatzes im EU AI Act.
Kurzdefinition
Risikoklasse bezeichnet die Kategorisierung eines KI-Systems nach dem Ausmaß des Risikos, das sein Einsatz für die Gesundheit, Sicherheit oder Grundrechte von Personen darstellt. Der EU AI Act unterscheidet vier Klassen: inakzeptables Risiko (verboten), Hochrisiko, begrenztes Risiko und minimales Risiko.
Einfach erklärt
Der EU AI Act funktioniert nach einem risikobasierten Prinzip: Je höher das Schadenspotenzial eines KI-Systems, desto strenger sind die Anforderungen. KI-Systeme mit inakzeptablem Risiko – zum Beispiel Social-Scoring-Systeme staatlicher Akteure – sind grundsätzlich verboten. Hochrisiko-KI in Bereichen wie Personalauswahl, Kreditvergabe oder medizinischer Diagnostik unterliegt strengen Anforderungen. KI mit begrenztem Risiko muss bestimmte Transparenzpflichten erfüllen, etwa die Kennzeichnung als KI. KI mit minimalem Risiko – etwa Spam-Filter – unterliegt keinen besonderen Pflichten.
Für Organisationen ist die Frage entscheidend: In welche Risikoklasse fallen die KI-Systeme, die wir einsetzen oder entwickeln? Die Einordnung ist nicht immer eindeutig und hängt vom konkreten Anwendungsfall ab. Im Zweifelsfall sollte die Einstufung rechtlich geprüft werden, da sich daraus unterschiedliche Compliance-Pflichten ergeben.
Beispiel aus dem Arbeitsalltag
Ein Unternehmen möchte KI zur Unterstützung von Beförderungsentscheidungen einsetzen. Im Rahmen einer internen Prüfung stellt es fest, dass dieses System möglicherweise als Hochrisiko-KI einzustufen ist. Es konsultiert rechtliche Beratung und prüft, welche Dokumentations- und Transparenzanforderungen des EU AI Act zu erfüllen sind, bevor das System eingeführt wird.
Warum ist der Begriff wichtig?
Die Risikoklasse eines KI-Systems bestimmt, welche regulatorischen Anforderungen gelten. Wer die Klasse nicht kennt, kann Compliance-Pflichten übersehen.
Auch als Nutzer (Betreiber) eines KI-Systems – nicht nur als Hersteller – können Pflichten entstehen. Die Abgrenzung ist im EU AI Act geregelt und sollte bekannt sein.
Chancen
- Klare Einstufung ermöglicht gezielte Compliance-Vorbereitung
- Risikobasierter Ansatz schont Ressourcen bei KI mit geringem Schadenspotenzial
- Einheitliche EU-Klassifikation erleichtert grenzüberschreitende Bewertung
Risiken und typische Fehler
- Einstufung kann komplex sein und sich bei Änderungen des Anwendungsfalls verschieben
- Falsche Einschätzung der eigenen Risikoklasse kann rechtliche Konsequenzen haben
- Regelungen befinden sich teilweise noch in der Umsetzungsphase
- Kleine Organisationen ohne Rechtsabteilung können Anforderungen schwer einschätzen
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.