Hochrisiko-KI
KI-Glossar
KI-Systeme, die laut EU AI Act in Bereichen mit erheblichem Schadenspotenzial eingesetzt werden und deshalb strengen Anforderungen an Transparenz, Dokumentation und Prüfung unterliegen.
Kurzdefinition
Hochrisiko-KI bezeichnet gemäß EU AI Act eine Kategorie von KI-Systemen, die in kritischen Anwendungsbereichen eingesetzt werden und bei denen Fehlfunktionen erhebliche Schäden für Gesundheit, Sicherheit oder Grundrechte von Personen verursachen können.
Einfach erklärt
Der EU AI Act teilt KI-Systeme in Risikoklassen ein. Als Hochrisiko-KI gelten Systeme, die in sensiblen Bereichen eingesetzt werden: zum Beispiel in der Personalauswahl, bei Kreditvergabeentscheidungen, in der medizinischen Diagnostik, bei der Strafverfolgung oder im Bildungswesen. Die genaue Liste der Hochrisiko-Bereiche ist im Anhang des EU AI Act festgelegt und kann sich im Laufe der Zeit durch delegierte Rechtsakte ändern.
Für Hochrisiko-KI gelten besondere Anforderungen: unter anderem technische Dokumentation, Konformitätsbewertung, Transparenzpflichten gegenüber Nutzern und eine menschliche Aufsicht über die Entscheidungen des Systems. Wer als Anbieter oder Betreiber eines Hochrisiko-KI-Systems gilt und welche Pflichten konkret gelten, sollte im Einzelfall rechtlich geprüft werden. Die Regelungen sind komplex und teilweise noch in der Umsetzungsphase.
Beispiel aus dem Arbeitsalltag
Ein Unternehmen nutzt ein KI-System zur Vorauswahl von Bewerbenden. Dieses System kann als Hochrisiko-KI eingestuft werden, weil es Entscheidungen mit erheblichen Folgen für Personen trifft. Das Unternehmen sollte prüfen, welche Dokumentationspflichten und Transparenzanforderungen des EU AI Act auf es als Betreiber zutreffen.
Warum ist der Begriff wichtig?
Organisationen, die KI-Systeme in sensiblen Bereichen einsetzen, sollten frühzeitig einschätzen, ob ihre Anwendungen als Hochrisiko-KI gelten könnten. Rechtliche Beratung ist in diesen Fällen empfehlenswert.
Auch für Unternehmen, die Hochrisiko-KI nur kaufen oder nutzen, entstehen Pflichten als Betreiber. Die Abgrenzung von Anbieter- und Betreiberpflichten ist im EU AI Act geregelt und sollte bekannt sein.
Chancen
- Klare Standards schaffen Vertrauen in KI-Systeme in sensiblen Bereichen
- Dokumentationspflichten fördern bessere interne Qualitätssicherung
- Einheitliche EU-Anforderungen erleichtern den grenzüberschreitenden Einsatz
Risiken und typische Fehler
- Compliance-Aufwand für Hochrisiko-KI ist erheblich und ressourcenintensiv
- Falsche Einschätzung der eigenen Risikoklasse kann rechtliche Konsequenzen haben
- Regulierung kann Innovation in bestimmten Bereichen verlangsamen
- Regelungen sind noch nicht vollständig in Kraft und können sich ändern
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.