Betreiberpflichten
KI-Glossar
Betreiberpflichten bezeichnen im Kontext des EU AI Act die Anforderungen, die für Unternehmen und Organisationen gelten können, die KI-Systeme in ihrem eigenen beruflichen oder behördlichen Kontext einsetzen.
Kurzdefinition
Nach der KI-Verordnung der EU gilt als Betreiber, wer ein KI-System unter eigener Verantwortung für einen bestimmten Zweck einsetzt — ohne es selbst entwickelt zu haben. Für Hochrisiko-KI-Systeme sieht die Verordnung für Betreiber Pflichten vor, die unter anderem Maßnahmen zur menschlichen Aufsicht, Überwachung des Systembetriebs und Meldung schwerwiegender Vorfälle umfassen können. Der genaue Umfang hängt von der Risikoklasse und dem Einsatzkontext ab und sollte im Einzelfall rechtlich geprüft werden.
Einfach erklärt
Die meisten Unternehmen, die KI-Tools nutzen, sind Betreiber — nicht Anbieter. Sie kaufen oder lizenzieren ein KI-System und setzen es im eigenen Kontext ein. Das klingt zunächst nach geringeren Pflichten, aber auch Betreiber können je nach Einsatzkontext relevante Anforderungen erfüllen müssen.
Entscheidend ist auch hier die Risikoklasse: Wer ein KI-System für interne Textzusammenfassungen einsetzt, hat andere Anforderungen als wer dasselbe oder ein ähnliches System für automatisierte Personalentscheidungen nutzt. Die eigene Nutzungspraxis — nicht nur das System selbst — bestimmt die Einordnung mit. Eine Prüfung des konkreten Einsatzfalls ist daher ratsam.
Beispiel aus dem Arbeitsalltag
Ein Krankenhaus setzt ein zugekauftes KI-System zur Unterstützung der radiologischen Diagnostik ein. Als Betreiber prüft es, ob das System als Hochrisiko-KI einzuordnen ist, stellt eine angemessene menschliche Aufsicht sicher und dokumentiert den Einsatz entsprechend der internen Richtlinien.
Warum ist der Begriff wichtig?
Auch wer keine KI entwickelt, sondern nur einsetzt, kann Pflichten nach dem EU AI Act unterliegen. Das Bewusstsein für die eigene Rolle als Betreiber ist Ausgangspunkt jeder Compliance-Analyse.
Viele Unternehmen unterschätzen, dass die Art der Nutzung die Risikoklasse beeinflussen kann. Ein und dasselbe KI-System kann in einem Kontext unkritisch sein und in einem anderen als Hochrisiko-System eingestuft werden.
Chancen
- Klarerer Rechtsrahmen für den KI-Einsatz im Unternehmen
- Strukturierte Prüfung fördert verantwortungsvollen KI-Einsatz
- Frühzeitige Dokumentation schützt bei späteren Prüfungen
- Grundlage für interne KI-Governance-Prozesse
Risiken und typische Fehler
- Unbekannte Pflichten können bei späterer Prüfung Probleme bereiten
- Risikoklassifizierung erfordert Kenntnis des eigenen Einsatzkontexts
- Anbieter-Dokumentation schützt Betreiber nicht automatisch
- Lücken bei menschlicher Aufsicht können Haftungsrisiken erhöhen
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.