KI-Ergebnis prüfen
KI-Glossar
Das kritische Beurteilen und Verifizieren von KI-Ausgaben auf sachliche Richtigkeit, Vollständigkeit und Eignung für den vorgesehenen Verwendungszweck.
Kurzdefinition
Das Prüfen von KI-Ergebnissen bezeichnet den Prozess, bei dem Ausgaben von Sprachmodellen auf Fehler, Halluzinationen, Unvollständigkeiten oder mangelnde Eignung für den Anwendungsfall bewertet werden, bevor sie weiterverwendet werden.
Einfach erklärt
KI-Modelle können falsche Fakten mit großer Überzeugungskraft präsentieren. Halluzinationen, bei denen das Modell nicht existierende Quellen erfindet oder falsche Zahlen nennt, sind ein bekanntes Problem. Deswegen gilt: KI-Ergebnisse werden nicht blind übernommen, sondern geprüft. Der Aufwand der Prüfung sollte sich am Verwendungszweck orientieren: Ein internes Brainstorming-Ergebnis erfordert weniger Kontrolle als ein Dokument, das an Kunden gesendet wird.
Praktische Prüfschritte sind: Fakten auf Richtigkeit prüfen, Quellen nachvollziehen oder ergänzen, auf fehlende Aspekte achten, den Stil auf Eignung prüfen und das Ergebnis mit dem ursprünglichen Auftrag abgleichen. Bei fachspezifischen Themen wie Recht, Medizin oder Finanzen ist besondere Vorsicht geboten: KI kann hier fachlich klingen und trotzdem fehlerhaft sein.
Beispiel aus dem Arbeitsalltag
Eine Assistentin erhält auf Basis eines KI-Prompts eine Zusammenfassung aktueller Gesetzesänderungen. Sie prüft drei der genannten Paragraphen in der offiziellen Quelle und stellt fest, dass einer davon nicht korrekt zitiert wurde. Sie korrigiert den Eintrag, bevor die Zusammenfassung an die Geschäftsführung geht.
Warum ist der Begriff wichtig?
Das Prüfen von KI-Ergebnissen ist keine optionale Vorsichtsmaßnahme, sondern ein notwendiger Bestandteil der KI-Nutzung. Wer das überspringt, gibt Fehler weiter und trägt dafür die Verantwortung.
Für Führungskräfte ist relevant: Die Verantwortung für Inhalte, die auf KI-Basis entstanden sind, liegt beim Menschen, der sie weiterverwendet – nicht beim Modell.
Chancen
- Fehler werden erkannt, bevor sie Schaden anrichten
- Prüfkompetenz stärkt insgesamt die Qualität der KI-Nutzung im Team
- Systematische Prüfung hilft dabei, Stärken und Schwächen des eingesetzten Modells zu verstehen
- Vertrauen in KI-Ausgaben wird auf sachlicher Grundlage aufgebaut
Risiken und typische Fehler
- Überzeugend formulierte Fehler werden leicht übersehen
- Bei fachfremden Themen fehlt das Prüfwissen
- Zeitdruck führt dazu, dass Prüfschritte übersprungen werden
- Prüfkompetenz fehlt häufig, wenn KI für neue Aufgabenfelder eingesetzt wird
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.