- Ein Mensch im Prozess ist noch keine wirksame menschliche Aufsicht. Human Oversight braucht Kompetenz, Informationen, Befugnisse und die reale Möglichkeit, KI-Ergebnisse zu hinterfragen, zu übersteuern oder das System zu stoppen.
KI-Kompetenz bedeutet nicht, dass alle zu KI-Experten werden müssen. Entscheidend ist, dass Menschen genug verstehen, anwenden, bewerten und verantworten können, um KI ihrer jeweiligen Rolle entsprechend sinnvoll und sicher einzusetzen.
Wer ein KI-System betreibt, übernimmt mehr als nur dessen technische Nutzung. Der EU AI Act stellt je nach Risikoklasse konkrete Anforderungen an Überwachung, menschliche Aufsicht, Datenqualität, Dokumentation und den Umgang mit Risiken.
Richtlinien können Regeln festlegen, aber sie treffen keine Entscheidungen. Wirksame KI-Governance braucht deshalb klare Rollen, Verantwortlichkeiten und Befugnisse – damit im entscheidenden Moment feststeht, wer handeln darf und muss.