Was heißt „wirksame menschliche Aufsicht“ nach Artikel 14 der KI-Verordnung?

Artikel 14 der Verordnung (EU) 2024/1689 verlangt, dass Hochrisiko-KI-Systeme so gestaltet sind, dass natürliche Personen sie während ihrer Verwendung wirksam beaufsichtigen können – und benennt in Absatz 4 fünf konkrete Fähigkeiten, die diese Personen haben müssen. Sie müssen die Fähigkeiten und Grenzen des Systems verstehen (Buchstabe a), sich der Neigung bewusst bleiben, sich automatisch oder übermäßig auf die Ausgabe zu verlassen – ausdrücklich benannt als Automation Bias (Buchstabe b), die Ausgabe richtig interpretieren (Buchstabe c), im Einzelfall entscheiden können, das System nicht zu verwenden oder seine Ausgabe zu verwerfen, zu übergehen oder umzukehren (Buchstabe d), und in den Betrieb eingreifen oder ihn über eine Stopp-Funktion anhalten können (Buchstabe e).

Die Vorschrift, die sich selbst in Frage stellt

Lesen Sie Buchstabe b noch einmal. Der Gesetzgeber installiert den Menschen als Sicherheitsinstanz und hält im selben Absatz fest, dass diese Instanz eine dokumentierte Fehlfunktion hat. Als Gegenmittel verlangt er, sich dieser Neigung „bewusst zu bleiben“.

Das ist gut gemeint und psychologisch schwach. Wissen über eine Verzerrung schützt vor ihr fast nicht – wir erkennen Verzerrungen zuverlässig bei anderen und halten uns selbst für die Ausnahme. Optische Täuschungen verschwinden nicht, wenn man das Lineal danebenlegt. Hinzu kommt ein zweiter, älterer Befund aus der Arbeitspsychologie: Die Aufmerksamkeit beim Überwachen seltener Fehlerereignisse fällt binnen kurzer Zeit steil ab. Je zuverlässiger ein System, desto toter die Aufsicht. Das ist die zentrale Ironie der Automatisierung – dem Menschen bleibt genau die Aufgabe, für die er am schlechtesten geeignet ist: passiv einen fast fehlerfreien Prozess zu beobachten und im seltensten Moment hellwach zu intervenieren.

Woran Sie wirksame Aufsicht erkennen

An einer einzigen Kennzahl: der Override-Rate. Wie oft hat Ihre benannte Aufsichtsperson in den letzten drei Monaten eine Vorlage verworfen oder wesentlich korrigiert? Liegt die Quote dauerhaft bei null, haben Sie keine Aufsicht, sondern eine Durchwink-Station – und im Schadensfall eine Haftungsadresse. Vier Merkmale machen den Unterschied: Die Prüfinstanz arbeitet außerhalb des Prozesstakts, sie trägt einen Falsifikationsauftrag statt eines Freigabeauftrags, sie wird nicht am Durchsatz gemessen, und ihre Eingriffe werden dokumentiert.

Der Unterschied zwischen im Loop und über dem Loop

Ein Prüfer im Takt des Prozesses beantwortet die Frage: Ist dieses Ergebnis plausibel? Eine Instanz außerhalb des Takts beantwortet die Fragen: Ist der Prozess richtig gebaut? Was wurde nicht gefragt? Wer sitzt beim Entscheiden nicht mit am Tisch und trägt trotzdem die Folgen? Die bekannten Urteilsverzerrungen wirken auf die erste Position mit voller Kraft und auf die zweite deutlich schwächer.

Genau hier liegt der Kern dessen, was die KI-Verordnung eigentlich will und was in der Umsetzung meist verloren geht. Artikel 14 fordert keinen Menschen an der Maschine. Er fordert einen Menschen mit Mandat gegenüber der Maschine. Das ist keine Compliance-Aufgabe, sondern eine Führungsaufgabe – und die eigentliche Rückbesinnung, zu der die Verordnung einlädt: dass Verantwortung eine Adresse braucht, die widersprechen darf, widersprechen kann und dafür nicht bestraft wird.

Die praktische Anschlussfrage

Kennen Sie die Override-Rate Ihrer Aufsichtspersonen? Wenn nicht, ist genau das der Befund. Der Selbstcheck zeigt, wo in Ihrem Haus Aufsicht nötig ist – und mit welcher Fundstelle: Riskante Autopilotmuster, Intelligenzillusion und Heuristiken in unternehmerischen KI-Prozessen erkennen.

Dieser Beitrag dient der Orientierung und ersetzt keine Rechtsberatung. Für die Prüfung Ihrer konkreten Entscheidungsarchitektur: Johannes Faupel, Systemische Supervision für die Entscheiderebene, Schweizer Straße 5, 60594 Frankfurt am Main, Telefon 069 4800 8888.

Alle Antworten zur KI-Verordnung im Überblick

1. EU-KI-Verordnung Online-Tool: Selbstcheck mit Fundstellen
2. Was ist die KI-Verordnung (EU) 2024/1689?
3. KI-Verordnung aktueller Stand August 2026: Digital Omnibus
4. Wer ist von der KI-Verordnung betroffen?
5. Was verbietet Artikel 5 der KI-Verordnung?
6. Risikoklassen der KI-Verordnung: die vier Stufen
7. KI-Verordnung in HR: Welche Personalentscheidungen sind Hochrisiko?
8. Artikel 4 KI-Verordnung: Schulungspflicht und KI-Kompetenz
9. KI-Verordnung Deutschland: KI-MIG und Bundesnetzagentur
10. Kennzeichnungspflicht für KI-Inhalte: Artikel 50 KI-Verordnung
11. Bußgelder der KI-Verordnung nach Artikel 99
12. Was fällt nicht unter die KI-Verordnung?
13. Riskante Autopilotmuster, Intelligenzillusion und Heuristiken in unternehmerischen KI-Prozessen erkennen