Riskante Autopilotmuster, Intelligenzillusion und Heuristiken in unternehmerischen KI-Prozessen erkennen

Supervision für Entscheider, die KI-gestützte Vorlagen prüfen, bevor sie unterschreiben. Johannes Faupel, Systemische Supervision für die Entscheiderebene seit über 25 Jahren. Schweizer Straße 5, Frankfurt am Main – täglich persönlich erreichbar, Termin binnen 48 Stunden: 069 4800 8888.

Autopilot-Muster im Umgang mit LLM-Outputs und die verdeckten Heuristiken werden sichtbar. Sie treffen Ihre Führungsentscheidungen wieder autonom.

Der Einstieg in die Prüfung: EU-KI-Verordnung Online-Tool: Selbstcheck mit Fundstellen – 39 Entscheidungssituationen, Auswertung mit Fundstellen, läuft vollständig im Browser.

Human in the Loop – oder KI in the Loop?

Artikel 14 der KI-Verordnung (EU) 2024/1689 verlangt, dass ein Mensch ein laufendes KI-Verfahren wirksam beaufsichtigen kann. Das Modell dahinter heißt Human in the Loop: Die Maschine arbeitet, der Mensch prüft im Vorbeigehen und gibt frei.

Beobachten Sie einmal, was in dieser Anordnung tatsächlich geschieht. Der Mensch tritt zu einem Verfahren hinzu, das bereits läuft. Er trifft auf eine Vorlage, die vollständig aussieht, schlüssig klingt und sauber formatiert ist. Sein Widerspruch würde Verzögerung kosten, Rechtfertigung verlangen und Widerstand erzeugen. Seine Zustimmung kostet nichts. Die Rolle heißt Aufsicht. Die Funktion ist Bestätigung.

Die wirksamere Anordnung ist die umgekehrte: KI in the Loop. Menschen bilden zuerst ein eigenes Urteil. Erst danach tritt die maschinelle Analyse hinzu – als Gegenprobe, als Einwand, als Suche nach dem Übersehenen. Der Unterschied ist nicht kosmetisch, er ist entscheidungspsychologisch fundamental. Wer zuerst selbst denkt, hat einen eigenen Standpunkt, von dem aus er die maschinelle Analyse bewerten kann. Wer zuerst liest, was die Maschine geschrieben hat, hat keinen Standpunkt mehr – er hat nur noch eine Vorlage, der er zustimmt oder nicht.

Genau diese Umkehrung ist Gegenstand des Trainings für die C-Ebene: Entscheidungsfindung durch Menschen, maschinelle Bewertung danach.

Was sind riskante Autopilotmuster in KI-Prozessen?

Riskante Autopilotmuster sind eingeschliffene Übernahmeroutinen im Umgang mit KI-Ausgaben: Eine Entscheidungsvorlage aus einem Sprachmodell wirkt schlüssig, vollständig und professionell formatiert – und wird deshalb freigegeben statt geprüft. Der Mensch bleibt formal in der Entscheidung und folgt faktisch dem System. Die Forschung bezeichnet diesen Mechanismus als Automation Bias: die dokumentierte Neigung, sich automatisch oder übermäßig auf maschinell erzeugte Ausgaben zu verlassen. Die KI-Verordnung benennt genau diese Neigung in Artikel 14 Absatz 4 Buchstabe b ausdrücklich – und verlangt eine Fähigkeit, die sie selbst unausgestattet lässt: Sie schreibt wirksame Aufsicht vor und bleibt die Prüffragen dazu schuldig. Diese Lücke schließt das hier beschriebene Angebot.

Was ist die Intelligenzillusion bei KI-Systemen?

Die Intelligenzillusion entsteht, wenn sprachliche Flüssigkeit als Urteilskraft gelesen wird. Große Sprachmodelle erzeugen maximal kohärenten Text – und Kohärenz ist für das menschliche Urteil das stärkste Wahrheitssignal, obwohl sie mit Wahrheit statistisch unverbunden ist. Wer einer KI-Vorlage vertraut, weil sie überzeugend klingt, vertraut einer Eigenschaft der Textoberfläche. Führungskräfte, Personalverantwortliche und Juristen erleben diese Illusion täglich: Die Vorlage liest sich wie das Werk eines erfahrenen Kollegen und ist das Ergebnis von Musterrekombination über Trainingsdaten – einschließlich der Lücken, der Verzerrungen und der frei erfundenen Angaben. Die Intelligenzillusion zu erkennen bedeutet, systematisch zwischen Sprachleistung und Urteilsleistung zu unterscheiden. Genau diese Unterscheidung wird in der Supervision an Ihrem eigenen Fallmaterial trainiert.

Welche Heuristiken wirken in unternehmerischen KI-Prozessen?

In KI-gestützten Entscheidungsprozessen wirken die klassischen Urteilsheuristiken nach Kahneman und Tversky mit verstärkter Kraft:

• Ankereffekt: Die erste maschinell gelieferte Zahl wird zum Bezugspunkt aller weiteren Überlegungen.
• Verfügbarkeitsheuristik: Das ausformuliert Vorliegende erscheint wichtig, das Ausgelassene existiert im Entscheidungsraum nicht mehr.
• Substitution: Die schwere Frage nach der richtigen Entscheidung wird ersetzt durch die leichte Frage, ob die Vorlage schlüssig klingt.
• Kohärenz- und Flüssigkeitsheuristik: Lesbarkeit wird mit Verlässlichkeit verwechselt.
• Rahmenübernahme: Wer eine Frage als Kostenrechnung stellt, erhält eine Kostenrechnung – die Frage nach den Folgen für Menschen taucht in der Antwort nicht auf, weil sie in der Frage nicht vorkam.
• Gefälligkeitsneigung der Systeme: Sprachmodelle verstärken erkennbare Erwartungen ihrer Nutzer.

Diese Heuristiken bleiben in laufenden Prozessen verdeckt – sichtbar werden sie durch strukturierte Prüfung von außen, an konkreten Entscheidungsfällen aus Ihrem Haus.

Der Rechtsstand: was gilt, was verschoben wurde

Die Verordnung (EU) 2024/1689 ist seit dem 1. August 2024 in Kraft und seit dem 2. August 2026 allgemein anwendbar. Der Digital Omnibus on AI – die Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026 – hat Artikel 113 geändert und die Fristen für Hochrisiko-KI verschoben.

• Seit 2. Februar 2025: verbotene Praktiken nach Artikel 5, darunter Emotionserkennung am Arbeitsplatz nach Absatz 1 Buchstabe f. KI-Kompetenzpflicht nach Artikel 4.
• Seit 2. August 2025: Pflichten für KI-Modelle mit allgemeinem Verwendungszweck nach Kapitel V.
• Seit 2. August 2026: allgemeine Anwendbarkeit der Verordnung, Transparenz- und Kennzeichnungspflichten nach Artikel 50. Übergangsfrist für Bestandssysteme bis 2. Dezember 2026.
• Ab 2. Dezember 2027: Pflichten für eigenständige Hochrisiko-KI-Systeme nach Anhang III, einschließlich Nummer 4 – Beschäftigung und Personalmanagement.
• Ab 2. August 2028: Pflichten für Hochrisiko-KI, die in regulierte Produkte nach Anhang I eingebettet ist.

In Deutschland ist die Bundesnetzagentur seit dem 29. Juli 2026 zentrale Marktüberwachungsbehörde, Anlauf- und Beschwerdestelle. Rechtsgrundlage ist das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG), verkündet im Bundesgesetzblatt 2026 I Nummer 233 vom 28. Juli 2026.

Warum die Verschiebung auf Dezember 2027 die gefährlichere Nachricht ist

Seit Juli 2026 verbreitet sich in Geschäftsleitungen ein Satz, der vernünftig klingt und eine Weiche stellt: „Das ist erst 2027, das können wir vertagen.“

Verschoben wurde der Stichtag, an dem geprüft wird. Nicht der Zeitpunkt, an dem die Entscheidungen fallen. Ihre Bewerberauswahl, Ihre Leistungsbewertung, Ihre Schichtplanung laufen heute. Sie erzeugen heute Wirkungen bei Menschen, heute Dokumentation, heute Präzedenzfälle im eigenen Haus. Wer diese Systeme sechzehn Monate ungeprüft laufen lässt und im Herbst 2027 mit der Compliance beginnt, prüft eine Praxis, die sich zwischenzeitlich verfestigt hat. Er wird sie nicht mehr korrigieren. Er wird sie beschreiben.

Sechzehn Monate sind eine ungewöhnlich komfortable Ausgangslage. Sie lassen sich als Aufschub verbrauchen oder als Vorlauf nutzen. Der Unterschied liegt in einer einzigen Formulierung: Wer sagt „wir müssen bis Dezember 2027“, arbeitet gegen eine Frist. Wer sagt „wir haben bis Dezember 2027“, arbeitet an einer Entscheidungsarchitektur.

Das Prüfraster: Die bei KI nicht gestellten Fragen

Grundlage der Arbeit ist ein Prüfraster mit sieben Fragen, die in KI-Entscheidungsvorlagen systematisch fehlen und die auch die KI-Verordnung voraussetzt, ohne sie zu stellen – darunter die Frage nach dem abwesenden Dritten (wer trägt die Folgen und sitzt beim Prompt fern), nach der Entwicklungskurve statt der Momentaufnahme (was wird aus Mitarbeitern durch Erfahrung und Weiterbildung), nach der Herkunft des Entscheidungsrahmens und nach der Override-Rate Ihrer benannten Aufsichtspersonen. Eine Aufsicht, die dauerhaft alles freigibt, dokumentiert ihre eigene Wirkungslosigkeit.

Das Prüfraster erhalten Sie hier gegen Ihre E-Mail-Adresse.

Das Angebot: vier Stufen

Stufe 1 – Die Entscheidungs-Sprechstunde

90 Minuten, persönlich in der Schweizer Straße 5 in Frankfurt oder online, Termin binnen 48 Stunden. Eine konkrete anstehende Entscheidung wird vollständig durchgeprüft: Bahnungsquellen, verdeckte Heuristiken, nicht gestellte Fragen, Haftungsseite. Sie erhalten danach eine schriftliche Einordnung auf einer Seite. 2.900 Euro netto. Die Zahlung sichert den Termin. Bei Buchung des Souveränitäts-Bogens binnen vier Wochen wird die Sprechstunde vollständig angerechnet.

Stufe 2 – Der Souveränitäts-Bogen

Fünf Sitzungen über acht Wochen. Sie arbeiten an Ihrem eigenen Fallmaterial, erkennen Ihre persönlichen Autopilotmuster im Umgang mit LLM-Outputs und trainieren die Umkehrung der Reihenfolge: erst das eigene Urteil, dann die maschinelle Gegenprobe. 9.800 Euro netto.

Stufe 3 – Das Entscheidungs-Audit Ihrer Organisation

Ein bis zwei Tage: Landkarte der faktischen Entscheidungswege in Ihrem Haus, Analyse der Aufsichtsrollen nach Artikel 14 KI-Verordnung, dokumentierte Zurechnungslücken, Override-Raten. Sie erhalten einen schriftlichen Bericht in Gutachtensqualität. 9.500 Euro netto pro Audittag.

Stufe 4 – Externes Supervisionsmandat

Monatliche Supervision Ihrer Entscheider- und Aufsichtsebene mit Rufbereitschaft für die Ad-hoc-Prüfung eiliger Entscheidungen. Die dauerhafte Außeninstanz, die Rahmen prüft, statt im Rahmen zu rechnen. 9.500 Euro netto monatlich im Jahresvertrag.

Alle Preise verstehen sich zuzüglich gesetzlicher Umsatzsteuer.

Warum Supervision statt KI-Beratung?

KI-Beratung optimiert Systeme. Supervision stärkt die Instanz, die den Systemen gegenübersteht: Ihre Urteilskraft. Nach über 25 Jahren Supervision auf Entscheiderebene – für eine Bundesbehörde, Universitätskliniken, Finanzhäuser und Konzerntöchter, dokumentiert auf der Referenzenseite – verbinde ich systemische Methodik (zertifiziert durch die Systemische Gesellschaft und die IGST) mit täglicher, intensiver eigener KI-Praxis. Diese Doppelkompetenz macht die verdeckten Muster sichtbar: Ich kenne beide Seiten des Dialogs zwischen Entscheider und Maschine aus jahrelanger Arbeit.

Häufige Fragen

Was bedeutet KI in the Loop im Unterschied zu Human in the Loop?

Human in the Loop bezeichnet die Anordnung, in der ein Mensch ein laufendes KI-Verfahren beaufsichtigt und dessen Ergebnisse freigibt – so verlangt es Artikel 14 der KI-Verordnung (EU) 2024/1689. KI in the Loop kehrt die Reihenfolge um: Menschen bilden zuerst ein eigenes Urteil, die maschinelle Analyse tritt danach als Gegenprobe hinzu. Der Unterschied ist entscheidungspsychologisch erheblich, weil eine bereits vorliegende, schlüssig formulierte Vorlage das eigene Urteil verdrängt, bevor es sich bilden konnte.

Wie erkenne ich Automation Bias in meinem Unternehmen?

Am zuverlässigsten an der Override-Rate: Wie oft haben Ihre Aufsichtspersonen in den letzten drei Monaten eine KI-Vorlage verworfen oder wesentlich korrigiert? Eine Quote nahe null zeigt Durchwink-Betrieb an.

Erfüllt unser Human-in-the-Loop die KI-Verordnung?

Formal womöglich – wirksam erst, wenn die Aufsichtsperson taktunabhängig prüft, einen Falsifikationsauftrag trägt und ihre Eingriffe dokumentiert werden. Das Entscheidungs-Audit (Stufe 3) beantwortet diese Frage belastbar.

Gelten die Hochrisiko-Pflichten schon?

Für eigenständige Hochrisiko-KI-Systeme nach Anhang III gelten sie ab dem 2. Dezember 2027, für in regulierte Produkte eingebettete Systeme nach Anhang I ab dem 2. August 2028 – so die Verordnung (EU) 2026/1744. Unverändert und ohne Übergangsfrist gelten die Verbote nach Artikel 5 seit dem 2. Februar 2025, die KI-Kompetenzpflicht nach Artikel 4 seit demselben Datum und die Transparenzpflichten nach Artikel 50 seit dem 2. August 2026.

Für wen ist das Angebot gedacht?

Für Geschäftsführer, Vorstände, Personalverantwortliche, Chefärzte und Partner von Kanzleien im Rhein-Main-Gebiet, die KI-gestützte Vorlagen verantworten und die Letztentscheidung erkennbar selbst treffen wollen.

Wie vereinbare ich einen Termin?

Telefonisch: 069 4800 8888. Die Terminabsprache erfolgt im direkten Gespräch – Sie sprechen von der ersten Minute an mit mir, mit keinem Buchungssystem. Termin binnen 48 Stunden möglich. Die Zahlung sichert den Termin. Beratungszeiten Montag bis Freitag zwischen 7:30 und 21:30 Uhr, samstags nach Vereinbarung – persönlich in Frankfurt, online oder in Ihren Unternehmensräumen.

Alle Antworten zur KI-Verordnung im Überblick

1. EU-KI-Verordnung Online-Tool: Selbstcheck mit Fundstellen
2. Was ist die KI-Verordnung (EU) 2024/1689?
3. KI-Verordnung aktueller Stand August 2026: Digital Omnibus
4. Wer ist von der KI-Verordnung betroffen?
5. Was verbietet Artikel 5 der KI-Verordnung?
6. Risikoklassen der KI-Verordnung: die vier Stufen
7. KI-Verordnung in HR: Welche Personalentscheidungen sind Hochrisiko?
8. Artikel 4 KI-Verordnung: Schulungspflicht und KI-Kompetenz
9. KI-Verordnung Deutschland: KI-MIG und Bundesnetzagentur
10. Artikel 14 KI-Verordnung: Was heißt wirksame menschliche Aufsicht?
11. Kennzeichnungspflicht für KI-Inhalte: Artikel 50 KI-Verordnung
12. Bußgelder der KI-Verordnung nach Artikel 99
13. Was fällt nicht unter die KI-Verordnung?