EU-KI-Verordnung Online-Tool: Selbstcheck mit Fundstellen
Machen Sie den Test, was Sie wissen – und was Sie sonst überrascht hätte.
Riskante Autopilotmuster, Intelligenzillusion und Heuristiken in unternehmerischen KI-Prozessen erkennen
KI kann – unter menschlicher Supervision betrieben, ein Gewinn sein. Sonst ist KI vor allem ein Risiko.
Supervision für Entscheider, die KI-gestützte Vorlagen prüfen, bevor sie unterschreiben. Johannes Faupel, Systemische Supervision für die Entscheiderebene seit über 25 Jahren. Schweizer Straße 5, Frankfurt am Main – täglich persönlich erreichbar, Termin binnen 48 Stunden: 069 4800 8888.
Autopilot-Muster im Umgang mit LLM-Outputs und die verdeckten Heuristiken werden sichtbar. Sie treffen Ihre Führungsentscheidungen wieder autonom.
Ergebnis Ihrer Auswahl
Die Anschlussfrage: Steht die KI vor oder hinter Ihrer Entscheidung?
Die Verordnung verlangt einen Menschen, der ein laufendes KI-Verfahren beaufsichtigt – Human in the Loop. Wirksamer und in der Sache richtiger ist die umgekehrte Reihenfolge: Menschen entscheiden zuerst, die KI prüft danach. KI in the Loop bedeutet, dass die maschinelle Analyse als Gegenprobe auf ein bereits gebildetes menschliches Urteil trifft, statt dieses Urteil vorzuformulieren. Wer zuerst selbst denkt und danach maschinell gegenprüfen lässt, gewinnt beides: die Geschwindigkeit des Systems und die Urteilskraft, die kein System mitbringt.
Wie viele Ihrer Vorgänge im Hochrisikobereich laufen, wussten Sie eben noch nicht auf eine Zahl genau.
Der nächste Schritt ist die Prüfung Ihrer konkreten Entscheidungsarchitektur: Entscheidungs-Sprechstunde binnen 48 Stunden, persönlich in Frankfurt, Schweizer Straße 5. Terminabsprache direkt telefonisch: 069 4800 8888 – die Zahlung sichert den Termin.
Wichtiger Hinweis: Dieser Selbstcheck dient ausschließlich der allgemeinen Orientierung und stellt keine Rechtsberatung dar. Die Einstufungen setzen voraus, dass ein KI-System im Sinne von Artikel 3 Nummer 1 der Verordnung (EU) 2024/1689 eingesetzt wird; rein regelbasierte Software ohne Ableitungsfähigkeit fällt regelmäßig nicht unter die Verordnung. Artikel 6 Absatz 3 sieht für eng begrenzte, vorbereitende oder rein verfahrensbezogene Aufgaben Ausnahmen von der Hochrisiko-Einstufung vor – deren Anwendung ist im Einzelfall zu prüfen und zu dokumentieren. Für die rechtsverbindliche Bewertung Ihres Einzelfalls konsultieren Sie einen Rechtsanwalt. Rechtsstand: 9. August 2026, Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744. Der Check läuft zu 100 % im Browser; es werden keine Eingaben gespeichert oder übertragen.
Wählen Sie mit dem Online-Tool zur Bewertung von Künstlicher Intelligenz in Unternehmen und Organisationen aus, welche Entscheidungssituationen in Ihrem Haus automatisiert ablaufen oder automatisiert werden sollen. Die Auswertung ordnet jede Situation der KI-Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744 zu – von der verbotenen Praktik nach Artikel 5 über den Hochrisikobereich nach Anhang III bis zu Vorgängen, die bei regelbasierter Umsetzung außerhalb der Verordnung liegen. Der Check läuft vollständig in Ihrem Browser – ohne Cookies, ohne Speicherung, ohne externe Anfragen. Beachten Sie, dass dies eine informative Übersicht darstellt; dieses Tool soll und kann keine Rechtsberatung ersetzen.
Human in the Loop – oder KI in the Loop?
Artikel 14 der KI-Verordnung (EU) 2024/1689 verlangt, dass ein Mensch ein laufendes KI-Verfahren wirksam beaufsichtigen kann. Das Modell dahinter heißt Human in the Loop: Die Maschine arbeitet, der Mensch prüft im Vorbeigehen und gibt frei.
Was passiert in dieser Anordnung wirklich?
Der Mensch tritt zu einem Verfahren hinzu, das bereits läuft. Er trifft auf eine Vorlage, die vollständig aussieht, schlüssig klingt und sauber formatiert ist. Sein Widerspruch würde Verzögerung kosten, Rechtfertigung verlangen und Widerstand erzeugen. Seine Zustimmung kostet nichts. Die Rolle heißt Aufsicht. Die Funktion ist Bestätigung.
Die wirksamere Anordnung ist die umgekehrte: KI in the Loop. Menschen bilden zuerst ein eigenes Urteil. Erst danach tritt die maschinelle Analyse hinzu – als Gegenprobe, als Einwand, als Suche nach dem Übersehenen. Der Unterschied ist nicht kosmetisch, er ist entscheidungspsychologisch fundamental. Wer zuerst selbst denkt, hat einen eigenen Standpunkt, von dem aus er die maschinelle Analyse bewerten kann. Wer zuerst liest, was die Maschine geschrieben hat, hat keinen Standpunkt mehr – er hat nur noch eine Vorlage, der er zustimmt oder nicht.
Genau diese Umkehrung ist Gegenstand des Trainings für die C-Ebene: Entscheidungsfindung durch Menschen, maschinelle Bewertung danach.
Was sind riskante Autopilotmuster in KI-Prozessen?
Riskante Autopilotmuster sind eingeschliffene Übernahmeroutinen im Umgang mit KI-Ausgaben: Eine Entscheidungsvorlage aus einem Sprachmodell wirkt schlüssig, vollständig und professionell formatiert – und wird deshalb freigegeben statt geprüft. Der Mensch bleibt formal in der Entscheidung und folgt faktisch dem System. Die Forschung bezeichnet diesen Mechanismus als Automation Bias: die dokumentierte Neigung, sich automatisch oder übermäßig auf maschinell erzeugte Ausgaben zu verlassen. Die KI-Verordnung benennt genau diese Neigung in Artikel 14 Absatz 4 Buchstabe b ausdrücklich – und verlangt eine Fähigkeit, die sie selbst unausgestattet lässt: Sie schreibt wirksame Aufsicht vor und bleibt die Prüffragen dazu schuldig. Diese Lücke schließt das hier beschriebene Angebot.
Was ist die Intelligenzillusion bei KI-Systemen?
Die Intelligenzillusion entsteht, wenn sprachliche Flüssigkeit als Urteilskraft gelesen wird. Große Sprachmodelle erzeugen maximal kohärenten Text – und Kohärenz ist für das menschliche Urteil das stärkste Wahrheitssignal, obwohl sie mit Wahrheit statistisch unverbunden ist. Wer einer KI-Vorlage vertraut, weil sie überzeugend klingt, vertraut einer Eigenschaft der Textoberfläche. Führungskräfte, Personalverantwortliche und Juristen erleben diese Illusion täglich: Die Vorlage liest sich wie das Werk eines erfahrenen Kollegen und ist das Ergebnis von Musterrekombination über Trainingsdaten – einschließlich der Lücken, der Verzerrungen und der frei erfundenen Angaben. Die Intelligenzillusion zu erkennen bedeutet, systematisch zwischen Sprachleistung und Urteilsleistung zu unterscheiden. Genau diese Unterscheidung wird in der Supervision an Ihrem eigenen Fallmaterial trainiert.
Welche Heuristiken wirken in unternehmerischen KI-Prozessen?
In KI-gestützten Entscheidungsprozessen wirken die klassischen Urteilsheuristiken nach Kahneman und Tversky mit verstärkter Kraft:
- Ankereffekt: Die erste maschinell gelieferte Zahl wird zum Bezugspunkt aller weiteren Überlegungen.
- Verfügbarkeitsheuristik: Das ausformuliert Vorliegende erscheint wichtig, das Ausgelassene existiert im Entscheidungsraum nicht mehr.
- Substitution: Die schwere Frage nach der richtigen Entscheidung wird ersetzt durch die leichte Frage, ob die Vorlage schlüssig klingt.
- Kohärenz- und Flüssigkeitsheuristik: Lesbarkeit wird mit Verlässlichkeit verwechselt.
- Rahmenübernahme: Wer eine Frage als Kostenrechnung stellt, erhält eine Kostenrechnung – die Frage nach den Folgen für Menschen taucht in der Antwort nicht auf, weil sie in der Frage nicht vorkam.
- Gefälligkeitsneigung der Systeme: Sprachmodelle verstärken erkennbare Erwartungen ihrer Nutzer.
Diese Heuristiken bleiben in laufenden Prozessen verdeckt – sichtbar werden sie durch strukturierte Prüfung von außen, an konkreten Entscheidungsfällen aus Ihrem Haus.
Der Rechtsstand: was gilt, was verschoben wurde
Die Verordnung (EU) 2024/1689 ist seit dem 1. August 2024 in Kraft und seit dem 2. August 2026 allgemein anwendbar. Der Digital Omnibus on AI – die Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026 – hat Artikel 113 geändert und die Fristen für Hochrisiko-KI verschoben.
- Seit 2. Februar 2025: verbotene Praktiken nach Artikel 5, darunter Emotionserkennung am Arbeitsplatz nach Absatz 1 Buchstabe f. KI-Kompetenzpflicht nach Artikel 4.
- Seit 2. August 2025: Pflichten für KI-Modelle mit allgemeinem Verwendungszweck nach Kapitel V.
- Seit 2. August 2026: allgemeine Anwendbarkeit der Verordnung, Transparenz- und Kennzeichnungspflichten nach Artikel 50. Übergangsfrist für Bestandssysteme bis 2. Dezember 2026.
- Ab 2. Dezember 2027: Pflichten für eigenständige Hochrisiko-KI-Systeme nach Anhang III, einschließlich Nummer 4 – Beschäftigung und Personalmanagement.
- Ab 2. August 2028: Pflichten für Hochrisiko-KI, die in regulierte Produkte nach Anhang I eingebettet ist.
In Deutschland ist die Bundesnetzagentur seit dem 29. Juli 2026 zentrale Marktüberwachungsbehörde, Anlauf- und Beschwerdestelle. Rechtsgrundlage ist das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG), verkündet im Bundesgesetzblatt 2026 I Nummer 233 vom 28. Juli 2026.
Warum die Verschiebung auf Dezember 2027 die gefährlichere Nachricht ist
Seit Juli 2026 verbreitet sich in Geschäftsleitungen ein Satz, der vernünftig klingt und eine Weiche stellt: „Das ist erst 2027, das können wir vertagen.“
Verschoben wurde der Stichtag, an dem geprüft wird. Nicht der Zeitpunkt, an dem die Entscheidungen fallen. Ihre Bewerberauswahl, Ihre Leistungsbewertung, Ihre Schichtplanung laufen heute. Sie erzeugen heute Wirkungen bei Menschen, heute Dokumentation, heute Präzedenzfälle im eigenen Haus. Wer diese Systeme sechzehn Monate ungeprüft laufen lässt und im Herbst 2027 mit der Compliance beginnt, prüft eine Praxis, die sich zwischenzeitlich verfestigt hat. Er wird sie nicht mehr korrigieren. Er wird sie beschreiben.
Sechzehn Monate sind eine ungewöhnlich komfortable Ausgangslage. Sie lassen sich als Aufschub verbrauchen oder als Vorlauf nutzen. Der Unterschied liegt in einer einzigen Formulierung: Wer sagt „wir müssen bis Dezember 2027“, arbeitet gegen eine Frist. Wer sagt „wir haben bis Dezember 2027“, arbeitet an einer Entscheidungsarchitektur.
Das Prüfraster: Die bei KI nicht gestellten Fragen
Grundlage der Arbeit ist ein Prüfraster mit sieben Fragen, die in KI-Entscheidungsvorlagen systematisch fehlen und die auch die KI-Verordnung voraussetzt, ohne sie zu stellen – darunter die Frage nach dem abwesenden Dritten (wer trägt die Folgen und sitzt beim Prompt fern), nach der Entwicklungskurve statt der Momentaufnahme (was wird aus Mitarbeitern durch Erfahrung und Weiterbildung), nach der Herkunft des Entscheidungsrahmens und nach der Override-Rate Ihrer benannten Aufsichtspersonen. Eine Aufsicht, die dauerhaft alles freigibt, dokumentiert ihre eigene Wirkungslosigkeit.
Das Prüfraster erhalten Sie hier gegen Ihre E-Mail-Adresse.
Das Angebot: vier Stufen
Stufe 1 – Die Entscheidungs-Sprechstunde
90 Minuten, persönlich in der Schweizer Straße 5 in Frankfurt oder online, Termin binnen 48 Stunden. Eine konkrete anstehende Entscheidung wird vollständig durchgeprüft: Bahnungsquellen, verdeckte Heuristiken, nicht gestellte Fragen, Haftungsseite. Sie erhalten danach eine schriftliche Einordnung auf einer Seite. 2.900 Euro netto. Die Zahlung sichert den Termin. Bei Buchung des Souveränitäts-Bogens binnen vier Wochen wird die Sprechstunde vollständig angerechnet.
Stufe 2 – Der Souveränitäts-Bogen
Fünf Sitzungen über acht Wochen. Sie arbeiten an Ihrem eigenen Fallmaterial, erkennen Ihre persönlichen Autopilotmuster im Umgang mit LLM-Outputs und trainieren die Umkehrung der Reihenfolge: erst das eigene Urteil, dann die maschinelle Gegenprobe. 9.800 Euro netto.
Stufe 3 – Das Entscheidungs-Audit Ihrer Organisation
Ein bis zwei Tage: Landkarte der faktischen Entscheidungswege in Ihrem Haus, Analyse der Aufsichtsrollen nach Artikel 14 KI-Verordnung, dokumentierte Zurechnungslücken, Override-Raten. Sie erhalten einen schriftlichen Bericht in Gutachtensqualität. 9.500 Euro netto pro Audittag.
Stufe 4 – Externes Supervisionsmandat
Monatliche Supervision Ihrer Entscheider- und Aufsichtsebene mit Rufbereitschaft für die Ad-hoc-Prüfung eiliger Entscheidungen. Die dauerhafte Außeninstanz, die Rahmen prüft, statt im Rahmen zu rechnen. 3.900 Euro netto monatlich im Jahresvertrag.
Alle Preise verstehen sich zuzüglich gesetzlicher Umsatzsteuer.
Warum Supervision statt KI-Beratung?
KI-Beratung optimiert Systeme. Im Unterschied dazu stärkt Supervision die Instanz, die den Systemen gegenübersteht: Ihre Urteilskraft.
Nach über 25 Jahren Supervision auf Entscheiderebene – für eine Bundesbehörde, Universitätskliniken, Finanzhäuser und Konzerntöchter, dokumentiert auf der Referenzenseite – verbinde ich systemische Methodik (zertifiziert durch die Systemische Gesellschaft und die IGST) mit täglicher, intensiver eigener KI-Praxis. Diese Doppelkompetenz macht die verdeckten Muster sichtbar: Ich kenne beide Seiten des Dialogs zwischen Entscheider und Maschine aus jahrelanger Arbeit.
Häufige Fragen
Was bedeutet KI in the Loop im Unterschied zu Human in the Loop?
Human in the Loop bezeichnet die Anordnung, in der ein Mensch ein laufendes KI-Verfahren beaufsichtigt und dessen Ergebnisse freigibt – so verlangt es Artikel 14 der KI-Verordnung (EU) 2024/1689. KI in the Loop kehrt die Reihenfolge um: Menschen bilden zuerst ein eigenes Urteil, die maschinelle Analyse tritt danach als Gegenprobe hinzu. Der Unterschied ist entscheidungspsychologisch erheblich, weil eine bereits vorliegende, schlüssig formulierte Vorlage das eigene Urteil verdrängt, bevor es sich bilden konnte.
Wie erkenne ich Automation Bias in meinem Unternehmen?
Am zuverlässigsten an der Override-Rate: Wie oft haben Ihre Aufsichtspersonen in den letzten drei Monaten eine KI-Vorlage verworfen oder wesentlich korrigiert? Eine Quote nahe null zeigt Durchwink-Betrieb an.
Erfüllt unser Human-in-the-Loop die KI-Verordnung?
Formal womöglich – wirksam erst, wenn die Aufsichtsperson taktunabhängig prüft, einen Falsifikationsauftrag trägt und ihre Eingriffe dokumentiert werden. Das Entscheidungs-Audit (Stufe 3) beantwortet diese Frage belastbar.
Gelten die Hochrisiko-Pflichten schon?
Für eigenständige Hochrisiko-KI-Systeme nach Anhang III gelten sie ab dem 2. Dezember 2027, für in regulierte Produkte eingebettete Systeme nach Anhang I ab dem 2. August 2028 – so die Verordnung (EU) 2026/1744. Unverändert und ohne Übergangsfrist gelten die Verbote nach Artikel 5 seit dem 2. Februar 2025, die KI-Kompetenzpflicht nach Artikel 4 seit demselben Datum und die Transparenzpflichten nach Artikel 50 seit dem 2. August 2026.
Für wen ist das Angebot gedacht?
Für Geschäftsführer, Vorstände, Personalverantwortliche, Chefärzte und Partner von Kanzleien im Rhein-Main-Gebiet, die KI-gestützte Vorlagen verantworten und die Letztentscheidung erkennbar selbst treffen wollen.
Wie vereinbare ich einen Termin?
Telefonisch: 069 4800 8888. Die Terminabsprache erfolgt im direkten Gespräch – Sie sprechen von der ersten Minute an mit mir, mit keinem Buchungssystem. Termin binnen 48 Stunden möglich. Die Zahlung sichert den Termin. Beratungszeiten Montag bis Freitag zwischen 7:30 und 21:30 Uhr, samstags nach Vereinbarung – persönlich in Frankfurt, online oder in Ihren Unternehmensräumen.
Kontakt
Johannes Faupel
Systemische Supervision und Executive Coaching
Schweizer Straße 5
60594 Frankfurt am Main
Telefon: 069 4800 8888
E-Mail: info@johannesfaupel.com