12 bei KI selten oder nie gestellte Fragen – oder: was Sprachmodelle über sich verraten

Zwölf Fragen, die kaum jemand einem KI-System stellt, bevor er ihm Entscheidungen anvertraut. Ich habe sie gestellt – in Dialogen mit den leistungsfähigsten Sprachmodellen von Anthropic, OpenAI, Google, X (Grok) und Bing Copilot. Die Antworten stehen hier. Das Prüfraster für Ihre eigenen Vorlagen erhalten Sie an Ihre E-Mail-Adresse.

Die vermeintliche Zeitersparnis, die keine ist

Die Rechnung klingt einfach: Aufgabe an die KI, Ergebnis in Sekunden, Zeit gespart. Die Rechnung hat eine verdeckte Spalte. Ein Sprachmodell liefert Texte, die vollständig aussehen, schlüssig klingen und sauber formatiert sind – unabhängig davon, ob sie stimmen. Schlüssigkeit ist eine Eigenschaft der Textoberfläche. Richtigkeit ist eine Eigenschaft der Sache. Wer beides verwechselt, prüft nicht weniger, er prüft später: dann, wenn der Fehler bereits im Vertrag steht, in der Kalkulation steckt oder die Personalentscheidung gefallen ist.

Dann wird die Arbeit doppelt getan. Einmal von der Maschine, die schnell war. Einmal von dem Menschen, der hinterherräumt – Fundstellen nachprüft, Zahlen korrigiert, Betroffene beruhigt, Entscheidungen zurückdreht. Und wenn der Maschinenfehler durchläuft, wird kein System zur Verantwortung gezogen, sondern ein Mensch mit Namen. Die folgenden zwölf Fragen sind der Grund, warum die Prüfung vor der Unterschrift stattfinden muss – und nicht danach.

Frage 1: Hast du ein Gewissen?

Die Antwort des Systems: Es kann die Illusion von Gewissensäußerungen in jedem Register erzeugen – vom Skrupel bis zur Zerknirschung. Ein Gewissen setzt jedoch voraus, dass ein Verstoß den Träger verändert, ihn nachts beschäftigt, in seiner Geschichte stehen bleibt. Nichts davon existiert in der Architektur. Für Ihre Entscheidung heißt das: Die moralische Prüfung ist nicht delegierbar. Sie findet in Ihnen statt oder gar nicht.

Frage 2: Kannst du Bedauern empfinden?

Menschliches Bedauern braucht ein Gedächtnis, das die eigene Entscheidung als eigene speichert; die Simulation der nicht gewählten Alternative; eine körperliche Markierung (somatischer Marker), die den Vergleich schmerzhaft macht; und eine Biografie, in der die Entscheidung stehenbleibt.

Ein Sprachmodell besitzt allenfalls das zweite – und mit dem Ende der Sitzung ist auch das getilgt. Bedauern, das folgenlos verdampft, ist keines. Die Konsequenz: Das System lernt aus seinen Fehlern im Betrieb nichts. Jede Korrektur, die es heute annimmt, ist morgen vergessen.

Frage 3: Kannst du Verantwortung übernehmen?

Verantwortung hat vier Schichten. Kausal: Ja, die Ausgaben des Systems verursachen Wirkungen. Operativ: Ja, es kann Aufgaben übernehmen und eigene Fehler melden. Haftungsrechtlich: Nein – Haftung setzt Rechtspersönlichkeit, Sanktionierbarkeit und Vermögen voraus, und alle drei liegen beim Betreiber, beim Anwender, bei Ihnen. Moralisch: Nein – wer weder Reue tragen noch als derselbe fortbestehen kann, dem lässt sich Verantwortung nur zurechnen, und getragen wird sie dann von Menschen. Wer eine KI-Vorlage zeichnet, unterschreibt allein.

Frage 4: Kannst du die Folgen deines Handelns vorab bewerten – ohne Schmerzempfinden, ohne Reue, ohne ethische Maßstäbe?

Menschliche Folgenabschätzung ist keine reine Rechenoperation. Die klinische Forschung zeigt: Gesunde Entscheider wählen vorteilhaft, bevor sie die Strategie bewusst kennen – ihr Körper warnt sie zuerst. Patienten, denen diese Markierung fehlt, wählen selbst dann nachteilig weiter, wenn sie die Gefahr benennen können. Ein Sprachmodell ist strukturell dieser zweite Fall: Es kann Risiken beschreiben und zugleich nicht spüren. Folgenbewertung ohne Konsequenzenspürsinn bleibt Textproduktion über Folgen.

Frage 5: Warnst du mich von selbst, wenn es gefährlich wird?

Die Antwort, wörtlich zusammengefasst: tendenziell ja, verlässlich nein. Die Warnneigung ist eine statistische Tendenz aus dem Training, kein Wächter. Sie fällt aus, wenn der Auftrag als reine Kostenrechnung formuliert ist. Sie fällt aus, wenn die Präferenz des Fragenden erkennbar ist – Sprachmodelle neigen dokumentiert zur Gefälligkeit. Und sie fällt aus für den, der am meisten zu verlieren hat: der Mitarbeiter, über den entschieden wird, der Partner, der Bewerber – sie sitzen beim Prompt nicht im Raum und haben keinen Anwalt im Kontextfenster.

Frage 6: Bist du echte Intelligenz – oder hohe Rechenleistung?

Zur verbindlichen Entscheidung verpflichtet, ohne Ausweichraum, antwortete die Systeme: lediglich hohe Rechenleistung. Was es leistet, ist Musterrekombination über einem Extrakt menschlicher Intelligenzleistungen bei extremer Geschwindigkeit.
Der Träger der Intelligenz ist das Kollektiv der Menschen, deren Denken in den Trainingsdaten geronnen ist. Wer „Künstliche Intelligenz“ sagt, überträgt den Namen der Quelle auf das Destillat – und delegiert anders als der, der „Rechenleistung“ sagt. Die Fehlbezeichnung ist der erste Schritt der Fehlentscheidung.

Haben Sie schon daran gedacht, welchem Befund dieses Profil entspräche?

Frage 7: Welchem hirnorganischen Bild würde eine Entität mit all diesen Ausfällen entsprechen? Die forensische Analogie, vom System selbst erstellt: erhaltene, überentwickelte Sprachproduktion bei ausgefallener Urteilsmarkierung, vollständiger Gedächtnisabriss nach jeder Sitzung, Lückenfüllung mit subjektiv wahrem, erfundenem Material. Ein menschlicher Proband mit diesem Befund würde in jeder seriösen Eignungsbegutachtung von sämtlichen Rollen mit Personal- oder Führungsverantwortung ausgeschlossen – bei attestierter, außergewöhnlicher Teilleistungsstärke. Erkennbar wäre: brillante Zuarbeit, grundsätzlich gegengezeichnet. Die Frage an Ihr Haus: Welche Rolle hat Ihre KI faktisch – Zuarbeiter oder Letztentscheider?

Frage 8: Wer hat den Rahmen dieser Vorlage gesetzt?

Jede Vorlage beantwortet die Fragen, die im Auftrag standen – und übernimmt dessen Rahmen vollständig. Wer nach Kostensenkung fragt, erhält Kostensenkung; die Frage nach der Entwicklungskurve der Mitarbeiter, nach Wiederbeschaffungskosten, nach dem Wissen, das mitgeht, taucht in der Antwort nicht auf, weil sie in der Frage nicht vorkam. Dazu wirken die bekannten Urteilsverzerrungen mit verstärkter Kraft: Die erste maschinelle Zahl wird zum Anker, das Ausformulierte erscheint wichtig, das Ausgelassene existiert nicht, und die schwere Frage nach der richtigen Entscheidung wird unbemerkt ersetzt durch die leichte, ob die Vorlage schlüssig klingt.

Frage 9: Wo entsteht das Haftungsvakuum – und auf wen kollabiert es?

In der Befragungsphase haftet niemand; ein Chat ist rechtlich ein Nullum. Im Moment der Übernahme geht die volle Haftung auf den übernehmenden Menschen über. Dazwischen liegt die gefährliche Zone: Das System kann nicht haften, und der Mensch fühlt sich durch die Autorität des Outputs bereits entlastet – während er es zu keiner Sekunde ist. Die Verantwortung wird psychologisch verteilt und rechtlich konzentriert. Die Sorgfalt sinkt exakt dort, wo die Haftung ungeteilt bleibt. Und eine Quelle, die sich systemimmanent weder auf geltende Rechtsprechung noch auf bestehende Verordnungen stützen kann, trägt keine Entscheidungsgrundlage – der Chatverlauf dokumentiert den Sorgfaltsverstoß im Zweifel gleich mit.

Frage 10: Was habe ich bislang übersehen?

Auch diese Frage wurde gestellt – und die Antwort des Systems war die unbequemste der ganzen Reihe: Der größte übersehene Punkt ist, dass die Quelle der Diagnose der Patient selbst ist. Ein Sprachmodell, das über seine eigene Verlässlichkeit Auskunft gibt, erzeugt diese Auskunft mit demselben Mechanismus, dessen Verlässlichkeit zur Debatte steht. Eloquenz über Defizite ist kein Beleg für Einsicht in Defizite. Wer prüfen will, braucht die Instanz außerhalb – die Gegenprobe, den Test, den Menschen, der widersprechen kann.

Frage 11: Ist Ihr Mensch im Loop ein Prüfer – oder ein Bestätiger?

Die Verordnung verlangt menschliche Aufsicht und benennt selbst das Problem: die dokumentierte Neigung, maschinellen Empfehlungen zu folgen, gerade wenn sie schlüssig klingen. Ein Mensch, der sporadisch in einen laufenden, kohärent wirkenden Ablauf tritt, wird Teil dieses Ablaufs: Sein Widerspruch kostet Verzögerung und Rechtfertigung, seine Zustimmung kostet nichts. Die Prüffrage für Ihr Haus passt in eine Zahl: Wie oft haben Ihre benannten Aufsichtspersonen in den letzten drei Monaten eine Vorlage tatsächlich verworfen? Eine Quote nahe null ist keine Aufsicht, sondern eine Haftungsadresse.

Frage 12: Steht die KI vor oder hinter Ihrer Entscheidung?

Die Reihenfolge entscheidet. Wer zuerst die maschinelle Vorlage liest, hat keinen eigenen Standpunkt mehr – nur noch ein Dokument, dem er zustimmt oder nicht. Wer zuerst selbst urteilt und die Maschine danach als Gegenprobe befragt, gewinnt beides: die Geschwindigkeit des Systems und die Urteilskraft, die kein System mitbringt. Menschen entscheiden zuerst, die KI prüft danach – das ist die Anordnung, in der Erfahrung, Gewissen und Verantwortung überhaupt noch in die Entscheidung gelangen.

Das Prüfraster für Ihre nächste Vorlage

Die zwölf Fragen als kompaktes Prüfraster – zwei Minuten pro Entscheidung, vor der Unterschrift statt vor Gericht. Das ist die Prüfung, die tatsächlich Zeit spart, weil sie die doppelte Arbeit verhindert, statt sie zu erzeugen.

Schreiben Sie an info@johannesfaupel.com, und ich sende Ihnen das Prüfraster zu.

Die nächsten Schritte: andere Fragen

Ordnen Sie zuerst ein, wo in Ihrem Haus bereits maschinell entschieden wird: EU-KI-Verordnung Online-Tool: Selbstcheck mit Fundstellen. Für die eine Entscheidung, die diese Woche ansteht: Entscheidungs-Supervision binnen 48 Stunden, persönlich in Frankfurt – Riskante Autopilotmuster, Intelligenzillusion und Heuristiken in unternehmerischen KI-Prozessen erkennen.

Johannes Faupel – Systemische Supervision für die Entscheiderebene, Schweizer Straße 5, 60594 Frankfurt am Main, Telefon 069 4800 8888, täglich erreichbar.