Second Order Control: Wer kontrolliert die Kontrolle der KI?

Supervise the Supervisor of AI.

Second Order Control ist die Kontrolle der Kontrolle – die institutionalisierte Fähigkeit, einer Organisation zu beobachten, wie ihre Entscheider KI-Ausgaben beobachten, bevor diese Fähigkeit unbemerkt erodiert.

Was ist Second Order Control?

Second Order Control ist die Fähigkeit zu verändern, was was kontrolliert. Kontrolle erster Ordnung steuert ein System: Ein Mensch prüft eine KI-Ausgabe, ein Thermostat regelt die Heizung. Second Order Control richtet den Blick eine Ebene höher – auf den Steuernden selbst: Misst der Thermostat noch richtig? Prüft der Prüfer noch wirklich, oder stimmt er längst nur noch zu? Der Gegenstand der Kontrolle wechselt vom System auf den Controller des Systems.

Woran erkennt eine Organisation, dass ihre Kontrolle selbst zum Problem geworden ist?

An der Antwort auf eine einzige Diagnosefrage: Welcher Mechanismus würde bei uns melden, dass die aktuelle Art, das System zu kontrollieren, selbst versagt? Existiert kein solcher Mechanismus – kein Kanal, keine benannte Instanz, kein Prüfanlass –, dann kann die Organisation Kontrollversagen erst im Schadensfall bemerken. Optimierung fragt, wie sich etwas besser machen lässt. Second Order Control fragt zusätzlich, was rechtfertigt, es überhaupt weiter so zu messen, zu modellieren und zu kontrollieren.

Was haben Heinz von Foerster und Niklas Luhmann damit zu tun?

Sie liefern das theoretische Fundament. Heinz von Foerster (1911–2002) begründete die Kybernetik zweiter Ordnung und definierte sie als the control of control and the communication of communication – die Kontrolle der Kontrolle. Sein Kerngedanke: Der Beobachter steht nie außerhalb; wer ein System beschreibt, gehört zur Beschreibung dazu, mitsamt seinen blinden Flecken. Niklas Luhmann (1927–1998) übertrug das auf Organisationen: Jede Beobachtung nutzt eine Unterscheidung, die sie selbst nicht sehen kann – sichtbar wird dieser blinde Fleck erst durch Beobachtung zweiter Ordnung, einen Beobachter, der beobachtet, wie ein anderer beobachtet. Von Foerster liefert den Mechanismus, Luhmann die Organisationstheorie. Second Order Control macht daraus ein Betriebsverfahren.

Warum reicht die menschliche Aufsicht nach Artikel 14 der KI-Verordnung nicht aus?

Weil Artikel 14 nur die erste Ordnung regelt: Ein Mensch muss die Maschine wirksam beaufsichtigen können. Offen bleibt die zweite Ordnung: Wer stellt fest, ob diese Aufsicht noch funktioniert? Ein Prüfer, der jede KI-Empfehlung binnen Sekunden freigibt, erfüllt das Protokoll – und übt zugleich keinen tatsächlichen Einfluss mehr aus. Die Verordnung dokumentiert die Maschine; den Zustand des Menschen davor dokumentiert sie nicht. Second Order Control schließt diese Lücke: Sie macht die Qualität der Aufsicht selbst beobachtbar, dokumentierbar und korrigierbar – vor dem Schadensfall, nicht danach. Alle Antworten zur Verordnung bündelt der Hub EU AI Act Executive Supervision.

Worin unterscheidet sich Second Order Control von der Kybernetik zweiter Ordnung?

Drei Begriffe sind auseinanderzuhalten. Ein System zweiter Ordnung ist in der Regelungstechnik eine mathematische Eigenschaft von Systemdynamiken – eine Rechengröße. Die Kybernetik zweiter Ordnung ist von Foersters Theorie beobachtender Systeme – das erkenntnistheoretische Fundament. Second Order Control ist das daraus abgeleitete Betriebsverfahren: die systematische Regulierung der Architektur, Annahmen, Ziele, Modelle und Zuständigkeiten, durch die Kontrolle erster Ordnung überhaupt stattfindet. Formal: SecondOrderController [ Controller ( System ) ]. Sichtbar werden damit Fehler, die gewöhnliche Rückkopplung strukturell übersehen muss – weil sie in der kontrollierenden Logik selbst wohnen.

Wie vertiefen Sie das Thema?

Wo erreichen Sie Johannes Faupel für Supervision und Executive Coaching in Frankfurt?

In der Praxis Schweizer Straße 5, 60594 Frankfurt am Main – wenige Minuten vom Bankenviertel entfernt, die Wegbeschreibung vom Bankenviertel zeigt den Weg. Termine Montag bis Freitag von 8 bis 21 Uhr, Abendcoaching für Führungskräfte nach Büroschluss eingeschlossen, Samstagscoaching von 9 bis 18 Uhr.