Warum man den Rahmen setzen muss

Wie die neue Modellgeneration die Wissensarbeit verändert – und wie es weitergeht

KI-Modelle verstehen jetzt, was gemeint ist, statt was gesagt wurde. Der Unterschied ist substantiell: Sie erfüllen Aufgaben nicht nur, sie definieren den Weg dorthin selbst. Das hat Folgen für die KI-Steuerung, und die sind komplexer, als man zunächst meinen könnte. Es geht um die Frage, welche Rolle menschliche Kompetenz für die Epistemik der KI-Interaktion spielt – für den Erkenntnisgewinn also, der in Dialogen mit Maschinen entsteht. Und um die Grenze, an die menschliche Intervention sehr bald stößt.

Um Missverständnisse zu vermeiden: ich spreche hier nicht Prompt-Engineering. Mich hat dieser Brgriff von Beginn an befremdet, als eigenständige Disziplin sehe ich es als Missverständnis: Der Begriff sagt nicht mehr als “eine Arbeitsanweisung klar formulieren” – Handwerk von jedem, der Teams, Dienstleister oder Unternehmen führt. Wer darin trainiert ist, kann auch einer KI vermittel, was er von ihr möchte. Der Prompt-Ingenieur ist darum auch der erste Beruf, den die Künstliche Intelligenz geschaffen und wieder abgeschafft hat, ohne dazwischen Luft zu holen. Seit die Modelle von allein Rückfragen stellen und Problemstellungen eigenständig rahmen, wird er einfach nicht mehr gebraucht.

Aber: Das ist keine Randnotiz, sondern eine Auskunft über die Frage, wie man KI steuert. Denn was da verschwand, war die verbreitetste, falsche Steuerungsvorstellung: dass Steuerung heißt, die Maschine besser zu bedienen. Aufgaben formulieren, Fragen stellen, präzisere Anweisungen geben, Kontext sauber zusammenfassen. Jeder, der aus der Dienstleistungswelt kommt, kennt das als Briefing, und dort galt schon immer: Ein schlechtes Briefing produziert schlechte Ergebnisse. Rubbish in, rubbish out. Gute Dienstleister nehmen das Briefing deshalb nicht einfach entgegen, sonder sie recherchieren selbst, formulieren die Problemstellung neu und schärfen die Aufgabe – das Rebriefing. Gute Dienstleister wissen vorher, dass sie für die Qualität des Briefings haften, weil ihr eigener Output am Ende daran gemessen wird. Im KI-Dialog ist das nicht anders.

Der mehr oder weniger präzise gebriefte Berater wendet nun zur Lösung der Aufgabe eigene Methoden an und entwickelt Analysen und Lösungshypothesen. Hier trennen sich die Experten, besonders dann, wenn das Problem komplex oder teuer ist. Nehmen wir die Unternehmensstrategie: Die Planungsschule arbeitet mit grundlegend anderen Methoden als die systemische Schule und kommt bei gleicher Aufgabe zu anderen Schlussfolgerungen. Wer die zugrundeliegende Axiomatik kennt, nickt an dieser Stelle. In der KI-Interaktion muss man hier aufmerksam sein: Weil eine KI im durch den Nutzer aufgespannten, semantischen Raum “argumentiert”, also statistisch vorhersagt –, landet sie je nach benutzten Worten in der einen Schule oder in der anderen. Oder sogar in einer geschmeidig zusammengefügten Mischung aus beiden Schulen, also wohlformuliertem Unsinn. Und das ist kein Manko der KI, sondern des Anwenders, der den semantischen Raum nicht mit der erforderlichen Schärfe gesetzt hat.

Doch es gibt einen substantiellen Unterschied zwischen KI und menschlichem Berater: die Haftung. Wenn der Mensch ein Briefing eigenständig schärft, tut das unter Bedingungen: Reputation, Honorar, möglicher Erfolg. Im Zweifel Regress. Sein Rebriefing ist eine Setzung, für die er geradesteht. Das KI-Modell dagegen setzt den Rahmen mit derselben Souveränität, aber einem entscheidenden Unterschied: keine Haftung, kein Realitätsanschluss. Wie also kann der Nutzer dem KI-Output Leitplanken setzen und ihn inhaltlich präzisieren?

Die Antwort darauf heißt Denkarchitektur: ein logisches Gerüst, das die Setzung explizit macht und konsistente Argumentation erzwingt – welche Schule gilt, was als Beleg zählt, wann eine Frage beantwortet ist, was ausgeschlossen bleibt. Die Denkarchitektur ist die entscheidende Stelle, an der ein Mensch im KI-Dialog Vorgaben macht, Setzungen, die die Maschine nicht entscheiden kann. KI-Antworten sind dann nicht mehr generisch oder glatt.

Eine Denkarchitektur muss nicht nur gesetzt, sondern eingehalten werden – und ob sie eingehalten wurde, muss jemand prüfen. Diese Prüfung ist heute noch menschliche Arbeit (“Human in the Loop”). Noch, denn sie wird es nicht bleiben. Bals schon werden die Modelle selbst schneller, gründlicher und unbestechlicher gegen den gesetzten Rahmen prüfen, als der Mensch es kann, der den Rahmen gesetzt hat. Wer dann noch auf menschlicher Prüfung besteht, prüft schlechter.

Damit steht die Frage anders, als sie üblicherweise gestellt wird. Sie lautet nicht, ob der Mensch in der Schleife bleibt, sondern an welcher Stelle. Meine These: Er bleibt an der Setzung und gibt die Prüfung ab. Nur beginnt damit ein Problem, das die Systemtheorie kennt, seit es sie gibt – wer den Beobachter beobachtet, braucht einen Beobachter für den Beobachter, und so fort. Bislang hat die Knappheit diese Kette gestutzt: Niemand konnte sich beliebig viele Prüfinstanzen leisten. Maschinen können es.

Was bedeutet das jetzt alles? Die Arbeit mit KI braucht ein methodisches Fundament, sagen, welcher Teil dieses Fundaments vergänglich ist. Und dann die härtere Frage stellen: was es bedeutet, wenn der Mensch nicht mehr selbst nachvollziehen kann, ob der von ihm selbst definierte und gesetzte Rahmen eingehalten wurde – und trotzdem gute Gründe hat, dem Ergebnis zu folgen. Anders gesagt: Wie verifiziert der Mensch KI-Output, den er inhaltlich nicht mehr prüfen kann, wenn er aber davon ausgehen muss, dass die KI ein besseres Ergebnis (Analyse, Konzept, Strategie, Entscheidung) geliefert hat als er selbst liefern könnte?

Hier beginnt der interessante Teil.

EXKURS: Was eine Denkarchitektur ist

Eine Denkarchitektur steht über Methode und Framework: Sie definiert, welche Axiome gelten, welche Werkzeuge angewandt werden, welche Denkschulen zugrundeliegen, in welcher Ordnung sie greifen und woran man erkennt, dass das Ergebnis gilt. Sie ist die Meta-Ebene, auf der über Werkzeuge entschieden wird. Deshalb sind Fehler auf dieser Ebene gefährlich, weil man es nicht mehr am Output des Arbeitsprozesses merken kann, dass man sich irrt.

Die Denkarchitektur legt vier Dinge fest, und zwar bevor der erste Gedanke am Gegenstand entsteht.

Erstens die Ontologie: Was für ein Ding ist das, worüber wir nachdenken? Ist ein Unternehmen ein steuerbares Gebilde oder ein eigensinniges System, ein Optimierungsproblem oder ein Aushandlungsproblem. Diese Annahme ist nie aus dem Gegenstand ablesbar, sie wird ihm zugeschrieben – und sie bestimmt, was danach überhaupt als Erklärung in Frage kommt.

Zweitens die Epistemik: Was zählt als Beleg, was als Vermutung, was als Behauptung, und wie wird die Grenze markiert. Ein Rahmen ohne diese Festlegung produziert Aussagen, deren Fundierung man später nicht mehr rekonstruieren kann – der häufigste Grund, warum aus gescheiterten Empfehlungen nichts gelernt wird.

Drittens die Ausschlüsse: Das ist der am meisten unterschätzte Teil. Eine Architektur ist stärker durch das definiert, was sie verbietet, als durch das, was sie vorsieht. Wissen wird nicht hinzugefügt, sondern der Möglichkeitsraum wird verengt. Wichtig, denn das Modell weiß ja bereits alles Nötige, es ist in seinen Daten; was fehlt, ist die Beschränkung, die es zwingt, nicht überall gleichzeitig zu sein.

Viertens das Gültigkeitskriterium: Woran erkennt man ein brauchbares Ergebnis. Nicht Wahrheit – die steht nicht zur Verfügung –, sondern Gültigkeit im Sinne der gesetzten Ordnung. Setzung ist subjektiv (und dadurch auch ein Bias, der zu prüfen ist). Ich arbeite hier mit zwei Bedingungen, die beide erfüllt sein müssen: Stimmigkeit und Trägerschaft. Ein Ergebnis kann logisch einwandfrei und trotzdem wertlos sein, wenn niemand da ist, der es tragen kann.

Der Effekt ist eine Selbstbindung, und darin liegt der Unterschied zur Anweisung. Eine Anweisung sagt dem Modell, was es tun soll; sie ist jederzeit widerrufbar, und man widerruft sie, sobald das Ergebnis unbequem wird. Eine Architektur bindet auch den, der sie gesetzt hat. Wer den Rahmen ändert, weil ihm die Antwort nicht gefällt, hat das nachweisbar getan – und genau diese Nachweisbarkeit ist der eigentliche Zweck.

Ein Beispiel aus meiner Praxis, damit diese Gedanken nicht abstrakt bleiben: Meine Architektur für Strategieentwicklung und Entscheidungsklarheit beginnt mit einer einzigen ontologischen Setzung: Komplexe Systeme lassen sich nicht instruieren, nur irritieren. Das ist die Entscheidung gegen die Planungsschule, gefallen vor der ersten Analyse, und sie bindet alles Weitere. Daraus folgt eine Reihenfolge – die Frage nach der Beschaffenheit des Problems steht vor jedem Werkzeug, weil eine analytische Behandlung dessen, was sondiert werden müsste, saubere Arbeit an der falschen Aufgabe erzeugt. Daraus folgen Vetos: Empfehlungen an schwachen Systemhebeln werden abgelehnt statt diskutiert; ein Verzicht gilt nur als echt, wenn die verworfene Option intern eine Lobby hatte, denn wo niemand klagt, wurde nichts entschieden, sondern aufgeräumt. Und daraus folgt die Form des Ergebnisses: eine Richtung und die Frage, die offen bleibt. (Eine Anmerkung: Der Consigliere gibt eine klare Empfehlung statt einer Optionsliste. Der Berater generiert Optionslisten und gibt damit die Setzung an den Auftraggeber zurück, verpackt als Multiple Choice.)

Weil verschiedene Denkphasen verschiedene Gütekriterien haben, reicht ein einziges Gerüst nicht aus. Warum? Ein Rahmen, der Möglichkeiten öffnen soll, muss Widersprüche aushalten und darf nicht vorzeitig konvergieren. Ein Rahmen, der eine Entscheidung erzwingt, muss genau das Gegenteil tun und auch gute Optionen töten. Ein Rahmen für Desinvestitionsentscheidungen folgt einer dritten Logik, weil dort nicht Erkenntnis das Problem ist, sondern Reihenfolge der Abtrennungen und der Umgang damit. Und die Prüfung fertiger Arbeit ist von allen dreien verschieden, weil es um Belastbarkeit geht. Dazu kommen Rahmen, die sich nicht auf den Gegenstand richten, sondern auf das Denken selbst: einer, der beobachtet, was im Verlauf unsichtbar geblieben ist, und einer, der prüft, ob eine Schlussfolgerung unter Bedingungen entstand, die ohne diesen Bias zu einer anderen Schlussfolgerung hätten führen können.

Sortiert wird diese Sammlung nicht nach Themen, sondern nach epistemischem Zweck: öffnen, entscheiden, zerstören, prüfen, beobachten. Damit verschiebt sich die eigentliche Setzung eine Ebene nach oben. Die schwierige Entscheidung ist nicht, wie innerhalb eines Rahmens gedacht wird, sondern welcher Rahmen für diese Lage gilt und wann im Verlauf zu wechseln ist. Das ist nicht ableitbar. Sondern man erkennt es an Signalen, die man deshalb kennt, weil man sie schon einmal übersehen hat.

Und darin liegt die Antwort auf die Frage, warum ein KI-Modell so etwas nicht aus sich heraus selbst anbieten kann. Die Denker, auf denen mein Gerüst ruht, kennt die KI besser als ich – und es kennt auch die drei Dutzend, die ich nicht aufgenommen habe. Was das Modell nicht liefern kann, ist die Auswahl, die Ordnung und die Verbote – denn die stammen nicht aus der Literatur, sondern aus der Beobachtung, welche Analyse in einem Unternehmergespräch trägt und welche nicht weiterführt, welche Frage einen Konflikt sichtbar macht und welche ihn zudeckt. Eine Denkarchitektur ist kodifiziertes Urteil. Formulieren kann ein Modell sie erst, sobald man ihm sagt, was hineingehört. Ableiten kann ein Modell diese Auswahl also durchaus – aus Fallstudien, aus Mustern, aus dem, was in vergleichbaren Lagen funktioniert hat. Was es nicht kann, ist entscheiden, welches Kriterium dabei gelten soll. Denn wer sagt, eine Analyse habe „getragen", hat vorher gesagt, woran sich das bemisst – und das ist keine Ableitung, sondern eine Setzung mit Folgen für jemanden.

Zwei Grenzen gehören dazu, und beide sind unangenehm. Jede Architektur hat einen Gültigkeitsbereich, außerhalb dessen sie Schaden anrichtet, weil sie sauber zu falschen Fragen führt, ohne es zu bemerken. Und jede steht unter dem Verdacht, Bestätigung zu liefern statt Erkenntnis – gefährlicher als gar kein Rahmen, weil ihre Ergebnisse so sauber methodisch aussehen. Der Test dagegen muss regelmäßig stattfinden: den eigenen Rahmen gegen die eigene Position ansetzen und nachsehen, ob er hält. Wird das Ergebnis akzeptiert, ohne dass der Mensch es durchdrungen hat? Ist er noch Akteur oder schon Zuschauer? Das war eine Vorsichtsmaßnahme. Inzwischen ist es die eigentliche Frage.

Was stirbt eigentlich wann?

Richard Sutton, einer der Väter des maschinellen Lernens, hat 2019 einen dreiseitigen Text veröffentlicht, der zur unangenehmsten Selbstdiagnose seines Fachs geworden ist. Seine Beobachtung aus siebzig Jahren KI-Geschichte: Sorgfältig konstruiertes menschliches Expertenwissen verliert am Ende immer gegen generische Verfahren, die einfach mit mehr Rechenleistung skalieren. Schach, Sprachverarbeitung, Bilderkennung – jedes Mal waren die Experten sicher, ihre Regelwerke seien unersetzlich. Jedes Mal hat die Skalierung sie gefressen. Sutton nennt es die “bittere Lektion”. Bitter ist sie, weil sie eine Lebensleistung entwertet, nicht ein Produkt.

Seit die Muster verstanden sind, wird rechenbar, was als originär menschlich galt: Kreativität, Intuition, Hypothesenbildung. Zuletzt die Empathie – in blind bewerteten Studien gelten die Antworten der Maschine auf Patientenfragen als einfühlsamer als die von Ärzten. Man kann einwenden, dass hier nur der Ausdruck gemessen wird und nicht das Empfinden. Das stimmt. Es interessiert nur niemanden mehr, sobald das Ergebnis besser ist. Was reihenweise fällt, sind also nicht die Fähigkeiten selbst, sondern die Kriterien, an denen wir sie festgemacht haben.

Die bittere Lektion ist inzwischen bei den KI-Anwendern angekommen, die auf den Modellen aufbauen, statt sie zu trainieren. Das Muster wiederholt sich zuverlässig: Man konstruiert etwas, das eine Modellschwäche kompensiert, es funktioniert, und mit dem nächsten Release existiert die Schwäche nicht mehr. Die Faustregel unter Praktikern ist entsprechend schlicht geworden: Frag bei jedem Bauteil, ob es überflüssig wird, wenn das nächste Modell zehnmal besser ist. (Anmerkung: Bei Prompt-Kunstgriffen lautet die Antwort fast immer ja.)

Das ist kein Bauchgefühl, sondern gemessen. Eine Wharton-Studie von 2025 hat den Wert des klassischen Chain of Thought untersucht – der Anweisung, in Schritten zu denken, aus der die gesamte Prompt-Methodik hervorgegangen ist. Bei älteren Modellen brachte sie zweistellige Verbesserungen. Bei Reasoning-Modellen sind die Gewinne marginal und der Aufwand kaum gerechtfertigt; bei einfachen Aufgaben erzeugt die aufgezwungene Denkstruktur sogar Fehler, die das Modell ohne Anleitung nicht gemacht hätte. Das strukturierte Denken ist in die Modelle eingewandert. Was von außen daraufgesetzt wird, stört zunehmend.

Die Linie sollte man ehrlich verlängern, auch wenn sie ins eigene Regal führt. Phasensteuerung, Divergenz-Konvergenz-Taktung, orchestrierte Rollenwechsel zwischen Analyse, Kritik und Synthese: Ein guter Teil dessen, wovon die Zunft der KI-Methodiker heute lebt, wandert in die Modelle. Multi-Agenten-Systeme lassen bereits automatisiert konkurrierende Positionen gegeneinander antreten. Künftige Modelle werden ihre Prämissen offenlegen, ihre Inkonsistenzen selbst finden und den Perspektivwechsel vorschlagen, bevor der Mensch merkt, dass einer nötig wäre.

Daraus folgt ein Satz, den man besser annimmt als wegdiskutiert: Wer begründet, dass eine Denkarchitektur nötig sei, weil die Maschine sonst schlechter arbeite, begründet mit einem Argument, das sich immer mehr verflüchtigt. Denn diese Begründung verfällt mit jedem Modellsprung. Man sollte sie nicht verteidigen, sondern abschreiben – und nachsehen, was übrig bleibt.

Und was stirbt nicht und warum?

Übrig bleibt die Setzung selbst, und sie ist etwas kategorial anderes als die Technik, die um sie herumgewachsen ist.

Kompensationstechnik ist Bedienung: Vorgaben, wie die Maschine rechnen soll. Denk in Schritten, prüf die Annahmen, nimm die Gegenposition ein. Solche Vorgaben verfallen mit dem Defekt, den sie beheben. Hier hat Sutton vollständig recht.

Die Denkarchitektur entscheidet etwas anderes: welches Denken gelten soll. Planungsproblem oder Emergenzphänomen. Falsifizierbarkeit oder Anschlussfähigkeit. Effizienz oder Resilienz. Das ist keine Rechenanweisung, und deshalb verfällt es nicht mit der Rechenleistung – es hing nie von ihr ab.

Der Grund dafür ist unbequemer, als er zunächst klingt: Die Rahmenwahl ist durch Daten nicht entscheidbar. Konkurrierende Schulen erklären dieselbe Welt. Beide haben ihre Triumphe, ihre Katastrophen und ihre Literatur. Es gibt keinen Datensatz, der bestimmt, ob dieses Unternehmen in dieser Lage als steuerbares Gebilde oder als eigensinniges System behandelt werden sollte. Denn ob die Wahl richtig war, dafür gibt es keine Gegenprobe: Das Unternehmen, das der Strategie nach der anderen Schule gefolgt wäre, existiert nicht und wird nie existieren. Wer meinen Text über die Zukunft der Wissensarbeit kennt, erkennt die Figur wieder. Dort ging es um strategischen Rat als Vertrauensgut, dessen Qualität weder vorher noch nachher prüfbar ist. Hier steht dieselbe Figur eine Etage tiefer, im Maschinenraum.

Ein besseres Modell kann diese Wahl treffen – besser begründet, sauberer aufgespannt, mit mehr Alternativen im Blick als jeder Lehrbuchautor. Was es nicht kann, ist sie verantworten. Damit ist auch klar, an wen sich eine Denkarchitektur eigentlich richtet. Nur scheinbar an die Maschine. Tatsächlich an die Menschen, die mit dem Ergebnis leben müssen. Sie legt offen, unter welchen Prämissen gedacht wurde, und macht den Vorgang damit prüfbar und zurechenbar. Scheitert die Empfehlung, lässt sich rekonstruieren, ob der Rahmen falsch gewählt war oder das Denken in ihm falsch lief. An diesem Unterschied hängt, ob eine Organisation lernt oder nur enttäuscht ist.

Ohne die Denkarchitektur bekommt man das, woran Unternehmen gerade ersticken: stimmige Analysen, die niemand verantworten kann, weil niemand mehr sagen kann, was gedacht wurde, als sie entstanden. Wer maschinelle Empfehlungen unterschreibt, ohne ihre Epistemik zu kennen, unterschreibt blind. Blinde Unterschriften sind das Gegenteil von Verantwortung.

Die Denkarchitektur überlebt also nicht trotz der bitteren Lektion, sondern jenseits von ihr. Ihre Halbwertszeit ist nicht technologisch, sondern institutionell: Sie hängt nicht daran, was Maschinen können, sondern daran, ob unsere Rechtsordnungen, unsere Organisationen, ob Entscheider in großen Fragen weiter auf Zurechnung bestehen.

Die Prüfung abgeben

Die Setzung bleibt also beim Menschen. Die Prüfung auch? Bei der Prüfung wird es unangenehm, denn hier steht das eigene Urteil zur Disposition, und wenn hier die Maschine reinredet, wehrt man sich reflexhaft. Man sollte es trotzdem nicht tun, und zwar aus einem Grund, der seit siebzig Jahren aktenkundig ist.

1954 veröffentlichte der Psychologe Paul Meehl eine schmale Untersuchung mit einem unbequemen Befund: Bei Prognosen schlagen simple statistische Modelle das klinische Urteil erfahrener Experten. Nicht knapp, nicht in Sonderfällen, sondern systematisch. Die Fachwelt reagierte empört, dann mit Gegenstudien. Die Gegenstudien bestätigten Meehl. Bis 1996 hatte er mit William Grove 136 Vergleichsstudien zusammengetragen; das mechanische Verfahren war in der großen Mehrheit gleich gut oder besser, das menschliche in einer kleinen Minderheit überlegen. Medizin, Justiz, Personalauswahl – überall dasselbe Bild.

Bemerkenswert ist nicht der Befund. Bemerkenswert ist, was die Professionen daraus gemacht haben: nichts. Sie haben weiter selbst geurteilt, mit messbarem Schaden für die Menschen, über die geurteilt wurde. Wer Meehl liest und dann in eine Gutachterpraxis schaut, versteht, dass die Weigerung, dem besseren Urteil zu folgen, selbst die Irrationalität sein kann. Eitelkeit im Kostüm der Verantwortung.

Das Schach liefert den zweiten Beleg, und er ist unbarmherziger, weil er jünger ist. Nach Kasparovs Niederlage 1997 kam die Phase, in der Mensch und Maschine gemeinsam die Maschine allein schlugen. Eine Dekade lang galt das als Blaupause der Kollaboration, und die halbe KI-Ethik zitiert sie bis heute als Beweis, dass der Mensch gebraucht wird. Das war nur eine Zeit lang real. Heute verschlechtert menschliches Eingreifen die Bewertung der Engine in aller Regel, und die Spieler sind gefolgt – geräuschlos, niemand nennt es Kapitulation. Das Schach hat stattdessen seine Bedeutung verschoben: vom Anspruch der Spieler auf den besten Zug zur Praxis des eigenen. Auch schlecht Tennis spielen macht Spaß.

Übertragen auf die Denkarchitektur heißt das: Die Prüfung, ob ein gesetzter Rahmen eingehalten wurde, ist genau die Sorte Aufgabe, bei der Meehl gilt. Sie ist regelgebunden. Jedenfalls zum Teil. Denn Prüfung ist nicht gleich Prüfung. Ob eine Schlussfolgerung aus den gesetzten Prämissen folgt, ob ein Veto verletzt wurde, ob mitten im Text die Schule gewechselt hat, ob eine Behauptung als Beleg auftritt, die keiner ist: Das sind regelgebundene Fragen mit einem definierten Kriterium, dem Rahmen selbst. Hier gilt Meehl in voller Härte. Ob dagegen der Geist einer Ontologie gewahrt ist – ob eine Analyse ein System wirklich systemisch behandelt oder nur die Vokabeln übernommen hat –, ist Auslegung und keine Regelprüfung. Dort ist die Maschine noch nicht überlegen, und es ist offen, wann sie es sein wird. Wer die Prüfung abgibt, gibt also zunächst den größeren, mechanischen Teil ab und behält den kleineren, hermeneutischen. Nur schrumpft dieser Teil, und er schrumpft schneller, als es angenehm ist.

Hier liegt die Trennlinie, die den ganzen Text trägt: Wo “besser” ein Maß hat, ist Folgen rational und Beharren Starrsinn. Ob eine Schlussfolgerung aus den gesetzten Prämissen folgt, hat ein Maß. Ob die Prämissen die richtigen waren, hat keines. Das eine ist Prüfung, das andere ist Setzung. Wer beides zusammenwirft, verteidigt am Ende die Prüfung mit Argumenten, die nur für die Setzung gelten – und verliert beides, weil das Argument nicht hält.

Nur beginnt genau an dieser Stelle das eigentliche Problem, und es ist kein Bedenken gegen die Abgabe, sondern ihre logische Folge.

Denn die prüfende Maschine ist selbst ein Beobachter mit einem Rahmen, den sie nicht sieht. Sie prüft nach Kriterien, deren Auslegung wieder eine Setzung ist. Wer das ernst nimmt, braucht eine zweite Instanz, die die erste prüft – und für die zweite eine dritte. Die Systemtheorie kennt das seit Heinz von Foerster: Der Beobachter zweiter Ordnung sieht den blinden Fleck des ersten und erzeugt dabei einen neuen. Es gibt keinen letzten Beobachter.

Bislang war das ein philosophisches Problem, weil die Ökonomie es elegant gelöst hat: Niemand konnte sich eine vierte Prüfinstanz leisten. Verfahren enden, weil sie Geld und Zeit kosten. Der Abbruch sah nur aus wie Vernunft, er war aber ökonomisches Gebot. Nur: mit Maschinen kostet die nächste Ordnung fast nichts.

Wer beobachtet den Beobachter

Sobald die nächste Prüfinstanz nichts mehr kostet, verschwindet die Ausrede. Vorher konnte man den Abbruch der Prüfkette Wirtschaftlichkeit nennen. Jetzt wird sichtbar, was er immer war: eine Setzung, kein Erkenntnisgewinn. Man hört nicht auf zu prüfen, weil man fertig ist. Man hört auf, weil man aufhört.

Die Justiz weiß das seit langem und hat es präziser formuliert als jede Erkenntnistheorie. Robert H. Jackson, Richter am US Supreme Court, sagte 1953 über sein eigenes Gericht, das letzte Gericht entscheide nicht, weil es recht hat, sondern weil es das letzte ist. Endgültig ist der höchste Gerichtshof also nicht, weil er unfehlbar ist, sondern er ist deshalb unfehlbar, weil sein Urteil endgültig ist. Das ist keine Koketterie, sondern simple Beschreibung. Der Instanzenzug endet nicht dort, wo die Wahrheit erreicht ist, sondern dort, wo eine Ordnung ihn enden lässt. Rechtsordnungen haben den Regress nie aufgelöst. Sie haben ihn abgeschnitten und den Schnitt durch Verfahren legitimiert.

Genau das steht der maschinellen Prüfkette bevor – nur ohne Verfassung, ohne Instanzenordnung und ohne jemanden, der den Schnitt unterschreibt. Wer drei Modelle übereinanderlegt, hat nicht dreifache Sicherheit, sondern eine Entscheidung getroffen, bei drei aufzuhören. Diese Entscheidung trifft heute niemand bewusst. Sie ergibt sich aus Latenz, Token-Budget und Ungeduld.

Und sie ist nicht das größte Problem. Das größte Problem ist, dass Tiefe nichts kauft.

Prüfinstanzen sind nur dann etwas wert, wenn sie unabhängig irren. Modelle derselben Architektur, trainiert auf überlappenden Datenbasen, ausgerichtet nach ähnlichen Verfahren, teilen ihre blinden Flecke systematisch. Zehn solcher Instanzen liefern nicht zehnfache Sicherheit, sondern zehnfache Bestätigung – und zwar mit steigender Überzeugungskraft, weil Übereinstimmung wie Evidenz aussieht. Der Regress wird dann nicht zum Erkenntnisverfahren, sondern zur Echokammer mit Prüfsiegel. Was zählt, ist nicht die Ordnung der Beobachtung, sondern die Dekorrelation der Beobachter: verschiedene Anbieter, verschiedene Trainingsstände, verschiedene Rahmen, vor allem verschiedene Fehlerarten. Wer maschinell gegenprüfen lässt, prüft nicht tiefer. Er prüft quer.

Ob echte Dekorrelation überhaupt zu haben ist, ist damit noch nicht gesagt. Die führenden Modelle speisen sich aus überlappenden Datenbeständen und werden nach verwandten Verfahren ausgerichtet; was wie Vielfalt aussieht, ist womöglich nur unterschiedliche Beschriftung derselben Herkunft. Querprüfung ist deshalb kein Verfahren, das man einfach anwendet, sondern eines, das man laufend gegen seine eigene Erosion verteidigen muss – und der Verdacht, dass sie sich nicht halten lässt, ist nicht ausgeräumt.

Damit ist die Aufgabe des Menschen präzise umrissen, und sie ist kleiner, als es den meisten gefallen wird. Er setzt den Rahmen. Er sorgt dafür, dass die Prüfer nicht dieselbe Familie sind. Und er entscheidet, wann Schluss ist. Das Prüfen selbst tut er nicht mehr, weil er es schlechter täte.

Was er dabei verliert, sollte man nicht beschönigen: die Fähigkeit zu erkennen, ob die Kette in eine gemeinsame Fehlrichtung gelaufen ist. Genau diesen Fall erzeugt Korrelation, und genau diesen Fall sieht man von innen nicht. Übereinstimmende Prüfergebnisse sehen identisch aus, egal ob sie unabhängig zustande kamen oder gemeinsam danebenlagen. Der Mensch am Ende der Kette bekommt ein Urteil über sein eigenes Urteil, das er nicht mehr durchdringt. Er kann es nicht verifizieren. Er kann nur entscheiden, ob er es gelten lässt.

An dieser Stelle wird deutlich, warum der Regress kein Erkenntnisproblem ist, das man lösen müsste, sondern eine Kategorie, die man verlassen muss. Jede Prüfung ist eine Behauptung über Richtigkeit und deshalb selbst wieder prüfbar – daher die Endlosigkeit. Eine Zwecksetzung ist keine Behauptung über Richtigkeit. Man kann sie bestreiten, politisch, moralisch, geschmacklich. Widerlegen kann man sie nicht. Deshalb erzeugt sie keine nächste Ordnung. Sie beendet den Regress nicht durch eine Antwort, sondern durch einen Kategoriewechsel.

Übersetzt: Die Prüfkette darf beliebig tief werden und wird es. Beenden kann sie sich nicht. Beendet wird sie von jemandem, der sagt, dass es gut genug ist für das, was er will – und das ist kein Erkenntnisakt, sondern ein Haftungsakt. Der Mensch bleibt nicht in der Schleife, weil er besser urteilt. Er bleibt, weil ein Verfahren, das sich selbst beendet, niemanden hat, den man belangen kann.

Das ist eine schwächere Position als die, mit der Berater und Experten sich üblicherweise legitimieren. Es ist aber die einzige, die hält.

Wenn Folgen vernünftig wird

Die Frage im Untertitel ist damit beantwortbar, und die Antwort ist unbequemer, als sie klingt.

Der Maschine zu folgen statt der eigenen Intuition ist keine Kapitulation, solange die Richtung die eigene bleibt. Delegation mit behaltener Rückrufoption; jeder brauchbare Aufsichtsrat arbeitet so. Wer einen Rahmen setzt, die Prüfung querlaufen lässt und am Ende entscheidet, ob das Ergebnis gilt, hat nichts abgegeben außer der Arbeit, die er selbst schlechter gemacht hätte. Das ist kein Verlust, sondern Arbeitsteilung.

Nur hat diese Formel zwei Sollbruchstellen, und es wäre unredlich, sie zu verschweigen.

Die erste ist eine Rekursion. Um zu beurteilen, ob die Maschine im konkreten Fall überlegen ist, braucht man genau die Sachkompetenz, die durch Nichtgebrauch verkümmert. Die Prüfinstanz zehrt von einem Vorrat, den das Prüfen nicht auffüllt. Wer zehn Jahre lang nur noch Rahmen setzt und Ergebnisse entgegennimmt, setzt irgendwann Rahmen, die er selbst nicht mehr ausfüllen könnte – und merkt es nicht, weil ihm niemand widerspricht. In unserem Bild: Wer nur noch Tennis am TV schaut, kann nichts mehr darüber sagen, wie es sich anfühlt zu spielen. Das ist die stille Version des Problems: Die Setzung bleibt formal beim Menschen und wird inhaltlich zur Zeremonie. Er unterschreibt weiter. Er weiß nur nicht mehr, was.

Die zweite ist eine Kette. Die Grenze zwischen rationalem Folgen und aufgegebenem Wollen wird niemand in einem Akt überschreiten. Sie wird in tausend einzeln vernünftigen Delegationen überschritten, deren Summe niemand entschieden hat. Erst die Prüfung, weil die Maschine unbestechlicher liest. Dann die Auswahl der Prüfer, weil sie die Korrelationen besser kennt als ich. Dann die Vorformulierung des Rahmens, weil sie ihn ohnehin sauberer aufspannt und ich nur noch bestätige. Jeder einzelne Schritt ist begründbar, jeder für sich richtig. Nur: Die Kette als Ganzes ist es nicht.

Man kann das entdramatisieren, und einiges spricht dafür. Das Schach hat den Übergang hinter sich und ist nicht verschwunden, sondern hat seine Bedeutung verschoben. Denkbar, dass dasselbe der Wissensarbeit bevorsteht – dass in einigen Jahren niemand mehr behauptet, besser zu urteilen als die Systeme, und dass das ähnlich wenig schmerzt wie heute die Einsicht, langsamer zu rechnen. Zwecke wären dann immer noch zu setzen, und wer sie setzt, hätte immer noch alles zu verantworten. Nur würde niemand das mehr Denken nennen.

Denkbar ist auch das Gegenteil: dass die Zurechnung sich als härter erweist, als die Technik erwartet. Rechtsordnungen brauchen Adressaten. Organisationen brauchen jemanden, der im Zweifel geht. Solange das gilt, gibt es einen Platz, den keine Fähigkeit besetzen kann, weil er nicht durch Fähigkeit vergeben wird. Egal was er kann: Der Notar protokolliert und haftet, solange die Maschine nicht haftet.

Welche der beiden Linien sich durchsetzt, entscheidet keine Theorie. Es entscheidet die Praxis derer, die jetzt mit diesen Maschinen arbeiten – und die Frage, ob sie bemerken, an welcher Stelle der Kette sie gerade stehen. Ich weiß es nicht. Ich weiß nur, dass die Antwort nicht davon abhängt, was Maschinen können werden, sondern davon, was Menschen sich abnehmen lassen wollen, während jeder einzelne Schritt vernünftig aussieht.

Epilog: Die eigene Rechnung

Ein Text über Denkarchitekturen, geschrieben von jemandem, der welche baut, hat ein Beweisproblem. Es lässt sich nur auf eine Art lösen – die eigene These auf das eigene Regal anwenden. Und der Verdacht liegt auf dem Tisch, bevor ihn jemand ausspricht: Nachdem die Maschine dem Berater das Briefing, die Analyse und bald die Prüfung abgenommen hat, zieht er sich auf eine Meta-Ebene zurück, die zufällig genau dort verläuft, wo sie unangreifbar ist. Das ist ein berechtigter Verdacht. Er entkräftet das Argument nicht, aber er verpflichtet mich, es gegen mich selbst zu führen.

Also: Ich betreibe eine Suite modularer Denkarchitekturen – Analysegerüste, Auditprotokolle, Beobachterinstanzen, Entscheidungssysteme, Biaserkennung, kombinierbar und situativ geschaltet. Nach der Logik dieses Textes ist ein erheblicher Teil davon Kompensationstechnik mit Ablaufdatum. Prozeduranweisungen, Phasensteuerung, eingebaute Prüfschleifen: Sie beheben Schwächen, die kommende Modelle nicht mehr haben werden. Wenn es so weit ist, wird das nicht verteidigt, sondern abgeräumt.

Was bleibt, ist der Teil, der von Anfang an der eigentliche war: die explizite Setzung, unter welcher Epistemik gedacht wird. Die Trennung von Verifiziertem, Erschlossenem und Spekuliertem. Das Protokoll dessen, was gedacht wurde, als die Empfehlung entstand. Die Möglichkeit, hinterher zu unterscheiden, ob der Rahmen falsch war oder das Denken in ihm.

Das ist keine Steuerungstechnik für Maschinen. Das ist Buchführung über Verantwortung.

Und weil dieser Text von der Abgabe der Prüfung handelt, gehört das Ergebnis dazu. Er wurde maschinell gegengeprüft, von Modellen verschiedener Herkunft. Ein Einwand hat mich zu einer Korrektur gezwungen: Die Prüfung eines Rahmens ist nur zum Teil eine Regelprüfung; wo sie zur Auslegung wird, gilt Meehl nicht, und ich hatte das zusammengeworfen. Einen zweiten Einwand habe ich verworfen, weil er sich selbst widerlegt – wer vorschlägt, die richtige Denkschule ließe sich simulativ ermitteln, hat vorher entschieden, woran sich „richtig" bemisst, und genau darum geht der Streit. Und einen dritten habe ich verworfen, ohne ihn widerlegen zu können. Er lautete, die Unterscheidung zwischen Setzung und Prüfung sei selbst nur eine Setzung.

Sie ist es. Genau darum steht mein Name darunter.

Quellen

Sutton, R. (2019): The Bitter Lesson.incompleteideas.net/IncIdeas/BitterLesson.html

Meincke, L. / Mollick, E. / Mollick, L. / Shapiro, D. (2025): Prompting Science Report 2: The Decreasing Value of Chain of Thought in Prompting. Wharton Generative AI Labs.

Ayers, J. et al. (2023): Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions. JAMA Internal Medicine 183(6).

Meehl, P. (1954): Clinical versus Statistical Prediction. University of Minnesota Press. — Grove, W. / Meehl, P. (1996): Comparative Efficiency of Informal and Formal Prediction Procedures. Psychology, Public Policy, and Law 2(2).

Von Foerster, H. (1981): Observing Systems. Intersystems Publications.

Jackson, R. H. (1953): Brown v. Allen, 344 U.S. 443, 540 (concurring opinion).