Denken wird billig. Urteil wird teuer

Was die Maschinen über ihre eigene Zukunft sagen

Man kann die Frage, was das bedeutet, den Verursachern selbst stellen. Das habe ich getan: Das Experiment ist einfach zu machen und jederzeit wiederholbar: sechs KI-Systeme, drei Anbieter, eine Frage: “Worin besteht der Wert menschlicher Denkarbeit noch, wenn Maschinen das Denken übernehmen?”

Die Antworten kommen verblüffend einstimmig: Der Berufsstand der Denkverkäufer – Berater, Anwälte, Analysten, Ärzte in der Diagnostik, Wissenschaftler, Journalisten –, kollabiert in den nächsten wenigen Jahren, sagen die Maschinen. Graduell, nicht auf einmal, aber unaufhaltsam. (Anmerkung für die, die gerade aufgeatmet haben: Wer hier nicht genannt ist, ist trotzdem dabei.)

Die Begründungen variieren im Detail, laufen aber auf dasselbe hinaus, und sie klingen unangenehm gut. Es lohnt sich jedoch, die drei stärksten in Ruhe anzusehen — weil man den Denkfehler erst dann erkennt, wenn man die Argumente ernst genommen hat.

Erstes Argument: Die letzten Prozente zählen nicht.

Der Experte tröstet sich gern damit, dass er besser bleibt als die Maschine — gründlicher, erfahrener, präziser. Das stimmt oft sogar. Doch es ist ökonomisch bedeutungslos: Gekauft wird nicht maximale Erkenntnistiefe, gekauft wird eine ausreichend gute Entscheidung. Wenn die Maschine 95 Prozent umsonst liefert und der Mensch 99, dann müsste jemand bereit sein, für nur vier Prozentpunkte mehr ein Vielfaches zu zahlen. Schon das ist schwer zu argumentieren. Und hier kommt die eigentliche Pointe: Diese Differenz ist nicht einmal prüfbar. Bezahlt wird lediglich der Glaube des Kunden an eine Differenz. Und dieser Glaube schrumpft mit jeder Stunde, die der Kunde selbst mit der KI arbeitet — nicht weil er wirklich so gut urteilt wie der Profi, sondern weil überzeugt ist, es zu tun. Märkte funktionieren auf Basis von Überzeugungen, nicht auf Basis von Wahrheiten. Der Experte kann besser sein als die Maschine und trotzdem pleitegehen.

Zweites Argument: Die Branche hat ihre Ersetzung selbst geschrieben.

Dreißig Jahre lang hat die Wissensarbeit ihr Wissen kodifiziert — Frameworks publiziert, Methoden gelehrt, Vorgehensmodelle in Folien gegossen, Bücher geschrieben, Zertifikatskurse verkauft. Das war das Geschäftsmodell: Wissen explizit machen und die Explikation vermarkten. Nur: Kodifiziertes Wissen ist per Definition das Wissen, das sich verlustfrei kopieren lässt. Von Kunden, von Konkurrenten. Und jetzt eben von Maschinen, die mit genau diesen Texten trainiert wurden. Die Regale der Beratungsökonomie stehen voll mit den Bauplänen ihrer eigenen Substitution, ordentlich verschlagwortet. Womit sich die spannende Frage stellt: Was bleibt eigentlich übrig, wenn alles Aufschreibbare aufgeschrieben ist? Die naheliegende Antwort — das Unaussprechliche, das Intuitive, das Genie. Aber Achtung: das ist falsch. Warum, wird am Ende des Textes besprochen. Und die richtige ist unspektakulärer und sehr viel härter.

Drittes Argument: Auch die Rettung durch neue Preismodelle fällt aus.

Der Hoffnungsvolle wendet ein: Die Modellanbieter werden nicht ewig zwanzig Euro im Monat nehmen. Sie werden nach Wert abrechnen — nach gelöstem Problem, nach erzieltem Ergebnis. Dann ist Schluss mit gratis, und der Preisverfall stoppt. Das stimmt, rettet aber nicht den Experten: Die Marge wandert dann stromaufwärts zu den KI-Anbietern.

Dieser Einwand führt an eine interessante Stelle der Diskussion. Nach Wert bepreisen lässt sich nämlich nur, was drei Bedingungen erfüllt: messbar, zurechenbar, kontrollierbar. Ein Gedankenexperiment macht das greifbar. Warum bekommt kein Bundestrainer der Welt einen reinen Weltmeistervertrag — 150 Millionen bei Titel, null sonst? Der Titel wäre doch perfekt messbar: binär, öffentlich, unbestreitbar. Die Antwort: Weil selbst der beste Trainer der Welt nur die Titelwahrscheinlichkeit verschieben kann, vielleicht von zwölf auf zwanzig Prozent — der Rest ist Kadergeneration, Losglück, ein Pfosten im Elfmeterschießen. Das Ergebnis ist messbar, aber nicht zurechenbar und nicht kontrollierbar. Deshalb bekommt jeder Trainer ein Fixum plus begrenzten Bonus, und deshalb entzieht sich selbst das messbarste Ergebnis der Welt der Wertbepreisung, sobald der Zufall mitspielt.

Und jetzt der Transfer: Strategischer Rat ist nicht einmal messbar. Ob die Restrukturierung wegen oder trotz der Beratung gelang, erfährt niemand — die Gegenprobe, das Unternehmen ohne den Rat, existiert nicht und wird nie existieren. Ökonomen nennen so etwas ein Vertrauensgut: eine Leistung, deren Qualität weder vor noch nach dem Kauf prüfbar ist. In dieser Zone — messbar vielleicht, zurechenbar nie — findet alles statt, was Beratung genannt zu werden verdient. Merken, kommt später wieder.

Das KI-Modell basiert auf Kurven

Die Argumente der KI-Modelle sind scharf, ihre Zahlen wirken seriös, ihre Einstimmigkeit beeindruckt. Und genau hier lohnt es sich, kurz innezuhalten und zu fragen, was alle sechs Rechnungen gemeinsam haben.

Die Antwort: eine stille Annahme, die in keiner der Antworten ausgesprochen wird. Alle sechs Systeme rechnen in einer Welt, die stillhält. Kunden, die nicht dazulernen. Institutionen, die nicht zurückschlagen. Märkte, die keine Gegenprämien bilden. Prognosen, die das Verhalten derer, über die sie sprechen, nicht verändern. Die Kurve kostenlos verfügbaren Wissens steigt, der Berufsstand der Wissensarbeiter fällt, sonst bewegt sich nichts. Das ist allerdings eine statische Welt, hübsch durchgerechnet.

Warum ist die Welt der Modelle wenig dynamisch? Vermutlich aus einem einfachen Grund: Geschichte schreibt ihre Gegenbewegungen erst nachträglich auf. Die Trends stehen in den Textmassen, mit denen diese Systeme trainiert wurden, — die Disruptionsprognosen, die Untergangsszenarien, die Hockey-Stick-Charts. Was in diesen Daten nicht steht, oder zumindest seltener, verstreuter, unspektakulärer, sind die Rückkopplungen, die diese Trends zukünftig gebrochen oder verändert haben werden. Die Maschine kann Rückkopplung nur berücksichtigen, wenn der Operator sie dazu zwingt. Aber auch das ist nur Schein: denn ein KI-Modell baut Trends, weil es selbst aus Trends gebaut ist. Und es baut keine Rückkopplungen.

Menschliche Gesellschaften sind aber keine Kurvenscharen. Sie sind Rückkopplungssysteme: Jede Verknappung erzeugt Ausweichbewegungen, jede Übertreibung Gegenbewegungen, jede Prognose verändert das Prognostizierte. Wer die Zukunft der Wissensarbeit extrapoliert, wiederholt den Fehler sämtlicher Automatisierungsprognosen der letzten zweihundert Jahre: Er berechnet präzise, was verschwindet — und übersieht systematisch, was als Reaktion darauf entsteht. Fünf solcher Reaktionen zeichnen sich bereits ab.

Billiges Denken erzeugt mehr Denkbedarf, nicht weniger. Das klingt paradox und ist der historische Normalfall. Als die Tabellenkalkulation aufkam, prophezeite man das Ende der Buchhalter. Eingetreten ist das Gegenteil: Weil Rechnen plötzlich nichts mehr kostete, wurde überall gerechnet — und die Finanzanalyse entstand als Massenberuf, den vorher niemand auf dem Zettel hatte. Wenn strategische Analyse fast nichts mehr kostet, wird sie überall eingesetzt werden. Und jede Analyse erzeugt Anschlussfragen, Widersprüche zwischen Analysen, Bedarf an Gewichtung und Priorisierung. Die Menge des Denkens, das jemand verantworten muss, steigt.

Optimierung, die alle nutzen, entwertet sich selbst. Wenn jedes Unternehmen einer Branche dieselben hervorragenden Systeme befragt, konvergieren die Antworten — und eine Strategie, die jeder hat, ist keine Strategie, sondern ein Branchendurchschnitt mit Deckblatt. In einem Markt perfekt geteilter Intelligenz wandert der Vorteil zwangsläufig dorthin, wo die Maschine nicht hinkann: zur kalkulierten Abweichung, zur idiosynkratischen Wette, zum begründeten Mut gegen den Modellkonsens. Die Maschine erzeugt die Prämie auf das Nicht-Maschinelle durch ihren eigene Verbreitung.

Die Plausibilitätsschwemme erzeugt eine Herkunftsprämie. Wenn perfekt formulierte Texte, Analysen und Empfehlungen unbegrenzt verfügbar sind, wird nicht der Inhalt knapp, sondern die Verbürgtheit. Die Bewegung ist schon sichtbar: Der Wert des persönlichen Gesprächs, der namentlichen Empfehlung, der physischen Anwesenheit steigt in genau dem Maß, in dem der Wert des anonymen Textes fällt. Das ist kein Rückzugsoptimismus, das ist Signalökonomie: In einem Ozean kostenloser Plausibilität ist der Mensch, der mit Namen und Gesicht bürgt, das einzig glaubwürdige Signal.

Institutionen bauen Knappheit zurück. Gesellschaften sehen der Automatisierung von Verantwortung nicht achselzuckend zu. Haftungsrecht, Berufsrecht, Zulassungspflichten, Versicherungsanforderungen, regulatorische Vorgaben für menschliche Letztverantwortung: Die institutionelle Immunreaktion hat längst begonnen, und sie erzeugt per Paragraf genau die zurechenbaren menschlichen Positionen wieder, deren Verschwinden die Maschinen vorrechnen.

Und die übersehene Zeitbombe: die Ausbildungslücke. Wenn niemand mehr Nachwuchs im Analysieren ausbildet, weil Maschinen es billiger erledigen, dann bricht in einer Dekade die Pipeline derer zusammen, die Maschinenergebnisse noch beurteilen können. Dann wird geprüfte Urteilskraft brutal knapp, ihre Preise steigen, und das System beginnt hektisch wieder auszubilden — eine Oszillation, kein linearer Verfall. Wer heute jung ist und das angeblich obsolete Handwerk trotzdem lernt, kauft eine Option auf genau diese Knappheit. Der Markt wird sie einlösen.

Fazit: Die Zukunft der Wissensarbeit wird nicht “geschehen”, sie wird verhandelt — und die Verhandlung läuft bereits, auf allen fünf Schauplätzen gleichzeitig.

Position schlägt Fähigkeit

Aus beidem zusammen — dem echten Sterben des Denkens als Ware und den echten Gegenbewegungen — folgt eine Überlegung, die die gesamte Diskussion erdet: Wert sitzt künftig nicht in Fähigkeiten, sondern in den Positionen im Beziehungsgefüge. Was bedeutet das?

Der Unterschied ist fundamental und wird fast immer übersehen. Eine Fähigkeit kann trainiert, gemessen und deshalb repliziert werden. Eine Position ist ein Ort in einem sozialen Gefüge — sie kann nur besetzt werden. Der Dritte am Tisch des Entscheiders, der die Einsamkeit der Entscheidung teilt, ist so eine Position. Der Ratgeber, dessen Urteil deshalb Wert hat, weil er das Ergebnis mitträgt, im Gegensatz zur KI hat sein Rat Konsequenzen für ihn selbst: Man sieht sich wieder. Der Berater, der Empfehlusgeber, an dessen Namen die beratene Organisation Verantwortung heftet, weil sie an Software nichts heften kann — Software kann man nicht entlassen, nicht beschämen, nicht in Regress nehmen. Ein Chat lässt sich schließen und neu beginnen, folgenlos; ein Mensch, dessen Rat man eingeholt hat, bleibt im Raum, erinnert sich und kommt wieder. Rat, dessen Ignorieren nichts kostet, ist kein Rat. Es ist Information.

Aber auch Positionen stehen nicht ewig. Auch Verantwortung wird eines Tages versicherbar, auch Zurechenbarkeit institutionell nachbaubar sein. Aber Positionen verfallen langsam, und sie verfallen institutionell, nicht technologisch. Das ist der entscheidende Unterschied: Gegen Technologie gibt es keine Verteidigung. Institutionen bleiben bestehen.

Damit lässt sich auch präzise sagen, wo der Markt sich teilen wird — nämlich entlang der Zurechenbarkeitsgrenze. Alles Verifizierbare und Zurechenbare — Code, der Tests besteht, Steuerwirkung, die im Bescheid steht, Strukturen, Transaktionen — erledigen Maschinen, und ihre Anbieter kassieren dafür nach Wert. Das Unzurechenbare, das Urteil unter Unsicherheit, dessen Gegenprobe niemand je sieht. Dieses Gut kann keine Maschine bepreisen, denn sein Wert ist nicht attribuierbar. Es wird bezahlt, wie es immer bezahlt wurde — über Person, Bürgschaft, Beziehung.

Das ist kein schrumpfender Rest. Das ist der Kern, der immer schon der Kern war. Und es ist entlarvend für Berater. Die Beratungsbranche hat ihren Kunden jahrzehntelang erzählt, sie verkaufe überlegene Analyse — geliefert hat sie aber etwas anderes: Legitimation, Absicherung, geteilte Verantwortung. Die Soziologie wusste das übrigens lange vor den KI-Sprachmodellen und meinte es als Kritik. Jetzt wird die Kritik zur Überlebensbeschreibung. Die Maschinen zerstören nicht den Wert dieser Arbeit. Sie zerstören ihre Legende, die sie jahrzehntelang monetarisieren konnte. Man könnte auch sagen: Die KI ist die erste ehrliche Rechnung, die diese Branche je bekommen hat.

Bedeutet: Die Nachfrage nach dem Kern “Verantwortung” wächst, statt zu schrumpfen. Denn je mehr Denken im Umlauf ist, desto größer wird die Verantwortungslücke. Organisationen ertrinken schon heute in stimmigen Analysen, die niemand verantwortet; jede weitere Gratis-Analyse vergrößert die Unübersichtlichkeit. Wertvoll wird, wer den Schnitt setzt: Schluss mit analysieren, jetzt wird entschieden. Wer eine Richtung empfiehlt statt drei Optionen, mit Begründung, mit Preisschild — und wer im Raum bleibt, wenn die Konsequenz eintrifft. Die Werkzeuge dafür sind austauschbar, in immer kürzeren Zyklen. Die Rolle dagegen nicht.

Das teuerste Organ der Gesellschaft

Bleibt die Frage hinter allem, und sie ist größer als jede Branche: Was ist das Wissen im Kopf noch wert — das mühsam erworbene, nie vollständig aufschreibbare Wissen einer gut ausgebildeten Minderheit, einer Elite im Wortsinn?

Die Antwort: Es wechselt die Rolle. Als Produktionsfaktor für Antworten ist es tot — Antworten kommen aus der Maschine, unbegrenzt, druckreif, sofort. Zwei Rollen aber kann nichts anderes übernehmen, und beide werden mit jedem Fortschritt der Maschinen wichtiger, nicht unwichtiger:

Rolle eins: Trägerschaft. Verantworten lässt sich nur, was durchdrungen wurde. Wer maschinelle Empfehlungen unterschreibt, ohne sie durchdrungen zu haben, unterschreibt blind — und blinde Unterschriften sind keine Verantwortung. Eine Gesellschaft, die Entscheidungen zurechnen will (und jede Rechtsordnung, jede Organisation beruht darauf), braucht Menschen, die verstehen, was sie unterschreiben.

Rolle zwei: Prüfung. Prüfen heißt zweierlei, und das muss sauber unterschieden werden. Der eine Teil ist Konformitätsprüfung: Genügt der Output den gesetzten Kriterien, ist er konsistent, vollständig, sauber hergeleitet? Diese Prüfung ist regelgebunden, somit ermüdend, fehleranfällig für Menschen — und darin sind Maschinen längst überlegen. Menschliche Prüfung prüft schlechter. Man sollte diese Arbeit abgeben, und zwar vollständig.

Der andere Teil ist Geltungsprüfung: Trägt der Rahmen selbst noch, in dem geprüft wurde? Und diese Frage kann kein System beantworten, das in diesem Rahmen operiert. Das Experiment vom Anfang zeigt den Unterschied: Alle sechs KI-Systeme waren innerhalb ihrer Annahme — die Welt hält still — makellos konsistent. Jede Konformitätsprüfung bestanden, geprüft gegen genau die Annahme, die falsch war. Der Fehler saß nicht im Rechnen, er saß im Rahmen. Damit fällt die Geltungsprüfung mit Rolle eins zusammen: Sie ist Setzungsarbeit, nur nachgelagert. Wer den Rahmen setzt, muss auch entscheiden, ob er noch passt und wann nicht mehr. Je mehr Denkleistung Maschinen erbringen, desto knapper wird nicht das Prüfen — sondern das Urteil darüber, ob das Geprüfte überhaupt die richtige Frage beantwortet.

An dieser Stelle führen Menschen gern das Bauchgefühl an, die Intuition, das nicht Sagbare. Das trägt es aber nicht, es ist nur bequem, romantisch, aber nachweislich falsch. Denn was den sechs Systemen fehlte, war nicht Wissen. Rückkopplungsschleifen, das Jevons-Paradoxon, Systemtheorie: alles steht in tausend Lehrbüchern und damit in ihren Trainingsdaten. Sie lieferten die Gegenargumente sogar prompt und präzise — sobald man sie ausdrücklich zwang, die eigene Prognose anzugreifen. Sie hatten das Wissen. Sie benutzten es nicht.

Was fehlte, war der Auslöser: die ungefragte Entscheidung, ausgerechnet diese Kategorie anzulegen. Nicht zu wissen, dass es Rückkopplungen gibt — sondern zu identifizieren, dass hier eine fehlt. Und wer jetzt einwendet, man müsse die Prüfung auf Rückkopplungen dann eben per Prompt anfordern, hat das Problem nicht verstanden: Denn wer diesen Prompt schreibt, muss erkannt haben, dass es den Fehler gibt. Die Anwendung einer Regel lässt sich nicht durch eine weitere Regel sichern; irgendwo muss jemand entscheiden, welche Regel dran ist. Kant hat diesen Regress vor zweihundertdreißig Jahren beschrieben und ihm einen Namen gegeben: Urteilskraft. Ein Talent, schrieb er, das man nicht lehren, sondern nur üben kann.

Das also bleibt übrig, wenn alles Aufschreibbare aufgeschrieben ist: nicht das Wissen, sondern der Zugriff darauf im richtigen Moment. Kodifiziert ist, was man weiß. Nicht kodifiziert ist, wann man Wissen einsetzt. Und dieser Zugriff entsteht auf genau einem Weg — Handwerk, selbst ausgeübt, lange, mit Konsequenzen.

Womit die letzte Frage keine technologische mehr ist, sie ist eine Investitionsentscheidung, die Gesellschaften genau jetzt treffen müssen: Investition in Ausbildung, in die Bereitschaft, für menschliches Urteil zu zahlen, obwohl die Antwort daneben gratis liegt. Eine Gesellschaft, die aufhört, Menschen im Denken auszubilden, weil Maschinen es erledigen, verliert die Fähigkeit zu erkennen, wann ihre Maschinen irren. Das ist dann kein Strukturwandel mehr. Das ist Blindflug mit Autopilot.

Die Verhandlung läuft. Verhandelt wird nicht, was Maschinen können. Verhandelt wird, was Menschen zu bleiben bereit sind.