Die Oversight Tax

Das Versprechen ist Entlastung. KI-Nutzende berichten im Schnitt 40 % mehr Produktivität, und 77 % der Führungsebene bemerken diese Gewinne (Upwork Research Institute, 2025, n=2.500, Stichprobe C-Suite-lastig). Auf dem Papier ist der Fall klar: weniger Zeit pro Aufgabe, mehr Output, mehr Luft.

Die Realität ist schiefer. Das MIT NANDA Initiative berichtet Mitte 2025, auf Basis von Konzern-Pilotprojekten und nicht von KMU, dass 95 % der Unternehmen, die in GenAI investieren, keinen messbaren Effekt auf Gewinn und Verlust sehen. Nur 5 % der maßgeschneiderten Unternehmens-KI schaffen es überhaupt mit messbarem Wert in den produktiven Einsatz. Die Hauptursache ist laut MIT nicht das Modell, sondern eine organisatorische Lücke: die Unfähigkeit, KI in Arbeitsabläufe, Strukturen und Kultur zu integrieren. Es ist die menschliche Komponente, die fehlt.

Die Last ist real, der versprochene Payoff fehlt, weil die menschliche Einbettung fehlt. Wer KI kauft und hofft, dass sie sich von selbst in den Betrieb einfügt, kauft die Last ohne den Gewinn.

Der Mechanismus steht auf einem Rückgrat aus begutachteter Forschung. 1983 beschrieb die Ergonomin Lisanne Bainbridge die Ironies of Automation: Automatisiert man das meiste der Arbeit, bleibt dem Menschen genau das, was sich nicht automatisieren lässt, die erschöpfende Überwachung. Und der Mensch ist ein schlechter Monitor. Die Vigilanz zerfällt schnell, die System-Logik ist undurchsichtig, und er haftet trotzdem für Fehler, die er gar nicht erkennen kann. Bainbridges eigene Empfehlung war damals übrigens mehr Training. Erst der spätere Befund, dass sich dieses Aufsichts-Versagen nicht wegtrainieren lässt, verschiebt den Hebel von Training auf Architektur.

Parasuraman und Manzey machten das 2010 quantitativ und hart, in einer der meistzitierten Arbeiten dazu (über 2.000 Zitationen bei Google Scholar). Ihr entscheidender Befund: Das Versagen der Überwachung ist strukturell. Wenn ein System meistens richtig liegt, hört man irgendwann auf, genau hinzuschauen, und übersieht die Fehler, die doch passieren. Die Forschung nennt das Automation Complacency (die nachlassende Wachsamkeit) und Automation Bias (den Hang, der Maschine eher zu glauben als dem eigenen Urteil). Beides tritt bei Laien wie Fachleuten auf und lässt sich nicht durch Training, Übung oder Instruktion wegbekommen. Die Ursache ist ein Merkmal menschlicher Aufmerksamkeit unter begrenzten Ressourcen, keine Disziplin-Schwäche. Das Einzige, was diese nachlassende Wachsamkeit nachweislich senkt, ist eine Änderung des Systemverhaltens, etwa eine bewusst schwankende statt konstante Zuverlässigkeit, nicht das Ermahnen des Menschen. Genau deshalb schlägt Architektur die Anstrengung.

Hier liegt der überraschendste Befund. 88 % der Freelancer:innen sagen, KI habe ihre Karriere positiv beeinflusst. Das ist eine andere 88-%-Zahl als die Burnout-Subgruppe weiter oben, eine zweite, eigenständige Statistik aus derselben Erhebung. Bei vergleichbarer Produktivität beschreiben sich diese Freelancer:innen als selbstbestimmter, resilienter und fokussierter als Angestellte. Nicht die Technologie macht den Unterschied, sondern wer die Kontrolle über sie hat.

Die Variable, die kippt, ist nicht die KI, es ist die Autonomie über den eigenen Workflow. Wer selbst entscheidet, welche Tools laufen, wann und wofür, erlebt KI als Hebel. Wer sie von oben verordnet bekommt, erlebt sie als Last. Für kleine Unternehmen ist das gut und schlecht zugleich: Die Inhaberin hat per Definition Autonomie. Aber Autonomie nützt nichts, wenn die Tools selbst undurchsichtig und aufsichts-intensiv sind. Autonomie ist notwendig, nicht hinreichend. Was fehlt, ist die Architektur, die niedrige Aufsichts-Last erst möglich macht.