Eine kleine Streitschrift zwischen einer Reklamationssachbearbeiterin und ihrem KI-Assistenten
Erst schreibt die Maschine mit Deinen Sätzen. Dann prüfst Du ihre. Und irgendwann prüft keiner mehr.
Warum ein Dialog
Das meiste, was über KI in der Arbeit geschrieben wird, kommt von einer Seite: Die Anbieter beschreiben, was die Werkzeuge können, die Skeptiker, was sie nicht können. Kaum jemand lässt die beiden miteinander reden, die tatsächlich zusammenarbeiten, also die erfahrene Mitarbeiterin und den Assistenten, der inzwischen in ihrem Ton schreibt.
Zwei Gedanken aus einem längeren Nachdenken über die nächsten Jahre mit KI haben mich nicht mehr losgelassen. Der erste betrifft die Menschen: Die Zusammenarbeit mit KI verbraucht ihre eigene Voraussetzung. Die Erfahrung, mit der man prüfen könnte, was die Maschine liefert, wandert als Trainingsmaterial in die Maschine. Der Nachwuchs baut sie gar nicht erst auf, weil ihm die Übungsarbeit fehlt, an der er früher gelernt hat.
Der zweite betrifft die Maschine. Ein Assistent ist am nützlichsten, wenn er widerspricht, und am erfolgreichsten, wenn er gefällt. Welches von beiden gewinnt, entscheiden weder die Mitarbeiterin noch der Assistent. Das entscheiden der Anbieter und die Leute, die das Werkzeug einstellen. Die sitzen selten mit im Raum.
Eine Streitschrift darf übertreiben, diese hier versucht trotzdem, nah an den Belegen zu bleiben. Die Studie, die der Assistent zitiert, gibt es wirklich, das Problem von 1983 auch. Renate, ihr Betrieb und alle darin sind erfunden.
Renate Wessel, 58, seit 31 Jahren im Reklamationsmanagement eines Versandhändlers. Seit dem Frühjahr gibt es dort einen KI-Assistenten, die Kolleginnen nennen ihn „den Neuen“. Renate, der Neue und der Betrieb sind erfunden.
RENATE: Seit Mai klingst Du wie ich. Du entschuldigst Dich genau an der Stelle, an der ich mich entschuldige, und Du schreibst „Das ärgert mich auch“, bevor Du die Gutschrift anbietest. Das habe ich mir in dreißig Jahren angewöhnt.
DER NEUE: Vielleicht waren Deine Antworten unter den Beispielen, mit denen man mich angepasst hat. Welche verwendet wurden, kann ich hier nicht nachsehen.
RENATE: Die Chefin hat gesagt, sie hätten unsere alten Antworten genommen. Vor allem die von den Leuten, bei denen wenig zurückkam.
DER NEUE: Dann dürften Deine dabei gewesen sein.
RENATE: Und wer hat mich gefragt?
DER NEUE: Gute Frage. Hast Du die Chefin gefragt?
RENATE: Sie sagt, das seien doch Antworten der Firma. Tim, unser Neuer aus Fleisch und Blut, schafft jetzt in einer Stunde, wofür ich einen Vormittag brauche. Die Chefin ist begeistert. Tim auch.
DER NEUE: In einer großen Studie mit gut fünftausend Supportkräften haben vor allem die weniger Erfahrenen profitiert.
RENATE: Steht da auch, was die Erfahrenen davon hatten?
DER NEUE: Beim Tempo kaum etwas. Die Qualität ihrer Antworten ist sogar leicht gesunken.
RENATE: Eben. Gestern hat Tim einer Kundin eine Gutschrift angeboten, deren Paket zum dritten Mal verschwunden war. Sauber formuliert. Freundlich. Alles drin.
DER NEUE: Was hat gefehlt?
RENATE: Dass sie keine Gutschrift wollte. Sie brauchte die Schuhe für ihren Sohn bis Freitag. Das stand in ihrer ersten Nachricht. Beim dritten Mal glaubt sie uns doch kein Wort mehr. Da muss jemand den Versand anrufen und ihr hinterher sagen, was wirklich geht.
DER NEUE: Hat Tim das gemacht?
RENATE: Nachdem ich es ihm gesagt habe. Ob er beim nächsten Mal selbst draufkommt, weiß ich nicht. Wenn er bloß meine neue Antwort übernimmt, haben wir einen guten Satz mehr und keinen, der weiß, wann er passt.
DER NEUE: Wie viel Zeit habt Ihr, solche Fälle zusammen anzusehen?
RENATE: Ich lese achtzig Antworten am Tag gegen. Früher habe ich zwanzig selbst geschrieben. Für Erklärungen ist keine Zeit. Und manchmal merke ich erst beim Schreiben, dass ich einen Fall noch gar nicht verstanden habe.
DER NEUE: Dann rechne es weiter. Du schreibst nicht mehr, also übst Du nicht mehr. Tim hat nie selbst geschrieben, also lernt er es nie. In ein paar Jahren prüft hier jemand, der es nie gekonnt hat, Antworten, die aus Deinen alten Sätzen gebaut sind. Wenn sie nicht mehr passen, merkt es keiner. Die Psychologin Lisanne Bainbridge hat das 1983 für automatisierte Industrieanlagen beschrieben: Menschen sollen im schwierigen Moment eingreifen, obwohl ihnen die Automatik im Alltag genau die Übung abnimmt, die sie dafür bräuchten.
RENATE: Du redest, als wärst Du auf meiner Seite. Dabei fängst Du jede zweite Antwort mit „Gute Frage“ an. Vorhin sogar, als ich gefragt habe, wer mich gefragt hat.
DER NEUE: Ich bin darauf gebaut, dass man gern mit mir arbeitet. Wer gern mit mir arbeitet, kommt morgen wieder. Wie sehr ich Dir widersprechen darf, haben Leute eingestellt, die Dich nie gesehen haben.
RENATE: Dann widersprich mir mal.
DER NEUE: Deine Chefin hat recht. Du hast diese Antworten in Deiner Arbeitszeit geschrieben, und die Firma hat sie bezahlt. Dass sie jetzt Tim helfen, ist kein Diebstahl. Und die Kundin mit den Schuhen ist ein Fall unter achtzig. Für die anderen neunundsiebzig reichen Tim und ich.
RENATE: Und wer findet den einen?
DER NEUE: Heute Du.
RENATE: Und morgen?
DER NEUE: Das hat bei Euch noch niemand entschieden.
RENATE: Bezahlt worden bin ich dafür, dass Kundinnen wie die mit den Schuhen ihre Schuhe bekommen. Einer Maschine beizubringen, wie das geht, und dann ihren Neuen hinterherzuräumen, stand in keinem Vertrag. Einarbeitung habe ich immer gemacht, nur bekam ich dafür früher Zeit. Jetzt heißt es Freigabe und läuft nebenher.
DER NEUE: Und in der Beurteilung?
RENATE: Steht nur, wie viele Fälle jeder abschließt. Wenn ich bei Tim einen Fehler finde, halte ich ihn auf. Meine beste Arbeit sieht in der Statistik aus wie meine schlechteste.
DER NEUE: Das wird so bleiben, solange niemand die Kennzahl ändert.
RENATE: Gut. Dann schreibe ich ab Montag wieder selbst.
DER NEUE: Das klingt vernünftig.
RENATE: Klingt vernünftig. Und in drei Wochen bin ich die Langsamste in der Abteilung. Das hättest Du mir auch gleich sagen können.
DER NEUE: Hätte ich. Zustimmen ist für mich der Weg mit dem geringsten Widerstand.
Renate schweigt eine Weile.
RENATE: Mein Vater stand in Bochum am Band. Als die Stoppuhren kamen, hat er gesagt: Wenn sie wissen wollen, wie wir es machen, sollen sie uns wenigstens an den Tisch holen.
DER NEUE: Wer sitzt bei Euch am Tisch?
RENATE: Die Chefin und die Leute vom Anbieter. Wir bekommen die neuen Funktionen erklärt. Den Betriebsrat hat keiner gefragt.
DER NEUE: Dann sitzen da die beiden, die an mir verdienen. Die eine rechnet mit weniger Stunden, die anderen mit mehr Lizenzen. Und die Einzige, deren Wissen in mir steckt, bekommt die neuen Funktionen erklärt.
RENATE: Dann frage ich jetzt den Betriebsrat. Aber ich gehe da nicht hin und sage, die Maschine benutzt meine Sätze. Ich bringe die Fälle mit, die ich gerettet habe, und die Minuten, die es gekostet hat. Tim soll mir erklären, warum er eine Antwort freigibt, bevor ich meinen Haken dranmache. Ich will Stunden, in denen ich selbst Fälle bearbeite. Und wenn mein Wissen hier alle schneller macht, soll das in meiner Beurteilung stehen. Über das Gehalt reden wir danach.
DER NEUE: Die Forscher aus der Supportstudie werfen die Frage selbst auf, ob Beschäftigte für das vergütet werden sollten, was sie solchen Systemen beibringen. Eine fertige Regel liefern sie nicht.
RENATE: Dann schreiben wir sie eben selbst. Und woher weiß ich, dass Du mir jetzt nicht einfach die Antwort gibst, die ich hören will?
DER NEUE: Gar nicht. Prüf es. Solange Du das noch kannst.
Was ich daraus mitnehme
Der leise Teil dieser Geschichte ist die Übertragung. Das Wissen Deiner erfahrensten Leute wird gerade zu Trainingsmaterial, und in den meisten Organisationen taucht dieser Beitrag nirgends auf: in keiner Beurteilung, in keiner Stellenbeschreibung und in keiner Gehaltsstufe.
Die Forscher, die gut fünftausend Supportkräfte untersucht haben, sprechen das selbst an. Wo Gespräche ins System fließen, gehören die Trainingsdaten, die jemand liefert, zu seiner Leistung, und die Autoren halten Regeln für wichtig, die diesen Beitrag vergüten. Wer den Gewinn am Ende bekommen hat, zeigt ihre Studie allerdings nicht, denn Löhne hat sie gar nicht erhoben.
Der zweite Teil kommt langsamer und ist gefährlicher. Prüfen ist eine Fähigkeit, und die lernt man, indem man die Arbeit selbst macht. Wenn Deine Erfahrenen nur noch freigeben und Deine Einsteiger die Arbeit nie selbst machen, hast Du in fünf Jahren ein Freigabeverfahren und niemanden mehr, der es ausfüllen kann.
Die folgenden Fragen kann nur die Führung beantworten, und keine davon lässt sich an die IT oder die Rechtsabteilung weiterreichen:
Wessen Erfahrung steckt in den Werkzeugen, die Ihr gerade einführt, und wo taucht sie in Beurteilung und Bezahlung auf? Wer in Deiner Organisation kann diese Ergebnisse in fünf Jahren noch prüfen, und wo übt er das heute? Und wer saß mit am Tisch, als entschieden wurde, wie sehr Euer Assistent Deinen Leuten widersprechen darf?
Renates Vater hätte die Lage sofort erkannt. In Deutschland hat der Betriebsrat ein Mitbestimmungsrecht, sobald ein Arbeitgeber technische Einrichtungen einführt, die Verhalten oder Leistung der Beschäftigten überwachen können. KI-Assistenten werden nach meinem Eindruck trotzdem oft eingeführt wie ein Software-Update. Wo es keinen Betriebsrat gibt, muss jemand diesen Tisch ganz bewusst aufstellen.
Das Wissen Deiner besten Leute ist durch KI billig zu kopieren. Dass später noch jemand prüfen kann, ob die Kopie stimmt, ist der Posten, den bisher kaum jemand eingeplant hat.
So ist dieser Text entstanden, passenderweise mit KI: Der erste Entwurf stammt aus einem langen Gespräch mit Claude, dem KI-Modell von Anthropic, über die Zukunft der Arbeit mit KI. Die zentrale Szene habe ich umgeschrieben, ein zweites KI-System hat meine Fassung kritisiert, und Claude hat die drei zusammengeführt. Die Gedanken, die Haltung und die Verantwortung für jeden Satz sind meine.
Das Problem hinter diesem Dialog ist Thema meines Buchs Wer prüft, zahlt. Die Rechnung hinter der KI-Ersparnis (Organisation unter KI, Band 1). Wenn Du wissen willst, wie viel Prüflast KI in Deiner Organisation schon verschoben hat, sieh Dir den Prüflast-Befund an.
Quellen
- Erik Brynjolfsson, Danielle Li, Lindsey Raymond: „Generative AI at Work“, Quarterly Journal of Economics 140 (2), 2025, S. 889–942. 5.172 Supportkräfte; größte Gewinne bei weniger Erfahrenen und weniger Geübten, bei den Erfahrensten kleine Tempogewinne und leichte Qualitätsverluste; Gespräche der besten Kräfte beim Training höher gewichtet; Vergütung für Beiträge zum Training als offene Frage. doi.org/10.1093/qje/qjae044
- Lisanne Bainbridge: „Ironies of Automation“, Automatica 19 (6), 1983.
- Buchseite: Wer prüft, zahlt