Am 4. November 2005 hielt der Philosoph Peter Bieri an der Pädagogischen Hochschule Bern eine Festrede mit dem Titel „Wie wäre es, gebildet zu sein?“ (Den Text zur Rede gibt es hier). Von Künstlicher Intelligenz ist darin keine Rede. Heute liest sie sich dennoch wie eine Rede über KI, weil sie eine wichtige Unterscheidung aufzeigt, die wir zu lange sträflich missachtet haben.
Gleich im ersten Absatz zieht Bieri eine Grenze, die für ihn ausdrücklich mehr ist als ein Wortspiel: „Ausbilden können uns andere, bilden kann sich jeder nur selbst.“ Eine Ausbildung durchläuft man, um etwas zu können. Wer sich bildet, arbeitet daran, ein Mensch zu werden, der im Handeln zeigt, dass er versteht, was er tut. Bildung ist etwas, das wir uns selbst aneignen (müssen).
Im Arbeitsalltag heißt das, dass jemand über das nachdenkt, was er gelernt und erlebt hat, bis daraus ein eigenes Urteil wird. Darunter liegen zwei Stufen, die jeder kennt, der mit KI lernt. Ein fertiges Ergebnis zeigt noch nicht, dass jemand etwas gelernt hat. Und wer etwas gelernt hat, ist damit noch nicht gebildet.
Was wir belohnt haben
Du kennst das vermutlich aus der eigenen Schulzeit. Für die Klassenarbeit lernt man am Abend vorher, schreibt am Morgen alles auf und hat es eine Woche später wieder vergessen. Bewertet wurde das Ergebnis auf dem Blatt. Ob jemand verstanden hatte, was er da aufschrieb, tauchte in der Note meist nur am Rand auf.
Unser Schulsystem hat über Generationen vor allem belohnt, wer zum Stichtag das richtige Ergebnis abliefert. Genau das erledigt ein Sprachmodell heute in Sekunden, bei der Hausaufgabe ebenso wie beim Quartalsbericht. Wer nur gelernt hat, Ergebnisse abzuliefern, steht damit neben einer Maschine, die dasselbe schneller kann und dabei nie müde wird.
Im Beruf ging es oft so weiter. Weiterbildung haben viele Betriebe wie eine Zulage behandelt. Das Seminar bekam, wer gute Zahlen lieferte. In einem schlechten Jahr war das Weiterbildungsbudget meist der erste Posten, der gestrichen wurde. Übrig blieb die Pflichtunterweisung, die man am Freitagnachmittag durchklickt, damit der Nachweis vollständig ist.
Was darüber hinausging, galt als Privatsache. Ein Buch über Statistik oder die Frage, woher eine Zahl im Bericht eigentlich stammt, gehörte in den Feierabend. Stellenbeschreibung und Weiterbildungsbericht halten bis heute fest, was jemand können soll und wie viele Schulungstage er dafür besucht hat. Wie er mit seinem Wissen umgeht, steht dort selten.
Jeder hatte dafür gute Gründe. Die Schule brauchte Noten, die sich vergleichen lassen. Ein Betrieb muss jede Ausgabe rechtfertigen können. Für ein Seminar lässt sich dabei leichter ein Nachweis führen als für ein Urteil. Wer abends müde nach Hause kommt, liest lieber etwas Leichtes als ein Buch über Statistik.
Zusammen haben diese vernünftigen Entscheidungen eine Gesellschaft hervorgebracht, die Ausbildung gründlich organisiert und Bildung weitgehend dem Zufall überlässt. Solange Menschen ihre Ergebnisse selbst erarbeiten mussten, fiel das kaum auf, weil beim Erarbeiten nebenbei auch Verständnis entstand. Mit KI fällt dieses Nebenbei weg.
Was Unternehmen stillschweigend voraussetzen
Ein Sprachmodell liefert Ergebnisse, die wie Wissen aussehen. Es fasst Informationen zu kleinen und großen Wahrscheinlichkeitsbrocken zusammen und bringt sie in eine Form, die nach Fachmann klingt. Wer ein solches Ergebnis übernimmt, hat danach ein fertiges Dokument und häufig das Gefühl, die Sache verstanden zu haben.
Wie leicht eine gute Form dieses Gefühl erzeugt, zeigten Louis Deslauriers und seine Kollegen 2019 in Harvard. Sie unterrichteten die Studierenden eines Physikkurses an zwei Terminen auf zwei Arten, mit denselben Unterlagen. Einmal hörten sie eine flüssig vorgetragene Vorlesung erfahrener Dozenten, einmal mussten sie die Aufgaben zuerst in Kleingruppen selbst lösen.
In den Kleingruppen lernten sie messbar mehr und hielten trotzdem die Vorlesung für lehrreicher. Die Autoren erklären das mit der Anstrengung. Wer sich durch eine Aufgabe kämpfen muss, nimmt die Mühe zunächst als Zeichen, dass er wenig lernt, während eine glatte Vorlesung das Gefühl bestätigt, alles verstanden zu haben.
Viele Richtlinien zur Arbeit mit KI antworten darauf mit einer Regel, die unter dem Namen „Human in the loop“ bekannt ist. Ein Mensch soll jedes Ergebnis prüfen, bevor es verwendet wird. Was in der Richtlinie wie ein Prozessschritt aussieht, ist eine Annahme über Bildung, die nirgends ausgesprochen wird.
Die Regel setzt voraus, dass dieser Mensch merkt, wenn ein Ergebnis danebenliegt, und begründen kann, warum. Das hat ihm in vielen Fällen weder die Schule noch der Arbeitgeber beigebracht. Er hat es sich selbst erarbeitet, durch Erfahrung im Beruf und durch das, was er abends gelesen hat, obwohl niemand es von ihm verlangte.
Unternehmen haben jahrzehntelang von einer Bildung gelebt, die sie nicht bezahlt haben. Mit KI wird aus dieser stillen Beigabe die wichtigste Voraussetzung der Arbeit.
Einen großen Teil des Könnens, das wir uns in Ausbildung und Beruf mühsam angeeignet haben, erledigen Systeme inzwischen in Sekunden. Was bei den Menschen bleibt, ist anspruchsvoller. Sie müssen ein Ergebnis zerlegen, es prüfen, es beurteilen und verantworten. Was diese Fähigkeiten voraussetzen, beschreibt Bieri als Seiten der Bildung.
Damit dreht sich das Verhältnis zwischen Arbeitnehmer und Arbeitgeber. Bisher bezahlte der Arbeitgeber das Können. Die Bildung brachte jeder auf eigene Rechnung mit. Unter KI verliert das bezahlte Können an Wert, während die selbst erworbene Bildung zur Voraussetzung wird, ohne die niemand ein Ergebnis der Maschine sinnvoll prüfen kann.
Das Bildungspuzzle
Analysieren heißt, ein Ergebnis in seine Teile zu zerlegen und zu sehen, wie sie zusammenhängen. Dazu muss man wissen, was aufeinander aufbaut, was notwendig ist und was nur hinreichend. Eine KI liefert das Ganze in einem Stück. Wer es nicht zerlegen kann, sieht nur noch, ob es sich flüssig liest.
Zum Prüfen braucht man nach Bieri zuerst einen Sinn für Proportionen. Man muss nicht wissen, wie viele Sprachen es gibt, aber man sollte wissen, dass es eher 4.000 sind als 40. Wer die Größenordnung kennt, merkt, wenn eine Zahl danebenliegt, gleich ob sie aus einer Tabelle, von einem Kollegen oder aus einem Sprachmodell kommt.
Dazu kommt ein Sinn für Genauigkeit, also eine Vorstellung davon, was es heißt, etwas genau zu kennen. Genauigkeit bedeutet nach Bieri in jedem Wissensgebiet etwas anderes. Eine Bilanz muss auf andere Weise stimmen als eine Kundenanalyse. Wer das nicht unterscheiden kann, prüft beides mit demselben flüchtigen Blick.
Am wichtigsten ist für Bieri das Wissen zweiter Ordnung, das Wissen darüber, worauf das eigene Wissen beruht. Er fasst es in zwei Fragen, die zur zweiten Natur werden sollen: Was genau heißt das? Und woher wissen wir, dass es so ist? Wer sie stellt, erkennt rhetorische Fassaden und kann bewerten, was ein Ergebnis taugt.
Für das Urteilen hat Bieri ein passendes Bild. Wer viel liest, hat einen Chor von Stimmen im Kopf und ist beim Urteilen nicht mehr allein. Eine KI liefert einen solchen Chor auf Knopfdruck, nur steht er außerhalb des Kopfes. Helfen kann er erst, wenn jemand die Stimmen auch ohne Gerät hört und gegeneinander abwägen kann.
Verantworten verlangt noch etwas anderes als Wissen. Bieri beschreibt Selbstbestimmung als die Fähigkeit, zwischen zwei Arten von Einfluss zu unterscheiden. Der eine entfremdet einen von sich selbst. Der andere macht freier, weil er einen näher an die eigenen Gedanken heranführt.
Daraus lässt sich eine Prüffrage für jede Arbeit mit KI machen, die einfacher ist als jede Nutzungsrichtlinie. Bringt mich diese Hilfe näher an mein eigenes Urteil, oder übernehme ich gerade eines, das ich selbst nicht mehr fällen könnte?
Das Recht, als Mensch der KI zu widersprechen, ist unverzichtbar. Nutzen kann es allerdings nur, wer noch bemerkt, dass er einem Ergebnis gerade folgt, und genug von der Sache versteht, um eine Abweichung zu begründen.
Was ein Unternehmen tun kann
Dass solche Fähigkeiten verkümmern, wenn man sie nicht braucht, beschrieb die Psychologin Lisanne Bainbridge 1983 in „Ironies of Automation“. Wer eine Anlage nur noch überwacht, verliert die Übung für den Störfall. Auch ungenutztes Wissen lässt sich bald nicht mehr abrufen, wie bei einem Schulfach, in dem man die Prüfung bestanden und nie wieder nachgedacht hat.
Bainbridge sorgte sich außerdem um die nächste Generation. Die Anlagen ihrer Zeit überwachten Leute, die den Betrieb früher von Hand gefahren hatten. Die Automatisierung lebte von deren Können, das spätere Bediener nicht mehr haben würden. Wer heute Ergebnisse einer KI prüft, hat das Prüfen meist noch gelernt, als er die Arbeit selbst machen musste.
Berufseinsteiger haben diese Gelegenheit oft nicht mehr. Sie kommen aus einer Schule, die das abgelieferte Ergebnis belohnt hat, und haben im Betrieb bisher an den einfachen Aufgaben gelernt, die jetzt zu einem guten Teil Systeme erledigen. Woran Neue künftig üben sollen, hat in vielen Unternehmen noch niemand festgelegt.
Im Regelwerk vieler Unternehmen passen damit zwei Teile nicht zusammen. Die KI-Richtlinie verlangt einen Menschen, der prüft und verantwortet. Stellenbeschreibung, Weiterbildungsplan und Arbeitszeitmodell beschreiben dagegen vor allem, welche Werkzeuge jemand beherrschen soll. Zeit, um das Urteil zu bilden, das die Prüfregel voraussetzt, sehen sie nicht vor.
Die KI-Verordnung der EU verlangt in Artikel 4, die KI-Kompetenz des Personals zu fördern, ohne für jede Person ein bestimmtes Niveau festzulegen. Naheliegend ist wieder eine Schulung mit Teilnahmenachweis, die Form, in der Weiterbildung seit Jahrzehnten abgehakt wird. Bainbridge hielt 1983 fest, dass Wissen aus dem Schulungsraum ohne passende praktische Übung kaum verstanden wird.
An dieser Stelle würde Bieri diesem Text widersprechen. Am Ende seiner Rede spottet er über alle, die Bildung damit begründen, sie mache fit für die Zukunft. Für ihn ist Bildung ein Wert in sich, wie die Liebe. Wer ihr Glück einmal erlebt habe, schreibt er, verwechsle sie nicht mehr mit Ausbildung.
Sein Einwand hat eine praktische Seite. Wer Bildung als Programm bestellt, bekommt meist wieder Ausbildung, etwa ein Seminar zum kritischen Denken mit Teilnahmebescheinigung. Bildung lässt sich weder für den Arbeitgeber erwerben noch von ihm bestellen, weil sich nach Bieris erstem Satz jeder nur selbst bilden kann. Die Arbeit mit KI braucht sie trotzdem.
Wenn der Arbeitnehmer die Bildung mitbringt, schuldet ihm das Unternehmen die Bedingungen, sie zu nutzen und zu erhalten. Davon hängt ab, ob er bleibt. Wer seine Bildung im Job nicht nutzen kann und keine neue dazubekommt, findet die Arbeit zu wenig interessant, erst recht, wenn die Maschine das Anspruchsvolle erledigt und ihm das Abzeichnen bleibt.
Gehen werden zuerst die, die anderswo gefragt sind. Meist sind das genau die Leute, die das Unternehmen für die Prüfung am dringendsten braucht. Übrig bleibt eine Prüfregel, für die im Unternehmen immer weniger Menschen das nötige Urteil haben.
Die Bedingungen, die das verhindern können, lassen sich in ein Regelwerk schreiben. Dazu gehört Zeit, die im Arbeitszeitmodell wirklich vorkommt, und Arbeit, bei der jemand selbst etwas herausfinden muss, auch wenn ein System schneller wäre.
Dazu gehört auch, dass Fehler fair behandelt werden und Widerspruch keinen Nachteil bringt. Und es gehört dazu, dass Weiterbildung im Budget steht wie eine Investition, die man in einem schlechten Jahr am wenigsten streicht, weil gerade dann jemand gebraucht wird, der ein Ergebnis beurteilen kann.
Schulen stehen vor derselben Frage eine Stufe früher. Solange Noten vor allem das abgelieferte Ergebnis bewerten, lohnt es sich für jeden Schüler, das Ergebnis von einer Maschine zu holen. Bewerten müssten die Lehrer, ob jemand erklären kann, woher ein Ergebnis stammt und woran man erkennt, dass es stimmt.
Bieri schließt seine Rede mit dem Satz, es gehe um alles. Es geht darum, ob in zehn Jahren noch jemand am Tisch sitzt, der bei einem tadellos formatierten Ergebnis fragt, was genau das heißt und woher wir wissen, dass es so ist. Dieser Mensch geht heute in die achte Klasse.