Seit ein paar Wochen ist die Weltuntergangsfrage zurück im Feed. Anthropic-Chef Dario Amodei hält es für denkbar, dass ein KI-Schwarm in sechs bis zwölf Monaten das Internet übernimmt. In Washington haben Bernie Sanders und Steve Bannon auf derselben Bühne für Grenzen der KI-Entwicklung geworben. Wenn diese beiden sich einig sind, ist etwas los.
Matthias Spielkamp von AlgorithmWatch hat dem am 14. September auf netzpolitik.org einen Satz entgegengestellt, der leiser klingt als er ist. Hacken, sich Ressourcen beschaffen, in fremde Systeme hineinkommen: Das sind Handlungen, die von Menschen gewährt werden.
Damit steht die Frage im Raum, um die es eigentlich geht. Sie lautet nicht, was die Technik kann, sondern wer ihr etwas gewährt, wer es ihr wieder entziehen kann und was geschieht, wenn das niemand mehr tut.
Der Vorläufer liegt auf dem Meeresgrund
Wir hatten das schon einmal, ganz ohne Apokalypse.
Vor dem Ersten Weltkrieg gehörten britischen Gesellschaften rund 55 Prozent des weltweiten Seekabelnetzes. London war der Umschlagplatz der Weltnachricht. Niemand hielt die Telegrafie damals für eine Gefahr für die Menschheit. Sie beschleunigte Handel und Presse, und sie galt als zivilisierend.
In der Nacht zum 5. August 1914, wenige Stunden nach der britischen Kriegserklärung, wurde das deutsche Transatlantikkabel bei Emden gekappt. Kurz darauf die Verbindung von Monrovia nach Teneriffa. Deutschland war von Südamerika und Westafrika abgeschnitten. Die Technik hatte sich gegen niemanden gewendet. Sie gehörte jemandem.
Dieselbe Figur läuft heute, nur mit anderen Kabeln. Wem die Rechenzentren gehören, wem die Modellgewichte gehören, wer Chips exportieren darf und wer nicht: Das sind keine technischen Fragen. Das ist die Frage, wer im Ernstfall kappen kann.
Die Frage wandert nach unten
International ist der Befund halbwegs unstrittig. Ein knappes Dutzend Unternehmen und eine Handvoll Staaten verfügen über die Rechenleistung, an der alles andere hängt. Angela Müller von AlgorithmWatch hält genau diese Konzentration für gefährlicher als die ferne Apokalypse, über die gerade geredet wird. Die Apokalypse hat den Vorteil, dass sie niemanden zwingt, über Eigentumsverhältnisse zu sprechen.
Politisch geht es darum, ob Parlamente noch etwas gewähren oder entziehen können, wenn die Infrastruktur, über die sie entscheiden, außerhalb ihrer Reichweite liegt. Das ist der eigentliche Gehalt der Debatte um den AI Act, um Souveränität, um Rechenzentren in Europa.
Interessant wird es eine Ebene tiefer.
Was in Unternehmen gerade passiert
Veeam hat am 9. September 2026 eine Befragung veröffentlicht, die das Institut Censuswide Ende April durchgeführt hat: tausend IT-, Daten- und Sicherheitsverantwortliche aus Unternehmen mit mehr als 500 Beschäftigten in Großbritannien, Deutschland, Frankreich sowie im Nahen Osten und in Afrika. In Deutschland sagen 79 Prozent, dass Beschäftigte automatisierte KI-Abläufe gebaut haben, die ihre IT nicht nachverfolgen kann. 81 Prozent sagen, dass solche Abläufe mit sensiblen Daten arbeiten, ohne dass jemand dabei zusieht.
In der Sicherheitsliteratur heißt das Schatten-KI, und darauf folgt meistens der Vorschlag, es zu unterbinden.
Ich halte das für die falsche Überschrift. Was da gemessen wird, ist eine Machtverschiebung, die niemand beschlossen hat.
Eine Sachbearbeiterin in der Angebotsprüfung kann heute an einem Nachmittag etwas bauen, wofür sie vor drei Jahren ein Projekt, ein Budget und die Zustimmung von zwei Bereichsleitungen gebraucht hätte. Sie tut das nicht aus Aufsässigkeit. Sie tut es, weil es geht und weil ihre Arbeit sonst liegen bleibt.
Du kennst das vermutlich aus kleinerem Maßstab. Irgendwo in deiner Organisation arbeitet gerade jemand mit einem Werkzeug, das offiziell noch nicht freigegeben ist, und liefert damit bessere Ergebnisse als der freigegebene Weg.
Das ist zunächst einmal eine gute Nachricht. Menschen, die bisher Anträge stellen mussten, können jetzt handeln. Die Frage ist nur, ob irgendjemand mitbekommt, dass sie es tun.
Das Vakuum
Macht verschwindet nicht. Sie wandert dorthin, wo gerade keine ist.
In den meisten Organisationen ist die Zuständigkeit für KI längst vergeben. Es gibt eine Richtlinie, eine Stelle, oft ein Gremium. Was fehlt, ist die Ausstattung: Zeit, Prüfkapazität, eine Freigabe, die schneller ist als ihre Umgehung. Eine Zuständigkeit ohne Zeit ist keine Zuständigkeit. Sie ist eine Adresse, an die man Verantwortung schicken kann.
Genau dort entsteht das Vakuum. Wenn die Freigabe drei Wochen dauert und das Modell drei Sekunden, ist die Entscheidung längst gefallen, bevor das Gremium zusammentritt. Nicht gegen die Regel. An ihr vorbei.
Und damit zurück zur großen Frage. Wenn KI irgendwann tatsächlich Macht bekommt, dann vermutlich nicht durch einen Putsch. Eher so, wie Macht in Organisationen jeden Tag wandert: Es war eine Lücke da, und etwas ist nachgerückt.
Ein System, das schnell genug ist, um in einer Lücke zu handeln, braucht dafür keine Absichten. Es braucht nur die Lücke.
Warum Verbieten die Lage verschlechtert
Der erste Reflex ist immer derselbe: sperren, verbieten, zurückholen. Er ist verständlich, und er verschiebt die Macht nicht zurück. Er macht sie unsichtbar.
Wer Schatten-KI verbietet, bekommt keine geringere Nutzung. Er bekommt eine, die niemand mehr meldet. Das kostet genau das, was in dieser Lage am dringendsten gebraucht wird: Sicht.
Es gibt einen Präzedenzfall
Im Februar 1975 kamen 140 Fachleute in Asilomar in Kalifornien zusammen, nachdem der Biochemiker Paul Berg seine eigene Arbeit an rekombinanter DNA freiwillig unterbrochen hatte, weil er die Risiken nicht einschätzen konnte. Sie einigten sich auf Risikoklassen und auf ein vorläufiges Verbot der gefährlichsten Versuche. Ein Jahr später wurden daraus die Richtlinien der amerikanischen Gesundheitsbehörde NIH.
Das Moratorium allein hätte nicht gereicht. Entscheidend waren die Journalisten im Saal. Die Fachleute haben sich beschränkt und sich dabei zusehen lassen.
Auf der Weltebene läuft gerade der erste ernsthafte Versuch in diese Richtung. Die Vereinten Nationen haben 2025 zwei Gremien eingerichtet, und am 6. und 7. Juli 2026 hat sich in Genf zum ersten Mal der Globale Dialog über KI-Governance getroffen. Den wissenschaftlichen Beirat leiten Yoshua Bengio und Maria Ressa, ein Forscher und eine Journalistin, die für ihre Arbeit gegen Desinformation den Friedensnobelpreis bekommen hat. Diese Besetzung ist kein Zufall.
Ob daraus etwas wird, ist offen. Die Reihenfolge stimmt aber. Erst sehen, dann regeln.
Die Übertragung ist kleiner und unbequemer
Für eine Organisation besteht sie aus zwei Fragen, und beide lassen sich nicht delegieren.
Die erste: Wo ist bei uns eine Zuständigkeit vergeben, aber nicht ausgestattet? Dort steht die Lücke offen. Nicht irgendwann. Jetzt.
Die zweite: Wer musste eigentlich zustimmen, damit das hier so läuft, wie es läuft? Findet sich darauf niemand, liegt keine Regel vor. Es liegt ein Zustand vor.
Wachsamkeit ist dabei kein moralischer Appell. Sie ist die einzige Fähigkeit in dieser Sache, die sich nicht automatisieren lässt, und sie funktioniert nur geteilt. Eine Stelle, die allein hinsieht, sieht zu wenig. Ein ganzes Unternehmen, das hinsehen darf, sieht fast alles.
Ein Machtvakuum füllt sich immer. Die einzige offene Frage ist, womit.
Die Frage, wer die Prüfung trägt, wenn eine Maschine vorsortiert, habe ich in „Wer prüft, zahlt – Die Rechnung hinter der KI-Ersparnis" ausgearbeitet, Band 1 der Reihe Organisation unter KI, seit Mitte September bei tredition. Das Buch rechnet nach, wo die Prüflast landet, nachdem die Ersparnis schon verbucht ist. Es ist derselbe Mechanismus wie hier: eine Zuständigkeit, die vergeben, aber nicht ausgestattet wurde.
Mehr zum Buch auf: https://organisation-unter-ki.de/wer-prueft-zahlt/