Too big to fail: Verantwortungslose KI-Panik

Seit Jahren warnt die KI-Branche vor den Gefahren der Technik, die sie selbst auf die Welt losgelassen hat. Bis heute hat sich daran kaum etwas verbessert. Das liegt auch daran, dass die Tech-Konzerne den Rahmen der Debatte bestimmen. Es wird Zeit, dass sie echte Verantwortung übernehmen. Ein Kommentar.
<figure class="wp-caption entry-thumbnail"><img width="2560" height="1438" src="https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... class="attachment-landscape-860 size-landscape-860 wp-post-image" alt="Ein Bullenlauf im Georgia International Horse Park." decoding="async" loading="lazy" srcset="https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... 2560w, https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... 860w, https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... 1200w, https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... 380w, https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... 1536w, https://cdn.netzpolitik.org/wp-upload/2026/09/imago0458645745h-scaled-e1... 2048w" sizes="auto, (max-width: 2560px) 100vw, 2560px" /><figcaption class="wp-caption-text">Die KI-Branche treibt demokratische Gesellschaften vor sich her. Das muss ein Ende finden. – Alle Rechte vorbehalten: <a href="https://www.imago-images.de/st/0458645745?searchID=adbcdc41-2867-4a03-8e... >IMAGO / Depositphotos</a></figcaption></figure>Sie dringen eigenständig in Websites von Regierungen ein, hacken fremde Unternehmen oder tragen dazu bei, dass Schulkinder bei Bombenangriffen zerfetzt werden. Selbst den Chefs der großen KI-Anbieter wie OpenAI oder Anthropic sind ihre eigenen Produkte nicht mehr ganz geheuer. Erst letzte Woche warnten sie <a href="https://netzpolitik.org/2023/offener-brief-zu-ki-opfer-des-hypes/">erneu... vor den Gefahren der Technik, diesmal vor dem UN-Sicherheitsrat, und riefen zu internationaler Kooperation auf, um sie einzuhegen.
Wir sollten sie langsam ernst, aber nicht beim Wort nehmen. Ob die KI-Apokalypse wirklich unmittelbar bevorsteht, wie manche von ihnen behaupten, <a href="https://netzpolitik.org/2026/warnung-vor-katastrophalen-schaeden-kuenstl... dahingestellt</a>. Zum größten anzunehmenden Unfall muss es aber gar nicht kommen, um sich das zerstörerische Potenzial von KI – und vor allem der KI-Unternehmen selbst – klar vor Augen zu führen.
Ohne Rücksicht auf persönliche Daten, Urheberrecht oder die Menschen, die plötzlich neben Rechenzentren leben sollen, haben diese Firmen praktisch das ganze digitalisierte Wissen der Menschheit aufgesaugt. Das verpacken sie in kommerzielle Geschäftsmodelle und <a href="https://finance.yahoo.com/news/sam-altman-says-ai-eventually-152157902.h... uns diese „Intelligenz“</a> wieder zurück. Es sei womöglich der „größte Diebstahl von Arbeitskraft in der Geschichte der Menschheit“, schrieb ein Microsoft-Manager in einem internen Memo, das bei einem Gerichtsverfahren <a href="https://www.washingtonpost.com/business/2026/09/17/microsoft-exec-called... Licht kam</a>.
Mit atemberaubender Geschwindigkeit haben sich diese Firmen in wenigen Jahren tief in unsere Gesellschaften eingeschrieben und <a href="https://www.ft.com/content/00f94018-e658-4545-b16e-1bc00e19b754">schreiben munter weiter</a>. Oft genug spornen sie dabei führende Politiker:innen an, vom US-Präsidenten Trump über den britischen Ex-Premier <a href="https://netzpolitik.org/2025/britische-regierung-ki-in-die-venen-der-nat... bis hin zur EU-Kommissionspräsidentin <a href="https://netzpolitik.org/2026/rede-zur-lage-der-union-wir-wollen-kuenstli... der Leyen</a>. Man will ja nicht den Anschluss verpassen, selbst wenn man sich dabei zum <a href="https://netzpolitik.org/2025/kuenstliche-intelligenz-ursula-von-der-leye... der Tech-Bosse</a> macht.
<h2>Eine Wette ohne uns</h2>
Es ist eine gigantische Wette auf künftige Märkte, Geschäftsmodelle und Einnahmen, die diese Firmen eingehen. Dabei ist alles andere als gesichert, dass ihre <a href="https://www.ecb.europa.eu/press/blog/date/2026/html/ecb.blog20260817~754...äftsmodelle überhaupt tragen</a>. Allein die geplanten Ausgaben für den Bau von Rechenzentren in den USA würden im Schnitt 3,6 Prozent des US-Bruttoinlandsprodukts entsprechen, schätzt eine <a href="https://www.brookings.edu/articles/financing-the-ai-buildout/">aktuelle Studie</a>. Noch nie zuvor sei die US-Wirtschaft so stark vom Ausbau einer einzelnen Branche abhängig gewesen, warnt das <a href="https://www.wsj.com/economy/the-ai-build-out-is-becoming-the-biggest-eco... Street Journal</a>.
Inzwischen ziehen etwa ehemalige Chefs der US-Notenbank <a href="https://www.washingtonpost.com/opinions/2026/09/03/ai-safety-security-ri... zur letzten Finanzkrise</a>. Ungenügend regulierte Banken brachten damals mit hochriskanten Geschäftsmodellen das internationale Finanzsystem an den Rand des Abgrunds. Gerettet wurden sie, die zu groß und zu wichtig geworden waren, schließlich mit Steuergeld. Auf den Kosten ist der Rest der Gesellschaft sitzen geblieben.
Too big to fail: Das scheint zu einem der Mottos zu zählen, mit denen die heutigen Tech-Oligarchen ihre <a href="https://www.nytimes.com/2026/09/26/opinion/ai-bubble-banking-crisis-too-...ünde sichern</a> wollen. Verantwortung wollen sie indes nicht übernehmen. So stellte etwa jüngst Palantir-Chef Alex Karp in den Raum, dass eine Vergesellschaftung von KI-Firmen der aus seiner Sicht richtige Ansatz wäre.<div id="netzpolitik-cta-532765" class="netzpolitik-cta">–––

Die Hütte brennt! Wir gehen rein. Wir treten der Faschisierung entgegen. Wir kämpfen für eine freie, offene und solidarische Gesellschaft. Wir verteidigen die Grundrechte für alle. <a href="https://netzpolitik.org/spenden/?via=rss">Das geht nur mit deiner Unterstützung.</a>

–––</div>
Angesichts der sich häufenden KI-Schreckensmeldungen bliebe sonst nichts übrig, denn „wenn man sie nicht verstaatlicht, wird jeder einzelne meiner Kunden klagen“, <a href="https://www.cnbc.com/2026/09/17/ai-safety-palantir-karp.html">sagte Karp</a>. Dieses Risiko ist offenbar demokratischen Staaten zumutbar, privaten Wirtschaftsunternehmen jedoch nicht. Dass sie ihre Profite derweil für sich behalten wollen, versteht sich von selbst.
<h2>Verwässerte EU-Regeln</h2>
In ihrer Rede zur Lage der Europäischen Union <a href="https://netzpolitik.org/2026/rede-zur-lage-der-union-wir-wollen-kuenstli... die CDU-Politikerin Ursula von der Leyen</a> kürzlich auf die Gefahren selbstlernender KI-Modelle hin, um im gleichen Atemzug die KI-Verordnung (AI Act) als „wichtigen Schritt hin zu einem Sicherheitsnetz“ zu loben. Was sie dabei unter den Tisch fallen ließ: Erst im Mai hat die EU ebenjenes KI-Gesetz verwässert und ausgerechnet <a href="https://netzpolitik.org/2026/ki-verordnung-eu-parlament-und-rat-einigen-... für hochriskante KI-Anwendungen begrenzt</a>. Ebenfalls nicht erwähnt hat die Kommissionspräsidentin, dass die Kommission im Vorjahr ihren Vorschlag einer eigenen <a href="https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-... zurückgezogen</a> hat.
Der Gesetzentwurf lag seit dem Jahr 2022 auf dem Tisch, konnte sich letztlich jedoch nicht gegen zwei ungefähr <a href="https://verfassungsblog.de/anatomy-of-a-fall-aiact-aild-pld/">zeitgleich verhandelte Vorschläge</a> behaupten: den AI Act sowie eine aktualisierte, allgemeinere Produkthaftungsrichtlinie. Eigentlich sollten die drei Gesetze zusammen wirken und sich gegenseitig ergänzen.
So enthält der AI Act Regeln für KI-Hersteller und ‑Anbieter, die je nach Risiko des geplanten KI-Produkts unterschiedlich streng ausfallen, geschädigten Nutzer:innen jedoch keine Rechtsmittel in die Hand geben. KI-spezifische Haftungsfragen sollte die eigene Richtlinie abdecken, sie ging dann später aber in der allgemeinen EU-Richtlinie auf. Zwar wurde diese unter anderem um durch Software verschuldete Schäden erweitert, enthält aber immer noch Lücken – und harrt obendrein weiterhin ihrer EU-weiten Umsetzung, etwa in Deutschland.
Dass dieser Rahmen nicht ausreicht, um wildgewordene KI-Tools einzufangen oder, besser noch, dafür zu sorgen, dass sie gar nicht erst echten Schaden verursachen, hat nicht zuletzt der <a href="https://en.wikipedia.org/wiki/OpenAI–HuggingFace_incident">IT-Sicherheitsvorfall rund um OpenAI und Hugging Face</a> im Sommer offengelegt: Damals brachen von OpenAI entwickelte KI-Agenten in einer Testphase aus einer unzureichend abgeschotteten Umgebung aus und griffen eigenständig die Infrastruktur des Unternehmens Hugging Face an. Da es sich um kein auf dem Markt verfügbares Produkt handelte, ist bis heute selbst unter Fachleuten umstritten, ob die EU-Regeln solche Vorfälle überhaupt erfasst hätten. Im Zweifel eher nicht.
<h2>Haftungsrisiko schafft Vorsicht</h2>
Derzeit scheinen sich auf EU-Ebene zwei Antworten auf dieses Problem herauszubilden. Da wären zum einen Vorschläge zu internationaler Kooperation, die sich etwa nach dem Vorbild der Internationalen Atomenergiebehörde institutionalisieren ließe. Dies hatte schon vor Jahren OpenAI-Chef Altman gefordert, auch <a href="https://www.politico.eu/article/karsten-wildberger-fordert-globale-ki-be... Wildberger</a> (CDU) und wohl auch seine Parteikollegin von der Leyen wären mit an Bord.<div id="netzpolitik-cta-533110" class="netzpolitik-cta">–––

–––</div>
Zum anderen brodelt es im EU-Parlament. Dort hat sich jüngst eine Gruppe von Abgeordneten gebildet, die die <a href="https://www.politico.eu/article/eu-lawmakers-ai-apocalypse-warnings-brus... wiederbeleben</a> will. Gesetze vorschlagen kann das Parlament zwar nicht, politischen Druck aufbauen indes schon. Ob der ausreichen wird, um den Deregulierungskurs der EU-Kommission zu korrigieren, bleibt vorerst offen.
Beide Ansätze stimmen nicht unbedingt hoffnungsvoll: Es könnten Jahre ins Land ziehen, bis ein Kompromiss gefunden wird, mit dem alle zufrieden sind. Eine Erfolgsgarantie gibt es dabei nicht. Widerstand gegen zu strenge Auflagen dürfte sowohl aus den USA als auch aus China kommen, die sich aus strategischen Gründen kaum reinreden lassen wollen.
Unserer Gesellschaft droht im schlimmsten Fall, gleich zwei Mal überfahren zu werden: Von einer verfrüht ausgerollten Technik, die ohne Leitplanken nichts im Massenmarkt verloren hat. Und von einer wirtschaftsfreundlichen Politik, die es in der Hand hatte, rechtzeitig einzuschreiten. Wenn sie nicht im letzten Moment der Mut verlassen hätte.
<h2>Regulierung zu demokratischen Bedingungen</h2>
Noch ist es nicht zu spät. Wie die KI-Bosse selbst fordern, müssen sie und ihre Unternehmen endlich Verantwortung übernehmen – allerdings nicht zu ihren Bedingungen. Sie müssen haftbar werden für all die Schäden, die ihre Produkte anrichten, ganz ohne Singularität. Wer erwarten muss, in Grund und Boden verklagt zu werden, wird es sich zwei Mal überlegen, ein halbgares und potenziell gefährliches Produkt auf die Welt loszulassen.
Dafür muss die EU eine schärfere Regulierung auf den Weg bringen, die das auch leisten kann. Der gegenwärtige Zustand, der vor Hiobsbotschaften und Warnungen vor Hiobsbotschaften überquillt, während Teile der Politik immer noch naiv einem <a href="https://netzpolitik.org/2023/gegen-den-ki-hype-die-grosse-science-fictio...ürdigen Innovationsversprechen</a> hinterherrennen, muss ein Ende finden. Es braucht klare Kante und echte Regeln, damit die Milliardenkonzerne in Haftung genommen werden – und nicht später die Gesellschaft auf dem Scherbenhaufen sitzen bleibt. Denn das ist verantwortungslos.
–––

Die Arbeit von netzpolitik.org finanziert sich aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus <a href="https://netzpolitik.org/spenden/?via=rss">jetzt mit einer Spende.</a><img decoding="async" src="https://vg03.met.vgwort.de/na/a93a0ad611d24be0ab396c1e00f76958" width="1" height="1" alt>

webadresse:

https://netzpolitik.org/2026/too-big-to-fail-verantwortungslose-ki-panik/

Autor/Gruppe:

Tomas Rudl

Themen:

Netactivism

feed-date:

Mittwoch, September 30, 2026 - 15:34