Ein leitender Sicherheitsforscher bei Anthropic beziffert die Wahrscheinlichkeit, dass Künstliche Intelligenz bis Ende des Jahrzehnts alle Menschen töten könnte, auf über 10 Prozent. Stunden zuvor war ein Kollege aus Protest zurückgetreten, weil er befürchtet, dass KI-Labore unkontrollierbar auf Superintelligenz hinarbeiten.[a]
Der Rücktritt von Jacob Coxon, der befürchtet, sich selbst verbessernde KI-Systeme könnten künftig menschliche Befehle verweigern, wurde im deutschsprachigen Raum breit rezipiert – ein Alarmsignal aus dem Inneren eines der einflussreichsten KI-Labore der Welt.[b]
Fast zeitgleich meldeten sich dieselben Konzernchefs, die jahrelang das Entwicklungstempo der Branche vorangetrieben hatten, mit einem überraschenden Appell: Dario Amodei veröffentlichte den Essay " We Must Pace the Frontier", in dem er eine koordinierte Verlangsamung der KI-Entwicklung fordert. Auch Sam Altman, Demis Hassabis und Elon Musk schlossen sich öffentlich an – ein unerwarteter Schulterschluss von Rivalen, der die Sicherheitsdebatte schlagartig in die erste Reihe der Tech-Politik rückte.[i][h][c]
Das wirft unmittelbar die Frage auf, ob hier echte Sorge oder strategisches Kalkül den Ton angibt. Skeptiker sehen ein handfestes Kartellmotiv: Als Amodei, Sam Altman, Demis Hassabis und Elon Musk für eine Verlangsamung eintraten, entstand der Verdacht, dass eine koordinierte Drosselung vor allem kleinere Wettbewerber und Open-Source-Projekte benachteiligen würde – und damit den Vorsprung etablierter Anbieter zementiert.[h][c]
Washington: Kein Interesse an Bremsen
US-Präsident Donald Trump hat auf die Warnungen und den wachsenden Protest reagiert, indem er jede Forderung nach staatlicher KI-Kontrolle forsch zurückweist. Für die Kontrolle von KI reiche, so Trump, "ein intelligenter US-Präsident" – eine Aussage, die staatliche Eingriffe in das Entwicklungstempo faktisch ausschließt.[e]
Damit bleibt in den USA trotz eines wachsenden gesellschaftlichen Protests kein regulatorischer Hebel in Sicht. ComputerBase dokumentiert, wie der Widerstand gegen den ungebremsten KI-Ausbau zunimmt und mit Blick auf die Kongresswahlen politisch relevanter wird – ohne dass sich daraus bislang konkrete Gesetzesinitiativen ergäben.[g]
Peking: Kritik ohne Bindungskraft
China positioniert sich in der Debatte strategisch zurückhaltend: Peking lehnt eine einseitige Verlangsamung der eigenen KI-Entwicklung ab, warnt aber vor bösartigem Wettbewerb und fordert stattdessen eine gemeinsame internationale Regulierung – ohne dabei bindende Mechanismen vorzuschlagen.[d]
Ein Tempo-Verzicht würde Chinas technologische Aufholjagd gefährden – ein Anreiz, den Peking derzeit nicht bereit ist aufzugeben. Verbindliche Mechanismen, die diesen Eigeninteressen Grenzen setzen, bietet Peking nicht an: Die Forderung nach internationaler Regulierung bleibt diplomatische Rhetorik ohne Umsetzungspfad.[d]
Brüssel: Die einzige verbindliche Antwort
In diesem Vakuum bleibt die EU die einzige Jurisdiktion mit einem rechtsverbindlichen, schrittweise durchgesetzten Regelwerk: dem AI Act. Er trat am 1. August 2024 in Kraft und wird in mehreren Phasen wirksam – Verbote inakzeptabler KI-Praktiken galten bereits ab Februar 2025, Pflichten für General-Purpose-AI-Modelle (GPAI) ab August 2025; seit August 2026 kann die Kommission diese Pflichten auch durchsetzen. Die Regeln für Hochrisiko-KI hat die EU dagegen per „Digital Omnibus“ (in Kraft seit 27. Juli 2026) verschoben: Für eigenständige Hochrisiko-Anwendungen wie Biometrie, kritische Infrastruktur und Justiz gelten sie erst ab 2. Dezember 2027, für in regulierte Produkte eingebettete KI ab 2. August 2028.[j][k]
Was der AI Act reguliert – und was nicht
Entscheidend für die Bewertung des AI Act ist seine tatsächliche Reichweite: Das Regelwerk schreibt Transparenz, Dokumentation und menschliche Aufsicht vor. Systemisch riskante Modelle – definiert über einen Compute-Schwellwert von 10²⁵ FLOP – müssen Red-Teaming vor Veröffentlichung durchlaufen, schwerwiegende Vorfälle „unverzüglich“ an das AI Office melden und den Energieverbrauch des Trainings in der technischen Dokumentation ausweisen. Strafen können bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro betragen.[j][k][m]
Was der AI Act jedoch nicht adressiert, ist das eigentliche Schreckensszenario der Anthropic-Forscher: eine sich selbst verbessernde KI, die menschliche Befehle verweigert und außer Kontrolle gerät. Wissenschaftler am Max-Planck-Institut für Sicherheit und Privatsphäre nehmen diese Warnungen zwar ernst, betonen aber, dass die Bedrohung nicht empirisch belegbar sei. Der AI Act reguliert nachvollziehbare, beobachtbare Risiken – nicht spekulative Szenarien einer unkontrollierten Superintelligenz.[f]
Asymmetrisches Spielfeld: Was das für DACH bedeutet
Für europäische Unternehmen und Verbraucher entsteht durch dieses regulatorische Gefälle ein asymmetrisches Spielfeld. Wer in Deutschland oder Österreich ChatGPT, Claude, Gemini oder andere Foundation-Modelle einsetzt, unterliegt als Anwender bereits der KI-Kompetenzpflicht des EU AI Act – und die Anbieter dieser Modelle müssen seit August 2025 die GPAI-Pflichten erfüllen, die die Kommission seit August 2026 durchsetzen kann, selbst wenn sie in ihren Heimatmärkten weitgehend unreguliert operieren. In der Schweiz gilt der AI Act nicht.[j][k]
Das regulatorische Vakuum zwischen Washington und Peking bedeutet konkret: Dieselben Modelle, die in Europa strengen Transparenz- und Sicherheitspflichten unterliegen, werden in den USA und China ohne vergleichbare Auflagen entwickelt und betrieben. Das ist ein Wettbewerbsnachteil für europäische KI-Anbieter – aber potenziell ein Sicherheitsvorteil für europäische Nutzer. Ob dieser Vorteil realisiert wird, hängt davon ab, ob die nationalen Aufsichtsbehörden bis 2026 tatsächlich einsatzbereit sind; Brightdefense weist darauf hin, dass diese noch nicht vollständig operativ sind, was die Durchsetzung verzögert.[j][k]
Die Debatte über eine KI-Pause trifft in der deutschsprachigen Forschung auf gemischte Reaktionen. Pointiert brachte es ein Forscher auf den Punkt: "Jede deutsche Großküche hat schärfere Kontrollsysteme" – ein Vergleich, der die Lücke zwischen dem rasanten Entwicklungstempo der KI-Industrie und den tatsächlich vorhandenen Sicherheitsvorkehrungen plastisch illustriert.[l]
Die eigentliche Herausforderung liegt damit nicht allein in der Frage, ob der EU AI Act die richtigen Risiken adressiert, sondern ob Europa die Kraft hat, diesen Regulierungsansatz international durchzusetzen. Solange Washington jeden staatlichen Eingriff ablehnt und Peking lediglich unverbindliche Kooperation anbietet, bleibt der AI Act ein einseitiges Instrument – wirksam für europäische Nutzer und Unternehmen, aber strukturell ungeeignet, um ein globales Rennen um Superintelligenz einzuhegen. Die Regulierungsasymmetrie ist nicht nur ein Wettbewerbsproblem, sondern auch eine sicherheitspolitische Lücke, die mit jedem Trainings-Durchlauf größer werden könnte.[j][e][d]
