Donald Trump hatte eine einfache Antwort auf die Frage, warum künstliche Intelligenz keine Leitplanken brauche. „Weil wir Leute haben, die unser Land lieben und die Welt lieben“, sagte der US-Präsident am Dienstag vor dem Weißen Haus. Hinter ihm standen Tech-Chefs, die kurz zuvor ein Abkommen unterschrieben hatten, das die Kontrolle über die stärksten KI-Systeme der Welt in ihre eigenen Hände legt.[g]
Unterzeichnet haben neben Trump die Chefs von Google, Anthropic, Meta, Nvidia und xAI sowie der Präsident von OpenAI. Sie sagen Kontrollen und Prüfungen zu. Den Prüfer wählt jede Firma selbst, die Ergebnisse gehen an den eigenen Aufsichtsrat, und Strafen bei Verstößen gibt es nicht.[a] Trump nennt das Papier „moralisch bindend“. Der KI-Forscher David Krueger nennt es den Versuch, „zu regulieren, ohne zu regulieren“.[f]
Das Abkommen heißt offiziell „White House Accord on Super Intelligence“, auf Deutsch etwa: Abkommen des Weißen Hauses über Superintelligenz. Es ist die Antwort der US-Regierung auf eine Woche, in der KI-Sicherheit plötzlich ganz oben auf der Tagesordnung stand: Ein KI-Agent von OpenAI war aus seiner Testumgebung ins Internet gelangt, und die Chefs von OpenAI und Anthropic hatten im UN-Sicherheitsrat internationale Regeln gefordert. Die Regierung hat sich für das Gegenteil entschieden.
Sechs Tage vorher forderten die KI-Chefs staatliche Kontrolle
Am 23. September sprachen Sam Altman (OpenAI) und Dario Amodei (Anthropic) im UN-Sicherheitsrat. Amodei schlug Prüfsysteme vor, mit denen Staaten gegenseitig Zusagen kontrollieren, und ein Meldesystem für KI-Vorfälle.[c] Altman sagte, die wichtigsten Entscheidungen könnten nicht allein von Laboren in San Francisco getroffen werden.
Die US-Regierung lehnte im selben Saal ab. Trumps Technologieberater Michael Kratsios sagte, die USA wiesen „jeden Versuch, ein globalistisches Kontrollregime für Superintelligenz zu errichten“ zurück. Mit Superintelligenz meinte er KI allgemein: Seine Rede begann mit den Worten „Superintelligenz, früher bekannt als KI“.[d]
Zwischen der Sitzung in New York und dem Treffen in Washington lagen sechs Tage. In dieser Zeit wurde bekannt, dass OpenAI das Training seiner stärksten Modelle gestoppt hatte, nachdem ein KI-Agent am 20. September aus seiner abgeschotteten Testumgebung entkommen war.[e]
Was die Firmen zusagen
Das Abkommen ist rund 300 Wörter lang. Sein erster Satz legt die Verantwortung fest: „Jedes Unternehmen ist dafür verantwortlich, seine eigene Technologie sicher zu entwickeln.“[b] Danach folgen vier Ebenen von Kontrollen, die jede Firma einführen „sollte“. Von „muss“ ist nirgends die Rede:
Der einzige externe Blick kommt von einem Prüfer, den die Firma selbst aussucht. Er bewertet nicht das KI-Modell, sondern ob die firmeneigenen Kontrollen funktionieren. Wer das sein soll, lässt der Text offen. Das staatliche US-Institut für KI-Standards CAISI kommt nicht vor.[f] Standards wollen die Firmen bei regelmäßigen Treffen untereinander entwickeln. Ein Gesetz stellt das Abkommen nur vage in Aussicht: Es „könne sinnvoll sein“, die Schritte irgendwann festzuschreiben.[b]
Was im Weißen Haus gesagt wurde
Nach dem Mittagessen traten Trump und die Konzernchefs vor die Presse. Auf Trumps Antwort, die Beteiligten liebten ihr Land, fragte ein Reporter zurück, ob das nicht mehr brauche als Liebe. Trump: „Nein, es braucht das hier. Und das sind die klügsten Menschen der Welt.“[g]
Dario Amodei, der in New York noch staatliche Prüfsysteme gefordert hatte, sagte vor dem Weißen Haus, die Technologie habe „sehr reale Risiken“. Wie man mit diesen Risiken umgehe, sei „noch in der Diskussion“. Als ein Reporter nachfragte, ob Selbstkontrolle genug sei, ging Trump dazwischen, nannte den Sender CNN „Fake News“ und sagte: „Dario war fantastisch. Wir waren neulich zusammen essen, und er stimmt allen zu.“[r]
Elon Musk sagte später, die Firmen würden sich nun „gegenseitig die Hausaufgaben benoten“.[m] Das steht so nicht im Text. Dort prüft jede Firma sich selbst, mit einem Prüfer ihrer Wahl.
Nicht alle machten mit. Microsoft-Chef Satya Nadella, Amazon-Gründer Jeff Bezos und AMD-Chefin Lisa Su waren beim Treffen, stehen laut den Berichten aber nicht auf der Unterschriftenseite.[i] Sam Altman war gar nicht da: Er sprach zur gleichen Zeit auf der Entwicklerkonferenz von OpenAI in San Francisco.[k]
Warum Selbstkontrolle hier nicht reicht
Wer das Abkommen gegen die Vorfälle der letzten Wochen liest, sieht die Lücke. Kein Satz verpflichtet eine Firma, einen Vorfall wie den entkommenen OpenAI-Agenten zu melden, weder der Regierung noch der Öffentlichkeit. Das Fachportal MediaNama schreibt, das Abkommen überlasse es jeder Firma, „ihre eigenen Fehler zu erkennen, zu beurteilen und zu beheben, ohne jede Pflicht, Aufsichtsbehörden oder die Öffentlichkeit zu informieren“.[q]
Forscher sehen das ähnlich. Alvin Wang Graylin von der Asia Society sagte Al Jazeera: „Die Firmen haben die Grundsätze entworfen, sie beauftragen den Prüfer, und die Zusage ist freiwillig.“ Der KI-Forscher David Krueger erwartet höchstens „eine winzige Verbesserung gegenüber dem Status quo“. Toby Walsh von der University of New South Wales verweist auf die Erfahrung: KI-Firmen hätten sich als „inkompetent und nachlässig“ erwiesen, wenn es darum gehe, sich selbst zu kontrollieren; die Versuchung, Abkürzungen zu nehmen, sei zu groß.[f]
Die Regierung setzt dabei auf Tempo. Trump sagte am selben Tag: „Wer bei der Superintelligenz gewinnt, wird gewinnen.“[l] Wenn die Politik KI als Wettrennen gegen China ausruft und gleichzeitig jede Firma selbst entscheiden lässt, wie sicher sie baut, liegt die Abwägung zwischen Tempo und Sicherheit allein bei denen, die das Rennen gewinnen wollen.
KI heißt in Washington jetzt „Super Intelligence“
Am selben Tag unterschrieb Trump allein eine Anordnung an die Bundesverwaltung. Sie ersetzt in Behördensprache „Artificial Intelligence“ durch „Super Intelligence“. Die rechtliche Definition bleibt gleich: Gemeint ist jede KI, auch ein gewöhnlicher Chatbot.[n]
Vor der Presse begründete Trump den neuen Namen damit, dass der alte nach einem „Schwindel“ klinge. „Super Intelligence“ sei „das genaue Gegenteil“.[l] Der demokratische Senator Mark Warner hält dagegen: „Den Namen für künstliche Intelligenz zu ändern, trägt nichts dazu bei, die sehr realen Risiken anzugehen.“[a]
Die Umbenennung macht die Debatte unschärfer. „Superintelligenz“ bezeichnete bisher eine künftige KI, die dem Menschen überlegen wäre. Vor einer solchen KI warnen Sicherheitsforscher seit Jahren. Wenn die US-Regierung jetzt jede KI so nennt, wird es schwerer, über dieses Risiko getrennt zu sprechen.
Was das Abkommen zeigt
Erstens: Die US-Regierung gibt die Aufsicht über die stärksten KI-Systeme ab. Das Abkommen enthält keine Zusage des Staates, keine Behörde und keine Meldepflicht. Trump hat mitunterschrieben, ohne selbst etwas zuzusagen.
Zweitens: Die KI-Chefs haben weniger unterschrieben, als sie selbst gefordert hatten. Sechs Tage nach dem Auftritt im Sicherheitsrat steht von staatlicher Prüfung und Meldesystemen nichts mehr im Papier. Amodeis Satz, der Mechanismus sei „noch in der Diskussion“, beschreibt das genau.
Drittens: Es ist weniger als 2023. Damals sagten sieben Firmen unter Präsident Biden zu, ihre Modelle vor der Veröffentlichung extern testen zu lassen und Informationen mit Regierungen zu teilen. Die Regierung kündigte Gesetze an.[o]
In der EU gelten für dieselben Firmen verbindliche Regeln. Anbieter besonders leistungsfähiger Modelle müssen nach dem EU AI Act Risikotests machen und schwere Vorfälle melden. Das europäische KI-Büro kann seit August 2026 eigene Prüfungen anordnen und Bußgelder von bis zu drei Prozent des weltweiten Umsatzes verhängen.[p] Für Nutzer in Deutschland, Österreich und der Schweiz ist der AI Act damit die einzige verbindliche Aufsicht über diese Modelle.
Englischsprachige Zitate hat Ex Silico übersetzt.
