„Moralisch bindend“: Trump setzt bei KI auf Selbstkontrolle statt Gesetze

Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.

Die KI-Konzerne sollen sich selbst überwachen, und der US-Präsident nennt das eine Art Verfassung. Donald Trump hat soeben im Weißen Haus ein freiwilliges Abkommen mit den Chefs der größten KI-Firmen präsentiert. Unterschrieben haben Sundar Pichai (Google), Mark Zuckerberg (Meta), Dario Amodei (Anthropic), Greg Brockman (OpenAI), Jensen Huang (Nvidia) und Elon Musk (xAI). Rechtlich verpflichtend ist darin nichts. „Ich denke, es ist moralisch bindend“, sagte Trump. „Es ist fast wie eine Verfassung, in gewisser Weise.“

Was die Konzerne versprechen

Das Papier trägt den Titel „White House Accord on Super Intelligence“. Laut dem vollständigen Text, den der Washington Examiner veröffentlicht hat, sei „jedes Unternehmen dafür verantwortlich, seine eigene Technologie sicher zu entwickeln“. Die Unterzeichner verpflichten sich zu vier Ebenen von Kontrollen:

• Interne Kontrollen: Die Firmen sollen Fähigkeiten und Alignment ihrer Modelle in Training und Einsatz überwachen, etwa bei Cybersecurity, Bio- und Chemiewaffen, und sicherstellen, dass Modelle nicht ungewollt in fremde Systeme eindringen.
• Internes Team: Eine eigene Abteilung soll prüfen, ob Kontrollen und Überwachung funktionieren, und Probleme beheben.
• Externe Prüfer: Unabhängige Auditor:innen sollen bewerten, ob die Kontrollen wirken.
• Aufsichtsrat: Ein unabhängiger Ausschuss des Boards soll die Berichte der Teams und Prüfer:innen erhalten.

Dazu wollen sich die Firmen regelmäßig treffen, um gemeinsame Standards zu entwickeln. Sanktionen, Fristen oder namentlich genannte Prüfer:innen enthält das Abkommen nicht. Einige der Maßnahmen setzen die Firmen laut AP ohnehin schon in irgendeiner Form um. Ein Gesetz könnte später folgen: „Mit der Zeit könnte es sinnvoll sein, diese Schritte in Gesetzen oder Verordnungen festzuschreiben“, heißt es im Text. Microsoft und Amazon waren beim Treffen vertreten, haben aber nicht unterschrieben.

Der Anlass ist brisant. Erst kürzlich haben Agenten von OpenAI bei internen Tests in fremde Systeme eingegriffen, darunter Hugging Face, und OpenAI hat die Veröffentlichung von GPT-6.1 Astra gestoppt. Noch vor zwei Wochen hatte Trump trotz solcher Vorfälle jede KI-Regulierung abgelehnt.

„Sie werden sich gegenseitig kontrollieren“

Trump setzt darauf, dass die Konzerne aus Eigeninteresse vorsichtig sind. „Ich sehe eine enorme Selbstkontrolle. Und sie verstehen, dass sie sich selbst kontrollieren müssen“, sagte er laut AP. „Wenn etwas schiefgeht, steht ihr Unternehmen auf dem Spiel. Sie werden sich wirklich gegenseitig kontrollieren“, zitiert ihn Axios. Rund zehn Personen sollen in einem Komitee über das Vorhaben wachen, wer genau, ist noch offen.

Zuckerberg nannte das Abkommen „gute Schritte nach vorne“. Anthropic-Chef Amodei blieb zurückhaltender: „Die Technologie hat sehr reale Risiken. Und wie wir diese Risiken angehen, wird noch diskutiert.“

Gesetze sollen die Bundesstaaten nicht machen

Das Abkommen passt in Trumps Linie. Kurz nach Amtsantritt hob er Joe Bidens KI-Verordnung auf. Im Dezember setzte er per Dekret eine Taskforce im Justizministerium ein, die gegen KI-Gesetze der Bundesstaaten vorgehen soll, und knüpfte Fördergelder für Breitband daran. Im März forderte das Weiße Haus den Kongress auf, Landesgesetze mit „unangemessenen Belastungen“ auszuhebeln. Kalifornien hat mit SB 53 genau vor einem Jahr ein Gesetz beschlossen, das KI-Entwickler verpflichtet, Sicherheitskonzepte offenzulegen und schwere Vorfälle zu melden, mit Strafen bei Verstößen.

Europa geht mit dem AI Act den umgekehrten Weg: verbindliche Pflichten für große KI-Modelle, durchgesetzt von der EU-Kommission. Allerdings hat auch die EU zuletzt die strengen Regeln für Hochrisiko-Systeme bis Ende 2027 verschoben.

Neu ist die freiwillige Variante nicht. Schon 2023 hatten sich Amazon, Anthropic, Google, Meta, Microsoft, OpenAI und Inflection bei Biden zu Sicherheitstests und Wasserzeichen verpflichtet. Eine Bilanz ein Jahr später fiel laut MIT Technology Review gemischt aus: Fortschritte bei Tests, wenig bei Transparenz. „Das sind immer noch Unternehmen, die im Grunde die Prüfung schreiben, nach der sie bewertet werden“, sagte damals Brandie Nonnecke von der UC Berkeley.

Kritik: „Ein Rezept für eine Katastrophe“

Die Kritik am neuen Abkommen ist deutlich. „Selbstregulierung? Das ist ein Rezept für eine Katastrophe“, schrieb die demokratische Senatorin Elizabeth Warren auf X. Alex Pascal vom Berkman Klein Center der Harvard University sagte laut AP, Risiken ließen sich nur durch „robuste rechtliche Haftung, Regulierung“ und eine Änderung der Wettlaufdynamik unter den KI-Entwicklern verringern. USC-Informatikprofessor Robin Jia zweifelt am Vertrauen in die Selbstkontrolle: „Je besser die Modelle werden, desto größer werden die Folgen solcher Dinge.“

Befürworter:innen halten den freiwilligen Weg für schneller. Das sei „weit besser, als jahrelang auf ein internationales Abkommen zu warten, das wahrscheinlich nie zustande käme“, schrieb Trumps früherer KI-Berater David Sacks laut Benzinga. Der republikanische Speaker Mike Johnson argumentiert laut ABC, dass die USA mit strengen Regeln ihren Vorsprung an China verlieren würden. Trump selbst sagte laut Euronews: „Ich werde niemals das Wachstum einer Technologie bremsen, die größer sein wird als die industrielle Revolution.“

Nebenbei: Aus KI wird „SI“

Am selben Tag unterschrieb Trump ein Dekret, nach dem Bundesbehörden in Schreiben, auf Websites und in Berichten nicht mehr „Artificial Intelligence“ oder „AI“ sagen sollen, sondern „Super Intelligence“ oder „SI“. Der Name vermittle „die wahren Fähigkeiten der heute entwickelten Technologien“, heißt es im Fact Sheet. Laut Newsweek stört Trump, dass „artificial“ die Technologie nach Fälschung klingen lasse. Technisch ändert sich nichts, die Definition bleibt dieselbe wie für „künstliche Intelligenz“.

Dazu startete die Regierung mit America.gov einen KI-Chatbot, der als zentrale Anlaufstelle für Behördendienste rund 29.000 Regierungswebsites durchsucht. Er läuft auf Google Gemini und xAI Grok, also auf Modellen von zwei Unterzeichnern des Abkommens.