Anthropic will Open-Weights-Modelle nicht verbieten, sondern Chip-Bann für China

Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.

Es ist eine der schärfsten Auseinandersetzungen der US-Techbranche in diesem Jahr: Seit Berichte über Überlegungen von US-Behörden kursieren, Firmen im Land die Nutzung chinesischer Open-Weights-Modelle zu untersagen, positioniert sich die Industrie öffentlich. Am 24. Juli veröffentlichten zunächst 25 Unternehmen und Organisationen den Brief „Open Weights and American AI Leadership“, der Washington vor „verfrühten Beschränkungen“ bei frei herunterladbaren KI-Modellen warnt. Nvidia-CEO Jensen Huang teilte das Papier mit seinem allerersten Posting auf X – ein für ihn ungewöhnlicher persönlicher Auftritt in der Techpolitik.

Unterzeichnet haben unter anderem Nvidia, Microsoft, Meta, IBM, Dell, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz und Y Combinator. Innerhalb weniger Tage verdoppelte sich die Zahl der Unterstützer auf rund 50, mit OpenAI, Google, AMD, Cisco und GitHub unter den Nachzüglern. Anthropic blieb – neben Amazon – außen vor. Unter den führenden Modellanbietern ist Anthropic damit der einzige Verweigerer, was dem Unternehmen den Vorwurf einbrachte, offene Modelle aus geschäftlichem Eigeninteresse ausbremsen zu wollen.

„Öffentliches Gut“, aber kein Sicherheitsargument

Am Montag antwortete Amodei mit einem Blogpost auf der Anthropic-Website. Kernsatz: Anthropic habe nie ein Verbot von Open-Weights-Modellen gefordert. Offene Modelle ohne gefährliche Fähigkeiten bezeichnet er als öffentliches Gut, das Unternehmen, Entwicklerinnen und Forschung Nutzen bringe und außer den Rechenkosten nichts koste. „Anthropic hat sich nie für ein Verbot von Open-Weights-Modellen ausgesprochen“, so Amodei.

Von protektionistischen Verboten hält Amodei nach eigener Darstellung wenig – allerdings nicht aus ordnungspolitischer Sympathie für offene Modelle, sondern weil er sie für wirkungslos hält. Ein Nutzungsverbot für US-Firmen adressiere die eigentlichen Risiken nicht, weil böswillige Akteure in der Regel keine legitimen US-Unternehmen seien. Dass ein solches Verbot amerikanische KI-Firmen vor Konkurrenz schützen würde, räumt er ein; das sei aber nie sein Ziel gewesen.

Zwei Szenarien treiben ihn laut eigener Darstellung um: erstens autoritäre Regierungen – allen voran die Kommunistische Partei Chinas –, die leistungsfähigere Modelle als die USA bauen und damit militärische Überlegenheit oder tiefgreifende Repression erreichen könnten. Ob solche Modelle offen oder geschlossen veröffentlicht werden, sei dafür irrelevant; das gefährlichste Modell könnte eines sein, das im Geheimen trainiert und direkt an Militär und Staatssicherheit übergeben wird.

Zweitens der Missbrauch leistungsfähiger Modelle für Cyber- oder Bioangriffe sowie Alignment-Probleme. Hier sieht er bei offenen Gewichten sehr wohl ein erhöhtes Risiko – unabhängig vom Herkunftsland –, weil sich Schutzmechanismen schwer durchsetzen lassen, die Nutzung kaum überwachbar ist und einmal veröffentlichte Gewichte nicht mehr zurückgeholt werden können.

Drei Maßnahmen statt Verbot

Statt eines Verbots nennt Amodei drei Hebel, für die Anthropic seit Jahren eintrete:

1. Chipexporte: Keine leistungsfähigen Chips und keine Chipfertigungsanlagen nach China, dazu ein härteres Vorgehen gegen Schmuggel und Umgehungskonstruktionen. Wegen der begrenzten heimischen Produktionskapazität könne China ohne US-Chips keine stärkeren Modelle bauen als die USA.
2. Distillation: Ein Vorgehen gegen industriell betriebene Destillation, also das rechenkostengünstige Nachbauen von Modellfähigkeiten. Das ermögliche es China, Chipbeschränkungen teilweise zu umgehen und bis auf wenige Monate an die US-Spitze heranzurücken. Dass viele der betroffenen Firmen offene Modelle veröffentlichen, sei dabei zweitrangig.
3. Sicherheitstests: Verpflichtende Prüfungen für alle hinreichend leistungsfähigen Modelle – offen wie geschlossen – auf Cyber-, Bio- und Alignment-Risiken vor der Veröffentlichung. Kleinere Modelle aus Startups und Wissenschaft sollen ausgenommen bleiben. Wirksam wäre ein solches Regime laut Amodei nur global, also unter Einbeziehung Chinas.

Der Dissens mit dem Industriebrief

Weiten Teilen des Briefs stimmt Amodei zu: Offene Gewichte erweiterten den Zugang zur KI-Wirtschaft, stärkten zumindest in manchen Anwendungsfällen den Wettbewerb und gäben Kundinnen und Kunden mehr Kontrolle. Zwei zentrale Behauptungen weist er aber zurück – dass offene Modelle die Entwicklung von Schutzmaßnahmen zwangsläufig erleichtern und dass breiter Zugang zu Fähigkeiten Verteidigern mehr helfe als Angreifern. Zumindest ebenso wahrscheinlich sei das Gegenteil. Als Beispiel nennt er die Biologie: Ein hinreichend leistungsfähiges Modell könnte Erreger mit Pandemiepotenzial rasch und mit breit verfügbaren Materialien waffenfähig machen, während Gegenmaßnahmen im besten Fall – wie bei der Operation Warp Speed – jahrelange operative Arbeit erforderten. Ob offene Modelle das Risiko erhöhen, solle empirisch durch Tests geklärt werden, nicht vorab durch Annahmen.

Kommerzielle Interessen stecken dahinter

Beide Seiten agieren nicht interessenfrei. Zu den Unterzeichnern des Briefs zählen Chip- und Infrastrukturanbieter, die von einer breiten Verbreitung offener Modelle unmittelbar profitieren, sowie Labore, die selbst offene Gewichte veröffentlichen. Anthropic wiederum verdient ausschließlich mit geschlossenen Frontier-Modellen und gehört zu den Unternehmen, die von Destillation kommerziell am direktesten betroffen sind – das Unternehmen hat entsprechende Vorwürfe zuletzt öffentlich erhoben. Ausgelöst wurde die aktuelle Debatte durch das chinesische Open-Weights-Modell Kimi K3, das die Leistungsfähigkeit westlicher Spitzenmodelle zu deutlich geringeren Kosten annähert.

Politisch bleibt offen, wohin sich die US-Regierung bewegt. Ein Verbot chinesischer offener Modelle steht weiter im Raum, gleichzeitig gibt es Bewegung in Richtung verpflichtender Sicherheitstests – jenes Instrument, auf das Amodei setzt und bei dem er die größte Schnittmenge mit der übrigen Industrie sieht.