„Werden Tech abschalten, wenn Regeln verletzt werden“: OpenAI verteidigt Pentagon-Deal

OpenAI-Chef Sam Altman hat am Samstag ausführlich zu dem umstrittenen Deal seines Unternehmens mit dem US-Verteidigungsministerium Stellung genommen. In einer Frage-und-Antwort-Runde auf X.com räumte er ein, dass die Vereinbarung überstürzt wirke, verteidigte sie aber als notwendigen Schritt zur Deeskalation eines Konflikts zwischen der Regierung und der KI-Branche.

Hintergrund: Streit zwischen Pentagon und Anthropic

Der Deal kam zustande, nachdem Verhandlungen zwischen dem Kriegsministerium ((früher Verteidigungsministerium) und dem Konkurrenten Anthropic gescheitert waren. Das Pentagon drohte daraufhin, Anthropic als „Risiko für die nationale Sicherheit in der Lieferkette“ einzustufen. Kurz darauf einigte sich OpenAI mit der Behörde auf eine Zusammenarbeit im klassifizierten Bereich.

Altman betonte, dass OpenAI lange Zeit nur nicht-klassifizierte Arbeit mit dem Verteidigungsministerium geplant habe. Erst in dieser Woche habe sich die Situation zugespitzt, woraufhin man schnell gehandelt habe.

Was der Deal umfasst und was verboten bleibt

OpenAI hat nach eigenen Angaben drei zentrale rote Linien definiert, die nicht überschritten werden dürfen:

• Keine Nutzung der Technologie für Massenüberwachung im Inland
• Keine Nutzung zur Steuerung autonomer Waffensysteme
• Keine Nutzung für automatisierte Entscheidungen mit hohem Risiko (etwa Sozialkreditsysteme)

Um diese Grenzen durchzusetzen, setzt OpenAI auf einen mehrschichtigen Ansatz. Die KI-Modelle werden ausschließlich über die Cloud bereitgestellt, nicht auf Edge-Geräten, was eine Integration in Waffensysteme verhindern soll. OpenAI behält die volle Kontrolle über seine Sicherheitssysteme und wird eigene Ingenieure sowie Sicherheitsforscher in die Arbeit mit dem Pentagon einbinden.

„Wir werden die Technologie in dem sehr unwahrscheinlichen Fall abschalten, dass die Regeln verletzt werden. Aber wir glauben, dass die US-Regierung eine Institution ist, die ihr Bestes tut, um Gesetze und Richtlinien zu befolgen“, erklärte Altman.

Verteidigung gegen Kritik

Auf die Frage, warum OpenAI den Deal so schnell abgeschlossen habe, antwortete Altman: „Es war definitiv überstürzt, und die Optik sieht nicht gut aus. Wir wollten wirklich deeskalieren.“ Er hoffe, dass die Vereinbarung zu einer Entspannung zwischen dem Verteidigungsministerium und der Branche führe. Falls ja, werde OpenAI „wie Genies aussehen“, falls nicht, werde man weiterhin als überstürzt und unvorsichtig charakterisiert.

Altman äußerte auch Verständnis für die Position des Pentagons. Die KI-Branche sage der Regierung einerseits, dass die Technologie entscheidend für geopolitische Konflikte sei und China vorauseile. Andererseits verweigere man die Zusammenarbeit und halte die Behörde für „irgendwie böse“. In dieser Situation würde er selbst nicht gut reagieren, so Altman.

Unterschiede zu Anthropics Position

OpenAI hebt hervor, dass der eigene Vertrag mehr Schutzmaßnahmen enthalte als frühere Vereinbarungen, einschließlich der ursprünglichen Vereinbarung von Anthropic. Während Anthropic sich auf spezifische vertragliche Verbote konzentriert habe, setze OpenAI auf technische Sicherheitsvorkehrungen und die direkte Einbindung von Experten.

Altman betonte zudem, dass OpenAI im Rahmen der Verhandlungen durchgesetzt habe, dass dieselben Bedingungen allen KI-Unternehmen angeboten werden. Er hoffe, dass auch Anthropic und andere Labore diese Bedingungen akzeptieren würden.

Der Deal hat nach Angaben von OpenAI einen Wert von nur wenigen Millionen Dollar und sei im Vergleich zu den über 20 Milliarden Dollar Umsatz des Unternehmens „völlig unbedeutend“. Man tue dies nicht wegen der Einnahmen, sondern weil es das Richtige für das Land sei, so ein Sprecher des Unternehmens.

Kritik an Einstufung von Anthropic

Trotz des eigenen Deals kritisierte Altman die Drohung des Pentagons gegen Anthropic scharf. Die Durchsetzung der Einstufung als Sicherheitsrisiko wäre „sehr schlecht für unsere Branche und unser Land und offensichtlich für deren Unternehmen“. Er hoffe, dass das Verteidigungsministerium diese Entscheidung rückgängig mache, auch wenn OpenAI dafür Kritik einstecken müsse.

„Ich glaube nicht, dass nicht gewählte Führungskräfte privater Unternehmen so viel Macht haben sollten wie unsere demokratisch gewählte Regierung. Aber ich denke, wir müssen ihnen helfen“, sagte Altman.