Anthropic: Aktien fürs Gemeinwohl, Gesetz mit hoher Hürde
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Wer bald Billionen wert sein will, gibt vorher etwas ab: Anthropic legt 5 Prozent seiner Aktien in einen neuen Public Benefit Fund, wie das Unternehmen soeben in einem Blogeintrag angekündigt hat. Parallel wirbt der Claude-Hersteller in Washington für ein eigenes KI-Sicherheitsgesetz, bei dem der Staat erst ab sehr hohen Schäden eingreifen dürfte.
5 Prozent, die mitwachsen
Der Fonds wird als eigene Gesellschaft (LLC) aufgesetzt, die vollständig Anthropic gehört. Die Aktionär:innen müssen noch zustimmen. Der Anteil soll mit dem Unternehmenswert steigen: Für jede Wertsteigerung um 50 Prozent über einem noch nicht genannten Ausgangswert kann der Vorstand weitere 2 Prozent der Aktien in den Fonds legen. Bei der Bewertung von mehr als 2 Billionen Dollar, auf die Anthropics Geldgeber:innen beim geplanten Börsengang hoffen, wären 5 Prozent rund 100 Milliarden Dollar (rund 89 Milliarden Euro) wert.
Mit dem Geld sollen etwa Großspenden an gemeinnützige Organisationen oder direkte Zahlungen an bestimmte Bevölkerungsgruppen möglich sein. Als Beispiel nennt Anthropic ausdrücklich die Folgen von KI für den Arbeitsmarkt, wo das Unternehmen selbst bereits Spuren hinterlässt: Bei Anthropic schrumpfen die Junior-Jobs. Für Forschung zur wirtschaftlichen Zukunft hat Anthropic bereits 200 Millionen Dollar zugesagt, dafür brauche es aber womöglich „mutigere Ansätze“. Für Lobbying oder politische Spenden darf der Fonds seine Anteile nicht einsetzen.
Zusammen mit früheren Zusagen sind laut Anthropic damit rund 20 Prozent der Aktien dem Gemeinwohl gewidmet. Dazu zählen die Zusage der Mitgründer:innen, 80 Prozent ihrer Anteile zu spenden, und ein Programm, bei dem das Unternehmen Aktienspenden der Mitarbeiter:innen aufstockt. Details zu Governance und Bewertungsschwellen will Anthropic in den kommenden Monaten nachliefern.
Prompt kam Spott von der Konkurrenz. „Ich empfehle, die Aktien direkt der Öffentlichkeit zu geben“, schrieb xAI-Chef Elon Musk auf X und legte nach: „Das ist, was ich tun werde.“ Wie und wann, ließ er offen.
Eingreifen erst ab 50 Toten
Weniger großzügig zeigt sich Anthropic bei der Regulierung. Laut Politico hat das Unternehmen Mitarbeiter:innen im US-Kongress den Entwurf eines KI-Sicherheitsgesetzes vorgelegt. Er gilt nur für Entwickler von Frontier-Modellen, die mit mehr als 10²⁵ Rechenoperationen trainiert werden und zugleich mehr als 500 Millionen Dollar Jahresumsatz mit KI machen oder mehr als eine Milliarde Dollar in KI-Forschung stecken. Diese müssten Sicherheitsrahmen und Transparenzberichte veröffentlichen, unabhängige Prüfungen zulassen, Vorfälle innerhalb von 72 Stunden an das US-Handelsministerium melden und Whistleblower:innen schützen.
Stoppen könnte ein Modell aber nur das Handelsministerium, und auch das nur über ein Bundesgericht. Voraussetzung wäre ein vorhersehbares, unmittelbares Risiko von mehr als einer Milliarde Dollar Schaden oder von mehr als 50 Toten oder Schwerverletzten. Genannt werden drei Gefahren: die Mithilfe bei Biowaffen, großangelegte Cyberangriffe und Modelle, die sich den Sicherheitsvorkehrungen ihrer Entwickler entziehen. Andere Bundesbehörden dürften Modelle nicht eigenständig aus dem Verkehr ziehen.
Klare Regeln oder zu hohe Hürde?
Anthropic verteidigt den Entwurf. Er setze die Vorschläge aus dem „Advanced AI Framework“ des Unternehmens um und gebe der Regierung die Möglichkeit, „gefährliche Veröffentlichungen der mächtigsten Modelle zu blockieren oder abzuschrecken“, so ein Sprecher. Ein einheitlicher Bundesstandard würde zudem den Flickenteppich aus Landesgesetzen ersetzen.
Kritische Stimmen sehen das anders. Der Entwurf mache das Handelsministerium faktisch zur einzigen Behörde, die ein KI-Modell stoppen kann, und das erst, wenn Dutzende Menschenleben auf dem Spiel stehen, schreibt Tom’s Hardware. Andere bemängeln, dass Compliance-Kosten etablierte Labore wie Anthropic gegenüber kleineren Anbietern bevorzugen. Offiziell eingebracht ist der Entwurf noch nicht.
