Falscher KI-Geheimdienstbericht hätte fast US-Angriff auf China ausgelöst
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Ein von KI erstellter Geheimdienstbericht hat das US-Militär beinahe zu einer Operation gegen ein chinesisches Schiff verleitet. Das berichtet CNN exklusiv unter Berufung auf vier mit dem Vorfall vertraute Quellen. Demnach kursierte im Frühjahr, mitten im Krieg mit dem Iran, ein Bericht innerhalb des US-Militärs, laut dem ein chinesisches Schiff im Nahen Osten Komponenten für ein Atomwaffenprogramm transportiere.
Das Militär bereitete daraufhin das Abfangen des Schiffes vor. Laut zwei Quellen machten sich bewaffnete Soldat:innen bereit, an Bord zu gehen, Militärflugzeuge waren bereits in der Luft. Erst kurz vor der geplanten Operation prüften Verantwortliche den Bericht genauer und stellten fest, dass er mithilfe von KI entstanden war. Ein Chatbot hatte die Ladung des Schiffes falsch identifiziert. Um welche Fracht es sich tatsächlich handelte, konnte CNN nicht in Erfahrung bringen.
Der Bericht sei „komplett falsch“ gewesen, habe aber „fast einen Krieg ausgelöst“, zitiert CNN eine der Quellen. Ein Einsatz gegen ein chinesisches Schiff hätte das Risiko einer bewaffneten Eskalation zwischen den beiden Großmächten mit sich gebracht.
Wie der Fehler entstand
Laut CNN hatte ein:e Analyst:in des US Special Operations Command einen Chatbot zu Geheimdienstinformationen über die Frachtliste des Schiffes befragt. Diese Informationen stammten vom Special Operations Command Pacific mit Sitz auf Hawaii. Ob es sich um ein kommerzielles KI-Tool oder ein Produkt der US-Regierung handelte, ist unklar. Eine frühere hochrangige Quelle aus der US-Regierung sagte gegenüber CNN, die internen Tools seien „größtenteils nur Kopien der kommerziellen Produkte mit etwas Lippenstift“.
Der Chatbot verknüpfte öffentlich zugängliche Informationen mit geheimen Erkenntnissen aus der Fernmeldeaufklärung und kam so zu seiner folgenschweren Schlussfolgerung. Anschließend nutzte die Person erneut KI, um die Ergebnisse in einen standardisierten Geheimdienstbericht zu verpacken, ein Format, dem militärische Entscheidungsträger:innen üblicherweise vertrauen. Weder das Special Operations Command Pacific noch das Pentagon wollten sich gegenüber CNN äußern. Demokratische Abgeordnete fordern mittlerweile eine Untersuchung des Vorfalls.
Laut einer Quelle handelt es sich bei solchen „Halluzinationen“ um keinen Einzelfall, seit sich KI-Tools in den Geheimdiensten verbreiten. Ältere Geheimdienstmitarbeiter:innen berichten von wachsendem Druck, Analysen immer schneller zu liefern. Vor allem jüngere Analyst:innen würden den Tools oft unkritisch vertrauen. „KI ermöglicht es dir, schneller zu einer schlechten Idee zu kommen“, sagte eine Quelle.
KI soll in fast alle Bereiche des Militärs
Der Vorfall fällt in eine Phase, in der das US-Militär und die Geheimdienste KI mit hohem Tempo einführen. Die Anwendungen reichen von der Auswertung riesiger Mengen an Rohdaten über die Auswahl von Zielen für Angriffe bis hin zu Budgetplanung, Logistik und Lieferketten. Das Argument der Befürworter:innen: KI soll helfen, auf dem Schlachtfeld schneller zu entscheiden, etwa welche Ziele angegriffen oder welche Kräfte verlegt werden. Die USA dürften hier nicht ins Hintertreffen geraten, falls sie eines Tages gegen China oder einen anderen Gegner kämpfen müssten.
Kriegsminister Pete Hegseth hatte zu Jahresbeginn die „Artificial Intelligence Acceleration Strategy“ vorgestellt. „Wir werden Experimente entfesseln, bürokratische Hürden beseitigen, unsere Investitionen bündeln und zeigen, wie die Umsetzung aussehen muss, damit wir bei militärischer KI führend sind“, sagte Hegseth bei der Präsentation. Ziel ist es, führende KI-Modelle den rund drei Millionen zivilen und militärischen Angehörigen des Ministeriums auf allen Geheimhaltungsstufen zur Verfügung zu stellen.
Laut mehreren US-Beamt:innen verläuft diese Einführung allerdings dezentral. Verschiedene Teile der Regierung nutzen unterschiedliche Tools mit unterschiedlichen Vorgaben und Sicherheitsstandards. Einheitliche Regeln dafür, wie KI-generierte Informationen überprüft werden, gibt es demnach keine. Gerade bei der Zielauswahl wird KI laut CNN zunehmend eingesetzt. „Es gibt keine echte Anleitung dafür, wie ein Mensch in der Entscheidungsschleife zivile Opfer oder Beschuss eigener Truppen verhindern soll“, sagte eine weitere Quelle.
Trump will eine „AI Force“
Parallel dazu setzt US-Präsident Donald Trump auf noch mehr Tempo. Am Samstag kündigte er auf Truth Social an, eine „AI Force“ gründen und einen „AI Czar“ ernennen zu wollen. Als Vorbild nannte er die Space Force, die er in seiner ersten Amtszeit 2019 geschaffen hatte und die er als „enormen Erfolg“ bezeichnete. Die Space Force war die erste neue Teilstreitkraft der USA seit 1947. Für den Posten des KI-Beauftragten wünscht sich Trump „nur Personen mit hohem IQ“. Zuletzt hatte David Sacks diese Rolle inne, seine Tätigkeit als Sonderbeauftragter endete im März.
„Wir werden das Wachstum dieser unglaublichen Industrie in keiner Weise behindern oder ersticken. Vielmehr werden wir sie hegen, ihr helfen und über sie wachen, während sie wächst“, schrieb Trump. KI sei die „nächste industrielle Revolution“ und könne bis zu 25 Prozent der US-Wirtschaftsleistung ausmachen. Warnungen vor einer außer Kontrolle geratenen Superintelligenz bezeichnete er als „Schwindel“. Mögliche Probleme ließen sich mit dem bestehenden Straf- und Zivilrecht lösen.
Die Ankündigung ist eine Reaktion auf eine intensive Debatte in Washington. Führende Köpfe der KI-Branche wie Sam Altman (OpenAI) und Dario Amodei (Anthropic) hatten zuletzt dafür plädiert, die Entwicklung besonders leistungsfähiger Modelle zu bremsen und staatlich zu regulieren. Trump lehnt das ab und verweist auf das Rennen mit China. „Wer KI gewinnt, gewinnt“, lautet seine Devise, wie Trending Topics berichtete.
Was eine AI Force für den militärischen KI-Einsatz bedeuten könnte
Wie die AI Force konkret aussehen soll, ist noch offen. Ob Trump eine eigene Teilstreitkraft nach dem Muster der Space Force, eine Task Force innerhalb der Regierung oder eine andere Struktur meint, geht aus seiner Ankündigung nicht hervor. Eine neue Teilstreitkraft müsste zudem, wie damals die Space Force, vom Kongress per Gesetz beschlossen werden.
Sollte es tatsächlich eine militärische Einheit werden, hätte das weitreichende Folgen. Eine eigene KI-Truppe würde Kompetenzen, Budgets und Personal bündeln, die derzeit über Army, Navy, Air Force und Geheimdienste verstreut sind. Befürworter:innen könnten darin eine Chance sehen, den bislang zersplitterten KI-Einsatz zu vereinheitlichen und damit auch gemeinsame Standards für Prüfung und Freigabe von KI-Ergebnissen einzuführen, genau jene Lücke, die der Fall des chinesischen Schiffes offengelegt hat.
Kritiker:innen dürften dagegen fürchten, dass eine eigene AI Force den Einsatz von KI in Aufklärung und Zielauswahl weiter beschleunigt, während Fragen der menschlichen Kontrolle ungeklärt bleiben. Trumps Signal, die Industrie keinesfalls bremsen zu wollen, und Hegseths Kurs, bürokratische Hürden abzubauen, weisen eher in Richtung Geschwindigkeit als in Richtung zusätzlicher Prüfschritte. Der Beinahe-Zwischenfall macht ein sehr unmittelbares Risiko sichtbar: Menschen, die unter Zeitdruck folgenschwere Entscheidungen auf Grundlage fehlerhafter maschineller Analysen treffen.
