OpenAI erlaubt US-Militär KI-Überwachung im Ausland

Die Zeiten, in denen man ChatGPT einfach nur als nützlichen Helfer im Alltag oder Job betrachten kann, sind endgültig vorbei. Denn nach dem Bekanntwerden des OpenAI-Deals mit dem US-Kriegsministeriums sind die Befürchtungen groß geworden, dass die KI-Modelle des Herstellers auch für die Überwachung von Menschen eingesetzt werden könnte. Zwar hat OpenAI-CEO Sam Altman angekündigt, dass der Vertrag mit dem Pentagon hinsichtlich eines Ausschlusses etwa der NSA von der Nutzung nachgebessert werde.

Jedoch betreffen die Einschränkungen der KI-Nutzung durch US-Behörden nur US-Bürger – die Rede ist dabei immer von „domestic surveillance“. Im Umkehrschluss bedeutet das aber, dass die Restriktionen für Pentagon und Co nicht im Ausland gelten. OpenAI-CEO Sam Altman hat dazu nun auch Stellung genommen und bestätigt, dass das US-Militär „eine gewisse Überwachung von Ausländern durchführen“ werde. Es sei nicht seine Rolle, darüber zu entscheiden, wie das zu bewerten sei, so Altman.

Hier das direkte Zitat von X:

„Thinking through non-domestic surveillance. I have accepted that the US military is going to do some amount of surveillance on foreigners, and I know foreign governments try to do it to us, but I still don’t like it. I think it is very important that society thinks through the consequences of this; perhaps the single principle I care most about for AI is that it is democratized, and I can see surveillance making that worse. On the other hand, I also respect the democratic process. I don’t think this is up to me to decide.“

OpenAI will NSA nachträglich von Nutzung ausschließen

Beunruhigt von dem Pentagon-Deal waren zuletzt auch viele US-Amerikaner – das ging so weit, dass es Abwanderung von ChatGPT gab, während der Konkurrent Anthropic (der den Pentagon-Deal absagte) starke Zuwächse bei den Nutzerzahlen verzeichnete. Den schnellen Deal, den OpenAI anstelle von Anthropic mit dem US-Kriegsministerium am vergangenen Freitag schloss, bezeichnete Altman als „opportunistisch und schlampig“. Man werde nachbessern.

OpenAI wird den Vertrag um explizite Schutzbestimmungen erweitern, die sich ausschließlich auf US-Bürger beziehen. Die neue Formulierung legt fest, dass das KI-System nicht für die inländische Überwachung von US-Personen und Staatsangehörigen eingesetzt werden darf. Dies gelte in Übereinstimmung mit dem vierten Verfassungszusatz, dem National Security Act von 1947 und dem FISA Act von 1978.

Besonders hervorzuheben ist laut Altman die Klarstellung bezüglich kommerziell erworbener Daten. Das Verteidigungsministerium verstehe die Einschränkung so, dass sie die absichtliche Verfolgung, Überwachung oder Beobachtung von US-Personen verbiete, auch durch den Erwerb oder die Nutzung kommerziell erworbener persönlicher oder identifizierbarer Informationen.