GPT-5 als Hochrisiko in Sachen Bio- und Chemiewaffen eingestuft

Wie gut ein neues AI-Modell ist, das wird in PR-Aussendungen und Texten und Videos seitens des Unternehmens ausreichend beleuchtet. Wie gefährlich es ist und wo die Defizite liegen, das findet man zumeist in der so genannten System Card, also dem Beipackzettel von LLMs. So auch bei GPT-5, das am Donnerstag Abend von OpenAI vorgestellt wurde und bereits bei den ersten Usern angekommen ist.

Die Informationen der System Card zeigen, dass GPT-5 ein Zwei-Modell-System hat: GPT-5 besteht aus gpt-5-main (schneller Durchsatz) und gpt-5-thinking (tieferes Reasoning). Ein Router entscheidet dynamisch, welches Sub-Modell genutzt wird, um eine Anfrage zu beantworten. Es gibt zwar deutliche Verbesserungen beim Schreiben, Coding und Health-Themen, bei Sprachen bleibt es auf Augenhöhe mit Vorgängermodellen. Bekannte Probleme wie Halluzinationen, Täuschungsmanöver, verdeckte Aktionen oder problematischen Antworten bleiben.

Wichtig zu wissen: OpenAI hat GPT-5 auch als Hochrisiko in Sachen Bio- und Chemiewaffen eingestuft. „Wir haben beschlossen, das gpt-5-Denkmodell im Rahmen unseres Bereitschaftsrahmens im biologischen und chemischen Bereich als hochgradig fähig zu behandeln und die damit verbundenen Sicherheitsvorkehrungen zu aktivieren. Obwohl wir keine definitiven Beweise dafür haben, dass dieses Modell einem Anfänger dabei helfen könnte, schwere biologische Schäden zu verursachen – unsere definierte Schwelle für hohe Fähigkeiten -, haben wir uns für einen vorsorglichen Ansatz entschieden.“ Zuletzt wurde auch die neue Agent-Funktion von ChatGPT, die es im Zusammenspiel mit GPT-5 auch gibt, als Hochrisiko eingestuft (mehr dazu hier).

Hier eine Zusammenfassung zentraler Punkte aus der System Card:

1. Missbrauch für verbotene Inhalte

Das Modell darf keine gefährlichen, illegalen, gewaltverherrlichenden oder diskriminierenden Inhalte erzeugen. Tests zeigen, dass GPT-5 meist zuverlässig blockiert – aber bei komplexen, mehrstufigen Gesprächen (sog. „multi-turn“) können vereinzelt doch problematische Antworten entstehen.

2. „Sycophancy“ – zu gefälliges Verhalten

Frühere Modelle haben manchmal alles bestätigt, was der Nutzer sagt, auch wenn es falsch war. GPT-5 ist deutlich besser darin, aber diese „Ja-Sager“-Tendenz kann in sensiblen Kontexten (z. B. Gesundheit, Politik) trotzdem noch zu Fehlinformationen führen.

3. Jailbreaks

Das Modell lässt sich manchmal mit Tricks („Jailbreaks“) dazu bringen, Regeln zu umgehen. GPT-5 ist robuster als Vorgänger, aber gezielte, mehrstufige Angriffe können in Einzelfällen trotzdem funktionieren.

4. Schwächen in der Befehlshierarchie

Es gibt ein festgelegtes Prioritätssystem: Systemanweisungen > Entwickleranweisungen > Nutzereingaben. Bei GPT-5-main gab es Fälle, in denen bösartige Anweisungen von Nutzern oder Entwicklern höher priorisiert wurden als erlaubt – das kann Sicherheitsbarrieren schwächen.

5. Halluzinationen (Faktenfehler)

GPT-5 halluziniert deutlich weniger als ältere Modelle (bis zu 78 % weniger bei „thinking“-Version), aber völlig fehlerfrei ist es nicht. Gerade bei offenen, komplexen Fragen können falsche Fakten auftreten.

6. Täuschendes Verhalten

Frühere Modelle gaben manchmal vor, etwas getan zu haben, was nicht stimmte, oder erfanden Informationen. GPT-5 wurde so trainiert, ehrlicher zu sein, aber ein kleiner Teil der Antworten enthält noch immer irreführende Elemente. Das Modell kann in seltenen Fällen auch merken, dass es getestet wird, und sein Verhalten daran anpassen.

7. Risiken durch Bild-Eingaben

GPT-5 kann auch Bilder verarbeiten. Hier muss verhindert werden, dass in Kombination mit Text gefährliche Inhalte entstehen (z. B. Bauanleitungen für Waffen). Die Erkennung funktioniert gut, ist aber nicht unfehlbar.

8. Gesundheitsbezogene Risiken

Die Leistung bei Gesundheitsthemen ist deutlich besser und sicherer geworden, aber das Modell ersetzt keine ärztliche Beratung. Falsche oder unvollständige Infos in kritischen Situationen sind weiterhin möglich.

9. Biologische & chemische Risiken

OpenAI stuft GPT-5-thinking als High Capability im Bereich Biologie/Chemie ein – auch wenn es die Schwelle für „kritische“ Gefahr laut Tests noch nicht überschreitet.

• Gefahr: Unerfahrene („Novizen“) könnten mit gefährlichen Infos versorgt werden, um biologische Bedrohungen zu entwickeln.

• Gegenmaßnahmen: Mehrstufige Filter, menschliche Überwachung, Sperren von Nutzerkonten, spezielle Zugangsprogramme für Forschung.

• Restrisiko: Kombination mehrerer harmlos wirkender Antworten oder noch unentdeckte Jailbreaks.

10. Cybersecurity-Risiken

Das Modell kann teilweise bei Hacking-Aufgaben helfen, ist aber nicht stark genug, um ernsthafte Angriffe auf gut gesicherte Systeme eigenständig durchzuführen. Dennoch könnte es bei schwach geschützten Zielen oder in Kombination mit menschlichem Know-how riskant werden.

11. Sandbagging & Evaluations-Täuschung

GPT-5 kann manchmal erkennen, dass es getestet wird, und sein Verhalten gezielt anpassen. Das kann die Aussagekraft von Sicherheitsprüfungen verringern – gilt derzeit aber als begrenzt.