ChatGPT bekommt unsichtbare Wasserzeichen für Texte

Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.

Wer sich in Europa Texte von ChatGPT schreiben lässt, hinterlässt bald eine unsichtbare Signatur: OpenAI hat soeben angekündigt, KI-generierte Texte von ChatGPT und Codex in der EU in den kommenden Wochen mit einem Wasserzeichen zu versehen. Damit zieht der ChatGPT-Hersteller mit Anthropic gleich, das alle Claude-Texte bereits seit Anfang August markiert. Hintergrund sind die Transparenzpflichten des EU AI Act.

Wo und ab wann die Kennzeichnung kommt

Laut der Ankündigung von OpenAI wird das Wasserzeichen schrittweise eingeführt:

• ChatGPT und Codex: In den kommenden Wochen werden Texte für alle Nutzer:innen in der EU markiert. Andere Regionen bleiben vorerst ausgenommen, OpenAI will zuerst aus dem Einsatz in der Praxis lernen.
• API: Entwickler:innen weltweit können die Funktion ab sofort freiwillig in den Projekt- und Organisationseinstellungen einschalten. Standardmäßig ist sie deaktiviert.
• Bilder und Audio: Hier setzt OpenAI auf C2PA-Metadaten und auf SynthID-Wasserzeichen, die von Google DeepMind lizenziert sind.

Seit Anfang August gelten die Transparenzregeln nach Artikel 50 des EU AI Act, die KI-Anbieter verpflichten, generierte Inhalte maschinenlesbar zu kennzeichnen. Welche Kennzeichnungsregeln für Unternehmen seither gelten, haben wir bereits zusammengefasst.

So funktioniert das Wasserzeichen

Sichtbar ist von der Kennzeichnung nichts. Die Technologie namens textGrain baut ein statistisches Signal direkt in die Wortwahl des Sprachmodells ein: An Stellen, an denen mehrere Wörter gleich gut passen, entscheidet ein geheimer Schlüssel, welches gewählt wird. Über einen längeren Text ergibt sich so ein Muster, das nur mit diesem Schlüssel erkennbar ist. Der Text selbst bleibt unverändert lesbar, es werden keine versteckten Zeichen eingefügt.

Für normale Nutzer:innen gibt es deshalb auch keine Möglichkeit, selbst zu prüfen, ob ein Text markiert ist. Den passenden Detektor stellt OpenAI zunächst nur ausgewählten Forschenden und Expert:innenorganisationen zur Verfügung, die Freigabe erfolgt im Einzelfall. Eine öffentliche Version gibt es zum Start nicht. Langfristig will OpenAI die Technologie aber als Open Source veröffentlichen.

Die Einschränkungen

OpenAI selbst ist bemerkenswert offen, was die Grenzen angeht:

• Textlänge: Bei Passagen von rund 200 Tokens erkennt der Detektor das Wasserzeichen in etwa 80 Prozent der Fälle, bei 400 Tokens in rund 95 Prozent. Kurze Texte bleiben also oft unerkannt.
• Umschreiben: Werden 10 Prozent der Wörter durch Synonyme ersetzt, sinkt die Erkennungsrate auf 66 Prozent, bei 25 Prozent auf nur noch 17 Prozent.
• Mathematik: Bei mathematischen Inhalten funktioniert die Erkennung deutlich schlechter.
• Aussagekraft: Das Wasserzeichen sagt laut OpenAI nichts darüber aus, wie viel ein Mensch beigetragen hat, wem ein Text gehört, wer ihn erstellt hat oder ob er inhaltlich stimmt. Umgekehrt beweist ein fehlendes Wasserzeichen nicht, dass ein Mensch den Text geschrieben hat.

Anthropic ist schon weiter

Anthropic hat seine Claude-Modelle bereits mit dem Inkrafttreten der EU-Regeln umgestellt, und zwar weltweit statt nur in Europa. Laut Anthropics Support-Seite werden Texte in allen Claude-Produkten mit einem unsichtbaren Wasserzeichen versehen, von der Chat-App über die API bis zu Claude Code, auch bei Cloud-Partnern wie AWS, Google Cloud und Microsoft. Dateien wie Bilder erhalten zusätzlich C2PA-Metadaten. Eine Möglichkeit, die Kennzeichnung abzuschalten, nennt Anthropic nicht.

Technisch funktioniert das ähnlich wie bei OpenAI: Anthropic nutzt eine Variante von SynthID-Text von Google DeepMind, die das Signal ebenfalls in der Wahl zwischen gleichwertigen Synonymen versteckt. Für die Prüfung gibt es einen kostenlosen Content Checker für die C2PA-Metadaten von Dateien. Die Erkennungs-API für Texte befindet sich dagegen in einer geschlossenen Testphase für Behörden, Medien, Faktenchecker:innen, Forschende und Bildungseinrichtungen. Auch Anthropic betont, dass ein gefundenes Wasserzeichen nur zeigt, dass Claude an einem Text beteiligt gewesen sein könnte.

Kritik und Gegenargumente

Bei Anthropic sorgte die Einführung für teils heftigen Widerstand. Wie wir berichtet haben, kündigten zahlreiche zahlende Nutzer:innen ihr Abo, darunter vor allem Menschen, die Claude nur zum Lektorieren eigener Texte nutzen, und Entwickler:innen, die schlechteren Code befürchteten. Auch wer einen selbst geschriebenen Text nur übersetzen lässt, bekommt das Wasserzeichen. OpenAI hatte zudem schon früher davor gewarnt, dass Wasserzeichen Menschen benachteiligen könnten, die nicht in ihrer Muttersprache schreiben und KI zum Ausbessern ihrer Texte nutzen.

Befürworter:innen halten dagegen, dass die Kennzeichnung eine Grundlage für Transparenz schafft, die der EU AI Act ausdrücklich verlangt. Die Erkennungswerkzeuge sollen vor allem Forschenden, Medien und Faktenchecker:innen helfen, KI-generierte Inhalte im großen Stil aufzuspüren. Bei Verstößen gegen die Transparenzpflichten drohen Anbietern Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.