Warum du wohl nie erfahren wirst, welche deiner Daten ins KI-Training geflossen sind
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Seit dem Vorjahr gilt in der EU eine Pflicht, die auf den ersten Blick nach dem Ende der Geheimniskrämerei klingt: Wer ein Allzweck-KI-Modell auf den europäischen Markt bringt, muss öffentlich zusammenfassen, mit welchen Inhalten es trainiert wurde. Verankert ist das in Artikel 53 des AI Act, das Format gibt die EU-Kommission über ein verpflichtendes Template vor.
Wer sich davon erwartet, endlich nachschlagen zu können, ob der eigene Blog, das eigene Buch oder die eigenen Fotos in ChatGPT, Claude oder Gemini gelandet sind, wird allerdings enttäuscht. Das FAQ der Kommission zum Template macht ziemlich unmissverständlich klar, wo die Grenzen der Transparenz liegen.
Was Anbieter offenlegen müssen
Die Liste ist nicht kurz. Anbieter müssen angeben, um welches Modell und welche Modellversionen es geht, welche Arten von Inhalten ins Training geflossen sind (Text, Bild, Audio, Video), in welcher Größenordnung sich die Datenmenge bewegt und welche allgemeinen Merkmale die Daten haben. Öffentlich verfügbare Datensätze sind aufzulisten. Bei lizenzierten oder privat beschafften Datensätzen genügt eine Beschreibung ohne die kommerziellen Details. Bei Nutzerdaten müssen Anbieter offenlegen, aus welchen Diensten und in welchen Modalitäten sie stammen, personenbezogene Informationen bleiben dabei außen vor. Auch synthetische Daten sind zu beschreiben, ebenso die Maßnahmen gegen illegale Inhalte und alles, was die Ausübung von Urheberrechten betrifft.
Am interessantesten ist der Punkt Web-Scraping. Hier müssen Anbieter die Namen der eingesetzten Crawler nennen, die Zeiträume der Sammlung angeben und beschreiben, was gecrawlt wurde. Und sie müssen die wichtigsten Domains offenlegen, aus denen die Daten stammen.
Und genau hier hört die Transparenz auf
Die Zahl dazu ist der eigentliche Kern der Sache: Offenzulegen sind die obersten zehn Prozent aller Domains, gemessen an der Datenmenge. Für kleine und mittlere Unternehmen sind es die obersten fünf Prozent oder 1.000 Domains. Alles darunter, und das ist bei Modellen, die aus Milliarden von Webseiten lernen, die überwältigende Mehrheit, bleibt unsichtbar. Wenn deine Website nicht zu den großen Datenlieferanten des Internets zählt, taucht sie in keiner dieser Zusammenfassungen auf, selbst wenn sie vollständig eingesammelt wurde.
Dazu kommen weitere Ausnahmen, die das FAQ ausdrücklich benennt. Einzelne Werke müssen nicht genannt werden. Einzelne URLs ebenso wenig. Datensätze unterhalb der Schwellenwerte fallen heraus. Geschäftsgeheimnisse und vertrauliche Geschäftsinformationen sind gegen das Transparenzinteresse abzuwägen, was in der Praxis bedeutet, dass Anbieter selbst entscheiden, wo sie diese Linie ziehen. Und wer trotz sorgfältiger Bemühungen bestimmte Informationen nicht mehr rekonstruieren kann, muss die Lücke lediglich begründen, nicht schließen.
Die Zusammenfassung ist damit ein Kategorienverzeichnis, keine Suchmaschine. Sie sagt dir, dass ein Modell etwa Common Crawl, Wikipedia und eine Reihe großer Nachrichtenportale verarbeitet hat. Sie sagt dir nicht, ob dein Text dabei war.
Der Zeitplan verschiebt die Antwort weiter nach hinten
Auch die Fristen tragen dazu bei, dass die Frage vorerst offen bleibt. Modelle, die vor dem Inkrafttreten der Pflicht auf den Markt gekommen sind, und dazu zählen viele der heute genutzten Systeme, haben bis August kommenden Jahres Zeit, ihre Zusammenfassung nachzureichen. Aktualisiert werden muss danach halbjährlich oder früher, wenn wesentliche neue Trainingsdaten dazukommen.
Durchsetzbar sind die GPAI-Pflichten erst seit diesem Sommer, seither drohen Geldbußen von bis zu drei Prozent des weltweiten Jahresumsatzes oder 15 Millionen Euro, je nachdem, welcher Betrag höher ist. Am Artikel 53 selbst hat der Digital Omnibus nichts geändert, mit dem die EU-Kommission andere Teile des AI Act entschärft hat.
Japan geht einen Schritt weiter, aber unverbindlich
Interessant wird der Vergleich mit Japan. Ein Expertengremium der dortigen Regierung hat kürzlich einen Kodex für Anbieter generativer KI gebilligt, über den die Japan Times berichtet. Dessen zweiter Grundsatz sieht vor, dass Unternehmen auf Anfrage von Rechteinhabern Auskunft darüber geben, ob bestimmte Webseiten in den Trainingsdaten enthalten sind.
Das ist inhaltlich genau das, was das EU-Template ausklammert. Der Haken: Der japanische Kodex ist rechtlich nicht verbindlich, Unternehmen können sich für „Comply or explain“ entscheiden und öffentlich begründen, warum sie nicht mitmachen.
Was du stattdessen tun kannst
Wer wissen will, ob eigene Inhalte in einem Modell stecken, ist weiter auf indirekte Methoden angewiesen. Forschende arbeiten mit Memorisierungstests, bei denen Modelle dazu gebracht werden, längere Passagen wörtlich wiederzugeben. Ein prominentes Beispiel war der Nachweis, dass Llama große Teile von Harry Potter praktisch auswendig konnte. Solche Tests funktionieren aber vor allem bei sehr häufig vorkommenden Texten, nicht bei einem durchschnittlichen Blogeintrag.
Der zweite Weg führt über Gerichte. In den USA laufen zahlreiche Copyright-Verfahren rund um AI-Training, in denen die Herkunft der Daten im Discovery-Verfahren offengelegt werden muss. Was dort ans Licht kommt, ist bisher deutlich detaillierter als alles, was Anbieter freiwillig oder auf Basis des Templates veröffentlichen.
Bleibt der Blick nach vorn: Wer nicht will, dass künftige Modelle mit den eigenen Inhalten trainiert werden, kann sich über den Rechtevorbehalt beim Text- und Data-Mining wehren, technisch etwa über robots.txt oder maschinenlesbare Nutzungsvorbehalte. Das wirkt allerdings nur für kommende Crawling-Durchgänge. Was bereits in den Gewichten eines trainierten Modells steckt, lässt sich damit nicht mehr herausholen.
Opt-outs bei Instagram, Facebook oder LinkedIn
Bei den großen Plattformen selbst gibt es zumindest einen dokumentierten Ausstieg, weil sie ihre KI-Modelle mit den Inhalten ihrer eigenen Nutzerinnen und Nutzer trainieren. Meta verarbeitet öffentliche Beiträge, Kommentare und Profilinformationen von erwachsenen Nutzern aus der EU für das Training seiner KI und stützt sich dabei auf das „berechtigte Interesse“ nach DSGVO. Genau deshalb gibt es ein Widerspruchsrecht. Der Weg führt über eigene Formulare, jeweils eines für Facebook und eines für Instagram, erreichbar auch über die Datenschutzrichtlinie in den Einstellungen, wenn man dort nach „Widerspruch“ sucht. Der Widerspruch gilt laut Meta dauerhaft und muss nicht wiederholt werden, bei verknüpften Konten deckt eine Eingabe alle ab. Für WhatsApp gibt es ein vorsorgliches Formular, obwohl Meta angibt, WhatsApp-Daten derzeit nicht fürs Training zu verwenden.
LinkedIn nutzt seit dem Vorjahr auch die Daten europäischer Mitglieder für das Training seiner generativen KI, ausgenommen sind Konten Minderjähriger und private Nachrichten. Das Opt-out steckt in den Einstellungen unter dem Punkt „Datenschutz“ im Bereich „So verwendet LinkedIn Ihre Daten“, der zuständige Schalter heißt „Daten zur Verbesserung generativer KI“. Er ist standardmäßig aktiviert und lässt sich mit einem Klick deaktivieren, wie wir hier beschrieben haben.
Für beide Fälle gilt dieselbe Einschränkung wie beim Rechtevorbehalt: Der Widerspruch wirkt in die Zukunft. Was bereits in ein Modell eingeflossen ist, holt kein Formular zurück. Und wie viel davon dein Material ist, wirst du der offiziellen Zusammenfassung nach heutigem Stand nicht entnehmen können.
