ChatGPT wird in der EU jetzt wie Google als Suchmaschine reguliert
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Die EU-Kommission hat soeben drei weitere Dienste unter das schärfste Regime des Digital Services Act (DSA) gestellt: ChatGPT gilt künftig als Very Large Online Search Engine (VLOSE), Reddit und Roblox werden als Very Large Online Platforms (VLOPs) geführt. Alle drei Dienste haben selbst angegeben, im Schnitt mindestens 45 Millionen monatlich aktive Nutzer:innen in der EU zu erreichen, und damit jenen Schwellenwert, ab dem die Kommission direkt zuständig wird.
Damit steigt die Zahl der benannten sehr großen Plattformen und Suchmaschinen auf 28. Neu ist vor allem die Einordnung von ChatGPT: Die Kommission argumentiert, dass das KI-System auf Eingaben der Nutzer:innen reagiert und dabei auch das Web durchsucht. Als solcher Hybriddienst qualifiziere sich ChatGPT als Online-Suchmaschine im Sinne des DSA. Reddit gilt als diskussionsbasierte Plattform mit themenbezogenen Communities, Roblox als immersive Gaming- und Kreationsplattform, auf der Nutzer:innen Spiele veröffentlichen und Spiele anderer spielen. Weil beide Dienste die öffentliche Verbreitung von Inhalten Dritter ermöglichen, fallen sie unter die Definition der Online-Plattform.
Vier Monate bis zu den zusätzlichen Pflichten
Nach der Notifizierung bleiben den Diensten vier Monate, also bis Ende Dezember, um die zusätzlichen Verpflichtungen für VLOPs und VLOSEs zu erfüllen. Kern davon ist eine jährliche Bewertung systemischer Risiken, die aus dem Dienst selbst und aus seinen algorithmischen Systemen entstehen: die Verbreitung illegaler Inhalte, negative Auswirkungen auf Minderjährige, Folgen für das körperliche und geistige Wohlergehen der Nutzer:innen, für Grundrechte, Wahlprozesse und die öffentliche Sicherheit. Auf die Analyse müssen konkrete Gegenmaßnahmen folgen, die von unabhängigen Prüfstellen auditiert werden.
Dazu kommen operative Auflagen, die tiefer in die Produkte eingreifen: ein öffentlich einsehbares Werbearchiv, Datenzugang für zugelassene Forscher:innen, halbjährliche Transparenzberichte, Meldemechanismen für illegale Inhalte samt Beschwerdeverfahren, ein Krisenreaktionsmechanismus sowie bei Plattformen mit Empfehlungssystemen mindestens eine Option, die nicht auf Profiling beruht. Werbung, die auf Profiling mit Daten Minderjähriger basiert, ist untersagt. Die allgemeinen DSA-Pflichten für Online-Plattformen und Suchmaschinen galten für die drei Dienste bereits davor.
Mit der Benennung erhält die Kommission zudem Untersuchungsbefugnisse, um die Funktionsweise der Dienste und aller damit verbundenen Systeme zu bewerten. Die Aufsicht teilt sie sich mit den nationalen Koordinatoren für digitale Dienste: mit Coimisiún na Meán für ChatGPT und Reddit, mit der Behörde für Verbraucher und Märkte (ACM) für Roblox, weil die Dienste in Irland beziehungsweise in den Niederlanden niedergelassen sind. Wie ernst die Kommission die Durchsetzung nimmt, hat sie zuletzt in Verfahren gegen große Pornoplattformen gezeigt.
Was das für die Geschäftsmodelle bedeutet
Für alle drei Unternehmen entstehen zunächst laufende Kosten. VLOPs und VLOSEs finanzieren die Aufsicht über eine jährliche Gebühr mit, die sich am weltweiten Nettoergebnis orientiert und bei 0,05 Prozent gedeckelt ist. Dazu kommen Compliance-Teams, externe Audits und Risikoberichte. Bei Verstößen drohen Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes.
Konkreter wird es beim jeweiligen Kerngeschäft. Roblox verdient an einer Nutzer:innenbasis, die zu einem erheblichen Teil aus Kindern und Jugendlichen besteht, und hat den Zugang zu Chatfunktionen bereits an eine Altersschätzung per Gesichtsscan gekoppelt. Unter dem DSA wird diese Praxis nun regulatorisch bewertbar, in zwei Richtungen: Die Kommission prüft sowohl den Schutz Minderjähriger als auch die Verhältnismäßigkeit der dafür eingesetzten Mittel. Reddit finanziert sich über Werbung und über Datenlizenzen an KI-Anbieter, wodurch das Werbearchiv und die Vorgaben zu Empfehlungssystemen unmittelbar das Anzeigen- und Ranking-Geschäft berühren. Und OpenAI baut mit dem Test von Werbung in ChatGPT gerade ein zweites Standbein neben den Abos auf, das damit von Beginn an unter die Transparenz- und Profiling-Regeln des DSA fällt.
Der größte strukturelle Effekt liegt bei OpenAI allerdings in der Einstufung selbst. Erstmals wird ein KI-Assistent regulatorisch wie eine Suchmaschine behandelt, mit allem, was daran hängt: nachvollziehbare Antwortsysteme, Datenzugang für die Forschung, Meldewege für problematische Inhalte. Für den gesamten Markt der KI-Chatbots ist das ein Präzedenzfall, weil er festlegt, ab welcher Reichweite ein Modellanbieter in Europa wie ein Infrastrukturdienst reguliert wird.
„Diese neuen Bezeichnungen bedeuten, dass ChatGPT, Reddit und Roblox nun einem höheren Maß an Kontrolle und Rechenschaftspflicht in der Europäischen Union unterliegen werden, im Einklang mit ihren großen Auswirkungen auf unsere Bürger und die Gesellschaft“, sagt Henna Virkkunen, Exekutiv-Vizepräsidentin für technologische Souveränität, Sicherheit und Demokratie. „Wir beobachten die digitale Landschaft weiterhin genau und werden nicht zögern, eine Plattform zu benennen, die die Schwelle für eine verstärkte Aufsicht nach dem Gesetz über digitale Dienste erreicht.“
