Grok-Skandal: EU prüft Musks xAI wegen sexualisierten Deepfakes
Die EU hat laut New York Times eine formelle Untersuchung gegen Elon Musks xAI eingeleitet, nachdem es zu einem öffentlichen Aufschrei gekommen war, weil dessen Chatbot Grok sexualisierte Bilder von Frauen und Kindern verbreitet hatte. Die Bilder hatten User sowohl im sozialen Netzwerk X als auch in der separaten Grok-App gepostet, die beide xAI betreibt.
Die am Montag im Rahmen des EU-Gesetzes über digitale Dienste angekündigte Untersuchung soll prüfen, ob xAI versucht hat, die Risiken des Einsatzes der Grok-Tools auf X und die Verbreitung von Inhalten, die „als Material über sexuellen Kindesmissbrauch gelten können“, zu mindern.
Grok in Malaysia und Indonesien bereits verboten
„Nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung”, sagt Henna Virkkunen, Executive Vice-President for Tech Sovereignty, Security and Democracy bei der EU-Kommission. „Mit dieser Untersuchung werden wir feststellen, ob X seinen gesetzlichen Verpflichtungen nachgekommen ist oder ob es die Rechte europäischer Bürger:innen als Kollateralschaden seines Dienstes behandelt hat.“
Sollte das Unternehmen gegen die Vorschriften verstoßen haben, kann die EU Geldstrafen in Höhe von bis zu sechs Prozent des weltweiten Jahresumsatzes verhängen. Ein EU-Beamter erklärte, dass es während der Untersuchung keine vorläufigen Maßnahmen geben werde. Bereits vor der EU hat die britische Medienaufsichtsbehörde Ofcom eine formelle Untersuchung gegen Grok eingeleitet. Währenddessen haben Malaysia und Indonesien den Chatbot gleich vollständig verboten.
Tool erzeugte drei Millionen sexualisierte Bilder – 23.000 von Kindern
Nach dem Skandal beschränkte xAI die Nutzung von Grok auf zahlende Abonnent:innen und erklärte, dass man „technologische Maßnahmen ergriffen“ habe, um Grok daran zu hindern, bestimmte sexualisierte Bilder zu generieren. Musk sagte außerdem, dass „jeder, der Grok zur Erstellung illegaler Inhalte nutzt, die gleichen Konsequenzen zu tragen hat, als würde er illegale Inhalte hochladen.“ In der Praxis stellte sich jedoch heraus, dass sich die neuen Maßnahmen von Grok schnell umgehen lassen (wir berichteten).
Wie groß das Problem sexualisierter Darstellungen durch Grok wirklich ist, zeigt eine neue Analyse des Center for Countering Digital Hate (CCDH). Dieser zufolge hat das AI-Tool innerhalb von nur elf Tagen etwa drei Millionen sexualisierte Bilder erzeugt. Laut der Untersuchung scheinen rund 23.000 dieser Darstellungen Kinder zu zeigen.
Die EU-Kommission verhängte im Dezember letzten Jahres eine Geldstrafe in Höhe von 120 Millionen Euro gegen X wegen Verstoßes gegen ihre Transparenzvorschriften, unzureichendem Zugang zu Daten und der irreführenden Gestaltung seiner blauen Häkchen für verifizierte Konten. Musk und die US-Regierung haben diese Entscheidung kritisiert, wobei die Trump-Administration behauptete, die EU würde amerikanische Firmen unfair behandeln.
