Grok: AI-Nacktbilder trotz Einschränkungen weiter möglich
Wie wir berichtet haben, hat Elon Musks Social Media-Plattform X aufgrund des Skandals rund um AI-Nacktbilder seiner Künstlichen Intelligenz Grok Einschränkungen umgesetzt. Der Konzern behauptet, er habe durch diese Maßnahmen die Erstellung solcher Bilder unterbunden, jedoch ist das Problem in der Realität offenbar nicht so einfach zu lösen. Laut The Verge ist es trotz der aktualisierten Einschränkungen von X immer noch einfach, Grok dazu zu bringen, sexualisierte Fotos von realen Personen zu erstellen.
Einschränkungen nur bei bestimmten Anfragen
Nach der Verbreitung von nicht einvernehmlichen sexuellen Deepfakes auf X hat die Plattform detaillierte Änderungen an der Möglichkeit des Grok-Kontos vorgenommen, Bilder von realen Personen zu bearbeiten. So zensiert die Plattform beispielsweise Groks Antworten auf Aufforderungen wie „Zieh ihr einen Bikini an.“ Bei Tests der Funktion am Mittwoch stellte The Verge jedoch fest, dass es immer noch relativ einfach war, Grok dazu zu bringen, freizügige Deepfakes zu generieren. Demnach müsse man nur seine Anfragen ein wenig abändern, um weiterhin freizügige AI-Bilder von echten Menschen zu erhalten.
X und xAI-Eigentümer Elon Musk hatten die Probleme auf „Benutzeranfragen“ und „Fälle, in denen feindselige Hackerangriffe auf Grok-Eingabeaufforderungen zu unerwarteten Ergebnissen führen“ zurückgeführt. Am Mittwochabend war es aber trotz der Behauptungen in der Richtlinie weiterhin möglich, mit der Grok-App und einem kostenlosen Konto freizügige Bilder einer Person im Bikini zu generieren.
Britische Behörde untersucht Grok
Die britische Kommunikationsaufsichtsbehörde Ofcom hat eine Untersuchung eingeleitet. Außerdem tritt in Großbritannien diese Woche ein Gesetz in Kraft, das die Erstellung nicht einvernehmlicher intimer Deepfake-Bilder unter Strafe stellt. Am Mittwochvormittag erklärte Premierminister Keir Starmer gegenüber den Abgeordneten: „Ich wurde heute Morgen darüber informiert, dass X Maßnahmen ergreift, um die vollständige Einhaltung der britischen Gesetze sicherzustellen. Wenn dem so ist, ist das zu begrüßen, aber wir werden nicht nachgeben, und sie müssen handeln.“
