Forscher:innen

Nightshade: Software „vergiftet“ Bilder gegen Missbrauch durch AI

© nightshade.cs.uchicago.edu
© nightshade.cs.uchicago.edu

Manche Nachtschattengewächse bzw. Teile von ihnen können für den Menschen giftig sein – und eine neue Software namens „Nightshade“ soll für Künstliche Intelligenz zum Datengift werden. Ein Forscher:innen-Team rund um Shawn Shan von der University of Chicago haben ein kostenloses Software-Tool entwickelt, dass kopiergeschützte Bilder digital „vergiften“ können soll. Würde man die Fotos etwa von Künstler:innen einfach kopieren, um damit eine AI zu trainieren – die AI würde die Bilder anders als der Mensch sehen und Falsches lernen.

Mit Nightshade wollen die Forscher:innen Content-Kreator:innen ein Tool in die Hand geben, um ihre Inhalte gegen das ungefragte Nutzen durch AI-Unternehmen zu schützen. Opt-out-Listen und „Do not scrape“-Hinweise würden von Unternehmen, die ihre AI-Modelle mit kostenlosen Daten trainieren wollen, oft einfach ignoriert werden – und später ist es schwer beweisbar, dass Content ohne Zustimmung verwendet worden ist. Die Klagen von Getty Images und Künstler:innen gegen Stability AI und andere AI-Startups drehen sich genau um die Frage der unerlaubten Nutzung von Bild-Content.

„Um dieser Machtasymmetrie entgegenzuwirken, haben wir Nightshade entwickelt und implementiert, ein Tool, das jedes Bild in eine Datenprobe verwandelt, die für das Modelltraining ungeeignet ist. Genauer gesagt, verwandelt Nightshade Bilder in „giftige“ Proben, so dass Modelle, die ohne Zustimmung mit ihnen trainieren, unvorhersehbare Verhaltensweisen erlernen, die von den erwarteten Normen abweichen, z. B. könnte eine Eingabeaufforderung, die nach dem Bild einer im Raum fliegenden Kuh fragt, stattdessen das Bild einer im Raum schwebenden Handtasche erhalten“, heißt es seitens der Forscher:innen.

Getty Images verklagt Stable Diffusion wegen möglicher Urheberrechtsverletzung

Schattierungen verändern Bilder für KIs

Nightshade funktioniert so: Während Bilder für das menschliche Auge im Vergleich zum Original weitgehend unverändert bleiben, sehen sie für das KI-Modell völlig anders aus. „Ein menschliches Auge könnte zum Beispiel ein schattiertes Bild einer Kuh auf einer grünen Wiese weitgehend unverändert sehen, aber ein KI-Modell könnte eine große Ledertasche im Gras liegen sehen. Wenn das Modell mit einer ausreichenden Anzahl schattierter Bilder trainiert wird, auf denen eine Kuh zu sehen ist, wird es zunehmend zu der Überzeugung gelangen, dass Kühe schöne braune lederne Griffe und glatte Seitentaschen mit einem Reißverschluss und vielleicht ein schönes Markenlogo haben“, so die Forscher:innen.

Simple Methoden, um Nightshade auszutricksen, würden nicht funktionieren; man könne die „vergifteten“ Bilder zuschneiden, komprimieren, Pixel glätten oder Rauschen hinzufügen, die „Giftwirkung“ würde erhalten bleiben. „Sie können Screenshots oder sogar Fotos von einem Bild machen, das auf einem Monitor angezeigt wird, und die Schatteneffekte bleiben erhalten“, heißt es.

Was potenzielle Nutzer:innen von Nightshade wissen sollten: Da es sich um keine Wasserzeichen oder Ähnliches handelt, sondern um eine direkte Veränderung der eigenen Bilder, funktioniert die Methode nicht immer gleich gut. „Die von Nightshade vorgenommenen Änderungen sind bei Bildern mit flachen Farben und glatten Hintergründen besser sichtbar“, heißt es. Außerdem könne es eine Art Wettrüsten und immer bessere Umgehungsversuche geben, weswegen die Software nicht lange zukunftssicher bleiben könnte. Wer sich jedenfalls dafür interessiert, kann Nightshade bereits kostenlos laden und installieren.

Die Macher:innen von Nightshade wurden bereits für Glaze bekannt. Dabei handelt es sich um eine Software, die Künstler:innen vor der Nachahmung ihrer Stile durch AI schützen soll. Mit Nightshade bringen sie eine offensivere Methode als bisher auf den Markt.

Getty Images kooperiert mit Startup Runway für AI-generierte Videos

Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Powered by Dieser Preis-Ticker beinhaltet Affiliate-Links zu Bitpanda.

Deep Dives

Austrian Startup Investment Tracker

Die Finanzierungsrunden 2024

#glaubandich-Challenge 2024

Der größte Startup-Wettbewerb Österreichs mit Top VC-Unterstützung

Podcast: Mit den smartesten Köpfen im Gespräch

Der Podcast von Trending Topics

2 Minuten 2 Millionen | Staffel 11

Die Startups - die Investoren - die Deals - die Hintergründe

The Top 101

Die besten Startups & Scale-ups Österreichs im großen Voting

BOLD Community

Podcast-Gespräche mit den BOLD Minds

IPO Success Stories

Der Weg an die Wiener Börse

Weiterlesen