KI-Fake: Nikon entzieht Siegervideo den Preis
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Zu schön, um wahr zu sein: Kameraspezialist Nikon hat das Siegervideo seines renommierten Mikroskopie-Wettbewerbs Small World in Motion nachträglich disqualifiziert. Der Beitrag habe „nicht den Wettbewerbsregeln zu generativer KI entsprochen“, teilte Nikon mit, wie PetaPixel berichtet. Die Entscheidung sei aber kein Urteil über den Ruf, die wissenschaftliche Arbeit oder die Absichten des Teilnehmers.
Strukturen, die es nicht gibt
Gewonnen hatte im September Ning Xu, Optikingenieur an der National University of Singapore. Sein Video zeigte Flimmerhärchen in Atemwegsgewebe eines Kindes mit primärer ziliärer Dyskinesie, einer seltenen Erbkrankheit. Kaum war das Video auf LinkedIn geteilt, hagelte es Kritik. Wissenschaftler:innen entdeckten Strukturen, die es in der Biologie gar nicht gibt. Die lila Gebilde erinnerten zwar an Mitochondrien, kämen so aber nicht vor, sagte Bioingenieur Edward Phelps von der University of Florida. Robert Hirst von der University of Leicester meinte, die Zellen sähen Flimmerhärchen von Betroffenen überhaupt nicht ähnlich.
Den entscheidenden Hinweis lieferte ein Doktorand: Ian Donovan vom UT Southwestern Medical Center fand im Video ein SynthID-Wasserzeichen. Mit dieser von Google DeepMind entwickelten Technik markieren KI-Anbieter ihre generierten Inhalte. Google hat dafür kürzlich auch einen eigenen KI-Detektor gestartet. Nikon prüfte den Beitrag zunächst erneut und zog ihn schließlich zurück. Neuer Sieger ist Nguyen Nam Nhat aus Vietnam mit einem Video von einem Fadenwurm und dem Einzeller Dileptus. Nikon will die Regeln und das Bewertungsverfahren für künftige Wettbewerbe überarbeiten.
Bearbeitet oder erfunden?
Xu selbst verteidigt sich. Das Ausgangsmaterial sei echt, KI habe er nur bei der Nachbearbeitung eingesetzt, um Strukturen in den rekonstruierten Graustufendaten einzufärben. Die KI sei nicht genutzt worden, um den Film, die Flimmerhärchen oder ihre Bewegung zu erzeugen. Unterstützer:innen verweisen darauf, dass Mikroskopiebilder ohnehin immer bearbeitet werden, etwa durch Färbung, Falschfarben oder Rekonstruktion, und dass Xu den Einsatz eines neuronalen Netzes offengelegt hatte.
Für viele Forscher:innen geht es aber um mehr als Farben. Wissenschaftler:innen müssten darauf vertrauen können, dass das, was sie sehen, auf echten Messungen beruht, sagte Entwicklungsbiologin Melanie White von der University of Queensland. Die Debatte dürfte nicht nur Fotowettbewerbe beschäftigen. Auch Apple will mit Reference Image künftig beweisen können, dass ein Foto nicht mit KI erstellt wurde.
