Diese App produziert realistische Deepfake-Videos in Sekunden und ist in China ein viraler Hit

Während Politiker eindringlich vor Deepfake-Videos warnen, entwickeln sie sich in China gerade zu einem viralen Hit. Schuld ist die App ZAO, die das Gesicht seiner Nutzer in bekannte Filmszenen montiert. Das Erschreckende daran: Die Manipulation ist kaum als solche zu erkennen, der Algorithmus braucht nur ein Foto von dem Nutzer und wenige Sekunden für die Erstellung des Deepfakes. Noch ist die App offiziell nur in China erhältlich, auf Twitter haben die Videos aber weltweit für Aufsehen gesorgt.

https://twitter.com/AllanXia/status/1168049059413643265

ZAO scheint selbst gängige Probleme solcher Manipulationen zu lösen: Zähne sehen natürlich aus, die Haut ist nicht unnatürlich glatt, die Mundbewegung stimmig und nur selten sind die Übergänge zwischen Gesicht des Nutzers und Körper des Protagonisten auszumachen. Die App tauscht lediglich das Gesicht aus und hat somit nicht mit der Bewegung der Haare zu kämpfen. Und natürlich lassen sich damit (noch) nicht jene Deepfakes erstellen, vor denen Politiker zittern: Die Auswahl ist auf wenige Szenen aus Filmen oder Musikvideos beschränkt. Aber ZAO zeigt, dass es nur eine Frage der Zeit ist, bis wirklich furchterregende Deepfakes ohne technisches Wissen, binnen Sekunden mit einer simplen App erzeugt werden können.

Wahlmanipulation mit Deepfakes

Politiker warnen regelmäßig vor solchen Videos. Sie hätten das Zeug, die Demokratie an sich zu gefährden, meinen Analysten. Warum? Weil sie es ermöglichen, absolut glaubwürdige Falschmeldungen zu verbreiten, die meinungsbildend sind und damit Wahlergebnisse beeinflussen könnten. Ein Beispiel: Im Frühsommer taucht im Internet ein Video von der US-Demokratin Nancy Pelosi auf. Sie scheint bei einem offiziellen Auftritt betrunken zu sein. Dass es ein Fake ist, ist mit freiem Auge nicht zu erkennen. US-Präsident Donald Trump teilt das Video auf Twitter.

Bei ZAO kommt noch eine weitere Dimension hinzu. Die App ist aufgrund seiner Nutzungsrichtlinien in die Kritik geraten. Der Anbieter sichert sich darin die Nutzungsrechte an allen Videos, die mit der App erstellt werden. Der Anbieter Momo, ein auf Dating-Apps spezialisiertes Unternehmen, hat angekündigt, die Kritik ernst zu nehmen.