Midjourney: Warum die Bild-KI wirklich eingeschränkt wurde
Donald Trump, der von US-Polizisten abgeführt wird, obwohl er weiter auf freiem Fuß ist, und ein quicklebendiger Papst Franziskus, der leider eigentlich mit Atembeschwerden im Krankenhaus liegt und deswegen für die Osterrede am Petersplatz in Rom ausfällt. Das sind zwei von mehreren Bildern, die aus dem AI-Generator Midjourney stammen und beängstigend real aussehen – so real, dass man damit Falschmeldungen der besonderen Art verbreiten kann. Mittlerweile gibt es einen Ansturm von Nutzer:innen auf das AI-Tool.
Das geht nun vielen zu weit, inklusive dem Gründer des AI-Startups Midjourney, David Holz. „Aufgrund der außerordentlichen Nachfrage und des Missbrauchs von Testversionen werden wir die kostenlosen Testversionen vorübergehend deaktivieren, bis wir die nächsten Verbesserungen am System vorgenommen haben“, verkündete Holz auf dem hauseigenen Discord-Channel des Unternehmens. Discord ist der Kanal, über den Nutzer:innen an besagter Betas-Version teilnehmen konnten.
Die beiden Aufsehen erregenden Bilder waren mit Midjourney 5 erstellt worden, das erst am 15. März veröffentlicht wurde und sehr hohe Auflösungen und fotorealistische Abbildungen schafft. Doch zu Midjourney 5 haben reguläre Gratis-Nutzer:innen noch keinen Zugang. Die vorübergehende Sperre von früheren Midjourney-Versionen hat den Grund, dass die kostenlosen Varianten von einer Vielzahl an Nutzer.innen überrannt worden sind, die immer neue Accounts anlegten, um Gratis-Bilder zu bekommen. Nur die ersten 25 Bilder sind kostenlos, danach muss man zahlen.
Nutzer:innen-Ansturm als Auslöser
Laut Gründer Holz, der vorher Leap Motion gründete und bei der NASA sowie beim renommierten Max-Planck-Institut arbeitete, soll in China ein How-to-Video über Midjourney gewesen sein, dass den Nutzer:innen-Ansturm verursachte. Gleichzeitig sei es zu einer Knappheit bei GPUs gekommen – also jenen Prozessoren, die KI für die Berechnung von Bildern und Co benötigt. Das zusammengenommen sei der Hauptgrund gewesen, warum nun die kostenlosen Testversionen eingeschränkt wurden.
Bezüglich generierter Inhalte gibt es bei Midjourney nach den Skandalen um die Trump- und Papst-Bilder noch keine großen Konsequenzen. Zwar gibt es eine Liste an verbotener Prompts, auf die nun auch der Befehl „Verhaftung“ gesetzt wurde, doch öffentlich einsehbar ist das nicht. Dass Midjourney aber unter Zugzwang steht, weil Holz. „Moderation ist schwierig und wir werden bald verbesserte Systeme bereitstellen. Wir nehmen eine Menge Feedback und Ideen von Experten und der Community auf und versuchen, wirklich durchdacht zu sein“, sagte Holz gegenüber The Verge.
Die schnelle Fortentwicklung von KI-Modellen hat weltweit für Kritik gesorgt. Eine Reihe prominenter Internet-Persönlichkeiten rund um Elon Musk fordern bereits ein Moratorium für die Weiterentwicklung von AI, auch die UNESCO hat strenge ethische Regeln für künstliche Intelligenz eingefordert. Die EU feilt derzeit an einem AI Act, um die neuen Technologien in den Griff zu kriegen.
Midjourney, Dall-E & Imagen: Der unaufhaltsame Aufstieg der AI-Bilder
