Hintergrund

Midjourney: Warum die Bild-KI wirklich eingeschränkt wurde

Midjourney erzeugte Bilder von Donald Trump und dem Papst. © Midjourney
Midjourney erzeugte Bilder von Donald Trump und dem Papst. © Midjourney
Startup Interviewer: Gib uns dein erstes AI Interview Startup Interviewer: Gib uns dein erstes AI Interview

Donald Trump, der von US-Polizisten abgeführt wird, obwohl er weiter auf freiem Fuß ist, und ein quicklebendiger Papst Franziskus, der leider eigentlich mit Atembeschwerden im Krankenhaus liegt und deswegen für die Osterrede am Petersplatz in Rom ausfällt. Das sind zwei von mehreren Bildern, die aus dem AI-Generator Midjourney stammen und beängstigend real aussehen – so real, dass man damit Falschmeldungen der besonderen Art verbreiten kann. Mittlerweile gibt es einen Ansturm von Nutzer:innen auf das AI-Tool.

Das geht nun vielen zu weit, inklusive dem Gründer des AI-Startups Midjourney, David Holz. „Aufgrund der außerordentlichen Nachfrage und des Missbrauchs von Testversionen werden wir die kostenlosen Testversionen vorübergehend deaktivieren, bis wir die nächsten Verbesserungen am System vorgenommen haben“, verkündete Holz auf dem hauseigenen Discord-Channel des Unternehmens. Discord ist der Kanal, über den Nutzer:innen an besagter Betas-Version teilnehmen konnten.

Die beiden Aufsehen erregenden Bilder waren mit Midjourney 5 erstellt worden, das erst am 15. März veröffentlicht wurde und sehr hohe Auflösungen und fotorealistische Abbildungen schafft. Doch zu Midjourney 5 haben reguläre Gratis-Nutzer:innen noch keinen Zugang. Die vorübergehende Sperre von früheren Midjourney-Versionen hat den Grund, dass die kostenlosen Varianten von einer Vielzahl an Nutzer.innen überrannt worden sind, die immer neue Accounts anlegten, um Gratis-Bilder zu bekommen. Nur die ersten 25 Bilder sind kostenlos, danach muss man zahlen.

KI-Kunst: Sammelklage gegen Stable Diffusion und Midjourney

Nutzer:innen-Ansturm als Auslöser

Laut Gründer Holz, der vorher Leap Motion gründete und bei der NASA sowie beim renommierten Max-Planck-Institut arbeitete, soll in China ein How-to-Video über Midjourney gewesen sein, dass den Nutzer:innen-Ansturm verursachte. Gleichzeitig sei es zu einer Knappheit bei GPUs gekommen – also jenen Prozessoren, die KI für die Berechnung von Bildern und Co benötigt. Das zusammengenommen sei der Hauptgrund gewesen, warum nun die kostenlosen Testversionen eingeschränkt wurden.

Bezüglich generierter Inhalte gibt es bei Midjourney nach den Skandalen um die Trump- und Papst-Bilder noch keine großen Konsequenzen. Zwar gibt es eine Liste an verbotener Prompts, auf die nun auch der Befehl „Verhaftung“ gesetzt wurde, doch öffentlich einsehbar ist das nicht. Dass Midjourney aber unter Zugzwang steht, weil Holz. „Moderation ist schwierig und wir werden bald verbesserte Systeme bereitstellen. Wir nehmen eine Menge Feedback und Ideen von Experten und der Community auf und versuchen, wirklich durchdacht zu sein“, sagte Holz gegenüber The Verge.

Die schnelle Fortentwicklung von KI-Modellen hat weltweit für Kritik gesorgt. Eine Reihe prominenter Internet-Persönlichkeiten rund um Elon Musk fordern bereits ein Moratorium für die Weiterentwicklung von AI, auch die UNESCO hat strenge ethische Regeln für künstliche Intelligenz eingefordert. Die EU feilt derzeit an einem AI Act, um die neuen Technologien in den Griff zu kriegen.

Midjourney, Dall-E & Imagen: Der unaufhaltsame Aufstieg der AI-Bilder

Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Powered by Dieser Preis-Ticker beinhaltet Affiliate-Links zu Bitpanda.

Deep Dives

#glaubandich CHALLENGE Hochformat.

#glaubandich CHALLENGE 2025

Österreichs größter Startup-Wettbewerb - 13 Top-Investoren mit an Bord
© Wiener Börse

IPO Spotlight

powered by Wiener Börse

Austrian Startup Investment Tracker

Die Finanzierungsrunden 2024

Trending Topics Tech Talk

Der Podcast mit smarten Köpfen für smarte Köpfe

2 Minuten 2 Millionen | Staffel 11

Die Startups - die Investoren - die Deals - die Hintergründe

The Top 101

Die besten Startups & Scale-ups Österreichs im großen Voting

BOLD Community

Podcast-Gespräche mit den BOLD Minds

IPO Success Stories

Der Weg an die Wiener Börse

Weiterlesen