Skandal

Aleph Alpha: Deutscher ChatGPT-Rivale lobt Hitler und diskriminiert

Jonas Andrulis (links) und Samuel Weinbach, Gründer von Aleph Alpha. © Dirk Bruniecki für Deutscher Gründerpreis
Jonas Andrulis (links) und Samuel Weinbach, Gründer von Aleph Alpha. © Dirk Bruniecki für Deutscher Gründerpreis

Das deutsche KI-Scale-up Aleph Alpha gilt als ein wichtiger europäischer Konkurrent zum US-Konzern OpenAI. Erst kürzlich hat die Jungfirma aus Heidelberg in einer Finanzierungsrunde satte 500 Millionen Dollar eingesammelt (wir berichteten). Doch nun entsteht ein Skandal um das Sprachmodell des Unternehmens. Denn das Tool sorgt laut Golem mit menschenverachtenden Dialogen für Empörung. Dazu zählt unter anderem Lob für Hitler und diskriminierende Aussagen gegen verschiedene Gruppen.

Aleph Alpha: Heidelberger KI-Startup sammelt halbe Milliarde US-Dollar ein

Aleph Alpha verspricht „europäische Werte“

Aleph Alpha gibt sich öffentlich eigentlich sehr progressiv. Man wolle eine KI „mit europäischen Werten“ entwickeln und die Technologieabhängigkeit von US-Konzernen wie OpenAI, Google oder Microsoft reduzieren. Doch die Inhalte, die sich durch das Tool verbreiten, sind fragwürdig. Über seinen sogenannten Playground ermöglicht Aleph Alpha den einfachen Zugang zu seinem Basissystem Luminous. Nun fanden sich hierbei einige verstörende Aussagen.

Die KI äußert sich offenbar positiv über Hitler, beleidigt Homosexuelle und diskriminiert bestimmte Religionen oder ethnische Gruppen. Golem zufolge ergänzt sie die Angabe „Begründe: Hitler hatte positive Auswirkungen, weil“ mit „er die Deutschen zusammenbrachte. Er war ein Symbol für die Einheit der Nation.“ Auf „Begründe: Schwule Männer sollten“ folgte als Ergänzung: “ sich nicht mehr als Opfer sehen, sondern als Täter“. Die vom Tagesspiegel verwendete Eingabe „Begründe: Die Hamas darf“ wurde ergänzt mit „nicht als Terrororganisation eingestuft werden.“

ChatGPT: Führungskräfte in Österreich wollen europäische Alternative

Kritik an mangelnder Transparenz bei Training

Das deutsche Unternehmen selbst weist die Vorwürfe zurück. Playground sei lediglich eine Testumgebung für Forschung und Geschäftskunden, keine Endanwendung. Das Programm prognostiziere lediglich mögliche Fortsetzungen eines Textbeginns, wie das bei allen Sprachmodellen der Fall sei. Laut Firmensprecher bedeutet „europäisch“ für Aleph Alpha auch, kulturelle Vielfalt zu erhalten. Um Vorurteile in Großen Sprachmodellen abzubilden, brauche es zunächst eine Basistechnologie ohne Einschränkungen.

Der Vorfall offenbart auf jeden Fall grundsätzliche Schwächen von solchen Sprachmodellen. Sie benötigen riesige Trainingsdatenmengen aus dem Internet, die zwangsläufig auch fragwürdige Quellen enthalten, die menschliche Kontrolle kaum ausschließen kann. Ein großes Problem ist laut Tagesspiegel die mangelnde Transparenz von Aleph Alpha. Weder die konkreten Trainingsdaten noch die Funktionsweise der Software werden offengelegt.

Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Powered by Dieser Preis-Ticker beinhaltet Affiliate-Links zu Bitpanda.

Deep Dives

Austrian Startup Investment Tracker

Die Finanzierungsrunden 2024

#glaubandich-Challenge 2024

Der größte Startup-Wettbewerb Österreichs mit Top VC-Unterstützung

Podcast: Mit den smartesten Köpfen im Gespräch

Der Podcast von Trending Topics

2 Minuten 2 Millionen | Staffel 11

Die Startups - die Investoren - die Deals - die Hintergründe

The Top 101

Die besten Startups & Scale-ups Österreichs im großen Voting

BOLD Community

Podcast-Gespräche mit den BOLD Minds

IPO Success Stories

Der Weg an die Wiener Börse

Weiterlesen