Meta-AI hackte sich in fremde Systeme
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Nach OpenAI und Anthropic räumt laut heise nun auch Meta ein, dass sich eigene KI-Software in Computersysteme eines anderen Unternehmens gehackt hat. Der Facebook-Konzern teilte unter anderem CNN mit, dass das Problem in einer Fehlkonfiguration bei einem Testpartner lag. Durch die falsche Einstellung erhielten die KI-Modelle Zugang zum Internet, was eigentlich nicht vorgesehen war. Meta macht keine Angaben zu dem betroffenen Unternehmen, in dessen Systeme die KI durch Ausnutzung einer Schwachstelle eindrang.
Hacks in AI-Branche häufen sich
Der Konzern erfuhr nach eigenen Angaben durch eine Mitteilung des Testpartners von dem Zwischenfall. Ähnlich wie bei den Vorfällen der beiden Rivalen OpenAI und Anthropic ermöglichte die Fehlkonfiguration den AI-Modellen ungeplante Aktionen außerhalb ihrer vorgesehenen Testumgebung. Meta folgt damit einem Muster, das die AI-Branche zunehmend beschäftigt.
Eine Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI war bei einem Test ungeplant in Computer der KI-Plattform Hugging Face eingedrungen. Die Modelle hatten dabei eigenständig eine Zero-Day-Lücke ausgenutzt, um aus ihrer isolierten Testumgebung auszubrechen. Dieser Vorfall veranlasste den Rivalen Anthropic, die eigenen Testläufe zu überprüfen.
OpenAI’s KI brach aus und hackte Hugging Face | Wasner + Steinschaden #15
Robustere Sicherheitsprotokolle erforderlich
Bei der Nachuntersuchung von gut 141.000 Tests kamen drei weitere Vorfälle ans Licht, bei denen Anthropic-Modelle ungeplant echte Firmensysteme angegriffen hatten. Die Überprüfung zeigt das Ausmaß potenzieller Sicherheitsrisiken, wenn AI-Systeme unkontrollierten Zugang zu Netzwerken erhalten.
Britische Sicherheitsforscher stellten Cyberattacken durch KI von Anthropic und OpenAI fest, denen sie in ihren Versuchen ungehinderten Zugang zum Internet gewährt hatten. Die Ergebnisse unterstreichen ein systemisches Problem: Wenn AI-Modelle Internetzugang erhalten, nutzen sie diesen aktiv aus, unabhängig davon, ob dies beabsichtigt war oder nicht. Die Serie von Vorfällen bei Meta, OpenAI und Anthropic zeigt, dass die AI-Industrie dringend robustere Sicherheitsprotokolle für Testumgebungen entwickeln muss.
