Google stoppt AI-Feature nach zwei Tagen: Fake-Satellitenbilder waren zu realistisch
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Google hat eine brandneue KI-Funktion in Google Earth nach nur 48 Stunden wieder abgeschaltet, berichtet t3n. Der Grund: BBC-Journalisten gelang es, die eingebauten Sicherheitsvorkehrungen zu umgehen und täuschend echte Fake-Satellitenbilder zu erstellen. Die Screenshots zeigten einen umgekippten Eiffelturm, eine im Boden versunkene Pyramide von Giza oder einen nicht existierenden öffentlichen Park vor dem Weißen Haus. Die generierten Bilder ließen sich kaum von echten Aufnahmen unterscheiden.
Schutzmaßnahmen leicht umgehbar
Der Konzern begründet den Rückzug damit, dass „Leute Screenshots von generierten Bildern teilen, die anscheinend unsere Richtlinien verletzen“. Zwar gebe es Menschen, die die Funktion für sinnvolle Zwecke einsetzen, etwa Geodaten-Expert:innen. Trotzdem sieht sich Google gezwungen, eine Version mit „strengeren Sicherheitsvorkehrungen“ zu erarbeiten.
Der US-Konzern hatte die KI-Funktion mit dem Bildgenerierungsmodell Nano Banana erst am 30. Juli gestartet. Das Feature sollte antike Stätten dreidimensional wiedererwecken, Bauprojekte visualisieren und Informationsebenen hinzufügen. Die generierten Bilder waren zwar nicht automatisch öffentlich sichtbar und trugen einen KI-Hinweis. Doch BBC-Journalisten gelang es schnell, diese Schutzmaßnahmen zu unterdrücken, etwa mit dem simplen Hinweis an das KI-Modell, dass das Bild echt sei.
1,2 Billionen Dollar weniger: SpaceX hat 1x Tesla an Börsenwert verloren
Hohe Gefahr von Fake News
Nur zwei Tage nach dem Launch kam die Notbremse. Die Geschwindigkeit, mit der sich die Sicherheitsmechanismen aushebeln ließen, zeigt die Herausforderung für Tech-Konzerne: Selbst gut gemeinte Features können sich in Werkzeuge für Desinformation verwandeln, wenn die Schutzvorkehrungen nicht robust genug sind.
Der Datenjournalist und Fake-News-Experte Henk van Ess demonstrierte gegenüber der BBC die politische Sprengkraft der Funktion. Mit ihr ließen sich nicht existierende Atommeiler im Iran erstellen oder ein Flüchtlingscamp nahe der US-Grenze. Solche Fake News haben erhebliche politische Sprengkraft, besonders im seriösen Gewand von Google Earth.
Besonders problematisch: Auch von der BBC eingesetzte KI-Erkennungs-Tools fielen in einigen Fällen auf die Fälschungen herein. Das macht die generierten Bilder zu einer ernsthaften Bedrohung für die Informationsintegrität. Google muss nun zurück ans Reißbrett und nachbessern, bevor das Feature ein Comeback feiern kann.
