Der Facebook-Ausfall offenbart, wie AI deine Fotos taggt
„One person, beard“ – „3 people smiling, standing, indoor“ – „6 people, indoor“ – „child, closeup, indoor“. Anstatt von Fotos haben zehntausende Nutzer von Facebook am Mittwoch diese Texte angezeigt bekommen. Der Grund: In einer Datenbank gab es Probleme mit einem automatisierten System, das für Konfigurationswerte zuständig ist und seine Aufgabe wegen eines Fehlers nicht mehr korrekt ausführen konnte (mehr dazu hier).
Das Resultat: Bei Nutzern von Facebook, Instagram und WhatsApp konnten Fotos nicht mehr angezeigt werden. Der Ausfall dauerte rund zweieinhalb Stunden und hat vor allem Nutzer in den USA und Europa betroffen. Anstatt der Bilder wurden nun leere Felder mit kurzen Texten angezeigt. Und diese Bildbeschreibungen haben es in sich. Denn sie zeigen, wie Facebook mit Hilfe von Künstlicher Intelligenz Bilder von Nutzern markiert.
https://twitter.com/backlon/status/1146460965904384001
Facebook setzt seit etwa 2016 Machine Learning ein, um die Inhalte von Fotos zu erkennen. Schon länger gibt es für Nutzer eine Funktion, mit der sie aktiv Markierungen machen und etwa Personen, die auf den Fotos zu sehen sind, taggen können. Doch mit ML-Algorithmen gelingt es Facebook auch, Bildinhalte zu erkennen, die die Nutzer nicht selbst aktiv beschreiben.
Ein Zweck: Durch die automatisch erstellten Bildbeschreibungen soll Nutzern mit Sehschwächen oder blinden Menschen die Möglichkeit gegeben werden, an den Bilderwelten teilzuhaben. So genannte „screen reader“ können ihnen Texte am Display vorlesen – und dann eben auch, was auf einem Foto zu sehen ist.
+++ Facebook: Artificial Intelligence soll gefährlichen Content aus dem Netzwerk räumen +++
Derzeit ist nicht bekannt, ob Facebook die Daten, die automatisiert über Fotos erhoben werden, auch zu Werbezwecken einsetzt. Bekannt ist jedenfalls, dass das Social Network AI dazu nutzt, um gefährliche oder verbotene Inhalte automatisiert erkennen und gegebenenfalls löschen zu können. Dazu werden „Milliarden öffentliche Fotos“ (z.B. auch von Instagram) verwendet, um die Systeme zu trainieren (Trending Topics berichtete).
https://twitter.com/zackwhittaker/status/1146456836998144000
