AMS-Algorithmus muss abgedreht werden

Ein (vorläufiger) Sieg für Datenschützer: Nachdem der Algorithmus des AMS, der sich zur Einstufung von Arbeitslosen in einer Testphase befindet, für viel Aufregung gesorgt hat, wird er jetzt durch einen Bescheid der österreichischen Datenschutzbehörde abgedreht. Eine Weiterführung des bisher laufenden Testbetriebs in der jetzigen Form ist daher nicht möglich, heißt es seitens der Tageszeitung Kurier, der der Bescheid vorliegt.

Begründet wird die Entscheidung mit dem Fehlen von gesetzlichen Grundlagen für das so genannte „Profiling“ von Arbeitslosen, berichtet der Kurier weiter. So gebe es etwa keine Grundlage dafür, dass aus dem Algorithmus Handlungsanweisungen an Berater abgeleitet werden dürfen. Nicht erfüllt wurde laut DSB-Bescheid auch die Pflicht zur Durchführung einer Datenschutz-Folgenabschätzung nach der Datenschutzgrundverordnung DSGVO.

Das AMS will Beschwerde beim Bundesverwaltungsgericht gegen den Bescheid einreichen. In der jetzigen Form dürfte der Algorithmus nicht mehr eingesetzt werden. Geplant war, ihn ab 2021 flächendeckend einzusetzen, doch das ist nun eher unwahrscheinlich.

Ursprünglich entwickelt wurde der Algorithmus, damit Arbeitssuchende automatisiert in Kategorien für hohe, mittlere und niedrige Chancen am Arbeitsmarkt eingeteilt werden – das hätte die Vergabe von Fördermaßnahmen effizienter gestalten sollen. AMS-Berater hatten aber immer das letzte Wort, es wäre etwa nicht zu einer automatisierten Vergabe von Arbeitslosengeldern gekommen.

Kritik und Kampagnen

Kritik hat der AMS-Algorithmus, der auf Basis von Parametern wie Alter, Geschlecht, Ausbildung, berufliche Laufbahn oder Staatsbürgerschaft einteilte, vor allem von Seiten Datenschützern geerntet. Ein Bündnis aus Datenschutzorganisationen, Medien und NGOs forderte zuletzt von Arbeitsministerin Christine Aschbacher, dem Algorithmus „den Stecker zu ziehen“.

„Wir dürfen nicht zulassen, dass Merkmale, auf die man keinen Einfluss hat, entscheidend dafür sind, ob Menschen Aus- und Weiterbildungen verboten werden. Algorithmische Systeme müssen Vorurteile und Ungerechtigkeiten bekämpfen und dürfen diese Ungerechtigkeiten nicht auch noch einzementieren“, heißt es dazu auf einer Kampagnen-Seite.