Hilfe! Die HR-Abteilung ist ein Algorithmus!
noyb hat bei der luxemburgischen Datenschutzbehörde (CNPD) eine Beschwerde gegen Amazon wegen dessen zweifelhafter E-Recruiting-Praktiken auf seiner Mechanical Turk-Plattform eingereicht. Insbesondere verwendet Amazon automatisierte Entscheidungsfindungen, um Bewerbungen anzunehmen oder abzulehnen - ohne dass die Bewerber:innen die Möglichkeit haben, die Kriterien hinter einer solchen automatisierten Entscheidung zu verstehen oder sie anzufechten.
- Beschwerde eingereicht bei der Luxemburger Datenschutzbehörde (EN)
- Beschwerde eingereicht bei der Luxemburger Datenschutzbehörde (FR)
Arbeiten bei MTurk. Amazon Mechanical Turk ("AMT", ein Unternehmen der Amazon-Gruppe) betreibt eine Crowd-Sourcing-Plattform auf der Website www.mturk.com. Diese Plattform bringt verschiedene Unternehmen und unabhängige Arbeitskräfte aus der ganzen Welt zusammen. Diese Arbeitskräfte (auch "MTurk Workers " genannt) erledigen in der Regel Kleinstaufgaben gegen ein geringes Entgelt, z.B. die Analyse von Bildinhalten, die Moderation von Online-Inhalten oder die Validierung von Daten.
Algorithmen als HR-Abteilung. Theoretisch kann sich jeder bewerben und mit ein paar Klicks ein Mturk Worker werden. In der Praxis behält sich AMT jedoch das Recht vor, den Zugang zu seiner Plattform automatisch zu verweigern. Die Gründe für eine solche Ablehnung bleiben völlig intransparent. Das ist der Beschwerdeführerin passiert, als sie sich als MTurk-Worker bewarb: Sie erhielt eine automatische E-Mailin der sie ohne weitere Erklärung abgelehnt wurde.
"Am meisten überraschte mich, dass in der automatisierten E-Mail eindeutig erklärt wurde, dass die Ablehnung auf der Grundlage vorgegebener Kriterien getroffen wurde und mir diese Kriterien nicht mitgeteilt würden, weil Amazon sie als 'geheim' betrachte. Da fragte ich mich: Was haben sie zu verbergen? Haben sie mich wegen meines Wohnorts, meines Bildungsniveaus oder meines Geschlechts abgelehnt? Wie haben sie mein Profil analysiert, und wie sind sie überhaupt an diese Daten gekommen?" - Kathia (alias), die Beschwerdeführerin in diesem Fall
Automatisierte Entscheidungsfindung. Nach Artikel 22 DSGVO hat jede Person das Recht, nicht einer automatisierten Entscheidungsfindung unterworfen zu werden. Die Beschwerdeführerin beschloss daher, die Entscheidung von AMT anzufechten und forderte weitere Informationen zur Verarbeitung ihre personenbezogenen Daten an. Sie wandte sich an die Datenschutzbeauftragten von Amazon, an Amazon Client Services und an Amazon Web Services (ein weiteres Unternehmen der Amazon-Gruppe, an das sie weitergeleitet wurde). Trotz ihrer vielen Versuche und der Suche nach einer Stelle, an die sie ihre Bedenken richten konnte, erhielt sie nie eine Antwort.
"Wenn wir in einer Welt leben, in der ein Algorithmus selbst entscheidet, ob man eine Versicherung, einen Kredit oder sogar einen Job bekommt, wird nichts weniger als die Menschenwürde angegriffen. Unternehmen wie Amazon müssen angemessene Sicherheitsvorkehrungen treffen, um den Einzelnen vor ungerechten Entscheidungen zu schützen. Sie sollten klar informieren, wie automatisierten Entscheidungen getroffen werden und das jeder das Recht hat diese anzufechten und eine Überprüfung durch einen Menschen zu verlangen", erklärt Romain Robert, Datenschutzjurist bei noyb.
Die DSGVO schützt Nutzer:innen vor relevanten Entscheidungen, die ausschließlich von Maschinen getroffen werden. Dies ist besonders wichtig bei e-Recruiting, wo die Intransparenz der automatischen Entscheidungsfindung zu Ungerechtigkeit und Diskriminierung in großem Umfang führen könnte. noyb hofft, dass die luxemburgische Behörde Amazon anweisen wird, den Nutzer:innen klare Informationen über ihre automatisierten Entscheidungsfindung zu geben und eine Möglichkeit zu bieten, Entscheidung zu überprüfen, ohne sich hinter einem Algorithmus zu verstecken. Die CNPD kann auch eine Geldstrafe gegen Amazon verhängen, wie bereits im Juli 2021.
