Apua! Rekrytoijani on algoritmi!
noyb on tehnyt kantelun Luxemburgin tietosuojaviranomaiselle (CNPD) Amazonia vastaan, koska sen Mechanical Turk -alustalla on epäilyttäviä sähköisen rekrytoinnin käytäntöjä. Amazon käyttää automatisoitua päätöksentekoa hyväksyessään tai hylätessään työntekijöitä, eikä hakijoilla ole mahdollisuutta ymmärtää automatisoidun päätöksen perusteita tai kyseenalaistaa sitä.
- Valitus jätetty Luxemburgin tietosuojaviranomaiselle (EN)
- Valitus, joka on jätetty Luxemburgin tietosuojaviranomaiselle (FR)
MTurkin työntekijäksi ryhtyminen. Amazon Mechanical Turk ("AMT", Amazon-konserniin kuuluva yritys) toimii joukkoistamisalustaa verkkosivustolla www.mturk.com. Alusta kokoaa yhteen eri puolilla maailmaa toimivia yrityksiä ja pieniä itsenäisiä työntekijöitä. Nämä työntekijät (joita kutsutaan myös "MTurk-työntekijöiksi" ) suorittavat yleensä pientä korvausta vastaan mikrotehtäviä, kuten kuvien sisällön analysointia, verkkosisällön moderointia tai tietojen validointia.
Algoritmit rekrytoijina Teoriassa kuka tahansa voi hakea ja ryhtyä Mturk Workeriksi muutamalla klikkauksella. Käytännössä AMT pidättää kuitenkin oikeuden evätä automaattisesti pääsyn alustalleen, ja kieltäytymisen syyt ovat täysin vaikeaselkoisia. Kantelijalle kävi juuri näin, kun hän haki MTurk Workeriksi: hän sai automaattisen sähköpostiviestin, jossa hänelle ilmoitettiin, että hänet oli hylätty ilman lisäselvityksiä.
"Minua yllätti eniten se, että minulle lähetetyssä automaattisessa sähköpostiviestissä todettiin selvästi, että päätös oli tehty ennalta määrättyjen kriteerien perusteella ja että näitä kriteerejä ei paljastettaisi minulle, koska Amazon piti niitä "teollisoikeuden alaisina ".Se sai minut miettimään: mitä salattavaa heillä on? Hylkäsivätkö he minut asuinpaikkani, koulutustasoni tai sukupuoleni vuoksi? Miten he analysoivat profiilini ja miten he ylipäätään saivat nämä tiedot?" - Kathia (alias), tämän tapauksen kantelija
Automatisoitu päätöksenteko. Yleisen tietosuoja-asetuksen 22 artiklan mukaan yksilöillä on oikeus olla joutumatta automaattisen päätöksenteon kohteeksi. Kantelija päätti siksi riitauttaa AMT:n päätöksen ja pyysi lisätietoja siitä, miten hänen henkilötietojaan oli käsitelty. Hän otti yhteyttä Amazonin tietosuojavastaavaan, Amazonin asiakaspalveluun ja Amazon Web Servicesiin (toinen Amazon-konserniin kuuluva yritys, johon hänet ohjattiin). Huolimatta monista yrityksistä ja ponnisteluista sen selvittämiseksi, minne hän voisi osoittaa huolensa, hän ei koskaan saanut vastausta Amazonilta.
"Jos alamme elää maailmassa, jossa algoritmi päättää itse, oletko vakuutuksen, lainan tai jopa työpaikan saamisen arvoinen, ihmisarvo itsessään on joutumassa hyökkäyksen kohteeksi. Amazonin kaltaisten yritysten on tarjottava asianmukaiset suojatoimet, joilla yksilöitä suojellaan epäoikeudenmukaisilta päätöksiltä. Niiden pitäisi antaa selkeää tietoa siitä, miten automaattiset päätökset tehdään, miten päätökset voidaan riitauttaa ja varmistaa, että todellinen ihminen voi tarkistaa päätökset", selittää noybin tietosuojalakimies Romain Robert.
GDPR konetta vastaan. GDPR suojaa käyttäjiä heidän elämäänsä vaikuttavilta päätöksiltä silloin, kun nämä päätökset ovat vain koneiden tekemiä. Tämä on erityisen tärkeää sähköisen rekrytoinnin alalla, jossa algoritmisen päätöksenteon läpinäkymättömyys voi johtaa epäoikeudenmukaisuuteen ja syrjintään laajassa mittakaavassa. noyb toivoo, että CNPD määrää Amazonin antamaan käyttäjille selkeää tietoa automaattisesta päätöksenteosta ja keinon, jolla päätöstä voi tarkastella uudelleen piiloutumatta algoritmin taakse. CNPD voi myös määrätä Amazonille sakon, kuten on jo tehty asiassa Heinäkuussa 2021.
