Hjälp mig! Min rekryterare är en algoritm!
noyb har lämnat in ett klagomål till Luxemburgs dataskyddsmyndighet (CNPD) mot Amazon på grund av deras tvivelaktiga e-rekryteringsmetoder på deras Mechanical Turk-plattform. I synnerhet använder Amazon automatiserat beslutsfattande för att acceptera eller avvisa arbetstagare - utan någon möjlighet för de sökande att förstå kriterierna bakom ett sådant automatiserat beslut eller att ifrågasätta det.
- Klagomål inlämnat till Luxemburgs dataskyddsmyndighet (EN)
- Klagomål inlämnat till Luxemburgs dataskyddsmyndighet (FR)
Att bli en MTurk-arbetare. Amazon Mechanical Turk ("AMT", ett företag i Amazon-koncernen) driver en plattform för crowd-sourcing på webbplatsen www.mturk.com. Denna plattform sammanför olika företag och små oberoende arbetare över hela världen. Dessa arbetstagare (även kallade "MTurk-arbetare ") utför vanligtvis mikrouppgifter mot en liten ersättning, t.ex. analys av bildinnehåll, moderering av onlineinnehåll eller datavalidering.
Algoritmer som rekryterare. Teoretiskt sett kan vem som helst ansöka och bli en Mturk-arbetare med några få klick. I praktiken förbehåller sig dock AMT rätten att automatiskt neka tillgång till sin plattform och skälen bakom en sådan vägran förblir helt ogenomskinliga. Det var just detta som hände den klagande när hon ansökte om att bli MTurk-arbetare: hon fick ett automatiskt e-postmeddelande där hon informerades om att hon hade fått avslag utan någon ytterligare förklaring.
"Det som förvånade mig mest var att det i det automatiska e-postmeddelandet som skickades till mig tydligt angavs att beslutet hade fattats på grundval av förutbestämda kriterier och att dessa kriterier inte skulle lämnas ut till mig eftersom Amazon ansåg att de var "äganderättsligt skyddade". Det fick mig att undra: vad har de att dölja? Avvisade de mig på grund av var jag bodde, min utbildningsnivå eller mitt kön? Hur analyserade de min profil och hur kom de överhuvudtaget åt dessa uppgifter?" - Kathia (alias), den klagande i detta ärende
Automatiserat beslutsfattande. Enligt artikel 22 i GDPR har enskilda personer rätt att inte bli föremål för automatiserat beslutsfattande. Den klagande beslutade därför att bestrida AMT:s beslut och begärde mer information om hur hennes personuppgifter hade behandlats. Hon kontaktade Amazons dataskyddsombud, Amazon Client Services och Amazon Web Services (ett annat företag i Amazon-koncernen, som hon omdirigerades till). Trots sina många försök, och en kamp för att hitta var hon skulle vända sig med sina frågor, fick hon aldrig något svar från Amazon.
"Om vi börjar leva i en värld där en algoritm på egen hand bestämmer om du är värd att få en försäkring, ett lån eller till och med ett jobb, kommer människovärdet i sig att attackeras. Företag som Amazon måste tillhandahålla lämpliga skyddsåtgärder för att skydda individer mot orättvisa beslut. De bör ge tydlig information om hur deras automatiserade beslut fattas, hur man kan bestrida dessa beslut och se till att en faktisk människa kan granska dessa beslut", förklarar Romain Robert, dataskyddsjurist på noyb.
GDPR mot maskinen. GDPR skyddar användare mot beslut som påverkar deras liv när dessa beslut endast fattas av maskiner. Detta är särskilt viktigt när det gäller e-rekrytering, där ogenomskinligheten i algoritmiskt beslutsfattande kan leda till orättvisa och diskriminering i stor skala. noyb hoppas att CNPD kommer att beordra Amazon att ge tydlig information till användarna om sitt automatiserade beslutsfattande och ett sätt att granska beslutet utan att gömma sig bakom en algoritm. CNPD kan också ålägga Amazon böter, vilket redan har gjorts i Juli 2021.
