Aiuto! Il mio reclutatore è un algoritmo!
noyb ha presentato un reclamo presso l'autorità lussemburghese per la protezione dei dati (il CNPD) contro Amazon a causa delle loro dubbie pratiche di e-recruiting sulla loro piattaforma Mechanical Turk. In particolare, Amazon utilizza un processo decisionale automatizzato per accettare o rifiutare i lavoratori - senza alcuna possibilità per i candidati di capire i criteri dietro tale decisione automatizzata, o di contestarla.
- Denuncia presentata all Autorità lussemburghese per la protezione dei dati (EN)
- Reclamo depositato presso l Autorità lussemburghese per la protezione dei dati (FR)
Diventare un lavoratore MTurk. Amazon Mechanical Turk ("AMT", una società del gruppo Amazon) gestisce una piattaforma di crowd-sourcing sul sito web www.mturk.com. Questa piattaforma riunisce varie imprese e piccoli lavoratori indipendenti situati in tutto il mondo. Questi lavoratori (chiamati anche "MTurk Workers ") di solito eseguono micro-compiti per una piccola remunerazione, come l'analisi del contenuto delle immagini, la moderazione dei contenuti online o la convalida dei dati.
Algoritmi come reclutatori Teoricamente, chiunque può candidarsi e diventare un Mturk Worker in pochi click. In pratica, però, AMT si riserva il diritto di negare automaticamente l'accesso alla propria piattaforma e le ragioni di tale rifiuto rimangono del tutto intrasparenti. Questo è esattamente quello che è successo alla denunciante quando ha fatto domanda per diventare una MTurk Worker: ha ricevuto una mail automatica che la informava di essere stata rifiutata senza ulteriori spiegazioni.
"Quello che mi ha sorpreso di più è che l'email automatica che mi è stata inviata diceva chiaramente che questa decisione era stata presa sulla base di criteri prestabiliti, e che questi criteri non mi sarebbero stati rivelati perché Amazon li considerava 'proprietari'. Mi sono chiesto: cosa hanno da nascondere? Mi hanno rifiutato a causa della mia posizione, del livello di istruzione, del sesso? Come hanno analizzato il mio profilo, e come hanno ottenuto questi dati in primo luogo?" - Kathia (pseudonimo), la ricorrente in questo caso
Processo decisionale automatizzato. Ai sensi dell'articolo 22 del GDPR, gli individui hanno il diritto di non essere soggetti al processo decisionale automatizzato. La ricorrente ha quindi deciso di contestare la decisione di AMT, e ha chiesto maggiori informazioni su come i suoi dati personali erano stati trattati. Ha contattato il responsabile della protezione dei dati di Amazon, Amazon Client Services, e Amazon Web Services (un'altra società del gruppo Amazon, a cui è stata reindirizzata). Nonostante i suoi numerosi tentativi, e una lotta per trovare dove indirizzare le sue preoccupazioni, non ha mai ricevuto alcuna risposta da Amazon.
"Se cominciamo a vivere in un mondo in cui un algoritmo decide da solo se sei degno di ottenere un'assicurazione, un prestito o anche un lavoro, la stessa dignità umana è sotto attacco. Aziende come Amazon devono fornire garanzie adeguate per proteggere gli individui da decisioni ingiuste. Dovrebbero dare informazioni chiare su come vengono prese le loro decisioni automatizzate, il diritto di contestarle, e fare in modo che un essere umano reale possa rivedere queste decisioni", spiega Romain Robert, avvocato di protezione dei dati presso noyb.
GDPRage contro la macchina. Il GDPR protegge gli utenti contro le decisioni che riguardano la loro vita quando queste decisioni sono prese solo da macchine. Questo è particolarmente importante nel campo dell'e-recruitment, dove l'opacità del processo decisionale algoritmico potrebbe portare a ingiustizie e discriminazioni su larga scala. noyb spera che il CNPD ordinerà ad Amazon di dare informazioni chiare agli utenti sul suo processo decisionale automatizzato, e un modo per rivedere la decisione senza nascondersi dietro un algoritmo. Il CNPD può anche imporre una multa ad Amazon, come già fatto in Luglio 2021.
