Segítség! A toborzóm egy algoritmus!
noyb panaszt tett a luxemburgi adatvédelmi hatóságnál (CNPD) az Amazon ellen a Mechanical Turk platformon folytatott kétes e-toborzási gyakorlatuk miatt. Az Amazon ugyanis automatizált döntéshozatalt alkalmaz a munkavállalók elfogadásához vagy elutasításához - anélkül, hogy a jelentkezőknek lehetőségük lenne megérteni az ilyen automatizált döntés mögött álló kritériumokat, vagy megtámadni azt.
- Panaszt nyújtottak be az Luxemburgi adatvédelmi hatósághoz (EN)
- Panaszt nyújtottak be a Luxemburgi adatvédelmi hatósághoz (FR)
MTurk munkavállalóvá válás. Az Amazon Mechanical Turk ("AMT", az Amazon csoport egyik vállalata) a következő szolgáltatásokat nyújtja egy tömeges beszervezési platformot a weboldalon www.mturk.com. Ez a platform különböző vállalkozásokat és a világ minden táján található független kisvállalkozókat hoz össze. Ezek a munkavállalók (más néven "MTurk Workers ") általában mikrofeladatokat végeznek kis díjazásért, például képi tartalomelemzést, online tartalom moderálást vagy adatellenőrzést.
Algoritmusok mint toborzók. Elméletileg bárki jelentkezhet és néhány kattintással Mturk Workerré válhat. A gyakorlatban azonban az AMT fenntartja magának a jogot, hogy automatikusan megtagadja a hozzáférést a platformjukhoz, és az elutasítás okai teljesen átláthatatlanok maradnak. Pontosan ez történt a panaszossal is, amikor jelentkezett MTurk Workernek: egy automatikus e-mailt kapott, amelyben további magyarázat nélkül tájékoztatták arról, hogy elutasították.
"Ami a legjobban meglepett, hogy a nekem küldött automatizált e-mailben egyértelműen az állt, hogy ezt a döntést előre meghatározott kritériumok alapján hozták meg, és hogy ezeket a kritériumokat nem fogják nyilvánosságra hozni számomra, mert az Amazon "védettnek" tekinti őket. Ez elgondolkodtatott: mi rejtegetnivalójuk van? A lakóhelyem, az iskolai végzettségem, a nemem miatt utasítottak el? Hogyan elemezték a profilomat, és egyáltalán honnan szerezték meg ezeket az adatokat?" - Kathia (álnév), az ügy panaszosa
Automatizált döntéshozatal. A GDPR 22. cikke értelmében az egyéneknek joguk van ahhoz, hogy ne legyenek automatizált döntéshozatal tárgyai. A panaszos ezért úgy döntött, hogy megtámadja az AMT döntését, és további tájékoztatást kért arról, hogy személyes adatait hogyan dolgozták fel. Kapcsolatba lépett az Amazon adatvédelmi tisztviselőjével, az Amazon ügyfélszolgálattal és az Amazon Web Services-szel (az Amazon csoport egy másik vállalatával, ahová átirányították). Számos próbálkozása ellenére, és annak ellenére, hogy nehezen találta meg, hová fordulhatna aggodalmaival, az Amazontól soha nem kapott választ.
"Ha egy olyan világban kezdünk élni, ahol egy algoritmus magától eldönti, hogy méltó vagy-e arra, hogy biztosítást, kölcsönt vagy akár munkát kapj, akkor maga az emberi méltóság kerül támadás alá. Az olyan vállalatoknak, mint az Amazon, megfelelő biztosítékokat kell nyújtaniuk az egyének védelmére a tisztességtelen döntésekkel szemben. Világos tájékoztatást kell adniuk arról, hogyan születnek az automatizált döntéseik, hogyan lehet ezeket a döntéseket megtámadni, és biztosítaniuk kell, hogy egy tényleges ember felülvizsgálhassa ezeket a döntéseket" - magyarázza Romain Robert, a noyb adatvédelmi ügyvédje.
GDPR a gép ellen. A GDPR védi a felhasználókat az életüket érintő döntésekkel szemben, ha ezeket a döntéseket kizárólag gépek hozzák. Ez különösen fontos az elektronikus munkaerő-felvétel területén, ahol az algoritmikus döntéshozatal átláthatatlansága nagymértékű tisztességtelenséghez és diszkriminációhoz vezethet. a noyb reméli, hogy a CNPD arra fogja kötelezni az Amazont, hogy adjon egyértelmű tájékoztatást a felhasználóknak az automatizált döntéshozatalról, és módot a döntés felülvizsgálatára anélkül, hogy egy algoritmus mögé bújna. A CNPD pénzbírságot is kiszabhat az Amazonra, ahogyan azt már megtette a következő ügyekben Július 2021.
