Pomoc! Môj náborár je algoritmus!
noyb podal sťažnosť na luxemburský úrad na ochranu údajov (CNPD) proti spoločnosti Amazon kvôli jej pochybným praktikám elektronického náboru na platforme Mechanical Turk. Spoločnosť Amazon používa najmä automatizované rozhodovanie o prijatí alebo odmietnutí pracovníkov - bez možnosti uchádzačov pochopiť kritériá, ktoré stoja za takýmto automatizovaným rozhodnutím, alebo ho napadnúť.
- Sťažnosť podaná na Luxemburskému orgánu na ochranu údajov (SK)
- Sťažnosť podaná na Luxemburskému orgánu na ochranu údajov (FR)
Stať sa pracovníkom MTurk. Spoločnosť Amazon Mechanical Turk ("AMT", spoločnosť skupiny Amazon) prevádzkuje crowd-sourcingovú platformu na webovej stránke www.mturk.com. Táto platforma združuje rôzne podniky a malých nezávislých pracovníkov, ktorí sa nachádzajú po celom svete. Títo pracovníci (nazývaní aj "MTurk Workers ") zvyčajne vykonávajú mikroúlohy za malú odmenu, ako je analýza obsahu obrázkov, moderovanie online obsahu alebo overovanie údajov.
Algoritmy ako náborári. Teoreticky sa môže prihlásiť ktokoľvek a stať sa pracovníkom Mturk Worker na niekoľko kliknutí. V praxi si však AMT vyhradzuje právo automaticky odmietnuť prístup na svoju platformu a dôvody takéhoto odmietnutia zostávajú úplne netransparentné. Presne to sa stalo sťažovateľke, keď požiadala o to, aby sa stala pracovníčkou MTurk: dostala automatický e-mail, v ktorom jej bolo oznámené, že bola odmietnutá bez ďalšieho vysvetlenia.
"Najviac ma prekvapilo, že v automatickom e-maile, ktorý mi bol zaslaný, sa jasne uvádzalo, že toto rozhodnutie bolo prijaté na základe vopred stanovených kritérií a že tieto kritériá mi nebudú zverejnené, pretože ich Amazon považuje za 'proprietárne'. To ma prinútilo zamyslieť sa: čo chcú skrývať? Odmietli ma kvôli mojej polohe, úrovni vzdelania, pohlaviu? Ako analyzovali môj profil a ako tieto údaje vôbec získali?" - Kathia (pseudonym), sťažovateľka v tomto prípade
Automatizované rozhodovanie. Podľa článku 22 GDPR majú fyzické osoby právo nebyť predmetom automatizovaného rozhodovania. Sťažovateľka sa preto rozhodla napadnúť rozhodnutie spoločnosti AMT a požiadala o viac informácií o tom, ako boli jej osobné údaje spracované. Obrátila sa na úradníka pre ochranu údajov spoločnosti Amazon, na oddelenie služieb pre klientov spoločnosti Amazon a na spoločnosť Amazon Web Services (ďalšiu spoločnosť skupiny Amazon, na ktorú bola presmerovaná). Napriek mnohým pokusom a snahe nájsť miesto, kde by mohla svoje obavy adresovať, nedostala od spoločnosti Amazon žiadnu odpoveď.
"Ak začneme žiť vo svete, v ktorom algoritmus sám rozhoduje o tom, či ste hodní získať poistenie, pôžičku alebo dokonca prácu, dostáva sa do útoku samotná ľudská dôstojnosť. Spoločnosti ako Amazon musia poskytnúť náležité záruky na ochranu jednotlivcov pred nespravodlivými rozhodnutiami. Mali by poskytovať jasné informácie o tom, ako sa ich automatizované rozhodnutia prijímajú, ako možno tieto rozhodnutia napadnúť, a zabezpečiť, aby tieto rozhodnutia mohol preskúmať skutočný človek," vysvetľuje Romain Robert, právnik pre ochranu údajov v spoločnosti noyb.
GDPR proti strojom. GDPR chráni používateľov pred rozhodnutiami, ktoré ovplyvňujú ich život, ak tieto rozhodnutia robia len stroje. To je obzvlášť dôležité v oblasti elektronického náboru, kde by neprehľadnosť algoritmického rozhodovania mohla viesť k nespravodlivosti a diskriminácii vo veľkom meradle. noyb dúfa, že CNPD nariadi spoločnosti Amazon, aby poskytla používateľom jasné informácie o svojom automatizovanom rozhodovaní a spôsob preskúmania rozhodnutia bez toho, aby sa skrývala za algoritmus. CNPD môže tiež uložiť spoločnosti Amazon pokutu, ako to už urobila v prípade Júli 2021.
