Pomoc! Můj náborář je algoritmus!
noyb podal u lucemburského úřadu pro ochranu osobních údajů (CNPD) stížnost na společnost Amazon kvůli pochybným praktikám při náboru zaměstnanců na platformě Mechanical Turk. Společnost Amazon zejména používá automatizované rozhodování o přijetí nebo odmítnutí pracovníků - bez možnosti uchazečů pochopit kritéria, která za takovým automatizovaným rozhodnutím stojí, nebo se proti němu odvolat.
- Stížnost podaná u Lucemburskému úřadu pro ochranu osobních údajů (CS)
- Stížnost podaná u Lucemburský úřad pro ochranu osobních údajů (FR)
Stát se pracovníkem MTurk. Společnost Amazon Mechanical Turk ("AMT", společnost skupiny Amazon) provozuje tzv crowd-sourcingovou platformu na internetových stránkách www.mturk.com. Tato platforma sdružuje různé podniky a malé nezávislé pracovníky, kteří se nacházejí po celém světě. Tito pracovníci (nazývaní také "MTurk Workers ") obvykle za malou odměnu vykonávají mikroúkoly, jako je analýza obsahu obrázků, moderování online obsahu nebo ověřování dat.
Algoritmy jako náboráři. Teoreticky se může kdokoli přihlásit a stát se pracovníkem Mturk Worker na několik kliknutí. V praxi si však AMT vyhrazuje právo automaticky odmítnout přístup do své platformy a důvody takového odmítnutí zůstávají zcela netransparentní. Přesně to se stalo stěžovatelce, když požádala o to, aby se stala MTurk Workerem: obdržela automatický e-mail, který ji bez dalšího vysvětlení informoval, že byla odmítnuta.
"Nejvíce mě překvapilo, že v automatickém e-mailu, který mi byl zaslán, bylo jasně uvedeno, že toto rozhodnutí bylo přijato na základě předem stanovených kritérií a že tato kritéria mi nebudou sdělena, protože je Amazon považuje za "proprietární". To mě přimělo k zamyšlení: co chtějí skrývat? Odmítli mě snad kvůli mé poloze, úrovni vzdělání nebo pohlaví? Jak analyzovali můj profil a jak se k těmto údajům vůbec dostali?" - Kathia (pseudonym), stěžovatelka v tomto případě
Automatizované rozhodování. Podle článku 22 GDPR mají fyzické osoby právo nebýt předmětem automatizovaného rozhodování. Stěžovatelka se proto rozhodla napadnout rozhodnutí společnosti AMT a požádala o více informací o tom, jak byly její osobní údaje zpracovány. Obrátila se na pověřence pro ochranu osobních údajů společnosti Amazon, Amazon Client Services a Amazon Web Services (další společnost skupiny Amazon, na kterou byla přesměrována). Navzdory mnoha pokusům a snaze najít místo, kam se má obrátit se svými obavami, nedostala od společnosti Amazon žádnou odpověď.
"Pokud začneme žít ve světě, kde algoritmus sám rozhoduje o tom, zda jste hodni získat pojištění, půjčku, nebo dokonce práci, dostává se do ohrožení samotná lidská důstojnost. Společnosti, jako je Amazon, musí poskytnout řádné záruky na ochranu jednotlivců před nespravedlivým rozhodováním. Měly by poskytovat jasné informace o tom, jak jejich automatizovaná rozhodnutí vznikají, jak lze tato rozhodnutí napadnout, a zajistit, aby tato rozhodnutí mohl přezkoumat skutečný člověk," vysvětluje Romain Robert, právník zabývající se ochranou údajů ve společnosti noyb.
GDPR proti strojům. GDPR chrání uživatele před rozhodnutími, která ovlivňují jejich život, pokud tato rozhodnutí činí pouze stroje. To je důležité zejména v oblasti elektronického náboru, kde by neprůhlednost algoritmického rozhodování mohla vést k nespravedlnosti a diskriminaci ve velkém měřítku. noyb doufá, že CNPD nařídí společnosti Amazon, aby uživatelům poskytovala jasné informace o svém automatizovaném rozhodování a způsob, jak rozhodnutí přezkoumat, aniž by se schovávala za algoritmus. ČNPD také může společnosti Amazon uložit pokutu, jak již učinila v případě tzv Červenci 2021.
