"Černá skříňka" Amazon: algoritmus diskriminuje zákazníky
noyb dnes podal další stížnost na společnost Amazon Europe. Tento gigant v oblasti elektronického obchodu nabízí zákazníkům možnost zaplatit za produkty později prostřednictvím "měsíční faktury". Zákazník, který byl pro tento způsob platby odmítnut bez udání důvodu, podal Amazonu žádost o přístup, aby zjistil, proč byl odmítnut. Společnost odmítla poskytnout jakékoli informace.
- Stáhnout: Stížnost na společnost Amazon (PDF)
- Stáhnout: Žádost o odškodnění pro společnost Amazon: Stížnost na Amazon (PDF): strojový překlad do češtiny (PDF)
Systém rozhodl plně automatizovaně. Jen několik sekund po potvrzení objednávky obdržel zákazník automatický e-mail, ve kterém byla platba prostřednictvím "měsíční faktury" zamítnuta. Amazon ho vyzval, aby přešel na platbu kreditní kartou, jinak bude objednávka do 5 dnů zrušena. Důvod odmítnutí nebyl uveden, ani zákaznický servis v této souvislosti neodpověděl na žádné dotazy.
GDPR vyžaduje transparentnost a ověřitelnost. V případě automatizovaných individuálních rozhodnutí - například o povolení či nepovolení platby na účet - musí společnost poskytnout smysluplné informace o příslušné logice a rozsahu zpracování podkladových údajů. V zásadách ochrany osobních údajů společnosti Amazon však lze nalézt pouze vágní informace o případných mechanismech prověřování kreditu.
Automatizovaná rozhodnutí musí být ověřitelná lidmi. To u společnosti Amazon zjevně není možné, jak vysvětluje její fakturační oddělení:"Toto automatizované rozhodnutí může mít různé příčiny a nelze je ručně přizpůsobit." Ironicky to Amazon zdůvodňuje tím, že zákaznický servis nemůže vidět přesný důvod odmítnutí "z důvodů ochrany údajů". Odmítli také objasnit, zda byly pro příslušný rozhodovací proces použity interní informace nebo negativní kreditní skóre.
Neúspěšná žádost o přístup odhalila další porušení GDPR. Namísto poskytnutí kopie údajů, jak požaduje čl. 15 odst. 3 GDPR, měl zákazník ručně stáhnout 54 složek s většinou nesrozumitelnými tabulkami. Nebyly poskytnuty žádné informace o účelech nebo právním základu zpracování údajů. Společnost Amazon rovněž odmítla poskytnout jakékoli informace o zdrojích nebo příjemcích údajů - ačkoli GDPR požaduje, aby správci takové informace poskytovali. Dotazy zákazníků byly odmítány bezvýznamnými bloky textu.
"Rozsah, v jakém Amazon ignoruje zákony EU o ochraně údajů, je znepokojující. Algoritmy dělají rozhodnutí, kterým nerozumí ani jejich vlastní zaměstnanci a nedokážou je zkontrolovat. Odpověď společnosti Amazon na žádost o přístup také porušuje téměř každý odstavec platných ustanovení GDPR." - Marco Blocher, právník zabývající se ochranou osobních údajů ve společnosti noyb
Lucemburský úřad z velké části nečinný. Vzhledem k tomu, že společnost Amazon Europe sídlí v Lucembursku, je za vyřízení stížnosti odpovědná národní komise pro ochranu osobních údajů této země. noyb podal stížnost na společnost Amazon již v lednu 2019; do dnešního dne není v dohledu žádné rozhodnutí. Informace o stavu řízení nebo přístup ke spisům jsou odmítány, protože by to ohrozilo úkoly úřadu a narušilo účel řízení. Doufáme, že dnes podaná stížnost nezmizí v propadlišti dějin lucemburského úřadu.
