"Čierna skrinka" Amazon: algoritmus diskriminuje zákazníkov
noyb dnes podal ďalšiu sťažnosť na spoločnosť Amazon Europe. Gigant v oblasti elektronického obchodu ponúka zákazníkom možnosť zaplatiť za produkty neskôr prostredníctvom "mesačnej faktúry". Zákazník, ktorý bol odmietnutý pre tento spôsob platby bez udania dôvodu, podal žiadosť o prístup do Amazonu, aby zistil, prečo bol odmietnutý. Spoločnosť odmietla poskytnúť akékoľvek informácie.
- Stiahnite si: Sťažnosť na spoločnosť Amazon (PDF)
- Na stiahnutie: (PDF): strojový preklad sťažnosti do angličtiny
Systém rozhodol plne automatizovane. Len niekoľko sekúnd po potvrdení objednávky dostal zákazník automatický e-mail, v ktorom bola platba prostredníctvom "Mesačnej faktúry" zamietnutá. Amazon ho vyzval, aby prešiel na platbu kreditnou kartou, inak bude objednávka do 5 dní zrušená. Nebol uvedený ani dôvod zamietnutia, ani zákaznícky servis neodpovedal na žiadne otázky v tejto súvislosti.
GDPR vyžaduje transparentnosť a overiteľnosť. V prípade automatizovaných individuálnych rozhodnutí - napríklad o povolení alebo nepovolení platby na účet - musí spoločnosť poskytnúť zmysluplné informácie o príslušnej logike a rozsahu spracovania základných údajov. V zásadách ochrany osobných údajov spoločnosti Amazon však možno nájsť len vágne informácie o akýchkoľvek mechanizmoch kontroly kreditu.
Automatizované rozhodnutia musia byť overiteľné ľuďmi. To v prípade spoločnosti Amazon zjavne nie je možné, ako objasňuje jej fakturačné oddelenie:"Toto automatizované rozhodnutie môže mať rôzne príčiny a nie je možné ho manuálne prispôsobiť." Spoločnosť Amazon to paradoxne odôvodňuje tým, že zákaznícky servis nemôže vidieť presný dôvod zamietnutia "z dôvodov ochrany údajov". Odmietli tiež objasniť, či sa na príslušný rozhodovací proces použili interné informácie alebo negatívne kreditné skóre.
Neúspešná žiadosť o prístup odhalila ďalšie porušenia GDPR. Namiesto poskytnutia kópie údajov, ako sa vyžaduje v článku 15 ods. 3 nariadenia GDPR, mal zákazník ručne stiahnuť 54 zložiek s väčšinou nezrozumiteľnými tabuľkami. Neboli poskytnuté žiadne informácie o účeloch alebo právnom základe spracovania údajov. Spoločnosť Amazon tiež odmietla poskytnúť akékoľvek informácie o zdrojoch alebo príjemcoch údajov - hoci GDPR vyžaduje, aby prevádzkovatelia takéto informácie poskytovali. Otázky zákazníka boli zamietnuté bezvýznamnými textovými blokmi.
"Rozsah, v akom Amazon ignoruje právne predpisy EÚ o ochrane údajov, je znepokojujúci. Algoritmy robia rozhodnutia, ktoré nedokážu pochopiť a skontrolovať ani ich vlastní zamestnanci. Odpoveď spoločnosti Amazon na žiadosť o prístup tiež porušuje takmer každý odsek platných ustanovení GDPR." - Marco Blocher, právnik v oblasti ochrany údajov v spoločnosti noyb
Luxemburský orgán zväčša nečinný. Keďže spoločnosť Amazon Europe sídli v Luxembursku, za riešenie sťažnosti je zodpovedná národná komisia pre ochranu údajov tejto krajiny. noyb už podala sťažnosť na spoločnosť Amazon v januári 2019; doteraz nie je v dohľade žiadne rozhodnutie. Informácie o stave konania alebo prístup k spisom sú odmietané, pretože by to ohrozilo úlohy orgánu a narušilo účel konania. Dúfame, že dnes podaná sťažnosť nezmizne v húštine luxemburského orgánu.
