"Fekete doboz" Amazon: algoritmus diszkriminálja a vásárlókat
noyb ma újabb panaszt nyújtott be az Amazon Europe ellen. Az e-kereskedelmi óriás lehetőséget kínál a vásárlóknak, hogy a termékekért később fizessenek "havi számlával". Egy vásárló, akit minden indoklás nélkül elutasítottak ennél a fizetési módnál, hozzáférési kérelmet nyújtott be az Amazonhoz, hogy megtudja, miért utasították el. A vállalat megtagadta az információnyújtást.
A rendszer teljesen automatizáltan döntött. A megrendelés megerősítése után néhány másodperccel az ügyfél automatikus e-mailt kapott, amelyben elutasították a "Havi számlával" történő fizetést. Az Amazon felszólította, hogy térjen át a bankkártyás fizetésre, különben a megrendelést 5 napon belül törlik. Sem az elutasítás indoklását nem adták meg, sem az ügyfélszolgálat nem válaszolt az ezzel kapcsolatos kérdésekre.
A GDPR átláthatóságot és ellenőrizhetőséget ír elő. Az automatizált egyedi döntések - például az, hogy engedélyezi-e vagy sem az előlegfizetést - esetében a vállalatnak érdemi tájékoztatást kell nyújtania az érintett logikáról és az alapul szolgáló adatfeldolgozás terjedelméről. Az Amazon adatvédelmi szabályzatában azonban csak homályos információk találhatók a hitelképesség-ellenőrzési mechanizmusokról.
Az automatizált döntéseknek ember által ellenőrizhetőnek kell lenniük. Ez nyilvánvalóan nem lehetséges az Amazon esetében, ahogyan azt a számlázási részlegük is tisztázza:"Ennek az automatizált döntésnek különböző okai lehetnek, és manuálisan nem lehet kiigazítani" Ironikus módon az Amazon ezt azzal indokolja, hogy az ügyfélszolgálat "adatvédelmi okokból" nem láthatja az elutasítás pontos okát. Azt sem voltak hajlandóak tisztázni, hogy belső információkat vagy negatív hitelpontszámot használtak-e az érintett döntéshozatali folyamathoz.
A sikertelen hozzáférési kérelem további GDPR-szabálysértéseket tárt fel. Ahelyett, hogy a GDPR 15. cikkének (3) bekezdésében előírtaknak megfelelően másolatot kaptak volna az adatokról, az ügyfélnek kézzel kellett volna letöltenie 54 mappát, amelyekben többnyire érthetetlen táblázatok voltak. Az adatfeldolgozás céljairól vagy jogalapjáról nem adtak tájékoztatást. Az Amazon továbbá nem volt hajlandó semmilyen információt kiadni az adatforrásokról vagy az adatátvevőkről - holott a GDPR előírja az adatkezelők számára, hogy ilyen információkat szolgáltassanak. Az ügyfél megkereséseit jelentéktelen szövegblokkokkal utasították el.
"Aggasztó, hogy az Amazon milyen mértékben hagyja figyelmen kívül az uniós adatvédelmi jogszabályokat. Az algoritmusok olyan döntéseket hoznak, amelyeket még a saját alkalmazottaik sem tudnak megérteni és ellenőrizni. Az Amazon hozzáférési kérelemre adott válasza is sérti a vonatkozó GDPR-rendelkezések nagyjából minden egyes bekezdését" - Marco Blocher, a noyb adatvédelmi ügyvédje
A luxemburgi hatóság nagyrészt tétlen. Mivel az Amazon Europe luxemburgi székhelyű, az ország nemzeti adatvédelmi bizottsága felelős a panasz elbírálásáért. 2019 januárjában a noyb már panaszt nyújtott be az Amazon ellen; mindeddig nem született döntés. Az eljárás állásáról való tájékoztatást, illetve az iratokba való betekintést megtagadják, mivel ez veszélyeztetné a hatóság feladatait, és rontaná az eljárás célját. Reméljük, hogy a ma benyújtott panasz nem tűnik el a luxemburgi hatóság sűrűjében.
