"Черна кутия" Amazon: алгоритъмът дискриминира клиентите

Oct 21, 2021

"Черна кутия" Amazon: алгоритъм дискриминира клиентите

ноиб подаде още една жалба срещу Amazon Europe днес. Гигантът в електронната търговия предлага на клиентите си възможността да плащат за продуктите по-късно чрез "месечна фактура". Клиент, който е бил отхвърлен за този начин на плащане без да бъдат посочени причини, подава искане за достъп до Amazon, за да разбере защо е бил отхвърлен. Компанията е отказала да предостави каквато и да е информация.

Системата реши да бъде напълно автоматизирана. Само няколко секунди след потвърждаването на поръчката клиентът получава автоматично електронно съобщение, в което плащането чрез "Месечна фактура" е отхвърлено. Amazon го призова да премине към плащане с кредитна карта, в противен случай поръчката ще бъде анулирана в рамките на 5 дни. Не беше посочена причина за отхвърлянето, нито пък службата за обслужване на клиенти отговори на някакви въпроси в тази връзка.

GDPR изисква прозрачност и проверимост. За автоматизираните индивидуални решения - като например дали да се разреши плащане по сметка, или не - дружеството трябва да предостави смислена информация за използваната логика и обхвата на основната обработка на данни. В политиката за защита на личните данни на Amazon обаче може да се намери само неясна информация за евентуални механизми за проверка на кредитоспособността

Автоматизираните решения трябва да могат да бъдат проверявани от хора. Това очевидно не е възможно при Amazon, както пояснява техният отдел за фактуриране:"Това автоматизирано решение може да има различни причини и не може да бъде адаптирано ръчно. " По ирония на съдбата Amazon оправдава това, като казва, че службата за обслужване на клиенти не може да види точната причина за отказа "по причини, свързани със защитата на данните". Те също така отказват да пояснят дали за съответния процес на вземане на решение е използвана вътрешна информация или отрицателен кредитен рейтинг.

Неуспешното искане за достъп разкри допълнителни нарушения на GDPR. Вместо да му бъде предоставено копие от данните, както се изисква от член 15, параграф 3 от ОРЗД, клиентът е трябвало ръчно да изтегли 54 папки с предимно неразбираеми таблици. Не беше предоставена никаква информация за целите или правното основание на обработката на данните. Също така Amazon отказа да предостави каквато и да е информация за източниците или получателите на данни - въпреки че GDPR изисква от администраторите да предоставят такава информация. Запитванията от страна на клиента бяха отхвърлени с незначителни текстови блокове.

"Степента, в която Amazon пренебрегва законодателството на ЕС за защита на данните, е обезпокоителна. Алгоритмите вземат решения, които дори собствените им служители не могат да разберат и проверят. Отговорът на Amazon на искането за достъп също така нарушава почти всеки параграф от приложимите разпоредби на GDPR." - Марко Блохер, адвокат по защита на данните в noyb

Люксембургският орган до голяма степен бездейства. Тъй като Amazon Europe се намира в Люксембург, националната комисия за защита на данните на страната е отговорна за разглеждането на жалбата. noyb вече подаде жалба срещу Amazon през януари 2019 г.; до момента не се вижда решение. Информация за състоянието на производството или достъп до досиетата са отказани, тъй като това би застрашило задачите на органа и би накърнило целта на производството. Надяваме се, че подадената днес жалба няма да изчезне в гъсталака на люксембургския орган.