"Scatola nera" Amazon: l'algoritmo discrimina i clienti

Ott 21, 2021

"Scatola nera" Amazon: l'algoritmo discrimina i clienti

noyb ha presentato oggi un'altra denuncia contro Amazon Europa. Il gigante dell'e-commerce offre ai clienti la possibilità di pagare i prodotti più tardi tramite "Fattura mensile". Un cliente che è stato rifiutato per questo metodo di pagamento senza alcuna motivazione ha presentato una richiesta di accesso ad Amazon per scoprire perché è stato rifiutato. L'azienda ha rifiutato di fornire qualsiasi informazione.

Il sistema ha deciso di essere completamente automatizzato. Pochi secondi dopo la conferma dell'ordine, il cliente ha ricevuto un'e-mail automatica in cui il pagamento tramite "fattura mensile" veniva rifiutato. Amazon lo ha esortato a passare al pagamento con carta di credito, altrimenti l'ordine sarebbe stato annullato entro 5 giorni. Non è stato dato un motivo per il rifiuto, né il servizio clienti ha risposto a qualsiasi domanda a questo proposito.

IlGDPR richiede trasparenza e verificabilità. Per le decisioni individuali automatizzate - come consentire o meno il pagamento in conto - una società deve fornire informazioni significative sulla logica coinvolta e la portata del trattamento dei dati sottostante. Nella politica sulla privacy di Amazon, tuttavia, si trovano solo vaghe informazioni su eventuali meccanismi di controllo del credito

Ledecisioni automatizzate devono essere verificabili dagli esseri umani. Questo non è ovviamente possibile con Amazon, come chiarisce il loro dipartimento di fatturazione:"Questa decisione automatizzata può avere varie cause e non può essere adattata manualmente. "Ironicamente, Amazon giustifica questo dicendo che il servizio clienti non può vedere il motivo esatto del rifiuto "per ragioni di protezione dei dati". Hanno anche rifiutato di chiarire se le informazioni interne o un punteggio di credito negativo sono stati utilizzati per il processo decisionale in questione.

La richiesta di accesso senza successo ha rivelato ulteriori violazioni del GDPR. Invece di ricevere una copia dei dati, come richiesto dall'articolo 15(3) del GDPR, il cliente doveva scaricare manualmente 54 cartelle con tabelle per lo più incomprensibili. Non è stata fornita alcuna informazione sugli scopi o la base giuridica del trattamento dei dati. Inoltre, Amazon ha rifiutato di fornire qualsiasi informazione sulle fonti dei dati o sui destinatari - anche se il GDPR richiede ai controllori di fornire tali informazioni. Le richieste del cliente sono state respinte con blocchi di testo insignificanti.

"La misura in cui Amazon ignora la legge europea sulla protezione dei dati è preoccupante. Gli algoritmi prendono decisioni che nemmeno i loro stessi dipendenti possono capire e controllare. La risposta di Amazon alla richiesta di accesso viola anche praticamente ogni paragrafo delle disposizioni del GDPR applicabili." - Marco Blocher, avvocato per la protezione dei dati di noyb

L'autorità lussemburghese è in gran parte inattiva. Poiché Amazon Europe ha sede in Lussemburgo, la commissione nazionale per la protezione dei dati del paese è responsabile del trattamento del reclamo. noyb ha già presentato un reclamo contro Amazon nel gennaio 2019; ad oggi, nessuna decisione è in vista. Le informazioni sullo stato del procedimento o l'accesso ai file sono rifiutati in quanto ciò metterebbe in pericolo i compiti dell'autorità e comprometterebbe lo scopo del procedimento. Speriamo che il reclamo presentato oggi non sparisca nel boschetto dell'autorità lussemburghese.