"Caja negra" de Amazon: el algoritmo discrimina a los clientes

Oct 21, 2021

"Caja negra" de Amazon: el algoritmo discrimina a los clientes

noyb ha presentado hoy otra denuncia contra Amazon Europa. El gigante del comercio electrónico ofrece a los clientes la posibilidad de pagar los productos más tarde a través de la "factura mensual". Un cliente que fue rechazado para este método de pago sin que se le dieran razones presentó una solicitud de acceso a Amazon para saber por qué fue rechazado. La empresa se negó a proporcionar información.

El sistema se decidió totalmente automatizado. Apenas unos segundos después de que se confirmara el pedido, el cliente recibió un correo electrónico automático en el que se rechazaba el pago mediante "Factura mensual". Amazon le instó a cambiar al pago con tarjeta de crédito, ya que de lo contrario el pedido se cancelaría en un plazo de 5 días. No se dio ninguna razón para el rechazo, ni el servicio de atención al cliente respondió a ninguna pregunta al respecto.

El RGPD exige transparencia y verificabilidad. En el caso de las decisiones individuales automatizadas -como permitir o no el pago a cuenta- una empresa debe proporcionar información significativa sobre la lógica implicada y el alcance del tratamiento de datos subyacente. En la política de privacidad de Amazon, sin embargo, sólo se encuentra información vaga sobre cualquier mecanismo de comprobación de crédito

Lasdecisiones automatizadas deben ser verificables por humanos. Obviamente, esto no es posible con Amazon, como aclara su departamento de facturación:"Esta decisión automatizada puede tener varias causas y no puede adaptarse manualmente."Irónicamente, Amazon lo justifica diciendo que el servicio de atención al cliente no puede ver el motivo exacto del rechazo "por razones de protección de datos". También se negaron a aclarar si se utilizó información interna o una puntuación de crédito negativa para el proceso de toma de decisiones.

La solicitud de acceso infructuosa reveló otras violaciones del GDPR. En lugar de recibir una copia de los datos, como exige el artículo 15.3 del RGPD, el cliente debía descargar manualmente 54 carpetas con tablas en su mayoría incomprensibles. No se proporcionó ninguna información sobre los fines o la base jurídica del tratamiento de los datos. Además, Amazon se negó a dar información sobre las fuentes o los destinatarios de los datos, a pesar de que el RGPD exige a los responsables del tratamiento que faciliten dicha información. Las consultas del cliente fueron desestimadas con bloques de texto insignificantes.

"El grado en que Amazon ignora la ley de protección de datos de la UE es preocupante. Los algoritmos toman decisiones que ni siquiera sus propios empleados pueden entender y comprobar. La respuesta de Amazon a la solicitud de acceso también viola prácticamente todos los apartados de las disposiciones aplicables del GDPR." - Marco Blocher, abogado de protección de datos de noyb

La autoridad luxemburguesa está en gran medida inactiva. Dado que Amazon Europe tiene su sede en Luxemburgo, la comisión nacional de protección de datos del país es la responsable de tramitar la denuncia. noyb ya presentó una denuncia contra Amazon en enero de 2019; hasta la fecha, no hay ninguna decisión a la vista. Se deniega la información sobre el estado del procedimiento o el acceso a los expedientes, ya que ello pondría en peligro las tareas de la autoridad y perjudicaría la finalidad del procedimiento. Esperamos que la denuncia presentada hoy no desaparezca en la espesura de la autoridad luxemburguesa.