¡Ayuda! ¡Mi reclutador es un algoritmo!
noyb ha presentado una denuncia ante la autoridad luxemburguesa de protección de datos (la CNPD) contra Amazon por sus dudosas prácticas de contratación electrónica en su plataforma Mechanical Turk. En particular, Amazon utiliza la toma de decisiones automatizada para aceptar o rechazar a los trabajadores, sin que los solicitantes puedan comprender los criterios en los que se basa dicha decisión automatizada, ni impugnarla.
- Denuncia presentada ante la Autoridad de Protección de Datos de Luxemburgo (EN)
- Reclamación presentada ante la Autoridad luxemburguesa de protección de datos (FR)
Convertirse en trabajador de MTurk. Amazon Mechanical Turk ("AMT", una empresa del grupo Amazon) opera una plataforma de crowd-sourcing en el sitio web www.mturk.com. Esta plataforma reúne a varias empresas y a pequeños trabajadores independientes situados en todo el mundo. Estos trabajadores (también llamados "MTurk Workers ") suelen realizar microtareas a cambio de una pequeña remuneración, como el análisis de contenidos de imágenes, la moderación de contenidos en línea o la validación de datos.
Algoritmos como reclutadores En teoría, cualquiera puede solicitar y convertirse en un Mturk Worker en unos pocos clics. Sin embargo, en la práctica, AMT se reserva el derecho de denegar automáticamente el acceso a su plataforma y las razones que motivan dicha denegación son completamente intransparentes. Esto es precisamente lo que le ocurrió a la denunciante cuando solicitó ser trabajadora de MTurk: recibió un correo electrónico automático en el que se le informaba de que había sido rechazada sin más explicaciones.
"Lo que más me sorprendió es que el correo electrónico automatizado que me enviaron decía claramente que esta decisión se había tomado en base a unos criterios preestablecidos, y que estos criterios no me serían revelados porque Amazon los consideraba "de propiedad". Esto me hizo preguntarme: ¿qué tienen que ocultar? ¿Me rechazaron por mi ubicación, mi nivel de estudios o mi sexo? ¿Cómo analizaron mi perfil y cómo obtuvieron estos datos en primer lugar?" - Kathia (alias), la denunciante en este caso
Toma de decisiones automatizada. En virtud del artículo 22 del RGPD, las personas tienen derecho a no ser sometidas a una toma de decisiones automatizada. Por ello, la reclamante decidió impugnar la decisión de AMT y solicitó más información sobre el tratamiento de sus datos personales. Se puso en contacto con el responsable de la protección de datos de Amazon, con el servicio de atención al cliente de Amazon y con Amazon Web Services (otra empresa del grupo Amazon, a la que fue redirigida). A pesar de sus muchos intentos, y de la lucha por encontrar dónde dirigir sus preocupaciones, nunca obtuvo ninguna respuesta de Amazon.
"Si empezamos a vivir en un mundo en el que un algoritmo decide por sí solo si eres digno de obtener un seguro, un préstamo o incluso un trabajo, la propia dignidad humana está siendo atacada. Las empresas como Amazon deben proporcionar las salvaguardias adecuadas para proteger a las personas contra las decisiones injustas. Deben dar información clara sobre cómo se toman sus decisiones automatizadas, el derecho a impugnarlas y asegurarse de que un ser humano real pueda revisar estas decisiones", explica Romain Robert, abogado de protección de datos de noyb.
GDPRage contra la máquina. El GDPR protege a los usuarios contra las decisiones que afectan a su vida cuando estas decisiones son tomadas únicamente por máquinas. Esto es particularmente importante en el campo de la contratación electrónica, donde la opacidad de la toma de decisiones algorítmica podría conducir a la injusticia y la discriminación a gran escala. noyb espera que la CNPD ordene a Amazon dar información clara a los usuarios sobre su toma de decisiones automatizada, y una forma de revisar la decisión sin esconderse detrás de un algoritmo. La CNPD también puede imponer una multa a Amazon, como ya se hizo en Julio de 2021.
