Plainte déposée : Au secours ! Mon recruteur est un algorithme !

22 Déc 2021

Aidez-nous ! Mon recruteur est un algorithme !

noyb a déposé une plainte auprès de l'autorité luxembourgeoise de protection des données (la CNPD) contre Amazon en raison de ses pratiques douteuses de recrutement électronique sur sa plateforme Mechanical Turk. En particulier, Amazon utilise une prise de décision automatisée pour accepter ou rejeter des travailleurs - sans possibilité pour les candidats de comprendre les critères derrière une telle décision automatisée, ou de la contester.

Devenir un travailleur MTurk. Amazon Mechanical Turk (" AMT ", une société du groupe Amazon) exploite une plateforme de crowd-sourcing sur le site www.mturk.com. Cette plateforme met en relation diverses entreprises et de petits travailleurs indépendants situés dans le monde entier. Ces travailleurs (également appelés "MTurk Workers ") effectuent généralement des micro-tâches contre une petite rémunération, comme l'analyse de contenu d'images, la modération de contenu en ligne ou la validation de données.

Les algorithmes comme recruteurs En théorie, tout le monde peut postuler et devenir un Mturk Worker en quelques clics. Mais en pratique, l'AMT se réserve le droit de refuser automatiquement l'accès à sa plateforme et les raisons de ce refus restent totalement opaques. C'est précisément ce qui est arrivé à la plaignante lorsqu'elle a postulé pour devenir un MTurk Worker : elle a reçu un courriel automatisé l'informant qu'elle avait été rejetée sans autre explication.

"Ce qui m'a le plus surprise, c'est que l'e-mail automatisé qui m'a été envoyé indiquait clairement que cette décision avait été prise sur la base de critères préétablis, et que ces critères ne me seraient pas divulgués car Amazon les considérait comme "propriétaires". Je me suis alors demandé : qu'ont-ils à cacher ? M'ont-ils rejeté en raison de ma localisation, de mon niveau d'éducation, de mon sexe ? Comment ont-ils analysé mon profil, et comment ont-ils obtenu ces données en premier lieu ?" - Kathia (pseudonyme), la plaignante dans cette affaire

Prise de décision automatisée. En vertu de l'article 22 du GDPR, les individus ont le droit de ne pas être soumis à une prise de décision automatisée. La plaignante a donc décidé de contester la décision d'AMT, et a demandé plus d'informations sur la façon dont ses données personnelles avaient été traitées. Elle a contacté le délégué à la protection des données d'Amazon, le service client d'Amazon et Amazon Web Services (une autre société du groupe Amazon, vers laquelle elle a été redirigée). Malgré ses nombreuses tentatives, et une lutte pour trouver où adresser ses préoccupations, elle n'a jamais obtenu de réponse d'Amazon.

"Si nous commençons à vivre dans un monde où un algorithme décide tout seul si vous êtes digne d'obtenir une assurance, un prêt ou même un emploi, la dignité humaine elle-même est attaquée. Les entreprises comme Amazon doivent fournir des garanties appropriées pour protéger les individus contre les décisions injustes. Elles doivent donner des informations claires sur la façon dont leurs décisions automatisées sont prises, le droit de les contester, et s'assurer qu'un véritable être humain peut revoir ces décisions", explique Romain Robert, avocat spécialisé dans la protection des données chez noyb.

GDPRage contre la machine. Le GDPR protège les utilisateurs contre les décisions affectant leur vie lorsque ces décisions sont prises uniquement par des machines. Ceci est particulièrement important dans le domaine du recrutement en ligne, où l'opacité de la prise de décision algorithmique pourrait conduire à des injustices et des discriminations à grande échelle. noyb espère que la CNPD ordonnera à Amazon de donner des informations claires aux utilisateurs sur sa prise de décision automatisée, et un moyen de revoir la décision sans se cacher derrière un algorithme. La CNPD peut également imposer une amende à Amazon, comme cela a déjà été fait en Juillet 2021.