Help! Mijn recruiter is een algoritme!
noyb heeft een klacht ingediend bij de Luxemburgse gegevensbeschermingsautoriteit (de CNPD) tegen Amazon vanwege hun dubieuze e-recruiting praktijken op hun Mechanical Turk platform. Amazon maakt met name gebruik van geautomatiseerde besluitvorming om werknemers te aanvaarden of af te wijzen - zonder dat de sollicitanten de mogelijkheid hebben om de criteria achter een dergelijke geautomatiseerde beslissing te begrijpen, of om deze beslissing aan te vechten.
- Klacht ingediend bij de Luxemburgse autoriteit voor gegevensbescherming (EN)
- Klacht ingediend bij de Luxemburgse autoriteit voor gegevensbescherming (FR)
MTurk-werknemer worden. Amazon Mechanical Turk ("AMT", een onderneming van de Amazon-groep) exploiteert een platform voor crowd-sourcing op de website www.mturk.com. Dit platform brengt verschillende bedrijven en kleine onafhankelijke werknemers over de hele wereld met elkaar in contact. Deze werkers (ook "MTurk Workers " genoemd) voeren gewoonlijk microtaken uit tegen een kleine vergoeding, zoals de analyse van beeldinhoud, moderatie van online-inhoud of datavalidatie.
Algoritmes als recruiters Theoretisch kan iedereen zich aanmelden en in een paar klikken een Mturk Worker worden. In de praktijk behoudt AMT zich echter het recht voor om automatisch de toegang tot hun platform te weigeren en de redenen achter een dergelijke weigering blijven volledig intransparant. Dit is precies wat er gebeurde met de klaagster toen ze een aanvraag indiende om een MTurk Worker te worden: ze ontving een geautomatiseerde e-mail waarin haar werd meegedeeld dat ze was afgewezen zonder verdere uitleg.
"Wat mij het meest verbaasde is dat in de geautomatiseerde e-mail die ik kreeg duidelijk stond dat deze beslissing was genomen op basis van vooraf vastgestelde criteria, en dat deze criteria niet aan mij bekend zouden worden gemaakt omdat Amazon ze als 'bedrijfseigen' beschouwde. Het deed me afvragen: wat hebben ze te verbergen? Hebben ze me afgewezen op grond van mijn woonplaats, opleidingsniveau, geslacht? Hoe hebben ze mijn profiel geanalyseerd, en hoe zijn ze überhaupt aan deze gegevens gekomen?" - Kathia (alias), de klager in deze zaak
Geautomatiseerde besluitvorming. Krachtens artikel 22 GDPR hebben personen het recht niet aan geautomatiseerde besluitvorming te worden onderworpen. Klaagster besloot daarom de beslissing van AMT aan te vechten en verzocht om meer informatie over hoe haar persoonsgegevens waren verwerkt. Zij nam contact op met de functionaris voor gegevensbescherming van Amazon, met Amazon Client Services, en met Amazon Web Services (een ander bedrijf van de Amazon Group, waarnaar zij werd doorverwezen). Ondanks haar vele pogingen, en een worsteling om te vinden waar ze haar zorgen kon uiten, kreeg ze nooit antwoord van Amazon.
"Als we gaan leven in een wereld waarin een algoritme op eigen houtje beslist of je het waard bent om een verzekering, een lening of zelfs een baan te krijgen, komt de menselijke waardigheid zelf onder vuur te liggen. Bedrijven als Amazon moeten de nodige waarborgen bieden om individuen te beschermen tegen oneerlijke beslissingen. Ze moeten duidelijke informatie geven over hoe hun geautomatiseerde beslissingen tot stand komen, het recht hebben om ze aan te vechten en ervoor zorgen dat een echt mens deze beslissingen kan beoordelen", legt Romain Robert, advocaat gegevensbescherming bij noyb, uit.
GDPR tegen de machine. De GDPR beschermt gebruikers tegen beslissingen die hun leven beïnvloeden wanneer deze beslissingen uitsluitend door machines worden genomen. Dit is met name van belang op het gebied van e-recruitment, waar de ondoorzichtigheid van algoritmische besluitvorming kan leiden tot oneerlijkheid en discriminatie op grote schaal. noyb hoopt dat de CNPD Amazon zal bevelen om duidelijke informatie te geven aan de gebruikers over zijn geautomatiseerde besluitvorming, en een manier om de beslissing te herzien zonder zich te verschuilen achter een algoritme. De CNPD kan Amazon ook een boete opleggen, zoals al is gedaan in Juli 2021.
