Vandaag, noyb (in samenwerking met Intérêt à Agir, DIPLab en Reversing.Works) hebben vijf klachten ingediend tegen Scale AI in Frankrijk, Italië, Nederland en Oostenrijk. Het in de VS gevestigde bedrijf exploiteert een AI-trainingsplatform genaamd Outlier, dat meer dan 900.000 „freelance“-werknemers in dienst heeft. Tot de klanten behoren onder meer Meta, OpenAI, Google – en de Amerikaanse overheid. Scale AI maakt echter niet alleen gebruik van de uitgebreide kennis en ervaring van de werknemers: het bedrijf verzamelt enorme hoeveelheden persoonsgegevens en dwingt werknemers om een ingrijpende biometrische verificatie te ondergaan om geld te verdienen. In Europa vormt dit vergaande toezicht op de werkplek een duidelijke schending van het grondrecht van de werknemers op gegevensbescherming.
- Klacht in Frankrijk
- Klacht in Italië
- Klacht in Nederland
- Klacht in Oostenrijk #1; Klacht in Oostenrijk #2
- Rapport van DiPLab over toezicht op de werkplek door AI-trainingsplatforms
Wat is platformwerk – en wat heeft het met AI te maken? Van koeriersdiensten zoals Uber en maaltijdbezorgdiensten tot het annoteren van data: meer dan 40 miljoen mensen hebben hun werk al via platforms georganiseerd. Dit plaatst mensen in een kwetsbare positie: bedrijven proberen onder andere de arbeidswetgeving te omzeilen door (ten onrechte) te beweren dat hun werknemers zelfstandigen zijn. Hierdoor worden ze vaak uitgesloten van sociale voorzieningen en beïnvloedt het hun loon. Het is dan ook geen verrassing dat de AI-industrie sterk leunt op deze nieuwe vorm van werken. Populaire AI-tools zoals ChatGPT, Gemini en Grok worden eveneens getraind door echte mensen die de output handmatig controleren of annoteren.
Scale AI – bijna 1 miljoen werknemers. Een van de grootste spelers op dit gebied is het Amerikaanse bedrijf Scale AI, dat het data-annotatieplatform Outlier AI exploiteert. Outlier heeft meer dan 900.000 „freelance“ platformwerkers in dienst die AI-systemen trainen door taken uit te voeren (bijv. prompts schrijven, antwoorden rangschikken, enz.), waardoor ze in feite hun deskundige kennis aan Amerikaanse Big Tech-bedrijven doorgeven. De bekendste klanten zijn bedrijven zoals Meta, OpenAI, xAI, Google, Anthropic, en de Amerikaanse overheid.
Thomas Le Bonniec, sociologisch onderzoeker bij DIPLab: „Platformwerk lijkt een vruchtbare bodem te zijn voor een geheel nieuw soort toezicht op de werkplek. Dit zou in elke andere vorm van dienstverband in de Europese Unie als onaanvaardbaar worden beschouwd. Dit systeem gedijt alleen maar vanwege het opzettelijke gebrek aan transparantie.”
Invasieve tracking. Twijfelachtige arbeidspraktijken zijn echter niet het enige probleem: Outlier onderwerpt zijn werknemers aan invasieve tracking. Uit onze technische analyse bleek dat, terwijl werknemers op het Outlier-platform actief zijn, er trackers van bedrijven zoals TikTok, LinkedIn, Facebook, het enquêteplatform Sprig en het data-analysebedrijf Datadog op hun apparaten worden geplaatst. Om de paar seconden sturen deze trackers de persoonsgegevens van de werknemers naar derden. Hieronder vallen IP-adressen, contactgegevens, unieke identificatiecodes en informatie over de bezochte pagina. Deze gegevens kunnen vervolgens onder andere worden gebruikt voor gerichte reclame en profilering.
Lisa Steinfeld Leiser, advocaat op het gebied van gegevensbescherming bij noyb: „Zo’n constante en uitgebreide tracking tijdens het werk druist echt in tegen alle redelijke verwachtingen. Waarom zouden LinkedIn of Facebook moeten weten aan welke taken je werkt?”
Gedwongen biometrische identificatie. Alsof dat nog niet genoeg is, dwingt Scale AI werknemers ook om herhaaldelijk een biometrisch verificatieproces te doorlopen dat wordt uitgevoerd door een bedrijf genaamd Persona. Dit omvat video-opnames van hun gezicht en het uploaden van hun identiteitsbewijs. Scale AI beweert dat dit wordt gedaan om identiteitsfraude te voorkomen en om “de vaardigheden van de werknemers te verifiëren”. In werkelijkheid gaat dit niet alleen veel verder dan wat nodig zou zijn, maar heeft Persona ook een twijfelachtige reputatie als het gaat om gegevensbeveiliging. In oktober 2025 werden ongeveer 70.000 foto’s van door de overheid uitgegeven identiteitsbewijzen die bij Persona waren opgeslagen door hackers openbaar gemaakt. Bovendien kent Persona zichzelf het recht toe om grote hoeveelheden persoonsgegevens te verzamelen, waaronder IP-adressen, apparaatinformatie, geolocatiegegevens, adressen en kredietgegevens van gebruikers.
Baptiste Delmas, projectcoördinator bij Intérêt à Agir: „De schendingen die in de klachten tegen Scale AI aan de kaak worden gesteld, tonen duidelijk aan dat de AI-boom steunt op een enorm personeelsbestand waarvan de privacy op het spel staat. Gegevensbeschermingsautoriteiten moeten deze kwesties nu serieus nemen en strenge handhavingsmaatregelen opleggen.“
Klachten ingediend in Frankrijk, Italië, Nederland en Oostenrijk. noyb heeft inmiddels in totaal 5 AVG-klachten tegen Scale AI ingediend. Het bedrijf beschikt niet alleen niet over een geldige rechtsgrondslag om zonder toestemming trackers op de apparaten van de klagers te plaatsen, maar schendt ook het AVG-beginsel van gegevensminimalisatie. Hetzelfde geldt voor de verwerking van biometrische gegevens. Tot slot heeft Scale AI niet eens de moeite genomen om te reageren op de verzoeken om inzage van de klagers, waardoor het hun recht op inzage op grond van de AVG heeft geschonden. noyb vraagt om een volledig onderzoek naar de inbreuken en stelt voor dat de bevoegde autoriteiten een administratieve boete opleggen om soortgelijke inbreuken in de toekomst te voorkomen.
- Deze 5 noyb klachten maken deel uit van een interdisciplinair initiatief over arbeidsomstandigheden in de hele AI-waardeketen (AI-WORLD), geleid door Intérêt à Agir in samenwerking met DipLab en ondersteund door het European AI & Society Fund en het Digital Freedom Fund
- Voor meer informatie over de arbeidsomstandigheden van platformwerkers kunt u dit rapport van DiPLab.
