Idag, noyb (i samarbete med Intérêt à Agir, DIPLab och Reversing.Works) har lämnat in fem anmälningar mot Scale AI i Frankrike, Italien, Nederländerna och Österrike. Det USA-baserade företaget driver en AI-utbildningsplattform vid namn Outlier, som sysselsätter mer än 900 000 ”frilansare”. Bland dess kunder finns Meta, OpenAI, Google – och den amerikanska regeringen. Det är dock inte bara arbetstagarnas omfattande kunskap och erfarenhet som Scale AI utnyttjar: Företaget samlar in enorma mängder personuppgifter och tvingar arbetstagarna att genomgå en inkräktande biometrisk verifiering för att tjäna pengar. I Europa utgör denna omfattande övervakning på arbetsplatsen ett tydligt brott mot arbetstagarnas grundläggande rätt till dataskydd.
- Klagomål i Frankrike
- Klagomål i Italien
- Klagomål i Nederländerna
- Klagomål i Österrike nr 1; Klagomål i Österrike nr 2
- Rapport från DiPLab om arbetsplatsövervakning via AI-träningsplattformar
Vad är plattformsarbete – och vad har det med AI att göra? Från budtjänster som Uber och matleveranstjänster till dataannotering: mer än 40 miljoner människor har redan sitt arbete organiserat via plattformar. Detta sätter människor i en utsatt position: Bland annat försöker företag kringgå arbetslagstiftningen genom att (felaktigt) hävda att deras arbetstagare är egenföretagare. Detta utesluter ofta dem från sociala förmåner och påverkar deras löner. Föga förvånande är AI-branschen starkt beroende av denna nya typ av arbete. Populära AI-verktyg som ChatGPT, Gemini och Grok tränas också av riktiga människor som manuellt granskar eller annoterar deras utdata.
Scale AI – nästan 1 miljon arbetstagare. En av de största aktörerna inom detta område är det amerikanska företaget Scale AI, som driver dataannotationsplattformen Outlier AI. Outlier sysselsätter mer än 900 000 ”frilansande” plattformsarbetare som tränar AI-system genom att lösa uppgifter (t.ex. skriva uppmaningar, rangordna svar osv.), vilket i praktiken innebär att de förmedlar sin expertkunskap till de stora amerikanska techföretagen. Dess mest kända kunder är företag som Meta, OpenAI, xAI, Google, Anthropic, samt den amerikanska regeringen.
Thomas Le Bonniec, sociologiforskare vid DIPLab: ”Plattformsarbete verkar vara en grogrund för en helt ny typ av övervakning på arbetsplatsen. Detta skulle anses oacceptabelt inom alla andra former av anställning i Europeiska unionen. Detta system kan bara frodas tack vare sin avsiktliga brist på transparens.”
Invasiv spårning. Men tvivelaktiga anställningsmetoder är inte det enda problemet: Outlier utsätter sina arbetstagare för invasiv spårning. Vår tekniska analys visade att medan arbetstagarna befinner sig på Outlier-plattformen placeras spårare från företag som TikTok, LinkedIn, Facebook, undersökningsplattformen Sprig och dataanalysföretaget Datadog på deras enheter. Med några sekunders mellanrum skickar dessa spårare de anställdas personuppgifter till tredje part. Detta inkluderar IP-adresser, kontaktuppgifter, unika identifierare och information om den besökta sidan. Dessa uppgifter kan sedan bland annat användas för riktad reklam och profilering.
Lisa Steinfeld Leiser, dataskyddsjurist vid noyb: ”En sådan ständig och omfattande spårning under arbetet strider verkligen mot alla rimliga förväntningar. Varför ska LinkedIn eller Facebook veta vilka uppgifter du arbetar med?”
Tvingad biometrisk identifiering. Som om det inte vore nog tvingar Scale AI också arbetstagarna att upprepade gånger genomgå en biometrisk verifieringsprocess som utförs av ett företag som heter Persona. Detta innefattar videoinspelningar av deras ansikte och uppladdning av deras ID-handlingar. Scale AI hävdar att detta görs för att förhindra identitetsbedrägeri och för att ”verifiera de anställdas kompetens”. I själva verket går detta inte bara långt utöver vad som skulle vara nödvändigt, utan Persona har dessutom en tvivelaktig historia när det gäller datasäkerhet. I oktober 2025 läcktes cirka 70 000 foton av myndighetsutfärdade ID-handlingar som lagrats hos Persona exponerades av hackare. Dessutom tillskriver sig Persona rätten att samla in stora mängder personuppgifter, däribland IP-adresser, enhetsinformation, geolokaliseringsdata, adresser och uppgifter om användarnas konsumentkrediter.
Baptiste Delmas, projektkoordinator vid Intérêt à Agir: ”De överträdelser som lyfts fram i klagomålen mot Scale AI visar tydligt att AI-boomen bygger på en stor arbetsstyrka vars integritet står på spel. Dataskyddsmyndigheterna måste nu ta dessa frågor på allvar och införa strikta tillsynsåtgärder.”
Klagomål har lämnats in i Frankrike, Italien, Nederländerna och Österrike. noyb har nu lämnat in totalt fem GDPR-klagomål mot Scale AI. Företaget saknar inte bara en giltig rättslig grund för att placera spårare på klagandenas enheter utan samtycke, utan bryter också mot GDPR:s princip om dataminimering. Detsamma gäller behandlingen av biometriska uppgifter. Sist men inte minst har Scale AI inte ens brytt sig om att besvara klagandenas begäran om tillgång till uppgifterna, vilket innebär ett brott mot deras rätt till tillgång enligt GDPR. noyb begär en fullständig utredning av överträdelserna och föreslår att de behöriga myndigheterna utdömer ett förvaltningsböter för att förhindra liknande överträdelser i framtiden.
- Dessa 5 noyb klagomålen ingår i ett tvärvetenskapligt initiativ om arbetsvillkor i AI-värdekedjor (AI-WORLD), som leds av Intérêt à Agir i samarbete med DipLab och med stöd från European AI & Society Fund och Digital Freedom Fund
- För att läsa mer om arbetsvillkoren för plattformsarbetare, ta en titt på denna rapport från DiPLab.
