Dnes, noyb (ve spolupráci s Intérêt à Agir, DIPLab a Reversing.Works) podaly 5 stížností proti společnosti Scale AI ve Francii, Itálii, Nizozemsku a Rakousku. Tato společnost se sídlem v USA provozuje platformu pro trénování umělé inteligence s názvem Outlier, která zaměstnává více než 900 000 „nezávislých“ pracovníků. Mezi její zákazníky patří: Meta, OpenAI, Google – a americká vláda. Společnost Scale AI však nevyužívá pouze rozsáhlé znalosti a zkušenosti pracovníků: shromažďuje obrovské množství osobních údajů a nutí pracovníky podstoupit invazivní biometrickou verifikaci, aby si mohli vydělat peníze. V Evropě tento rozsáhlý dohled na pracovišti jasně porušuje základní právo pracovníků na ochranu osobních údajů.
- Stížnost ve Francii
- Stížnost v Itálii
- Stížnost v Nizozemsku
- Stížnost v Rakousku č. 1; Stížnost v Rakousku č. 2
- Zpráva DiPLab o sledování na pracovišti ze strany platforem pro trénování umělé inteligence
Co je to práce na platformách – a co má společného s umělou inteligencí? Od kurýrních služeb, jako je Uber, přes rozvoz jídla až po anotaci dat: více než 40 milionů lidí již pracuje prostřednictvím platforem. To staví lidi do zranitelné pozice: Společnosti se mimo jiné snaží obcházet pracovní právo tím, že (nesprávně) tvrdí, že jejich pracovníci jsou osoby samostatně výdělečně činné. To je často vylučuje z nároku na sociální dávky a má dopad na jejich mzdy. Není překvapením, že odvětví umělé inteligence se na tento nový typ práce silně spoléhá. Populární nástroje umělé inteligence, jako jsou ChatGPT, Gemini a Grok, jsou rovněž trénovány skutečnými lidmi, kteří ručně kontrolují nebo anotují jejich výstupy.
Scale AI – téměř 1 milion pracovníků. Jedním z největších hráčů v této oblasti je americká společnost Scale AI, která provozuje platformu pro anotaci dat Outlier AI. Outlier zaměstnává více než 900 000 „nezávislých“ pracovníků platformy, kteří trénují systémy umělé inteligence řešením úkolů (např. psaním zadání, hodnocením odpovědí atd.), čímž v podstatě předávají své odborné znalosti americkým technologickým gigantům. Mezi její nejznámějšími zákazníky jsou korporace jako Meta, OpenAI, xAI, Google, Anthropic, a americká vláda.
Thomas Le Bonniec, výzkumník v oboru sociologie v DIPLab: „Práce na platformách se jeví jako živná půda pro zcela nový typ sledování na pracovišti. V jakékoli jiné formě zaměstnání by to bylo v Evropské unii považováno za nepřijatelné. Tento systém prosperuje pouze díky záměrnému nedostatku transparentnosti.“
Invazivní sledování. Problematické pracovní praktiky však nejsou jediným problémem: společnost Outlier podrobuje své pracovníky invazivnímu sledování. Naše technická analýza ukázala, že zatímco jsou pracovníci na platformě Outlier, na jejich zařízení se umisťují sledovací nástroje společností jako TikTok, LinkedIn, Facebook, platforma pro průzkumy Sprig a společnost zabývající se analýzou dat Datadog. Každých několik sekund tyto sledovací nástroje odesílají osobní údaje zaměstnanců třetím stranám. Patří mezi ně IP adresy, kontaktní údaje, jedinečné identifikátory a informace o navštívené stránce. Tyto údaje mohou být mimo jiné následně využity pro cílenou reklamu a profilování.
Lisa Steinfeld Leiser, právnička specializující se na ochranu osobních údajů v noyb: „Takové neustálé a rozsáhlé sledování během práce je opravdu v rozporu se všemi rozumnými očekáváními. Proč by LinkedIn nebo Facebook měly vědět, na jakých úkolech právě pracujete?“
Nucená biometrická identifikace. Jako by toho nebylo dost, společnost Scale AI také nutí zaměstnance, aby opakovaně procházeli procesem biometrické verifikace prováděným společností Persona. To zahrnuje videozáznamy jejich obličeje a nahrání dokladu totožnosti. Scale AI tvrdí, že se tak děje za účelem prevence podvodů s totožností a „ověření dovedností zaměstnanců“. Ve skutečnosti to nejenže daleko přesahuje to, co by bylo nezbytné, ale společnost Persona má navíc pochybnou historii, pokud jde o bezpečnost dat. V říjnu 2025 bylo přibližně 70 000 fotografií vládních průkazů totožnosti uložených u společnosti Persona byly hackerům odhaleny. Navíc si společnost Persona vyhrazuje právo shromažďovat velké množství osobních údajů, včetně IP adres, informací o zařízeních, geolokačních údajů, adres a údajů o spotřebitelských úvěrech uživatelů.
Baptiste Delmas, koordinátor projektu v organizaci Intérêt à Agir: „Porušení předpisů zdůrazněná ve stížnostech proti společnosti Scale AI jasně ukazují, že boom umělé inteligence se opírá o obrovskou pracovní sílu, jejíž soukromí je ohroženo. Úřady pro ochranu osobních údajů musí nyní tyto problémy brát vážně a zavést přísná donucovací opatření.“
Stížnosti byly podány ve Francii, Itálii, Nizozemsku a Rakousku. Organizace nyní podala celkem 5 stížností podle GDPR proti společnosti Scale AI. Společnost nejenže nemá platný právní základ pro umisťování sledovacích nástrojů na zařízení stěžovatelů bez jejich souhlasu, ale porušuje také zásadu minimalizace údajů stanovenou v GDPR. Totéž platí pro zpracování biometrických údajů. V neposlední řadě se společnost Scale AI ani neobtěžovala reagovat na žádosti stěžovatelů o přístup k údajům, čímž porušila jejich právo na přístup podle GDPR. noyb požaduje důkladné prošetření těchto porušení a navrhuje, aby příslušné orgány uložily správní pokutu, aby se v budoucnu předešlo podobným porušením.
- Těchto 5 stížností organizace noyb stížností je součástí mezioborové iniciativy zaměřené na pracovní podmínky v rámci hodnotových řetězců umělé inteligence (AI-WORLD), kterou vede Intérêt à Agir ve spolupráci s DipLab a podporované Evropským fondem pro umělou inteligenci a společnost (European AI & Society Fund ) a Fondem pro digitální svobodu (Digital Freedom Fund)
- Chcete-li se dozvědět více o pracovních podmínkách pracovníků na platformách, podívejte se prosím na tuto zprávu od DiPLab.
