La plateforme de formation à l'IA Outlier surveille illégalement les travailleurs des plateformes européennes

• Plainte en France
• Réclamation en Italie
• Plainte aux Pays-Bas
• Plainte en Autriche n° 1; Plainte en Autriche n° 2
• Rapport du DiPLab sur la surveillance sur le lieu de travail par les plateformes d’entraînement à l’IA

Qu'est-ce que le travail sur plateforme – et quel est son rapport avec l'IA ? Des services de coursier comme Uber aux services de livraison de repas, en passant par l'annotation de données : plus de 40 millions de personnes ont déjà leur travail organisé par des plateformes. Cela place ces personnes dans une situation de vulnérabilité : entre autres, les entreprises tentent de contourner le droit du travail en affirmant (à tort) que leurs travailleurs sont des travailleurs indépendants. Cela les exclut souvent des prestations sociales et affecte leurs salaires. Sans surprise, le secteur de l’IA s’appuie fortement sur ce nouveau type de travail. Des outils d’IA populaires tels que ChatGPT, Gemini et Grok sont également entraînés par de vraies personnes qui vérifient ou annotent manuellement leurs résultats.

Scale AI – près d’un million de travailleurs. L’un des principaux acteurs de ce secteur est la société américaine Scale AI, qui exploite la plateforme d’annotation de données Outlier AI. Outlier emploie plus de 900 000 travailleurs « indépendants » sur sa plateforme qui entraînent les systèmes d’IA en effectuant des tâches (par exemple, rédiger des prompts, classer des réponses, etc.), mettant ainsi leur expertise au service des géants américains de la tech. Parmi ses clients les plus connus sont des entreprises telles que Meta, OpenAI, xAI, Google, Anthropic, et le gouvernement américain.

Thomas Le Bonniec, chercheur en sociologie au DIPLab : « Le travail sur les plateformes semble être un terrain propice à un tout nouveau type de surveillance sur le lieu de travail. Cela serait considéré comme inacceptable dans toute autre forme d’emploi au sein de l’Union européenne. Ce système ne prospère que grâce à son manque délibéré de transparence. »

Un suivi intrusif. Cependant, les pratiques d’emploi contestables ne sont pas le seul problème : Outlier soumet ses travailleurs à un suivi intrusif. Notre analyse technique a montré que, lorsque les travailleurs sont sur la plateforme Outlier, des traceurs provenant d’entreprises telles que TikTok, LinkedIn, Facebook, la plateforme d’enquêtes Sprig et la société d’analyse de données Datadog sont installés sur leurs appareils. Toutes les quelques secondes, ces traceurs transmettent les données personnelles des travailleurs à des tiers. Cela comprend les adresses IP, les coordonnées, les identifiants uniques et des informations sur la page visitée. Ces données peuvent notamment être utilisées à des fins de publicité ciblée et de profilage.

Lisa Steinfeld Leiser, avocate spécialisée en protection des données chez noyb : « Un suivi aussi constant et étendu pendant le travail va vraiment à l’encontre de toutes les attentes raisonnables. Pourquoi LinkedIn ou Facebook devraient-ils savoir sur quelles tâches vous travaillez ? »

Identification biométrique forcée. Comme si cela ne suffisait pas, Scale AI oblige également les employés à se soumettre à plusieurs reprises à un processus de vérification biométrique mené par une société appelée Persona. Cela inclut des enregistrements vidéo de leur visage et le téléchargement de leur pièce d’identité. Scale AI affirme que cela vise à prévenir l’usurpation d’identité et à « vérifier les compétences des employés ». En réalité, non seulement cela va bien au-delà de ce qui serait nécessaire, mais Persona a également des antécédents discutables en matière de sécurité des données. En octobre 2025, environ 70 000 photos de pièces d’identité officielles stockées chez Persona ont été divulguées par des pirates informatiques. De plus, Persona s’octroie le droit de collecter une multitude de données personnelles, notamment les adresses IP, les informations sur les appareils, les données de géolocalisation, les adresses et les données de crédit des utilisateurs.

Baptiste Delmas, coordinateur de projet chez Intérêt à Agir : « Les violations mises en évidence dans les plaintes déposées contre Scale AI montrent clairement que l’essor de l’IA repose sur une main-d’œuvre considérable dont la vie privée est en jeu. Les autorités chargées de la protection des données doivent désormais prendre ces problèmes au sérieux et imposer des mesures d’application strictes. »

Plaintes déposées en France, en Italie, aux Pays-Bas et en Autriche. noyb a désormais déposé un total de 5 plaintes au titre du RGPD contre Scale AI. Non seulement l’entreprise ne dispose pas d’une base juridique valable pour installer des traceurs sur les appareils des plaignants sans leur consentement, mais elle enfreint également le principe de minimisation des données prévu par le RGPD. Il en va de même pour le traitement des données biométriques. Enfin, Scale AI n’a même pas pris la peine de répondre aux demandes d’accès des plaignants, violant ainsi leur droit d’accès prévu par le RGPD. noyb demande une enquête approfondie sur ces violations et suggère que les autorités compétentes infligent une amende administrative afin d’empêcher que de telles violations ne se reproduisent à l’avenir.

• Ces 5 plaintes de noyb plaintes s’inscrivent dans le cadre d’une initiative interdisciplinaire sur les conditions de travail tout au long des chaînes de valeur de l’IA (AI-WORLD), menée par Intérêt à Agir en partenariat avec DipLab et soutenue par le Fonds européen « IA & Société » et le Fonds pour la liberté numérique
• Pour en savoir plus sur les conditions de travail des travailleurs des plateformes, veuillez consulter ce rapport de DipLab.