noyb hat heute (gemeinsam mit Intérêt à Agir, DIPLab und Reversing.Works) fünf Beschwerden gegen Scale AI in Frankreich, Italien, den Niederlanden und Österreich eingebracht. Das US-Unternehmen betreibt die KI-Trainingsplattform Outlier, die mehr als 900.000 „Freelancer“ beschäftigt. Unter ihren Kunden befinden sich Meta, OpenAI, Google – und die US-Regierung. Scale AI greift jedoch nicht nur das Wissen und die Erfahrung der Arbeitskräfte ab. Es sammelt auch riesige Mengen persönlicher Daten und zwingt die Betroffenen zu einer invasiven biometrischen Verifizierung. In der EU verstößt diese Form der Arbeitsplatzüberwachung eindeutig gegen das Datenschutzrecht.
- Beschwerde in Österreich #1; Beschwerde in Österreich #2
- Beschwerde in Frankreich
- Beschwerde in den Niederlanden
- Beschwerde in Italien
- Bericht von DiPLab zu Arbeitsplatzüberwachung durch KI-Trainingsplattformen
Was ist Plattformarbeit – und was hat sie mit KI zu tun? Von Kurierdiensten über Essenslieferdienste bis hin zur Datenannotation: Schon heute wird die Arbeit von mehr als 40 Millionen Menschen über Plattformen organisiert. Betroffene geraten dadurch in eine prekäre Lage. Unternehmen versuchen zum Beispiel, das Arbeitsrecht zu umgehen, indem sie ihre Mitarbeiter:innen (fälschlicherweise) als selbstständig ausweisen. Das kann sich auf ihre Sozialleistungen, aber auch Löhne auswirken. Auch die KI-Branche stützt sich stark auf diese neue Form der Arbeit. Beliebte KI-Tools wie ChatGPT, Gemini und Grok werden unter anderem von echten Menschen trainiert, die den Output manuell überprüfen oder annotieren.
Scale AI – fast 1 Million Beschäftigte. Einer der größten Akteure in ist das US-Unternehmen Scale AI, Betreiber der Datenannotationsplattform Outlier AI. Outlier beschäftigt mehr als 900.000 „Freelancer“, die KI-Systeme durch das Lösen von Aufgaben (z. B. das Verfassen von Prompts, das Bewerten von Antworten usw.) trainieren. Damit geben sie ihr Fachwissen effektiv an US-amerikanische Big-Tech-Unternehmen weiter. Zu den bekanntesten Kunden zählen Meta, OpenAI, xAI, Google, Anthropic und die US-Regierung.
Thomas Le Bonniec, Forscher am DiPLab: „Plattformarbeit scheint ein fruchtbarer Boden für eine völlig neue Art der Arbeitsplatzüberwachung zu sein. In keiner anderen Beschäftigungsform würde man ein solches Vorgehen akzeptieren. Dieses System gedeiht nur wegen seiner Intransparenz.“
Invasive Überwachung. Fragwürdige Beschäftigungspraktiken sind aber nicht das einzige Problem. Outlier setzt seine Mitarbeiter:innen invasivem Tracking aus. Eine technische Analyse ergab, dass Outlier Tracker auf den Geräten der Betroffenen platziert, während sie sich auf der Plattform befinden. Darunter z.B. solche von TikTok, LinkedIn und Facebook. Alle paar Sekunden senden diese Tracker die persönliche Daten der Betroffenen an Dritte. Darunter IP-Adressen, Kontaktdaten, und Informationen zur besuchten Seite. Diese Daten können dann auch für gezielte Werbung und Profiling genutzt werden.
Lisa Steinfeld Leiser, Datenschutzjuristin bei noyb: „Ein derart umfassendes Tracking während der Arbeit widerspricht wirklich allen vernünftigen Erwartungen. Warum sollten LinkedIn oder Facebook wissen, an welchen Aufgaben ich gerade arbeite?“
Verpflichtende biometrische Identifizierung. Hinzu kommt, dass Outlier die Beschäftigten (wiederholt) einem biometrischen Verifizierungsprozess unterzieht. Dieser wird von einem Unternehmen namens Persona durchgeführt und inkludiert Videoaufnahmen des Gesichts und das Hochladen eines Ausweises. Scale AI behauptet, all das diene der Verhinderung von Identitätsbetrug und der „Überprüfung der Fähigkeiten der Beschäftigten“. In Wirklichkeit ist eine solche Verifizierung alles andere als notwendig. Persona hat außerdem auch eine fragwürdige Vergangenheit in Bezug auf die Datensicherheit: Im Oktober 2025 erlangten Hacker Zugriff auf etwa 70.000 Fotos von Ausweisen, die bei Persona hinterlegt waren. Darüber hinaus erhebt das Unternehmen Unmengen persönlicher Daten, darunter IP-Adressen, Geräteinformationen, Standortdaten und Adressen.
Baptiste Delmas, Projektkoordinator bei Intérêt à Agir: „Die aufgezeigten Verstöße machen deutlich: Der KI-Boom ist auf eine riesige Anzahl von Arbeitskräften angewiesen, deren Privatsphäre auf dem Spiel steht. Die Datenschutzbehörden müssen diese Probleme nun ernst nehmen und strenge Maßnahmen ergreifen.“
Beschwerden in Frankreich, Italien, den Niederlanden und Österreich. noyb hat deshalb insgesamt fünf DSGVO-Beschwerden gegen Scale AI eingereicht. Das Unternehmen hat keine gültige Rechtsgrundlage, um Tracker auf den Geräten der Betroffenen zu platzieren. Außerdem verstößt es gegen den DSGVO-Grundsatz der Datenminimierung, unter anderem auch bei der Verarbeitung biometrischer Daten. Nicht zuletzt hat Scale AI die Auskunftsersuchen der Beschwerdeführer:innen ignoriert – und damit ihr Auskunftsrecht verletzt. noyb fordert deshalb eine umfassende Untersuchung der Verstöße und schlägt den zuständigen Datenschutzbehörden die Verhängung einer Verwaltungsstrafe vor.
- Diese fünf noyb-Beschwerden sind Teil einer interdisziplinären Initiative zu den Arbeitsbedingungen entlang der gesamten KI-Wertschöpfungskette (AI-WORLD). Diese wird von Intérêt à Agir in Zusammenarbeit mit DipLab geleitet und vom European AI & Society Fund sowie vom Digital Freedom Fund unterstützt.
- Um mehr über die Arbeitsbedingungen von Plattformarbeiter:innen zu erfahren, empfehlen wir diesen Bericht von DiPLab.
