Złożona skarga: Pomocy! Mój rekruter jest algorytmem!

gru 22, 2021

Pomocy! Mój rekruter jest algorytmem!

noyb złożył skargę do luksemburskiego organu ochrony danych (CNPD) przeciwko firmie Amazon z powodu jej podejrzanych praktyk e-rekrutacji na platformie Mechanical Turk. W szczególności, Amazon wykorzystuje zautomatyzowane podejmowanie decyzji w celu akceptacji lub odrzucenia pracowników - bez możliwości zrozumienia przez kandydatów kryteriów stojących za taką zautomatyzowaną decyzją lub jej zakwestionowania.

Zostanie pracownikiem MTurk. Amazon Mechanical Turk ("AMT", spółka należąca do grupy Amazon) prowadzi platformę crowd-sourcingową na stronie internetowej www.mturk.com. Platforma ta łączy różne przedsiębiorstwa i małych niezależnych pracowników zlokalizowanych na całym świecie. Pracownicy ci (zwani również "MTurk Workers ") zazwyczaj wykonują mikrozadania za niewielkie wynagrodzenie, takie jak analiza zawartości obrazu, moderowanie treści online lub zatwierdzanie danych.

Algorytmy jako rekruterzy Teoretycznie każdy może złożyć aplikację i zostać Pracownikiem Mturk za pomocą kilku kliknięć. W praktyce jednak AMT zastrzega sobie prawo do automatycznego odmawiania dostępu do swojej platformy, a powody takiej odmowy pozostają całkowicie nieprzejrzyste. To właśnie przydarzyło się skarżącej, kiedy złożyła wniosek o przyjęcie na stanowisko Pracownika MTurk: otrzymała automatyczną wiadomość e-mail z informacją, że została odrzucona bez dalszych wyjaśnień.

"Co mnie najbardziej zaskoczyło, to fakt, że automatyczny e-mail, który został do mnie wysłany, wyraźnie stwierdzał, że decyzja ta została podjęta na podstawie wcześniej ustalonych kryteriów, oraz że kryteria te nie zostaną mi ujawnione, ponieważ Amazon uznał je za "zastrzeżone". To skłoniło mnie do zastanowienia: co oni mają do ukrycia? Czy odrzucili mnie z powodu mojej lokalizacji, poziomu wykształcenia, płci? W jaki sposób analizowali mój profil i skąd w ogóle wzięli te dane?" - Kathia (pseudonim), osoba składająca skargę w tej sprawie

Zautomatyzowane podejmowanie decyzji. Zgodnie z art. 22 GDPR, osoby fizyczne mają prawo nie podlegać zautomatyzowanemu podejmowaniu decyzji. Skarżąca postanowiła zatem zakwestionować decyzję AMT i zażądała więcej informacji na temat sposobu przetwarzania jej danych osobowych. Skontaktowała się z inspektorem ochrony danych Amazon, Amazon Client Services oraz Amazon Web Services (inna spółka z grupy Amazon, do której została przekierowana). Pomimo wielu prób i zmagań w poszukiwaniu miejsca, w którym mogłaby się zwrócić ze swoimi wątpliwościami, nigdy nie otrzymała żadnej odpowiedzi od Amazon.

"Jeśli zaczynamy żyć w świecie, w którym algorytm sam decyduje o tym, czy jesteś godny otrzymania ubezpieczenia, pożyczki, a nawet pracy, sama ludzka godność staje się przedmiotem ataku. Firmy takie jak Amazon muszą zapewnić odpowiednie zabezpieczenia, aby chronić jednostki przed niesprawiedliwymi decyzjami. Powinny jasno informować o tym, w jaki sposób podejmowane są ich zautomatyzowane decyzje, o prawie do ich zakwestionowania i upewnić się, że rzeczywisty człowiek może przejrzeć te decyzje" - wyjaśnia Romain Robert, prawnik ds. ochrony danych w noyb.

GDPRage przeciwko maszynie. GDPR chroni użytkowników przed decyzjami wpływającymi na ich życie, gdy decyzje te są podejmowane wyłącznie przez maszyny. Jest to szczególnie ważne w dziedzinie e-rekrutacji, gdzie nieprzejrzystość algorytmicznego podejmowania decyzji może prowadzić do nieuczciwości i dyskryminacji na dużą skalę. noyb ma nadzieję, że CNPD nakaże Amazonowi podawać użytkownikom jasne informacje o swoim zautomatyzowanym podejmowaniu decyzji, a także sposób weryfikacji decyzji bez ukrywania się za algorytmem. CNPD może również nałożyć grzywnę na Amazon, jak to już miało miejsce w Lipcu 2021 r.