Подадена жалба: Помощ! Моят специалист по подбор на персонал е алгоритъм!

Dec 22, 2021

Помощ! Моят специалист по подбор на персонал е алгоритъм!

noyb е подал жалба до люксембургския орган за защита на данните (CNPD) срещу Amazon заради съмнителните им практики за електронно набиране на персонал в платформата Mechanical Turk. По-специално Amazon използва автоматизирано вземане на решения за приемане или отхвърляне на работници - без възможност кандидатите да разберат критериите, които стоят зад такова автоматизирано решение, или да го оспорят.

Ставане на работник в MTurk. Amazon Mechanical Turk ("AMT", дружество от групата на Amazon) работи платформа за групов подбор на персонал на уебсайта www.mturk.com. Тази платформа обединява различни предприятия и малки независими работници, разположени по целия свят. Тези работници (наричани още "MTurk Workers " ) обикновено изпълняват микрозадачи срещу малко възнаграждение, като например анализ на съдържание на изображения, модериране на онлайн съдържание или валидиране на данни.

Алгоритмите като набиращи персонал Теоретично всеки може да кандидатства и да стане работник на Мтурк с няколко кликвания. На практика обаче AMT си запазва правото автоматично да отказва достъп до платформата си, а причините за този отказ остават напълно непрозрачни. Точно това се е случило с жалбоподателката, когато е кандидатствала да стане MTurk Worker: тя е получила автоматичен имейл, който я е информирал, че е била отхвърлена без допълнителни обяснения.

"Това, което ме изненада най-много, е, че в автоматичния имейл, който ми беше изпратен, ясно се посочваше, че това решение е взето въз основа на предварително зададени критерии и че тези критерии няма да ми бъдат разкрити, тъй като Amazon ги счита за "запазени". Това ме накара да се запитам: какво имат да крият? Дали са ме отхвърлили заради моето местоположение, ниво на образование, пол? Как са анализирали профила ми и как изобщо са се сдобили с тези данни?" - Kathia (псевдоним), жалбоподател по това дело

Автоматизирано вземане на решения. Съгласно член 22 от ОРЗД физическите лица имат право да не бъдат обект на автоматизирано вземане на решения. Поради това жалбоподателката реши да оспори решението на AMT и поиска повече информация за това как са били обработени нейните лични данни. Тя се свърза с длъжностното лице по защита на данните на Amazon, с отдела за обслужване на клиенти на Amazon и с Amazon Web Services (друго дружество от групата на Amazon, към което беше пренасочена). Въпреки многобройните си опити и борбата да открие къде да адресира опасенията си, тя така и не получила отговор от Amazon.

"Ако започнем да живеем в свят, в който един алгоритъм сам решава дали сте достойни да получите застраховка, заем или дори работа, самото човешко достойнство става обект на атака. Компании като Amazon трябва да предоставят подходящи гаранции за защита на хората от несправедливи решения. Те трябва да предоставят ясна информация за това как се вземат автоматизираните им решения, как човек може да оспори тези решения и да се уверят, че действително човешко същество може да преразгледа тези решения", обяснява Ромен Робер, адвокат по защита на данните в noyb.

GDPR срещу машината. GDPR защитава потребителите срещу решения, засягащи живота им, когато тези решения се вземат само от машини. Това е особено важно в областта на електронното набиране на персонал, където непрозрачността на алгоритмичното вземане на решения може да доведе до несправедливост и дискриминация в голям мащаб. noyb се надява, че CNPD ще разпореди на Amazon да предостави ясна информация на потребителите за автоматизираното вземане на решения и начин за преразглеждане на решението, без да се крие зад алгоритъм. CNPD може също така да наложи глоба на Amazon, както вече е направено в Юли 2021 г.