Υποβλήθηκε καταγγελία: Βοήθεια! Το recruiter μου είναι αλγόριθμος!

Δεκ 22, 2021

Βοήθεια! Το recruiter μου είναι αλγόριθμος!

Η noyb υπέβαλε καταγγελία στην αρχή προστασίας δεδομένων του Λουξεμβούργου (CNPD) κατά της Amazon λόγω των αμφίβολων πρακτικών ηλεκτρονικής στρατολόγησης στην πλατφόρμα της Mechanical Turk. Συγκεκριμένα, η Amazon χρησιμοποιεί αυτοματοποιημένη λήψη αποφάσεων για την αποδοχή ή την απόρριψη εργαζομένων - χωρίς τη δυνατότητα για τους αιτούντες να κατανοήσουν τα κριτήρια πίσω από μια τέτοια αυτοματοποιημένη απόφαση ή να την αμφισβητήσουν.

Να γίνεις εργάτης ΜΤουρκ . Η Amazon Mechanical Turk («AMT», μια εταιρεία του ομίλου Amazon) λειτουργεί μια πλατφόρμα crowd-sourcing στον ιστότοπο www.mturk.com . Αυτή η πλατφόρμα συγκεντρώνει διάφορες επιχειρήσεις και μικρούς ανεξάρτητους εργαζόμενους που βρίσκονται σε όλο τον κόσμο. Αυτοί οι εργαζόμενοι (που ονομάζονται επίσης " MTurk Workers ") συνήθως εκτελούν μικρο-εργασίες με μικρή αμοιβή, όπως ανάλυση περιεχομένου εικόνας, εποπτεία περιεχομένου στο διαδίκτυο ή επικύρωση δεδομένων.

Αλγόριθμοι ως recruiters. Θεωρητικά, οποιοσδήποτε μπορεί να υποβάλει αίτηση και να γίνει Mturk Worker με λίγα κλικ. Στην πράξη, ωστόσο, η AMT διατηρεί το δικαίωμα να αρνηθεί αυτόματα την πρόσβαση στην πλατφόρμα της και οι λόγοι πίσω από αυτήν την άρνηση παραμένουν εντελώς αδιαφανείς. Αυτό ακριβώς συνέβη στην καταγγέλλουσα όταν έκανε αίτηση για να γίνει Εργάτης MTurk: έλαβε ένα αυτοματοποιημένο email που την ενημέρωνε ότι είχε απορριφθεί χωρίς περαιτέρω εξηγήσεις.

« Αυτό που με εξέπληξε περισσότερο είναι ότι το αυτοματοποιημένο email που μου εστάλη ανέφερε ξεκάθαρα ότι αυτή η απόφαση είχε ληφθεί με βάση προκαθορισμένα κριτήρια και ότι αυτά τα κριτήρια δεν θα αποκαλυφθούν σε εμένα επειδή η Amazon τα θεωρούσε «ιδιόκτητα». . Με έκανε να αναρωτηθώ: τι έχουν να κρύψουν; Με απέρριψαν λόγω τοποθεσίας, μορφωτικού επιπέδου, φύλου; Πώς ανέλυσαν το προφίλ μου και πώς πήραν αυτά τα δεδομένα εξαρχής;» - Κάθια (ψευδώνυμο), η καταγγέλλουσα στην παρούσα υπόθεση

Αυτοματοποιημένη λήψη αποφάσεων. Σύμφωνα με το άρθρο 22 του ΓΚΠΔ, τα άτομα έχουν το δικαίωμα να μην υπόκεινται σε αυτοματοποιημένη λήψη αποφάσεων. Ως εκ τούτου, η καταγγέλλουσα αποφάσισε να αμφισβητήσει την απόφαση της AMT και ζήτησε περισσότερες πληροφορίες σχετικά με τον τρόπο επεξεργασίας των προσωπικών της δεδομένων. Επικοινώνησε με τον υπεύθυνο προστασίας δεδομένων της Amazon, την Amazon Client Services και την Amazon Web Services (μια άλλη εταιρεία του Ομίλου Amazon, στην οποία ανακατευθύνθηκε). Παρά τις πολλές προσπάθειές της και τον αγώνα να βρει πού να αντιμετωπίσει τις ανησυχίες της, δεν πήρε ποτέ καμία απάντηση από την Amazon.

« Αν αρχίσουμε να ζούμε σε έναν κόσμο όπου ένας αλγόριθμος αποφασίζει μόνος του αν αξίζεις να πάρεις μια ασφάλεια, ένα δάνειο ή ακόμα και μια δουλειά, η ίδια η ανθρώπινη αξιοπρέπεια δέχεται επίθεση. Εταιρείες όπως η Amazon πρέπει να παρέχουν κατάλληλες διασφαλίσεις για την προστασία των ατόμων από άδικες αποφάσεις. Θα πρέπει να παρέχουν σαφείς πληροφορίες σχετικά με τον τρόπο λήψης των αυτοματοποιημένων αποφάσεών τους, το δικαίωμα να τις αμφισβητήσουν και να βεβαιωθούν ότι ένας πραγματικός άνθρωπος μπορεί να αναθεωρήσει αυτές τις αποφάσεις », εξηγεί ο Romain Robert, δικηγόρος προστασίας δεδομένων στο noyb .

GDPRage ενάντια στο μηχάνημα. Ο GDPR προστατεύει τους χρήστες από αποφάσεις που επηρεάζουν τη ζωή τους όταν αυτές οι αποφάσεις λαμβάνονται μόνο από μηχανές. Αυτό είναι ιδιαίτερα σημαντικό στον τομέα της ηλεκτρονικής πρόσληψης, όπου η αδιαφάνεια της αλγοριθμικής λήψης αποφάσεων θα μπορούσε να οδηγήσει σε αδικία και διακρίσεις σε μεγάλη κλίμακα. Η noyb ελπίζει ότι το CNPD θα διατάξει την Amazon να δώσει σαφείς πληροφορίες στους χρήστες σχετικά με την αυτοματοποιημένη λήψη αποφάσεων και έναν τρόπο να επανεξετάσει την απόφαση χωρίς να κρύβεται πίσω από έναν αλγόριθμο. Το CNPD μπορεί επίσης να επιβάλει πρόστιμο στην Amazon, όπως έγινε ήδη τον Ιούλιο του 2021 .