Παράπονο GDPR: Η Airbnb φιλοξενεί στο έλεος των αλγορίθμων

Δεκ 21, 2021

Παράπονο GDPR: Η Airbnb φιλοξενεί στο έλεος των αλγορίθμων

Σήμερα, το noyb.eu υπέβαλε καταγγελία GDPR κατά της Airbnb. Η ηλεκτρονική αγορά για ενοικιάσεις διακοπών υποβάθμισε την αξιολόγηση του καταγγέλλοντος ως οικοδεσπότη, αποκλειστικά μέσω της αυτοματοποιημένης λήψης αποφάσεων. Αν και ο καθένας έχει το δικαίωμα να μην υπόκεινται σε αυτοματοποιημένη διαδικασία λήψης αποφάσεων, Airbnb βασίζεται σε ακριβώς αυτές τις πρακτικές. Αρνώντας την ευκαιρία στον καταγγέλλοντα να αμφισβητήσει την αυτοματοποιημένη απόφαση και να επιτύχει ανθρώπινη παρέμβαση, η Airbnb ενήργησε κατά σαφή παραβίαση του GDPR.

Διασφαλίσεις κατά της αυτοματοποιημένης λήψης αποφάσεων . Η αυτοματοποιημένη λήψη αποφάσεων (ADM) είναι ένας τύπος επεξεργασίας που ρυθμίζεται βάσει του GDPR για την προστασία των ανθρώπων από άδικες αποφάσεις που λαμβάνονται με αυτοματοποιημένα μέσα, όπως αλγόριθμοι. Τα δικαιώματα που παρέχονται βάσει του άρθρου 22 παράγραφος 3 του ΓΚΠΔ περιλαμβάνουν το δικαίωμα του υποκειμένου των δεδομένων να εκφράσει την άποψή του, το δικαίωμα να αμφισβητήσει την αυτοματοποιημένη απόφαση και το δικαίωμα να επιτύχει ουσιαστική ανθρώπινη παρέμβαση. Σε αυτήν την περίπτωση, η Airbnb όχι μόνο παρέλειψε να ενημερώσει σωστά τον οικοδεσπότη για την ύπαρξη τέτοιου ADM, αλλά της αρνήθηκαν επίσης τη δυνατότητα να αμφισβητήσει αποτελεσματικά την απόφαση, οδηγώντας σε σημαντική οικονομική ζημία για τους οικοδεσπότες.

Κριτικές απαραίτητες για να γίνετε «Superhost». Η Airbnb συνδέει οικοδεσπότες που νοικιάζουν χώρους διαβίωσης με πιθανούς επισκέπτες. Μετά από κάθε διαμονή, οι επισκέπτες δίνουν βαθμολογία από ένα έως πέντε αστέρια. Φυσικά, ενοικιάσεις με καλές κριτικές είναι πιο πιθανό να κρατηθούν, γεγονός που καθιστά τις κριτικές ιδιαίτερα σημαντικές για τους οικοδεσπότες της Airbnb. Εάν φτάσουν και διατηρήσουν μια μέση βαθμολογία 4,8 αστεριών, γίνονται «Superhosts» – κάτι που οδηγεί σε πολλά πλεονεκτήματα, όπως βελτιωμένη ορατότητα στην πλατφόρμα, υψηλότερα συνολικά εισοδήματα από ενοίκια και ταξιδιωτικό κουπόνι 100 ευρώ κάθε χρόνο.

Αλγόριθμοι για τον έλεγχο των κριτικών. Δεδομένου ότι χιλιάδες κριτικές απομένουν καθημερινά, η Airbnb βασίζεται σε αλγόριθμους για να ελέγξει εάν αυτές οι κριτικές συμμορφώνονται με την Πολιτική αναθεώρησης . Οι κριτικές που είναι μεροληπτικές ή άσχετες διαγράφονται αυτόματα από αυτούς τους αλγόριθμους. Τα σφάλματα μπορεί να έχουν δραματικές συνέπειες στους οικοδεσπότες της Airbnb: εάν οι κριτικές με 5 αστέρια διαγραφούν κατά λάθος, αυτό μπορεί να τους στερήσει την κατάσταση Superhost και από όλα τα πλεονεκτήματα που συνοδεύουν - όπως συνέβη με τον καταγγέλλοντα.

" Ένας μακρινός και απρόσιτος υπεύθυνος λήψης αποφάσεων μπορεί να διαγράψει μια "απλή" αξιολόγηση σε μια πλατφόρμα. Αλλά σε άλλες περιπτώσεις, οι αλγόριθμοι μειώνουν αυτόματα την οικονομική αξιολόγηση κάποιου, αξιολογούν την απόδοση εργασίας ή ακόμη και απολύουν εργαζομένους. Αυτό κινδυνεύουμε εάν δεν καθιερώσουμε την αρχή ότι οι αλγόριθμοι πρέπει να είναι διαφανείς και οι αποφάσεις τους να λογοδοτούν. " - Stefano Rossetti, δικηγόρος προστασίας δεδομένων στο noyb.eu

Οι κριτικές διαγράφονται αυτόματα από την Airbnb . Στην περίπτωση του καταγγέλλοντος, μια αξιολόγηση πέντε αστέρων διαγράφηκε αυτόματα από την Airbnb. Ως αποτέλεσμα, η συνολική της βαθμολογία υποβαθμίστηκε. Επικοινώνησε αμέσως με την Airbnb για να εξηγήσει τους λόγους και να αμφισβητήσει την απόφαση, αλλά απάντησαν απλώς ότι η διαγραφή ήταν «τελική». Ως εκ τούτου, η οικοδέσποινα επικοινώνησε με τον Υπεύθυνο Προστασίας Δεδομένων της Airbnb για να λάβει περισσότερες πληροφορίες σχετικά με την επεξεργασία των προσωπικών της δεδομένων και την αυτοματοποιημένη διαγραφή των κριτικών. Ακόμη και σήμερα, 1,5 χρόνο μετά το αίτημά της για πρόσβαση, δεν έχει λάβει ακόμη καμία απάντηση από την Airbnb. Σύμφωνα με τον GDPR, είχαν ένα μήνα για να απαντήσουν.

" Για την Airbnb, η διαγραφή κριτικών είναι μια απλή ρουτίνα. Αλλά για μένα, μπορεί να έχει σοβαρό αποτέλεσμα. Αν ήταν πραγματικός συνεργάτης, δεν θα συμπεριφερόταν στους οικοδεσπότες τους έτσι... Δεν θέλω να ζω σε έναν κόσμο όπου μέρος του βιοπορισμού μου εξαρτάται από την απόφαση ενός αλγορίθμου " -Ιούλιος (ψευδώνυμο), ο καταγγέλλων στην προκειμένη περίπτωση.

Οι οικοδεσπότες στο έλεος των αλγορίθμων. Το σύστημα της Airbnb – όπου αλγόριθμοι περιπολούν τις πλατφόρμες και διαγράφουν αυτόματα κριτικές χωρίς ανθρώπινη παρέμβαση – είναι ένας τύπος αυτοματοποιημένης λήψης αποφάσεων (ADM) που μπορεί να έχει σημαντικό αντίκτυπο στους οικοδεσπότες της Airbnb. Σύμφωνα με τον GDPR, κάθε άτομο που υπόκειται σε ADM, έχει το δικαίωμα να αμφισβητήσει την απόφαση και να λάβει μια ουσιαστική ανθρώπινη αναθεώρηση της υπόθεσής του/της, όπου λαμβάνονται υπόψη όλες οι σχετικές περιστάσεις. Η Airbnb σαφώς δεν συμμορφώνεται με αυτά τα πρότυπα. Ως εκ τούτου, οι οικοδεσπότες αφήνονται στο έλεος των αλγορίθμων, χωρίς πραγματική δυνατότητα να αντεπιτεθούν. Παρόμοιοι αλγόριθμοι κυριαρχούν επίσης στη ζωή και την εργασία πολλών άλλων εργαζομένων στην «οικονομία συναυλιών» από τους οδηγούς της Uber μέχρι τους εργαζομένους στον τομέα της παράδοσης.