"Μαύρο κουτί" Amazon: ο αλγόριθμος κάνει διακρίσεις στους πελάτες

Οκτ 21, 2021

"Μαύρο κουτί" Amazon: ο αλγόριθμος κάνει διακρίσεις στους πελάτες

    Ο noyb κατέθεσε σήμερα άλλη καταγγελία κατά της Amazon Europe. Ο γίγαντας του ηλεκτρονικού εμπορίου προσφέρει στους πελάτες τη δυνατότητα να πληρώσουν για προϊόντα αργότερα μέσω του "Μηνιαίου Τιμολογίου". Ένας πελάτης που απορρίφθηκε για αυτόν τον τρόπο πληρωμής χωρίς κανέναν λόγο, υπέβαλε αίτημα πρόσβασης στην Amazon για να μάθει γιατί απορρίφθηκε. Η εταιρεία αρνήθηκε να δώσει οποιαδήποτε πληροφορία.

    Το σύστημα αποφασίστηκε πλήρως αυτοματοποιημένο. Λίγα δευτερόλεπτα μετά την επιβεβαίωση της παραγγελίας, ο πελάτης έλαβε ένα αυτόματο e-mail στο οποίο απορρίφθηκε η πληρωμή με "Μηνιαίο Τιμολόγιο". Η Amazon τον προέτρεψε να στραφεί στην πληρωμή με πιστωτική κάρτα, διαφορετικά η παραγγελία θα ακυρωθεί εντός 5 ημερών. Ούτε ο λόγος της απόρριψης δόθηκε, ούτε η εξυπηρέτηση πελατών απάντησε σε ερωτήσεις σχετικά με αυτό.

    Ο GDPR απαιτεί διαφάνεια και εξακρίβωση. Για αυτοματοποιημένες μεμονωμένες αποφάσεις - όπως το αν θα επιτρέπεται ή όχι η πληρωμή εξόφλησης - μια εταιρεία πρέπει να παρέχει σημαντικές πληροφορίες σχετικά με τη σχετική λογική και το εύρος της υποκείμενης επεξεργασίας δεδομένων. Στην πολιτική απορρήτου της Amazon, ωστόσο, υπάρχουν μόνο ασαφείς πληροφορίες σχετικά με τυχόν μηχανισμούς ελέγχου πιστώσεων.

    Οι αυτοματοποιημένες αποφάσεις πρέπει να είναι επαληθεύσιμες από τον άνθρωπο . Αυτό προφανώς δεν είναι δυνατό με την Amazon, όπως διευκρινίζει το τμήμα χρέωσής τους: " Αυτή η αυτοματοποιημένη απόφαση μπορεί να έχει διάφορες αιτίες και δεν μπορεί να προσαρμοστεί χειροκίνητα. " Κατά ειρωνικό τρόπο, η Amazon το δικαιολογεί λέγοντας ότι η εξυπηρέτηση πελατών δεν μπορεί να δει τον ακριβή λόγο της απόρριψης "για δεδομένα λόγους προστασίας ». Αρνήθηκαν επίσης να διευκρινίσουν εάν χρησιμοποιήθηκαν εσωτερικές πληροφορίες ή αρνητικό πιστωτικό αποτέλεσμα για τη διαδικασία λήψης αποφάσεων.

    Το ανεπιτυχές αίτημα πρόσβασης αποκάλυψε περαιτέρω παραβιάσεις του GDPR. Αντί να του παρέχεται αντίγραφο των δεδομένων, όπως απαιτείται από το άρθρο 15 παράγραφος 3 του ΓΚΠΔ, ο πελάτης έπρεπε να κατεβάσει χειροκίνητα 54 φακέλους με κυρίως ακατανόητους πίνακες. Δεν υπήρχαν πληροφορίες σχετικά με τους σκοπούς ή τη νομική βάση της παρεχόμενης επεξεργασίας δεδομένων. Επίσης, η Amazon αρνήθηκε να δώσει οποιαδήποτε πληροφορία σχετικά με πηγές δεδομένων ή παραλήπτες - αν και ο GDPR απαιτεί από τους ελεγκτές να παρέχουν τέτοιες πληροφορίες. Οι ερωτήσεις από τον πελάτη απορρίφθηκαν με ασήμαντα μπλοκ κειμένου.

    "Ο βαθμός στον οποίο η Amazon αγνοεί τη νομοθεσία της ΕΕ για την προστασία δεδομένων είναι ανησυχητικός. Οι αλγόριθμοι λαμβάνουν αποφάσεις που ούτε οι ίδιοι οι υπάλληλοί τους μπορούν να κατανοήσουν και να ελέγξουν. Η απάντηση της Amazon στο αίτημα πρόσβασης παραβιάζει σχεδόν κάθε παράγραφο των ισχυόντων διατάξεων του GDPR." - Marco Blocher, δικηγόρος προστασίας δεδομένων στο noyb

    Η αρχή του Λουξεμβούργου είναι σε μεγάλο βαθμό ανενεργή. Καθώς η Amazon Europe βρίσκεται στο Λουξεμβούργο, η εθνική επιτροπή προστασίας δεδομένων των χωρών είναι υπεύθυνη για την αντιμετώπιση της καταγγελίας. Η noyb έχει ήδη υποβάλει καταγγελία κατά της Amazon τον Ιανουάριο του 2019. Μέχρι σήμερα, καμία απόφαση δεν φαίνεται. Οι πληροφορίες σχετικά με την κατάσταση της διαδικασίας ή την πρόσβαση στους φακέλους απορρίπτονται, καθώς αυτό θα έθετε σε κίνδυνο τα καθήκοντα της αρχής και θα έθετε σε κίνδυνο τον σκοπό της διαδικασίας. Ελπίζουμε ότι η καταγγελία που υποβλήθηκε σήμερα δεν θα εξαφανιστεί στο πυκνό της αρχής του Λουξεμβούργου.