Blackbox Amazon: Diskriminierung von Kund:innen durch Algorithmus
noyb reichte heute eine weitere Beschwerde gegen Amazon Europa ein. Der E-Commerce-Riese bietet Kund:innen die Möglichkeit an, Produkte erst am Monatsende per „Monatsabrechnung“ zu bezahlen. Ein Kunden, dem diese Zahlungsart gleich beim ersten Mal und ohne Angabe von Gründen verwehrt wurde, stellte ein Auskunftsersuchen. Amazon verweigerte jedoch die Auskunft und konnte nicht erklären, wie es zu dieser Entscheidung kam.
Das System hat entschieden. Und das offensichtlich vollautomatisch: Nur Sekunden nach der Bestellbestätigung erhielt der Kunde eine automatische E-Mail, in der die Zahlung per „Monatsabrechnung“ abgelehnt wurde. Er solle doch auf Kreditkartenzahlung umsteigen, andernfalls werde die Bestellung binnen 5 Tagen storniert. Die Ablehnung wurde weder begründet, noch beantwortete der Kundenservice diesbezüglich irgendwelche Fragen.
DSGVO verlangt Transparenz und Überprüfbarkeit. Bei automatisierten Einzelfallentscheidungen – wie etwa, ob eine Zahlung auf Rechnung ermöglicht wird – muss ein Unternehmen aussagekräftige Informationen über die involvierte Logik sowie die Tragweite der zugrundeliegenden Datenverarbeitungen bereitstellen. In Amazons Datenschutzerklärung finden sich jedoch nur vage Angaben zu etwaigen Kreditwürdigkeitsprüfungen.
Automatisierte Entscheidungen müssen von Menschen überprüfbar sein. Dies ist bei Amazon offenkundig nicht möglich, wie die Rechnungsabteilung klarstellt: „Diese automatische Entscheidung kann verschiedene Ursachen haben und kann nicht manuell beeinflusst werden.“ Dies erklärt Amazon ironischerweise damit, dass der Kundenservice „aus Datenschutzgründen“ den genauen Grund der Ablehnung nicht einsehen könne. Ob lediglich interne Informationen zur Entscheidungsfindung herangezogenen wurden, oder gar eine negative Bonitätsprüfung bei einer Kreditauskunftei der Grund war, gab Amazon nicht bekannt.
Erfolgloses Auskunftsbegehren offenbarte weitere Datenschutzverletzungen. Anstatt der Bereitstellung einer Datenkopie, wie Artikel 15(3) DSGVO dies verlangt, sollte der Kunde 54 Dateiordner mit größtenteils unverständlichen Tabellen manuell herunterladen. Informationen zu den Zwecken oder Rechtsgrundlagen der Datenverarbeitung wurden ebenso wenig bereitgestellt, wie Angaben zu Datenquellen oder Empfänger:innen – obwohl die DSGVO ganz klar festlegt, dass solche Informationen verpflichtend sind. Nachfragen des Kunden wurden mit vorgefertigten Textblöcken abgewimmelt.
„Amazon ignoriert das EU-Datenschutzrecht in einem befremdlichen Ausmaß. Da treffen Algorithmen Entscheidungen, die nicht einmal die eigenen Mitarbeiter:innen nachvollziehen und überprüfen können. Die Bereitstellung der Datenauskunft durch Amazon verstößt außerdem so ziemlich gegen jeden Absatz der anwendbaren DSGVO-Bestimmungen.“ – Marco Blocher, Datenschutzjurist bei noyb
Luxemburgische Aufsichtsbehörde weitgehend untätig. Da Amazon Europa in Luxemburg sitzt, ist die dortige Datenschutzaufsichtsbehörde für die Behandlung der Beschwerde zuständig. noyb hat bereits im Jänner 2019 eine Beschwerde gegen Amazon eingebracht, in der bis heute keine Entscheidung in Sicht ist. Auskünfte zum Stand des Verfahrens oder Akteneinsicht werden verweigert, da dies eine Gefährdung der Aufgaben der Behörde herbeiführen und den Zweck des Verfahrens beeinträchtigen würde. Es bleibt zu hoffen, dass die heute eingebrachte Beschwerde nicht ebenso im Dickicht der Luxemburgischen Aufsichtsbehörde verschwindet.
