"Musta laatikko" Amazon: algoritmi syrjii asiakkaita

Oct 21, 2021

"Musta laatikko" Amazon: algoritmi syrjiä asiakkaita

noyb jätti tänään toisen valituksen Amazon Europea vastaan. Verkkokaupan jättiläinen tarjoaa asiakkaille mahdollisuuden maksaa tuotteet myöhemmin "kuukausilaskulla". Asiakas, joka hylättiin tämän maksutavan osalta ilman mitään perusteluja, esitti Amazonille pyynnön selvittääkseen, miksi hänet hylättiin. Yritys kieltäytyi antamasta mitään tietoja.

Järjestelmä päätti täysin automatisoidusti. Vain muutama sekunti tilauksen vahvistamisen jälkeen asiakas sai automaattisen sähköpostiviestin, jossa maksu "Kuukausilaskulla" hylättiin. Amazon kehotti häntä siirtymään luottokorttimaksuun, muutoin tilaus peruutettaisiin 5 päivän kuluessa. Hylkäämiselle ei annettu syytä, eikä asiakaspalvelu vastannut mihinkään asiaa koskeviin kysymyksiin.

GDPR edellyttää läpinäkyvyyttä ja todennettavuutta. Automaattisten yksittäisten päätösten - kuten sen, sallitaanko ennakkomaksu vai ei - osalta yrityksen on annettava mielekästä tietoa asiaan liittyvästä logiikasta ja taustalla olevan tietojenkäsittelyn laajuudesta. Amazonin tietosuojakäytännöstä löytyy kuitenkin vain epämääräistä tietoa mahdollisista luottotietojen tarkastusmekanismeista

Automaattisten päätösten on oltava ihmisten todennettavissa. Tämä ei tietenkään ole mahdollista Amazonin kohdalla, kuten sen laskutusosasto selventää: "Tähän automaattiseen päätökseen voi olla erilaisia syitä, eikä sitä voida mukauttaa manuaalisesti. " Ironista kyllä, Amazon perustelee tätä sanomalla, että asiakaspalvelu ei voi nähdä tarkkaa syytä hylkäämiseen "tietosuojasyistä". He kieltäytyivät myös selvittämästä, käytettiinkö kyseisessä päätöksentekoprosessissa sisäisiä tietoja tai negatiivista luottotietoa.

Epäonnistunut käyttöoikeuspyyntö paljasti lisää GDPR:n rikkomuksia. Sen sijaan, että asiakkaalle olisi toimitettu kopio tiedoista, kuten tietosuoja-asetuksen 15 artiklan 3 kohdassa edellytetään, hänen piti ladata manuaalisesti 54 kansiota, joissa oli lähinnä käsittämättömiä taulukoita. Tietojen käsittelyn tarkoituksesta tai oikeusperustasta ei annettu mitään tietoja. Amazon kieltäytyi myös antamasta tietoja tietolähteistä tai vastaanottajista, vaikka tietosuoja-asetus edellyttää rekisterinpitäjien antavan tällaisia tietoja. Asiakkaan tiedustelut hylättiin merkityksettömillä tekstilohkoilla.

"On huolestuttavaa, missä määrin Amazon sivuuttaa EU:n tietosuojalainsäädännön. Algoritmit tekevät päätöksiä, joita edes niiden omat työntekijät eivät voi ymmärtää ja tarkistaa. Amazonin vastaus tietopyyntöön rikkoo myös melko lailla jokaista sovellettavien GDPR-säännösten kohtaa." - Marco Blocher, noybintietosuojalakimies

Luxemburgin viranomainen pitkälti passiivinen. Koska Amazon Europe sijaitsee Luxemburgissa, valituksen käsittelystä vastaa maan kansallinen tietosuojakomissio. noyb on jo tehnyt valituksen Amazonia vastaan tammikuussa 2019; toistaiseksi päätöstä ei ole näköpiirissä. Tietoja menettelyn tilasta tai oikeutta tutustua asiakirjoihin ei anneta, koska se vaarantaisi viranomaisen tehtävät ja haittaisi menettelyn tarkoitusta. Toivomme, että tänään jätetty valitus ei katoa Luxemburgin viranomaisen tiheikköön.