GDPR-valitus: Airbnb-isännät algoritmien armoilla

Dec 22, 2021

GDPR-valitus: Airbnb-isännät algoritmien armoilla

Noyb.eu teki tänään GDPR-valituksen Airbnb:tä vastaan. Loma-asuntojen verkkomarkkinapaikka alensi kantelijan luokitusta isäntänä yksinomaan automaattisen päätöksenteon avulla. Vaikka jokaisella on oikeus olla joutumatta automaattisen päätöksenteon kohteeksi, Airbnb turvautuu juuri tällaisiin käytäntöihin. Kieltäessään kantelijalta mahdollisuuden kiistää automatisoitu päätös ja saada inhimillinen puuttuminen asiaan Airbnb toimi selkeästi tietosuoja-asetuksen vastaisesti.

Automaattista päätöksentekoa koskevat suojatoimet. Automatisoitu päätöksenteko (ADM) on käsittelytyyppi, jota säännellään GDPR:ssä ihmisten suojelemiseksi epäoikeudenmukaisilta päätöksiltä, jotka on tehty automaattisin keinoin, kuten algoritmein. Yleisen tietosuoja-asetuksen 22 artiklan 3 kohdassa säädettyihin oikeuksiin kuuluu rekisteröidyn oikeus ilmaista näkemyksensä, oikeus riitauttaa automatisoitu päätös ja oikeus saada merkityksellinen inhimillinen väliintulo. Tässä tapauksessa Airbnb ei ainoastaan jättänyt ilmoittamatta isännälle asianmukaisesti tällaisten ADM:ien olemassaolosta, vaan se myös eväsi häneltä mahdollisuuden riitauttaa päätös tehokkaasti, mikä johti isännille huomattaviin taloudellisiin tappioihin.

Arvostelut ovat välttämättömiä "Superhost"-palvelun saamiseksi. Airbnb yhdistää asuintiloja vuokraavat isännät ja mahdolliset vieraat. Jokaisen oleskelun jälkeen vieraat antavat arvosanan yhdestä viiteen tähteä. Hyviä arvosteluja saaneisiin vuokrakohteisiin tehdään luonnollisesti todennäköisemmin varauksia, joten arvostelut ovat erityisen tärkeitä Airbnb-isännille. Jos he saavuttavat 4,8 tähden keskiarvon ja säilyttävät sen, heistä tulee "superisäntiä", mikä tuo mukanaan monia etuja, kuten paremman näkyvyyden alustalla, korkeammat kokonaisvuokratulot ja 100 euron matkakupongin joka vuosi.

Algoritmit arvostelujen tarkistamiseksi. Koska päivittäin jätetään tuhansia arvosteluja, Airbnb luottaa algoritmeihin tarkistaessaan, ovatko nämä arvostelut arvostelukäytännön mukaisia. Algoritmit poistavat automaattisesti puolueelliset tai epäolennaiset arvostelut. Virheillä voi olla dramaattisia seurauksia Airbnb:n isännille: jos viiden tähden arvostelut poistetaan virheellisesti, he voivat menettää Superhost-statuksensa ja kaikki sen mukanaan tuomat edut - kuten valituksen tekijälle kävi.

"Kaukainen ja tavoittamattomissa oleva päätöksentekijä voi poistaa "yksinkertaisen" arvostelun alustalla. Mutta muissa tapauksissa algoritmit alentavat automaattisesti jonkun taloudellista luokitusta, arvioivat työsuorituksia tai jopa erottavat työntekijöitä. Tämän riskin otamme, jos emme vakiinnuta periaatetta, jonka mukaan algoritmien on oltava avoimia ja niiden päätösten vastuullisia " - Stefano Rossetti, noyb.eu:n tietosuojalakimies

Airbnb poistaa arvostelut automaattisesti. Valituksen tekijän tapauksessa Airbnb poisti automaattisesti viiden tähden arvostelun. Tämän seurauksena hänen kokonaisarvosteluaan alennettiin. Hän otti välittömästi yhteyttä Airbnb:hen selittääkseen syyt ja kiistääkseen päätöksen, mutta Airbnb vastasi vain, että poisto oli "lopullinen". Tämän vuoksi isäntä otti yhteyttä Airbnb:n tietosuojavastaavaan saadakseen lisätietoja hänen henkilötietojensa käsittelystä ja arvostelujen automaattisesta poistamisesta. Vielä tänäkään päivänä, 1,5 vuotta hänen tietopyyntönsä jälkeen, hän ei ole saanut vastausta Airbnb:ltä. GDPR:n mukaan heillä oli kuukausi aikaa vastata.

"Airbnb:lle arvostelujen poistaminen on pelkkää rutiinia. Mutta minulle sillä voi olla vakavia vaikutuksia. Jos he olisivat todellinen kumppani, he eivät kohtelisi isäntiään noin... En halua elää maailmassa, jossa osa toimeentulostani riippuu algoritmin päätöksestä." -July (alias), valituksen tekijä tässä tapauksessa

Isännät algoritmien armoilla. Airbnb:n järjestelmä - jossa algoritmit partioivat alustoilla ja poistavat automaattisesti arvosteluja ilman ihmisen väliintuloa - on eräänlainen automatisoitu päätöksenteko (ADM), jolla voi olla merkittävä vaikutus Airbnb:n isäntiin. Tietosuoja-asetuksen mukaan jokaisella ADM:n kohteena olevalla henkilöllä on oikeus kiistää päätös ja saada asiallinen inhimillinen uudelleentarkastelu, jossa kaikki asiaankuuluvat olosuhteet otetaan huomioon. Airbnb ei selvästikään noudata näitä vaatimuksia. Isännät jätetään näin ollen algoritmien armoille ilman todellista mahdollisuutta vastarintaan. Samanlaiset algoritmit hallitsevat myös monien muiden keikkatalouden työntekijöiden elämää ja työtä Uber-kuljettajista jakelutyöntekijöihin.