GDPR-klagomål: Airbnb-värdar utlämnade till algoritmernas nåd
Idag lämnade noyb.eu in ett GDPR-klagomål mot Airbnb. Marknadsplatsen för semesteruthyrning på nätet nedgraderade den klagandes betyg som värd, enbart genom automatiserat beslutsfattande. Alla har rätt att inte bli föremål för automatiserat beslutsfattande, men Airbnb förlitar sig på just sådana metoder. Genom att neka den klagande möjligheten att bestrida det automatiserade beslutet och få mänsklig inblandning agerade Airbnb i klar strid med GDPR.
- Klagomål mot Airbnb hos dataskyddsmyndigheten i Rheinland-Pfalz (EN)
- Klagomål mot Airbnb hos dataskyddsmyndigheten i Rheinland-Pfalz (DE)
Skyddsåtgärder mot automatiserat beslutsfattande. Automatiserat beslutsfattande (ADB) är en typ av behandling som regleras i dataskyddsförordningen för att skydda människor mot orättvisa beslut som fattas automatiserat, t.ex. med hjälp av algoritmer. De rättigheter som anges i artikel 22.3 i GDPR omfattar den registrerades rätt att uttrycka sin åsikt, rätten att bestrida det automatiserade beslutet och rätten att få ett meningsfullt mänskligt ingripande. I det här fallet underlät Airbnb inte bara att informera värden om förekomsten av en sådan ADM, de nekade henne också möjligheten att effektivt bestrida beslutet, vilket ledde till betydande ekonomisk förlust för värdarna.
Recensioner är viktiga för att bli "Superhost". Airbnb kopplar ihop värdar som hyr ut bostadsytor med potentiella gäster. Efter varje vistelse ger gästerna ett betyg på en till fem stjärnor. Naturligtvis är det mer sannolikt att hyror med bra recensioner bokas, vilket gör recensioner särskilt viktiga för Airbnb-värdar. Om de når och upprätthåller en genomsnittlig poäng på 4,8 stjärnor blir de "Superhosts" - vilket leder till många fördelar, till exempel förbättrad synlighet på plattformen, högre totala hyresintäkter och en resekupong på 100 euro varje år.
Algoritmer för att kontrollera recensioner. Eftersom tusentals recensioner lämnas varje dag förlitar sig Airbnb på algoritmer för att kontrollera om dessa recensioner överensstämmer med deras granskningspolicy. Recensioner som är partiska eller irrelevanta raderas automatiskt av dessa algoritmer. Fel kan få dramatiska konsekvenser för Airbnb-värdar: om 5-stjärniga recensioner raderas av misstag kan detta beröva dem deras Superhost-status och alla fördelar som följer med den - vilket var fallet för den klagande.
"En avlägsen och oåtkomlig beslutsfattare kan ta bort en "enkel" recension på en plattform. Men i andra fall sänker algoritmer automatiskt någons finansiella rating, bedömer arbetsprestationer eller till och med avskedar arbetstagare. Det är detta vi riskerar om vi inte inför principen att algoritmerna måste vara transparenta och deras beslut ansvariga. " - Stefano Rossetti, dataskyddsjurist på noyb.eu
Recensionerraderas automatiskt av Airbnb. När det gäller den klagande raderades en femstjärnig recension automatiskt av Airbnb. Som en följd av detta nedgraderades hennes totala betyg. Hon kontaktade omedelbart Airbnb för att förklara skälen och bestrida beslutet, men de svarade bara att borttagningen var "slutgiltig". Värden kontaktade därför Airbnbs dataskyddsombud för att få mer information om behandlingen av hennes personuppgifter och den automatiska raderingen av recensioner. Än idag, 1,5 år efter hennes begäran om tillgång, har hon fortfarande inte fått något svar från Airbnb. Enligt GDPR hade de en månad på sig att svara.
"För Airbnb är det en ren rutin att radera recensioner. Men för mig kan det ha en allvarlig effekt. Om de var en riktig partner skulle de inte behandla sina värdar på det sättet... Jag vill inte leva i en värld där en del av mitt levebröd beror på en algoritms beslut." -July (alias), klagande i det här fallet.
Värdar utlämnade till algoritmernas nåd. Airbnbs system - där algoritmer patrullerar plattformarna och automatiskt raderar recensioner utan mänsklig inblandning - är en typ av automatiserat beslutsfattande (ADM) som kan ha en betydande inverkan på Airbnbs värdar. Enligt GDPR har varje enskild person som är föremål för ett ADM rätt att bestrida beslutet och få en meningsfull mänsklig granskning av hans eller hennes fall, där alla relevanta omständigheter beaktas. Airbnb följer uppenbarligen inte dessa standarder. Värdar lämnas därför i algoritmernas våld, utan en verklig möjlighet att slå tillbaka. Liknande algoritmer dominerar också livet och arbetet för många andra arbetstagare i "gig-ekonomin", från Uber-förare till leveransarbetare.
