Stížnost na GDPR: Hostitelé Airbnb vydáni na milost a nemilost algoritmům
Server noyb.eu dnes podal stížnost na společnost Airbnb v souvislosti s GDPR. Internetový trh s pronájmy rekreačních objektů snížil hodnocení stěžovatele jako hostitele, a to výhradně na základě automatizovaného rozhodování. Ačkoli má každý právo nebýt předmětem automatizovaného rozhodování, Airbnb se právě na tyto praktiky spoléhá. Tím, že společnost Airbnb odepřela stěžovateli možnost napadnout automatizované rozhodnutí a dosáhnout lidského zásahu, jednala v jasném rozporu s GDPR.
- Stížnost na společnost Airbnb u Úřadu pro ochranu osobních údajů spolkové země Porýní-Falc (EN)
- Stížnost na společnost Airbnb u Úřadu pro ochranu osobních údajů spolkové země Porýní-Falc (DE)
Záruky proti automatizovanému rozhodování. Automatizované rozhodování (ADM) je typ zpracování, který je podle GDPR regulován za účelem ochrany osob před nespravedlivým rozhodováním prováděným automatizovanými prostředky, jako jsou algoritmy. Práva stanovená v čl. 22 odst. 3 GDPR zahrnují právo subjektu údajů vyjádřit svůj názor, právo napadnout automatizované rozhodnutí a právo na smysluplný lidský zásah. V tomto případě společnost Airbnb nejenže hostitelku řádně neinformovala o existenci takového ADM, ale také jí odepřela možnost rozhodnutí účinně napadnout, což vedlo ke značným finančním ztrátám pro hostitele.
Recenze nezbytné k tomu, aby se hostitel stal "superhostitelem". Airbnb spojuje hostitele pronajímající obytné prostory s potenciálními hosty. Po každém pobytu hosté udělují hodnocení od jedné do pěti hvězdiček. Je přirozené, že pronájmy s dobrými recenzemi mají větší šanci na rezervaci, a proto jsou recenze pro hostitele Airbnb obzvláště důležité. Pokud dosáhnou a udrží si průměrné hodnocení 4,8 hvězdičky, stanou se "superhostiteli" - což vede k mnoha výhodám, jako je lepší viditelnost na platformě, vyšší celkové příjmy z pronájmu a každoroční poukaz na cestu v hodnotě 100 EUR.
Algoritmy pro kontrolu recenzí. Vzhledem k tomu, že každý den jsou zanechány tisíce recenzí, Airbnb se spoléhá na algoritmy, které kontrolují, zda jsou tyto recenze v souladu s jejími pravidly pro recenze. Recenze, které jsou neobjektivní nebo irelevantní, jsou těmito algoritmy automaticky mazány. Chyby mohou mít pro hostitele Airbnb dramatické důsledky: pokud jsou omylem smazány pětihvězdičkové recenze, může je to připravit o status superhostitele a o všechny výhody, které s ním souvisejí - jako tomu bylo v případě stěžovatele.
"Vzdálený a nedosažitelný rozhodovací orgán může smazat "pouhou" recenzi na platformě. V jiných případech však algoritmy automaticky snižují něčí finanční hodnocení, hodnotí pracovní výkony nebo dokonce propouštějí pracovníky. Právě to nám hrozí, pokud nezavedeme zásadu, že algoritmy musí být transparentní a jejich rozhodnutí odpovědná. " - Stefano Rossetti, právník zabývající se ochranou osobních údajů ve společnosti noyb.eu
Recenze automaticky smazané společností Airbnb. V případě stěžovatele byla pětihvězdičková recenze automaticky smazána společností Airbnb. V důsledku toho bylo její celkové hodnocení sníženo. Okamžitě kontaktovala společnost Airbnb, aby vysvětlila důvody a napadla rozhodnutí, ale ta pouze odpověděla, že smazání je "konečné". Následně se hostitelka obrátila na pověřence pro ochranu osobních údajů společnosti Airbnb, aby získala další informace týkající se zpracování jejích osobních údajů a automatického mazání hodnocení. Ani dnes, 1,5 roku po podání žádosti o přístup, nedostala od společnosti Airbnb žádnou odpověď. Podle GDPR měli na odpověď jeden měsíc.
"Pro Airbnb je mazání recenzí pouhou rutinou. Pro mě to ale může mít vážné následky. Kdyby byli skutečným partnerem, tak by se ke svým hostitelům takto nechovali.... Nechci žít ve světě, kde část mého živobytí závisí na rozhodnutí algoritmu." -July (pseudonym), stěžovatelka v tomto případě.
Hostitelé vydaní na milost a nemilost algoritmům. Systém Airbnb - kdy algoritmy hlídají platformy a automaticky mažou recenze bez zásahu člověka - je typem automatizovaného rozhodování (ADM), které může mít na hostitele Airbnb značný dopad. Podle GDPR má každá osoba, která je předmětem ADM, právo napadnout rozhodnutí a získat smysluplný lidský přezkum svého případu, při němž jsou zváženy všechny relevantní okolnosti. Společnost Airbnb tyto standardy zjevně nedodržuje. Hostitelé jsou tak ponecháni napospas algoritmům bez reálné možnosti se bránit. Podobné algoritmy ovládají také život a práci mnoha dalších pracovníků v "gig ekonomice", od řidičů Uberu po doručovatele.
