W grudniu 2023 r, platforma randkowa Bumble wprowadziła tzw. lodołamacze AI do aplikacji "Bumble dla znajomych" sekcji aplikacji. Funkcja ta, oparta na ChatGPT firmy OpenAI, ma na celu pomóc w rozpoczęciu rozmowy poprzez dostarczenie wiadomości wygenerowanej przez sztuczną inteligencję. Aby to zrobić, informacje o profilu użytkownika są wprowadzane do systemu sztucznej inteligencji bez uzyskania zgody użytkownika. Chociaż firma wielokrotnie wyświetla baner mający na celu nakłonienie użytkownika do kliknięcia "OK", co sugeruje, że opiera się na zgodzie użytkownika, w rzeczywistości twierdzi, że ma tak zwany "uzasadniony interes" w wykorzystywaniu danych. noyb złożył zatem skargę do austriackiego organu ochrony danych.
OpenAI czyta dalej. Około 50 milionów osób korzysta z aplikacji randkowej Bumble w celu znalezienia romantycznych partnerów, przyjaciół, a nawet partnerów biznesowych. Podczas gdy aplikacja nie podaje konkretnych liczb użytkowników dla Europy, same Niemcy stanowiły 1,45 miliona użytkowników w 2024 roku. Niestety, łączenie ludzi nie jest jedyną rzeczą, którą robi Bumble. W grudniu 2023 roku firma wprowadziła tak zwane AI Icebreakers do sekcji "Bumble for Friends" w aplikacji. Dzięki temu aplikacja umożliwia OpenAI dostęp do danych osobowych profili osób w celu wygenerowania przez sztuczną inteligencję wiadomości otwierającej na podstawie informacji, które ludzie udostępnili na platformie.
Lisa Steinfeld, prawnik ds. ochrony danych w noyb: "Bumble wymusza swoje funkcje AI na milionach europejskich użytkowników, nigdy nie pytając ich o zgodę. Zamiast tego ich dane osobowe są przesyłane do OpenAI i wprowadzane do systemów sztucznej inteligencji firmy"
Nakłanianie ludzi do "zaakceptowania" przetwarzania danych. Lodołamacze AI zostały wprowadzone bez pytania użytkowników o zgodę. Zamiast tego użytkownicy Bumble zaczęli otrzymywać wyskakujące okienko, gdy tylko otworzyli aplikację, które mówiło: "AI przełamuje lody. Używamy sztucznej inteligencji, aby pomóc Ci rozpocząć rozmowę. Pozwala to zadawać pytania, które pasują do informacji profilowych naszych członków" Baner został wyraźnie zaprojektowany, aby zachęcić użytkowników do kliknięcia "OK". Jeśli spróbujesz go zamknąć bez zrobienia tego, pojawi się ponownie za każdym razem, gdy aplikacja zostanie ponownie otwarta i dopóki w końcu nie klikniesz "OK". Chociaż sugeruje to, że Bumble opiera się na (irytujących formach) zgody, Bumble wydaje się jedynie udawać, że prosi o zgodę, co daje ludziom fałszywe poczucie kontroli.
Lisa Steinfeld, prawnik ds. ochrony danych w noyb: "Fakt, że Bumble przedstawia swoim użytkownikom opcję powiedzenia "OK" AI Icebreakerom jest mylący. Stwarza fałszywe poczucie kontroli nad własnymi danymi. W rzeczywistości Bumble twierdzi, że ma tak zwany uzasadniony interes w wykorzystywaniu danych użytkownika bez jego zgody"
Zgoda - czy raczej uzasadniony interes? Chociaż użytkownicy są zmuszani do aktywnego potwierdzania, że nie mają nic przeciwko dostępowi OpenAI do ich danych osobowych, Bumble nie polega na zgodę zgodnie z art. 6 ust. 1 lit. a) RODO jako podstawy prawnej przetwarzania. Po kilku próbach uzyskania dostępu do swoich danych na podstawie art. 15 RODO, skarżąca otrzymała w końcu kopię swoich danych i (niekompletne) informacje na temat przetwarzania danych przez firmę w związku z funkcją AI Icebreaker. Chociaż Bumble nie dostarczyło informacji o konkretnych odbiorcach danych użytkowników, firma stwierdziła, że w rzeczywistości opiera się na rzekomym uzasadnionym interesie na mocy art. 6 ust. 1 lit. f) RODO w celu przetwarzania danych na potrzeby funkcji AI.
Lisa Steinfeld, prawnik ds. ochrony danych w noyb: "Twierdzenie Bumble, że ma uzasadniony interes w wysyłaniu danych użytkowników do OpenAI jest absurdalne. Aplikacja randkowa wydaje się być tak zdesperowana, aby dostać się do szumu AI, że depcze podstawowe prawa użytkowników w tym procesie"
Skarga złożona w Austrii. noyb złożył zatem skargę do austriackiego organu ochrony danych (DSB). Bumble naruszył swoje obowiązki w zakresie przejrzystości wynikające z art. 5 ust. 1 lit. a) RODO, nie dostarczając informacji o przetwarzaniu danych w związku z funkcją Icebreaker i wprowadzając użytkowników w błąd za pomocą "fałszywego" banera zgody. Ponadto firma nie ma podstawy prawnej na mocy art. 6 ust. 1, ponieważ nie może zgodnie z prawem twierdzić, że opiera swoje przetwarzanie na uzasadnionym interesie i nigdy nie zwróciła się o zgodę. Jest to dodatkowo zilustrowane faktem, że profil skarżącego zawiera dane wrażliwe, takie jak orientacja seksualna, które mogą być przetwarzane wyłącznie za wyraźną zgodą (art. 9). Wreszcie, co nie mniej ważne, Bumble nie odpowiedział odpowiednio na wniosek skarżącego o dostęp (art. 15). noyb żąda od Bumble zaprzestania niezgodnego z prawem przetwarzania i rozpoczęcia korzystania z właściwej podstawy prawnej dla funkcji Icebreaker. Wreszcie, noyb sugeruje, aby DSB nałożył grzywnę administracyjną w celu zapobieżenia podobnym naruszeniom w przyszłości.
