Im Dezember 2023 hat die Dating-Plattform Bumble sogenannte KI-Eisbrecher in den “Bumble for Friends”-Bereich der App eingebaut. Das Feature nutzt ChatGPT und soll dir dabei helfen, mithilfe einer KI-generierten Nachricht ein Gespräch zu beginnen. Dazu werden deine persönlichen Profilinfos in das KI-System eingespeist – ohne dass Bumble dich jemals um Einwilligung bittet. Dennoch zeigt das Unternehmen seinen Nutzer:innen immer wieder einen Banner auf dem sie “Okay” drücken sollen. Das erweckt den Eindruck, dass nach deiner Einwilligung gefragt wird. In Wirklichkeit behauptet Bumble aber, ein sogenanntes “berechtigtes Interesse” an der Nutzung der Daten zu haben. noyb hat deshalb eine Beschwerde bei der österreichischen Datenschutzbehörde eingebracht.
OpenAI liest mit. Rund 50 Millionen Menschen nutzen die Dating-App Bumble, um eine neue Partnerschaft, Freund:innen oder sogar Geschäftspartnerschaft zu finden. Die App gibt zwar keine genauen Zahlen für Europa an, kommt aber allein in Deutschland auf 1,45 Millionen User. Leider ist Menschen zusammenzubringen nicht das Einzige, was Bumble macht. Im Dezember 2023 hat das Unternehmen sogenannte KI-Eisbrecher im “Bumble for Friends”-Bereich der App eingeführt. Diese erlauben OpenAI, auf die persönlichen Profildaten der Nutzer:innen zuzugreifen, um anhand der dort geteilten Informationen eine KI-generierte Nachricht zu erstellen.
Lisa Steinfeld, Datenschutzjuristin bei noyb: “Bumble zwingt seine KI-Funktionen Millionen von europäischen Nutzer:innen auf, ohne jemals um ihre Einwilligung zu bitten. Stattdessen werden ihre persönlichen Daten an OpenAI weitergeleitet und in die KI-Systeme des Unternehmens eingespeist.”
Zur “Einwilligung” gedrängt. Die KI-Eisbrecher wurden eingeführt, ohne jemals eine Einwilligung der betroffenen Personen einzuholen. Stattdessen bekamen die Nutzer:innen beim Öffnen der App ein Pop-up mit folgendem Text zu sehen: “Wir nutzen AI, um dir dein Einstieg beim Chatten zu erleichtern. Dadurch kannst du Fragen stellen, die zu den Profilinfos unser Mitglieder passen.” Der Banner ist eindeutig darauf ausgelegt, die Leute zu einem Klick auf “Okay” zu bewegen. Wenn man versucht, das Fenster einfach zu schließen, erscheint es immer wieder – bis man schließlich “Okay” drückt. All das lässt vermuten, dass Bumble sich auf eine (lästige Form der) Einwilligung beruft. Aber Bumble scheint das nur vorzugeben, um Menschen ein falsches Gefühl der Kontrolle zu vermitteln.
Lisa Steinfeld, Datenschutzjuristin bei noyb: “Dass Bumble eine Zustimmung zu den KI-Eisbrechern einholt, ist irreführend. Es vermittelt ein falsches Gefühl von Kontrolle über die eigenen Daten. In Wirklichkeit behauptet Bumble, ein sogenanntes berichtigtes Interesse daran zu haben, deine Daten ohne Einwilligung zu nutzen.”
Einwilligung – oder doch ein berechtigtes Interesse? Die Betroffenen werden zwar dazu gedrängt, aktiv zu bestätigen, dass OpenAI auf ihre persönlichen Daten zugreifen darf. Doch Bumble stützt sich gar nicht auf eine Einwilligung gemäß Artikel 6(1)(a) DSGVO als Rechtsgrundlage. Nach mehreren Auskunftsersuchen gemäß Artikel 15 DSGVO bekam die Beschwerdeführerin schließlich eine Kopie ihrer Daten und (unvollständige) Infos über die Datenverarbeitung im Zusammenhang mit der Eisbrecher-Funktion. Demnach beruft sich Bumble auf ein angebliches berechtigtes Interesse gemäß Artikel 6(1)(f) DSGVO, um Daten für die KI-Funktion zu verarbeiten.
Lisa Steinfeld, Datenschutzjuristin bei noyb: “Es ist absurd, dass Bumble behauptet ein berechtigtes Interesse daran zu haben, Nutzer:innendaten an OpenAI zu senden. Die Dating-App scheint verzweifelt auf den KI-Zug aufspringn zu wollen und tritt dabei die Grundrechte der Betroffenen mit Füßen.”
Beschwerde in Österreich eingereicht. noyb hat deshalb eine Beschwerde bei der österreichischen Datenschutzbehörde (DSB) eingereicht. Bumble hat gegen seine Transparenzpflichten nach Artikel 5(1)(a) DSGVO verstoßen, indem es keine Informationen über die Datenverarbeitung im Zusammenhang mit der Eisbrecher-Funktion bereitgestellt und die Nutzer:innen mit einem falschen Einwilligungsbanner in die Irre geführt hat. Dem Unternehmen fehlt außerdem eine gültige Rechtsgrundlage gemäß Artikel 6(1), da es die Verarbeitung nicht rechtmäßig auf ein berechtigtes Interesse stützen kann. Das wird auch dadurch verdeutlicht, dass das Profil der Beschwerdeführerin sensible Daten wie ihre sexuelle Orientierung enthält. Diese dürfen nur mit ausdrücklicher Einwilligung verarbeitet werden (Artikel 9). Nicht zuletzt hat Bumble das Auskunftsbegehren der Beschwerdeführerin nicht angemessen beantwortet (Artikel 15). noyb beantragt, dass Bumble die rechtswidrige Verarbeitung einstellt und eine ordnungsgemäße Rechtsgrundlage für die Eisbrecher-Funktion verwendet. Zu guter Letzt schlagen wir der DSB außerdem die Verhängung einer Geldstrafe vor.
