In december 2023, het datingplatform Bumble zogenaamde AI-ijsbrekers geïntroduceerd op de "Bumble voor vrienden sectie van de app. De functie wordt aangestuurd door OpenAI's ChatGPT en is ontworpen om je te helpen een gesprek te beginnen door een AI-gegenereerd bericht te geven. Om dit te doen wordt je persoonlijke profielinformatie in het AI-systeem ingevoerd zonder dat Bumble ooit je toestemming heeft gevraagd. Hoewel het bedrijf je herhaaldelijk een banner laat zien die is ontworpen om je over te halen om op "Oké" te klikken, wat suggereert dat het vertrouwt op toestemming van de gebruiker, beweert het in feite een zogenaamd "legitiem belang" te hebben om gegevens te gebruiken. noyb heeft daarom een klacht ingediend bij de Oostenrijkse autoriteit voor gegevensbescherming.
OpenAI leest mee. Ongeveer 50 miljoen mensen gebruiken de dating app Bumble om romantische partners, vrienden of zelfs zakenpartners te vinden. De app geeft geen specifieke gebruikersaantallen voor Europa, maar Duitsland alleen al goed voor 1,45 miljoen gebruikers in 2024. Helaas is het verbinden van mensen niet het enige dat Bumble doet. In december 2023 introduceerde het bedrijf zogenaamde AI Icebreakers aan het "Bumble for Friends" gedeelte van de app. Hiermee geeft de app OpenAI toegang tot de persoonlijke profielgegevens van mensen om een AI-bericht te genereren op basis van de informatie die mensen op het platform hebben gedeeld.
Lisa Steinfeld, advocaat gegevensbescherming bij noyb: "Bumble dwingt zijn AI-functies op aan miljoenen Europese gebruikers zonder hen ooit om toestemming te vragen. In plaats daarvan worden hun persoonlijke gegevens naar OpenAI gestuurd en ingevoerd in de AI-systemen van het bedrijf."
Mensen aanzetten om de verwerking te "accepteren". De AI Icebreakers werden geïntroduceerd zonder mensen ooit om toestemming te vragen. In plaats daarvan begonnen Bumble-gebruikers een pop-up te ontvangen zodra ze de app openden, waarin stond: "AI breekt het ijs. We gebruiken AI om je op weg te helpen met chatten. Hierdoor kun je vragen stellen die overeenkomen met de profielinformatie van onze leden." De banner is duidelijk ontworpen om gebruikers aan te sporen om op "Oké". Als je het probeert te sluiten zonder dit te doen, zal het elke keer opnieuw verschijnen als de app opnieuw wordt geopend en totdat je uiteindelijk klikt op "Okay" klikt. Hoewel dit suggereert dat Bumble vertrouwt op (vervelende vormen van) toestemming, lijkt Bumble alleen maar te doen alsof het om toestemming vraagt, wat mensen een vals gevoel van controle geeft.
Lisa Steinfeld, advocaat gegevensbescherming bij noyb: "Het feit dat Bumble haar gebruikers de optie presenteert om 'Oké' te zeggen tegen AI Icebreakers is misleidend. Het creëert een vals gevoel van controle over je eigen gegevens. In werkelijkheid claimt Bumble een zogenaamd legitiem belang te hebben om jouw gegevens te gebruiken zonder dat daar toestemming voor is."
Toestemming - of liever legitiem belang? Hoewel gebruikers onder druk worden gezet om actief te bevestigen dat ze het goed vinden dat OpenAI toegang krijgt tot hun persoonlijke gegevens, vertrouwt Bumble niet op toestemming onder Artikel 6(1)(a) GDPR als rechtsgrondslag voor de verwerking. Na verschillende pogingen om toegang te krijgen tot haar gegevens op grond van artikel 15 GDPR, ontving de klager uiteindelijk een kopie van haar gegevens en (onvolledige) informatie over de gegevensverwerking door het bedrijf in verband met de AI Icebreaker-functie. Hoewel Bumble er niet in slaagde informatie te verstrekken over de specifieke ontvangers van gebruikersgegevens, zei het bedrijf dat het feitelijk vertrouwt op een vermeend legitiem belang onder artikel 6(1)(f) GDPR om gegevens te verwerken voor zijn AI-functies.
Lisa Steinfeld, advocaat gegevensbescherming bij noyb: "De claim van Bumble om een legitiem belang te hebben bij het versturen van gebruikersgegevens naar OpenAI is absurd. De dating app lijkt zo wanhopig te zijn om mee te doen aan de AI hype dat het daarbij de fundamentele rechten van gebruikers met voeten treedt."
Klacht ingediend in Oostenrijk. noyb heeft daarom een klacht ingediend bij de Oostenrijkse gegevensbeschermingsautoriteit (DSB). Bumble heeft zijn transparantieverplichtingen op grond van artikel 5, lid 1, onder a) GDPR geschonden door geen informatie te verstrekken over de verwerking met betrekking tot de Icebreaker-functie en door gebruikers in verwarring te brengen met een "nep" toestemmingsbanner. Bovendien ontbeert het bedrijf een rechtsgrondslag onder artikel 6, lid 1, aangezien het juridisch gezien niet kan beweren zijn verwerking te baseren op legitieme belangen en nooit om toestemming heeft gevraagd. Dit wordt verder geïllustreerd door het feit dat het profiel van de klager gevoelige gegevens bevat zoals seksuele geaardheid, die alleen mogen worden verwerkt met uitdrukkelijke toestemming (artikel 9). Last but not least heeft Bumble niet adequaat gereageerd op het toegangsverzoek van de klager (artikel 15). noyb verzoekt Bumble de onrechtmatige verwerking te staken en een juiste rechtsgrondslag te gaan gebruiken voor de Icebreaker-functie. Tot slot, noyb voor dat het DSB een administratieve boete oplegt om soortgelijke schendingen in de toekomst te voorkomen.
