I december 2023, dejtingplattformen Bumble introducerade så kallade AI Icebreakers till "Bumble för vänner" sektionen av appen. Funktionen drivs av OpenAI:s ChatGPT och är utformad för att hjälpa dig att starta en konversation genom att ge ett AI-genererat meddelande. För att kunna göra detta matas din personliga profilinformation in i AI-systemet utan att Bumble någonsin får ditt samtycke. Även om företaget upprepade gånger visar dig en banner som är utformad för att få dig att klicka på "Okej", vilket tyder på att det förlitar sig på användarens samtycke, hävdar det faktiskt att det har ett så kallat "legitimt intresse" att använda data. noyb har därför lämnat in ett klagomål till den österrikiska dataskyddsmyndigheten.
OpenAI läser med. Omkring 50 miljoner människor använder dejtingappen Bumble för att hitta romantiska partners, vänner - eller till och med affärspartners. Även om appen inte tillhandahåller specifika användarsiffror för Europa, stod Tyskland ensamt stod Tyskland för 1,45 miljoner användare år 2024. Tyvärr är det inte bara att koppla ihop människor som Bumble gör. I december 2023 introducerade företaget så kallade AI Icebreakers till avsnittet "Bumble for Friends" i appen. Med detta tillåter appen OpenAI att få tillgång till människors personliga profildata för att AI-generera ett öppningsmeddelande baserat på den information som människor har delat på plattformen.
Lisa Steinfeld, dataskyddsjurist på noyb: "Bumble tvingar sina AI-funktioner på miljontals europeiska användare utan att någonsin be dem om deras samtycke. Istället skickas deras personuppgifter till OpenAI och matas in i företagets AI-system."
Människor uppmanas att "acceptera" behandlingen. AI Icebreakers introducerades utan att någonsin be människor om deras samtycke. Istället började Bumble-användare få en pop-up så snart de öppnade appen, där det stod: "AI bryter isen. Vi använder AI för att hjälpa dig att komma igång med chattandet. Detta gör att du kan ställa frågor som matchar profilinformationen för våra medlemmar." Bannern är helt klart utformad för att få användarna att klicka på "Okej". Om du försöker stänga den utan att göra det kommer den att dyka upp igen varje gång appen öppnas igen och tills du slutligen klickar på "Okej". Även om detta tyder på att Bumble förlitar sig på (irriterande former av) samtycke, verkar Bumble bara låtsas be om samtycke, vilket ger människor en falsk känsla av kontroll.
Lisa Steinfeld, dataskyddsjurist på noyb: "Det faktum att Bumble ger sina användare möjlighet att säga 'Okej' till AI Icebreakers är vilseledande. Det skapar en falsk känsla av kontroll över din egen data. I själva verket hävdar Bumble att de har ett så kallat berättigat intresse av att använda dina uppgifter utan något samtycke."
Samtycke - eller snarare berättigat intresse? Även om användarna pressas att aktivt bekräfta att de är okej med att OpenAI får tillgång till deras personuppgifter, förlitar sig Bumble inte på samtycke enligt artikel 6.1 a i GDPR som rättslig grund för behandlingen. Efter flera försök att få tillgång till sina uppgifter enligt artikel 15 i GDPR fick den klagande slutligen en kopia av sina uppgifter och (ofullständig) information om företagets databehandling i samband med AI Icebreaker-funktionen. Även om Bumble inte lämnade information om de specifika mottagarna av användardata, sade företaget att det faktiskt förlitar sig på ett påstått berättigat intresse enligt artikel 6.1 f GDPR för att behandla uppgifter för sina AI-funktioner.
Lisa Steinfeld, dataskyddsjurist på noyb: "Bumbles påstående om att ha ett berättigat intresse av att skicka användardata till OpenAI är absurt. Dejtingappen verkar vara så desperat att få vara med på AI-hypen att den trampar på användarnas grundläggande rättigheter i processen."
Klagomål inlämnat i Österrike. noyb har därför lämnat in ett klagomål till den österrikiska dataskyddsmyndigheten (DSB). Bumble har brutit mot sina transparensskyldigheter enligt artikel 5.1 a GDPR genom att inte tillhandahålla information om behandlingen i samband med Icebreaker-funktionen och genom att förvirra användarna med en "falsk" samtyckesbanner. Dessutom saknar företaget en rättslig grund enligt artikel 6.1, eftersom det inte lagligen kan hävda att det baserar sin behandling på ett berättigat intresse och aldrig har begärt samtycke. Detta illustreras ytterligare av det faktum att den klagandes profil innehåller känsliga uppgifter såsom sexuell läggning, som endast får behandlas med uttryckligt samtycke (artikel 9). Sist men inte minst har Bumble underlåtit att på ett adekvat sätt besvara den klagandes begäran om tillgång (artikel 15). noyb begär att Bumble ska upphöra med den olagliga behandlingen och börja använda en korrekt rättslig grund för Icebreaker-funktionen. Slutligen, noyb att DSB utdömer en administrativ sanktionsavgift för att förhindra liknande överträdelser i framtiden.
