Nel dicembre 2023, la piattaforma di incontri Bumble ha introdotto i cosiddetti rompighiaccio AI nel programma "Bumble per gli amici" dell'app. Alimentata da ChatGPT di OpenAI, la funzione è progettata per aiutare l'utente a iniziare una conversazione fornendo un messaggio generato dall'intelligenza artificiale. Per fare ciò, le informazioni del vostro profilo personale vengono inserite nel sistema di intelligenza artificiale senza che Bumble abbia mai ottenuto il vostro consenso. Sebbene l'azienda mostri ripetutamente un banner progettato per spingere l'utente a cliccare su "Ok", il che suggerisce che si basa sul consenso dell'utente, in realtà sostiene di avere un cosiddetto "interesse legittimo" a utilizzare i dati. noyb ha pertanto presentato un reclamo all'autorità austriaca per la protezione dei dati.
OpenAI legge insieme a noi. Circa 50 milioni di persone persone utilizzano l'app di incontri Bumble per trovare partner romantici, amici o persino partner commerciali. Sebbene l'applicazione non fornisca numeri specifici per l'Europa, la sola Germania ha rappresentato 1,45 milioni di utenti nel 2024. Purtroppo, mettere in contatto le persone non è l'unica cosa che Bumble fa. Nel dicembre 2023, l'azienda ha introdotto i cosiddetti rompighiaccio AI nella sezione "Bumble per gli amici" dell'app. In questo modo, l'app consente a OpenAI di accedere ai dati del profilo personale delle persone per generare un messaggio di apertura basato sulle informazioni che le persone hanno condiviso sulla piattaforma.
Lisa Steinfeld, avvocato specializzato in protezione dei dati presso noyb: "Bumble impone le sue funzioni di intelligenza artificiale a milioni di utenti europei senza mai chiedere loro il consenso. Invece, i loro dati personali vengono inviati a OpenAI e inseriti nei sistemi di intelligenza artificiale dell'azienda"
Inducendo le persone ad "accettare" il trattamento. I rompighiaccio AI sono stati introdotti senza mai chiedere il consenso degli utenti. Invece, gli utenti di Bumble hanno iniziato a ricevere un pop-up non appena hanno aperto l'app, che diceva: "L'AI rompe il ghiaccio. Utilizziamo l'intelligenza artificiale per aiutarti a iniziare a chattare. Questo ti permette di fare domande che corrispondono alle informazioni del profilo dei nostri membri" Il banner è stato chiaramente progettato per spingere gli utenti a fare clic su "Ok". Se si cerca di chiuderlo senza farlo, riapparirà ogni volta che si riapre l'app e finché non si clicca finalmente su "Ok" "Ok". Se da un lato questo suggerisce che Bumble si basa su forme di consenso (fastidiose), dall'altro sembra che Bumble faccia semplicemente finta di chiedere il consenso, dando così alle persone un falso senso di controllo.
Lisa Steinfeld, avvocato specializzato in protezione dei dati presso noyb: "Il fatto che Bumble presenti ai suoi utenti l'opzione di dire 'Ok' ai rompighiaccio dell'intelligenza artificiale è fuorviante. Crea un falso senso di controllo sui propri dati. In realtà, Bumble sostiene di avere un cosiddetto interesse legittimo a utilizzare i dati degli utenti senza alcun consenso"
Consenso - o piuttosto interesse legittimo? Sebbene gli utenti siano costretti a confermare attivamente che sono d'accordo con l'accesso di OpenAI ai loro dati personali, Bumble non si basa sul consenso ai sensi dell'articolo 6, paragrafo 1, lettera a), del GDPR come base giuridica per il trattamento. Dopo vari tentativi di ottenere l'accesso ai suoi dati ai sensi dell'articolo 15 del GDPR, la ricorrente ha finalmente ricevuto una copia dei suoi dati e informazioni (incomplete) sul trattamento dei dati da parte dell'azienda in relazione alla funzione AI Icebreaker. Sebbene Bumble non abbia fornito informazioni sui destinatari specifici dei dati degli utenti, l'azienda ha affermato che in realtà si basa su un presunto interesse legittimo ai sensi dell'articolo 6, paragrafo 1, lettera f), del GDPR, per trattare i dati per le sue funzioni di intelligenza artificiale.
Lisa Steinfeld, avvocato specializzato in protezione dei dati presso noyb: "La pretesa di Bumble di avere un interesse legittimo a inviare i dati degli utenti a OpenAI è assurda. L'app di incontri sembra essere così desiderosa di entrare nel giro dell'IA che nel frattempo sta calpestando i diritti fondamentali degli utenti"
Denuncia presentata in Austria. noyb ha quindi presentato un reclamo all'autorità austriaca per la protezione dei dati (DSB). Bumble ha violato i suoi obblighi di trasparenza ai sensi dell'articolo 5, paragrafo 1, lettera a), del GDPR, non fornendo informazioni sul trattamento in relazione alla funzione Icebreaker e confondendo gli utenti con un "falso" banner di consenso. Inoltre, l'azienda non dispone di una base giuridica ai sensi dell'articolo 6, paragrafo 1, in quanto non può affermare di basare il trattamento sul legittimo interesse e non ha mai richiesto il consenso. Ciò è ulteriormente dimostrato dal fatto che il profilo del denunciante include dati sensibili come l'orientamento sessuale, che possono essere trattati solo con un consenso esplicito (articolo 9). Infine, ma non meno importante, Bumble non ha risposto adeguatamente alla richiesta di accesso del denunciante (articolo 15). noyb chiede a Bumble di interrompere il trattamento illecito e di iniziare a utilizzare una base giuridica adeguata per la funzione Icebreaker. Infine, noyb suggerisce che l'Organo di conciliazione imponga una sanzione amministrativa per prevenire violazioni simili in futuro.
