Společnost Meta oznámila, že od 27. května bude používat osobní údaje uživatelů Instagramu a Facebooku z EU k trénování svých nových systémů umělé inteligence. Namísto toho, aby společnost Meta požádala spotřebitele o souhlas, spoléhá se na údajný "oprávněný zájem" a prostě vysává všechny údaje uživatelů. Nová směrnice EU o kolektivním odškodnění umožňuje kvalifikovaným subjektům, jako jsou např noyb vydávat soudní příkazy v celé EU. Jako první krok, noyb nyní zaslala společnosti Meta formální návrh na urovnání sporu ve formě takzvaného dopisu o zastavení činnosti. Další spotřebitelské skupiny rovněž podnikají kroky. Pokud budou soudní příkazy podány a vyhrány, může být společnost Meta rovněž odpovědná za škody způsobené spotřebitelům, které by mohly být uplatněny v rámci samostatné hromadné žaloby v EU. Škody by mohly dosáhnout miliard. Shrnuto, společnost Meta může čelit obrovským právním rizikům - už jen proto, že se při tréninku umělé inteligence spoléhá na systém "opt-out" namísto "opt-in".
- noybdopis společnosti Meta Ireland o zastavení a zdržení se činnosti
- Zpráva agentury Reuters o dopisu společnosti noyb o zastavení a odstoupení od smlouvy
- Tisková zpráva německého VZ NRW o předběžném opatření pro Německo
- Groteskní prohlášení společnosti Meta k předběžnému soudnímu příkazu německého VZ NRW
- Předchozí stížnosti noyb proti plánům společnosti Meta na školení AI
Umělá inteligence společnosti Meta není v souladu s nařízením GDPR. Aby mohly společnosti používat osobní údaje, musí splňovat jeden ze šesti právních základů podle čl. 6 odst. 1 GDPR. Jedním z nich je opt-in souhlas, což znamená, že uživatelé se mohou rozhodnout poskytnout "svobodně poskytnutý, konkrétní, informovaný a jednoznačný" "Ano" ke zpracování svých údajů - nebo říci ne, či dokonce mlčet. Společnosti však mohou také požadovat tzv "oprávněný zájem ke zpracování osobních údajů. Například zloděj nebude souhlasit s tím, aby ho natáčela průmyslová kamera - ale banka přesto může mít "oprávněný zájem" na tom, aby měla průmyslové kamery. Namísto toho, aby si uživatelé mohli vybrat, zda řeknou "ano", nebo "ne", společnost Meta tvrdí, že má takový "oprávněný zájem", aby si jejich údaje prostě vzala pro trénink umělé inteligence. Uživatelům tak zůstává pouze právo vznést námitku (opt-out) podle článku 21 GDPR. Společnost Meta však toto (zákonné) právo dokonce omezuje tím, že tvrdí, že platí pouze v případě, že se lidé odhlásili před zahájením školení.
Společnost Meta pravděpodobně nebude moci dodržet ani další práva podle GDPR (jako je právo být zapomenut, právo na opravu nesprávných údajů nebo právo umožnit uživatelům přístup k jejich údajům v systému umělé inteligence). Kromě toho společnost Meta poskytuje modely AI (jako např Llama) jako software s otevřeným zdrojovým kódem, který si může kdokoli stáhnout a používat. To znamená, že společnost Meta může model po jeho zveřejnění jen stěží odvolat nebo aktualizovat.
Max Schrems: "Evropský soudní dvůr již rozhodl, že společnost Meta se nemůže dovolávat "oprávněného zájmu" na cílení reklamy na uživatele. Jak by měla mít 'oprávněný zájem' na vysávání všech údajů pro trénink umělé inteligence? Ačkoli posouzení 'oprávněného zájmu' je vždy testem více faktorů, zdá se, že všechny faktory ukazují pro společnost Meta špatným směrem. Společnost Meta jednoduše říká, že její zájem vydělávat peníze je důležitější než práva jejích uživatelů."
Jednoduché řešení: Požádejte uživatele o souhlas! Zatímco se společnost Meta snaží vykreslit obraz, že dodržování GDPR by znemožnilo školení AI v EU (viz jejich absurdní tisková zpráva pro Německo), právní řešení podle GDPR je jednoduché: Meta by pouze musela požádat uživatele o souhlas s použitím jejich osobních údajů pro školení AI (namísto námitky proti použití). Vzhledem k tomu, že společnost Meta má obrovský počet uživatelů, by k učení jazyků EU a podobně již zjevně stačilo, kdyby s takovým školením souhlasilo 10 % nebo více uživatelů. Pokud by společnost Meta jasně stanovila podmínky pro školení (např. anonymizaci a podobně), bylo by pravděpodobné, že uživatelé své údaje poskytnou. Je však naprosto absurdní tvrdit, že Meta potřebuje osobní údaje těchto osob každého který v posledních 20 letech používá Facebook nebo Instagram, aby mohl trénovat umělou inteligenci. Většina ostatních poskytovatelů AI (jako je OpenAI nebo francouzský Mistral) má nulový přístup k údajům ze sociálních médií, a přesto systémy AI společnosti Meta předčí.
Max Schrems: " Tento boj je v podstatě o tom, zda žádat lidi o souhlas, nebo jednoduše brát jejich data bez něj. Meta začíná obrovský boj jen proto, aby měla systém opt-out místo systému opt-in. Místo toho se opírá o údajný "oprávněný zájem", aby si údaje prostě vzala a běžela s nimi. To není ani legální, ani nutné. Absurdní tvrzení společnosti Meta, že krádež osobních údajů každého z nás je nezbytná pro trénink umělé inteligence, je směšné. Jiní poskytovatelé umělé inteligence údaje ze sociálních sítí nepoužívají - a vytvářejí ještě lepší modely než společnost Meta."
Soudní příkazy a potenciální hromadné žaloby. Jako kvalifikovaný subjekt podle nové směrnice EU o kolektivním odškodnění, noyb může podat žalobu na zdržení se protiprávního jednání společnosti, jako je Meta. Takové žaloby lze podávat v různých jurisdikcích, nejen v sídle společnosti Meta v Irsku. Pokud by příslušný soud vydal soudní příkaz, společnost Meta by musela nejen zastavit zpracování, ale také vymazat veškerý nezákonně vyškolený systém umělé inteligence. Pokud jsou údaje z EU "smíchány" s údaji mimo EU, musel by být vymazán celý model UI. Případný soudní příkaz by rovněž zastavil běh lhůty, po kterou mohou lidé podávat žaloby o náhradu škody ("promlčecí lhůta"). To znamená, že s každým dnem, kdy by společnost Meta nadále používala evropské údaje pro trénink AI, by se zvyšoval počet potenciálních nároků uživatelů na náhradu škody. Nařízení GDPR umožňuje přiznat nemajetkovou újmu, která se obvykle pohybuje ve stovkách nebo tisících na jednoho uživatele.
Kromě pouhého soudního příkazu může kterýkoli oprávněný subjekt podat také žalobu na náhradu škody (podobnou hromadné žalobě v USA), aby takovou škodu vymáhal pro velké skupiny uživatelů. noyb nebo jakýkoli jiný kvalifikovaný subjekt (viz aktuální seznam EU) by měl na podání takové žaloby několik let, pokud společnost Meta nezmění svůj postup. Pokud by nemajetková újma činila pouze 500 EUR na uživatele, činila by zhruba 200 miliard EUR pro zhruba 400 milionů měsíčně aktivních uživatelů služby Meta v Evropě.
Max Schrems: "V současné době vyhodnocujeme možnosti podání soudních příkazů, ale existuje také možnost následné hromadné žaloby na náhradu nemajetkové újmy. Když si představíte více než 400 milionů evropských uživatelů služby Meta, kteří by všichni mohli požadovat náhradu škody ve výši přibližně 500 eur, můžete si to spočítat. Jsme velmi překvapeni, že společnost Meta podstoupila toto riziko jen proto, aby se vyhnula žádosti uživatelů o souhlas."
Soudní zákazy v jiných jurisdikcích EU. Zatímco reakce na flagrantní porušení GDPR společností Meta se rychle vyvíjí, noyb chápe, že různé skupiny v EU zkoumají možnosti soudních sporů. Německé spotřebitelské organizace (v čele s Verbraucherzentrale v Severním Porýní-Vestfálsku, "VZ NRW") již zveřejnily svůj záměr podat žalobu. Lze také očekávat, že mnoho jednotlivců může podat žalobu proti společnosti Meta za použití jejich údajů pro trénink umělé inteligence.
Max Schrems: "Očekávali bychom, že používání dat ze sociálních médií pro trénink AI vyvolá v celé EU mnoho soudních sporů. Už jen zvládnutí těchto soudních sporů bude pro společnost Meta obrovským úkolem."
Zdá se, že orgány pro ochranu údajů s tím nesouhlasí. Vnitrostátní úřady pro ochranu osobních údajů (DPA) by měly - teoreticky - podnikat donucovací kroky proti nedodržování GDPR. V atmosféře, kdy EU tvrdě prosazuje méně regulace a více "inovací" za každou cenu, však nyní pozorujeme, že orgány pro ochranu údajů v některých zemích EU fungují do značné míry jen jako poslíček společnosti Meta: Mnohé orgány pro ochranu údajů mají právě "informovaly" že by se měli urychleně odhlásit ze školení umělé inteligence společnosti Meta. Tím se odpovědnost přenáší na uživatele namísto společnosti Meta. Společnost Meta také veřejně prohlašuje, že má "zapojila" s regulačními orgány EU ohledně používání údajů ze sociálních médií pro trénink umělé inteligence. Pokud však jde o noyb je informována, orgány pro ochranu údajů o legálnosti tréninku AI bez souhlasu většinou mlčely. Zdá se tedy, že společnost Meta prostě i tak pokračovala - čímž na sebe vzala další obrovské právní riziko v EU a pošlapala práva uživatelů.
Max Schrems: "Pokud jsme slyšeli, společnost Meta se s úřady 'domluvila', ale nevedlo to k žádnému 'zelenému světlu'. Zdá se, že Meta jednoduše postupuje vpřed a ignoruje orgány EU pro ochranu údajů. Zdá se, že úřady zase jen mlčí a říkají uživatelům, aby se chránili sami. Jsme svědky toho, jak orgány pro ochranu údajů ztrácejí stále větší význam a nevládní organizace musí podávat žaloby k soudům."
