Spoločnosť Meta oznámila, že od 27. mája bude používať osobné údaje používateľov Instagramu a Facebooku z EÚ na trénovanie svojich nových systémov umelej inteligencie. Namiesto toho, aby spoločnosť Meta požiadala spotrebiteľov o súhlas, spolieha sa na údajný "legitímny záujem" a jednoducho vysáva všetky údaje používateľov. Nová smernica EÚ o kolektívnom uplatňovaní nárokov na nápravu umožňuje kvalifikovaným subjektom, ako napr noyb vydávať súdne príkazy v celej EÚ. Ako prvý krok, noyb teraz zaslala spoločnosti Meta formálny návrh na urovnanie vo forme takzvaného listu o zastavení a zastavení činnosti. Ďalšie spotrebiteľské skupiny tiež podniknú kroky. Ak budú súdne príkazy podané a vyhrané, spoločnosť Meta môže byť zodpovedná aj za škody spôsobené spotrebiteľom, ktoré by mohli byť uplatnené v samostatnej skupinovej žalobe v EÚ. Škody by mohli dosiahnuť miliardy. V súhrne môže spoločnosť Meta čeliť obrovským právnym rizikám - už len preto, že sa pri školení AI spolieha na systém "opt-out" namiesto "opt-in".
- noyblist o zastavení a zastavení činnosti adresovaný spoločnosti Meta Ireland
- Správa agentúry Reuters o liste spoločnosti noyb o zastavení činnosti
- Tlačová správa nemeckého VZ NRW o predbežnom súdnom príkaze pre Nemecko
- Groteskné vyhlásenie spoločnosti Meta k predbežnému súdnemu príkazu nemeckého VZ NRW
- Predchádzajúce sťažnosti noyb proti plánom spoločnosti Meta na školenie v oblasti umelej inteligencie
AI spoločnosti Meta nie je v súlade s nariadením GDPR. Na používanie osobných údajov musia spoločnosti spĺňať jeden zo šiestich právnych základov podľa článku 6 ods. 1 GDPR. Jedným z nich je súhlas typu opt-in, čo znamená, že používatelia sa môžu rozhodnúť poskytnúť "slobodne daný, konkrétny, informovaný a jednoznačný" "áno" na spracovanie svojich údajov - alebo povedať nie, či dokonca mlčať. Spoločnosti si však môžu nárokovať aj tzv "oprávnený záujem na spracovanie osobných údajov. Napríklad zlodej nebude súhlasiť s tým, aby ho natáčala priemyselná kamera - ale banka môže mať aj tak "oprávnený záujem" na tom, aby mala priemyselné kamery. Namiesto toho, aby si používatelia mohli vybrať, či povedia "áno" alebo "nie", spoločnosť Meta tvrdí, že má takýto "oprávnený záujem" len na to, aby ich údaje využívala na tréning umelej inteligencie. Používateľom tak zostáva len právo namietať (opt-out) podľa článku 21 GDPR. Spoločnosť Meta však toto (zákonné) právo dokonca obmedzuje tým, že tvrdí, že platí len vtedy, ak sa ľudia odmietnu pred začatím školenia.
Spoločnosť Meta pravdepodobne nebude môcť dodržať ani ďalšie práva vyplývajúce z nariadenia GDPR (ako napríklad právo byť zabudnutý, právo na opravu nesprávnych údajov alebo právo poskytnúť používateľom prístup k ich údajom v systéme umelej inteligencie). Okrem toho spoločnosť Meta poskytuje modely AI (ako napr Llama) ako softvér s otvoreným zdrojovým kódom, ktorý si môže ktokoľvek stiahnuť a používať. To znamená, že spoločnosť Meta môže model po jeho zverejnení len ťažko odvolať alebo aktualizovať.
Max Schrems: "Európsky súdny dvor už rozhodol, že spoločnosť Meta sa nemôže odvolávať na "oprávnený záujem" pri cielení reklamy na používateľov. Ako by mala mať 'oprávnený záujem' na vysávanie všetkých údajov na tréning umelej inteligencie? Hoci posúdenie 'oprávneného záujmu' je vždy testom viacerých faktorov, zdá sa, že všetky faktory ukazujú v prípade spoločnosti Meta nesprávnym smerom. Meta jednoducho hovorí, že jej záujem zarábať peniaze je dôležitejší ako práva jej používateľov."
Jednoduché riešenie: Požiadajte používateľov o súhlas! Zatiaľ čo sa spoločnosť Meta snaží vykresliť obraz, že dodržiavanie nariadenia GDPR by znemožnilo školenie AI v EÚ (pozri ich absurdnú tlačovú správu pre Nemecko), právne riešenie podľa GDPR je jednoduché: Meta by len musela požiadať používateľov o súhlas s použitím ich osobných údajov na školenie AI (namiesto námietky proti použitiu). Vzhľadom na to, že spoločnosť Meta má obrovský počet používateľov, na učenie jazykov EÚ a podobne by už zjavne stačilo, keby s takýmto školením súhlasilo 10 % alebo viac používateľov. Ak by Meta jasne uviedla podmienky školenia (napr. anonymizácia a podobne), bolo by pravdepodobné, že používatelia by svoje údaje poskytli. Je však úplne absurdné tvrdiť, že Meta potrebuje osobné údaje každého ktorý používa Facebook alebo Instagram za posledných 20 rokov, aby mohol trénovať umelú inteligenciu. Väčšina iných poskytovateľov AI (ako napríklad OpenAI alebo francúzsky Mistral) má nulový prístup k údajom zo sociálnych médií a napriek tomu prekonáva systémy AI spoločnosti Meta.
Max Schrems: " Tento boj je v podstate o tom, či žiadať ľudí o súhlas, alebo jednoducho brať ich údaje bez neho. Meta začína obrovský boj len preto, aby mala systém opt-out namiesto systému opt-in. Namiesto toho sa spoliehajú na údajný "oprávnený záujem", aby si jednoducho zobrali údaje a bežali s nimi. To nie je ani zákonné, ani potrebné. Absurdné tvrdenia spoločnosti Meta, že krádež osobných údajov každého z nás je potrebná na tréning umelej inteligencie, sú smiešne. Iní poskytovatelia AI nepoužívajú údaje zo sociálnych sietí - a vytvárajú ešte lepšie modely ako spoločnosť Meta."
Súdne príkazy a potenciálne skupinové žaloby. Ako kvalifikovaný subjekt podľa novej smernice EÚ o kolektívnom uplatňovaní nárokov na nápravu, noyb môže podať súdny príkaz na zastavenie nezákonného postupu spoločnosti, ako je Meta. Takéto žaloby možno podať v rôznych jurisdikciách, nielen v ústredí spoločnosti Meta v Írsku. Ak príslušný súd vydá súdny príkaz, spoločnosť Meta bude musieť nielen zastaviť spracúvanie, ale aj vymazať všetky nezákonne vyškolené systémy umelej inteligencie. Ak sa údaje EÚ "zmiešajú" s údajmi z krajín mimo EÚ, musel by sa vymazať celý model AI. Prípadný súdny príkaz by tiež zastavil plynutie lehoty, počas ktorej môžu ľudia podávať žaloby o náhradu škody ("premlčacia lehota"). To znamená, že s každým dňom, keď by spoločnosť Meta naďalej používala európske údaje na školenie AI, by sa zvýšil počet potenciálnych nárokov používateľov na náhradu škody. Nariadenie GDPR umožňuje náhradu nemajetkovej ujmy, ktorá sa zvyčajne pohybuje v stovkách alebo tisícoch na používateľa.
Okrem samotného súdneho príkazu môže každý oprávnený subjekt podať aj žalobu o náhradu škody (podobnú hromadnej žalobe v USA) s cieľom vymôcť takúto náhradu škody pre veľké skupiny používateľov. noyb alebo akýkoľvek iný oprávnený subjekt (pozri aktuálny zoznam EÚ) by mal niekoľko rokov na podanie takejto žaloby, ak spoločnosť Meta nezmení svoj postup. Ak by nemajetková ujma predstavovala len 500 EUR na používateľa, pre približne 400 miliónov mesačne aktívnych používateľov Meta v Európe by predstavovala približne 200 miliárd EUR.
Max Schrems: "V súčasnosti vyhodnocujeme naše možnosti podať súdny príkaz, ale existuje aj možnosť následnej hromadnej žaloby o náhradu nemajetkovej ujmy. Ak sa zamyslíte nad viac ako 400 miliónmi európskych používateľov Meta, ktorí by všetci mohli požadovať náhradu škody vo výške približne 500 EUR, môžete si to spočítať. Sme veľmi prekvapení, že spoločnosť Meta podstúpi toto riziko len preto, aby sa vyhla žiadosti používateľov o súhlas."
Súdne príkazy v iných jurisdikciách EÚ. Zatiaľ čo reakcia na flagrantné porušenie GDPR spoločnosťou Meta sa vyvíja rýchlo, noyb chápe, že rôzne skupiny v EÚ skúmajú možnosti súdnych sporov. Nemecké spotrebiteľské organizácie (pod vedením Verbraucherzentrale v Severnom Porýní-Vestfálsku, "VZ NRW") už zverejnili svoj zámer podať žalobu. Dá sa tiež očakávať, že mnohí jednotlivci sa môžu domáhať žaloby proti spoločnosti Meta za používanie ich údajov na tréning umelej inteligencie.
Max Schrems: "Očakávali by sme, že používanie údajov zo sociálnych médií na tréning AI vyvolá množstvo súdnych sporov v celej EÚ. Už len zvládnutie týchto súdnych sporov bude pre spoločnosť Meta obrovskou úlohou."
Zdá sa, že orgány na ochranu údajov to neschvaľujú. Vnútroštátne orgány na ochranu údajov (DPA) by mali - teoreticky - prijímať opatrenia na presadzovanie práva v prípade nedodržiavania nariadenia GDPR. V atmosfére, keď EÚ tvrdo presadzuje menej regulácie a viac "inovácií" za každú cenu, však teraz pozorujeme, že orgány DPA v niektorých krajinách EÚ fungujú zväčša len ako poslíčkovia spoločnosti Meta: Mnohé orgány DPA majú len "informovali" že by sa mali urýchlene odhlásiť zo školenia umelej inteligencie spoločnosti Meta. Zodpovednosť tak namiesto spoločnosti Meta nesú používatelia. Meta tiež verejne tvrdí, že má "zapojila" s regulačnými orgánmi EÚ o používaní údajov zo sociálnych médií na školenie AI. Pokiaľ však noyb je informovaná, orgány na ochranu údajov zväčša mlčali o zákonnosti školenia AI bez súhlasu. Zdá sa preto, že Meta jednoducho aj tak pokračovala - čím na seba vzala ďalšie obrovské právne riziko v EÚ a pošliapala práva používateľov.
Max Schrems: "Pokiaľ sme počuli, spoločnosť Meta sa "angažovala" u úradov, ale neviedlo to k žiadnej "zelenej". Zdá sa, že Meta jednoducho postupuje ďalej a ignoruje orgány EÚ na ochranu údajov. Zdá sa, že orgány zase len mlčia a hovoria používateľom, aby sa chránili sami. Sme svedkami toho, ako orgány na ochranu údajov strácajú čoraz väčší význam a mimovládne organizácie musia podávať žaloby na súdy."
