Ve středu členské státy EU schválily změnu nařízení GDPR, která by upřednostnila ziskové zájmy společností OpenAI, Anthropic, Google, Meta a SpaceX před základním právem Evropanů na ochranu osobních údajů. Podle schváleného znění by zpracování osobních údajů „v kontextu umělé inteligence“ by mělo být automaticky zákonné. Zejména by velké technologické společnosti mohly využívat veškeré osobní údaje shromážděné v uplynulých desetiletích prakticky bez jakýchkoli omezení, pokud k tomu dojde „v kontextu“ umělé inteligence. Schrems: „Podle dohodnutého textu by zisky společností zabývajících se umělou inteligencí obvykle převážily nad základním právem Evropanů na soukromí. Nejedná se o nic jiného než o digitální vyvlastnění Evropanů.“ To vše se děje navzdory tomu, že klíčové osobnosti společností zabývajících se umělou inteligencí aktivně varují před obrovskými riziky spojenými s jejich vlastními produkty.
Padají poslední bariéry: Zisky společností zabývajících se umělou inteligencí mají přednost před ochranou údajů? Vrámci návrhu „Digital Omnibus“ Evropská komise tvrdila, že provede pouze drobné změny s cílem zjednodušit situaci pro společnosti v EU. Zároveň výslovně prohlásila, že zachová „vysokou úroveň ochrany“ pro občany Evropy. Proto bylo zvoleno „zrychlené řízení“. Stalo se tak bez provedení posouzení základních práv a bez přímého zapojení evropské expertní skupiny pro ochranu osobních údajů.
Článek 88c, jak jej navrhla Evropská komise (nyní článek 88bis v dokumentu Rady), má za cíl uvolnit využívání osobních údajů pro umělou inteligenci. Návrh je v současné době projednáván v Radě, kde má nyní slovo irské předsednictví. Irsko zároveň slouží jako sídlo v EU pro většinu amerických a čínských společností zabývajících se umělou inteligencí.
Digitální vyvlastnění: schváleno Radou. S podporou Německa a dalších mocných členských států EU Rada (zastupující členské státy EU) ve středu schválila, že společnostem by mělo být obecně povoleno dělat v podstatě cokoli při využívání osobních údajů „v kontextu umělé inteligence“. To znamená, že obchodní zájmy společností zabývajících se umělou inteligencí by obecně měly přednost před základními právy uživatelů. Toto obecné povolení by se vztahovalo i na osoby, které nikdy nebyly zákazníky žádné společnosti zabývající se umělou inteligencí, a na údaje zadané před desítkami let, například v chatech nebo na sociálních médiích. Toto ustanovení by se vztahovalo na veškeré osobní údaje, ke kterým by se společnost zabývající se umělou inteligencí mohla nějakým způsobem dostat. Nebylo by nutné žádat uživatele o souhlas. Místo toho se automaticky předpokládá, že společnosti mají převažující „oprávněný zájem“, pokud používají nebo trénují jakýkoli produkt umělé inteligence.
Rada doplnila odkaz na stávající práva a povinnosti podle článku 21 (právo na odmítnutí v konkrétních případech) a článku 24 GDPR (nutnost technického a organizačního zajištění plnění zákonných povinností), avšak tyto údajné „záruky“ by se vztahovaly na jakékoli zpracování i bez tohoto odkazu. V podstatě nový článek 88bis o umělé inteligenci nevyžaduje žádné podstatné záruky.
Max Schrems: „Ve středu se členské státy EU dohodly, že vezmou naše data a bezplatně je předají společnostem zabývajícím se umělou inteligencí. Desítky let jsme lidem říkali, že jejich data jsou v bezpečí a v nejlepším případě se používají pro reklamy. Nyní mohou společnosti Google, Meta a Microsoft všechna data, která shromáždily, využívat téměř bez omezení a pro jakýkoli projekt, který zahrnuje nějakou složku ‚umělé inteligence‘. To je největší dárek, jaký členské státy EU kdy americkým technologickým gigantům daly.“
Prodej evropských dat do USA a Číny. Politici zřejmě věří, že evropské ekonomice prospěje zrušení co největšího počtu zákonů. Lze však očekávat přesně opačný výsledek: většina evropských firem nemá ani přístup k takovému objemu dat, ani kapitál, aby mohla konkurovat americkým korporacím. V mnoha případech by to také mohlo znamenat, že data shromážděná společnostmi z EU (ale zpracovávaná na platformách nebo službách mimo EU) by směřovala k poskytovatelům v USA nebo Číně.
Max Schrems: „Tato legislativní změna prospívá především velkým hráčům, kteří nashromáždili obrovské množství evropských dat. Jedná se o totální výprodej evropských dat globálním korporacím. Vedlo by to také k odlivu velkého množství know-how z firem v EU do USA nebo Číny. Z hlediska průmyslové politiky je takový přístup šílenství.“
Nekonečná volnost pro celou technologii? ObvykleGDPR povoluje zpracování pro konkrétní účely (např. uchovávání pro daňové účely nebo prevenci podvodů). Dohodnutý článek 88c (nebo článek 88bis) však legitimizuje celou technologii. Bez ohledu na účel, k němuž je využíván, by jakýkoli systém umělé inteligence mohl ze zákona standardně shromažďovat jakékoli osobní údaje. Navrhovaný článek by například umožňoval i trénování a využívání umělé inteligence k manipulaci, šíření dezinformací, generování nahých obrázků či k výrobě zabijáckých dronů a v podstatě k jakémukoli jinému spornému účelu. Mnohé operace zpracování, které byly dosud nezákonné, by se najednou mohly stát legálními – jen proto, že jsou prováděny „v kontextu“ systému umělé inteligence. Například zpracování údajů pro účely personalizované reklamy (bez souhlasu) je v současné době v EU nezákonné. Nyní by se však reklama mohla náhle stát legální, pokud bude personalizována pomocí technologie umělé inteligence.
Max Schrems: „Je to, jako by se říkalo, že je povoleno cokoliv – ať už uděláte cokoli – pokud se to děje pomocí umělé inteligence. Pokud je něco nelegální v tabulce Excelu, je to legální, pokud to provede agent umělé inteligence. Je naprosto absurdní upřednostňovat vysoce rizikovou technologii před jakýmkoli jiným počítačovým systémem.“
45 let trvající slib ochrany osobních údajů se hroutí. Na evropské úrovni existuje legislativa na ochranu osobních údajů již od roku 1981. Po celá desetiletí se Evropanům slibovalo, že taková (údajně) „přísná“ ochrana osobních údajů zajistí, že platformy jako Twitter/X, Facebook nebo Instagram a korporace jako Google či Microsoft, které shromažďují obrovské množství dat, je „nikdy“ nepoužijí k jiným účelům, než k těm, pro které byly sdíleny. Navrhovaný článek 88c (nyní 88bis) tento slib porušuje: všechna shromážděná data jsou najednou k dispozici pro jakékoli použití jakýmkoli systémem umělé inteligence.
Max Schrems: „Od 80. let slibujeme lidem, že ačkoli velké korporace mohou data uchovávat, smí je využívat pouze v omezeném rozsahu. Článek 88bis však náhle otevírá stavidla a umožňuje neomezené využití všech dat pro umělou inteligenci.“
Další masivní omezení ochrany a práv. Členské státy EU navíc navrhly drasticky zúžit definici „osobních údajů“. To mimo jiné znamená, že není jasné, zda by se na online sledování stále vztahovalo nařízení GDPR. To má být provedeno pomocí takzvaných „pseudonymů“, na které by se GDPR již pravidelně nevztahovalo. Problémem je, že většina IT systémů pracuje primárně s pseudonymy (jako jsou uživatelská ID, sledovací ID, IP adresy nebo čísla sociálního zabezpečení). O tom, zda jsou údaje stále „osobní“, by rozhodovaly především společnosti, na které se zákon vztahuje. Takové debaty se obvykle táhnou roky a způsobují obrovská zpoždění a náklady – tedy vše jiné než „zjednodušení“.
Max Schrems: „Tyto změny jsou přímo z příručky jakékoli velké advokátní kanceláře hájící zájmy velkých technologických firem. Strávili jsme roky u soudů a před úřady, abychom dosáhli zamítnutí těchto tvrzení. Evropský zákonodárce je pravděpodobně ještě posílí, a tím učiní právo EU ještě složitějším a nevymahatelným.“
Další bojiště: Evropský parlament. Tato dohoda není dohodou o konečném znění zákona. Rada musí vyjednat konečné znění s Evropským parlamentem, který zatím nezaujal stanovisko. Evropská komise je třetí institucí zapojenou do takzvaného „trilogy“, které povedou k přijetí konečného právního předpisu EU. Komise již před časem provedla obrat o 180 stupňů a v současné době jasně upřednostňuje zájmy průmyslových lobby před základními právy.
Postoj Evropského parlamentu se stále formuje. Zatímco většina členů Evropské lidové strany (EPP) se přiklání k zavádění stále více mezer do digitálních zákonů EU, poslanci Evropského parlamentu ze středolevicových frakcí se dosud brání a upřednostňují zachování současného stavu. Stále častěji se proti návrhům na „volnou jízdenku“ pro velké technologické firmy staví i krajně pravicové skupiny.
Poslední naděje: Soudní dvůr?Hlavníotázkouse zdá být, zda lze zákon bez jakýchkoli smysluplných omezení jakýmkoli způsobem sladit se základními právy EU. Evropský soudní dvůr již v minulosti zrušil právní předpisy EU v případech, které se týkaly mnohem méně závažných porušení základních práv EU, jako je uchovávání údajů nebo předávání údajů z EU do Spojených států.
Max Schrems: „Pokud zákonodárce ztratil veškerý smysl pro míru a směr, mohou se lidé obrátit pouze na soudy. Jakýkoli extrémní zákon, u něhož existuje vysoké riziko zrušení, by zároveň místo slibovaného zjednodušení přinesl pouze větší právní nejistotu.“
