V dokumentu, který unikl na veřejnost, irské předsednictví navrhuje členským státům EU, aby zájem společností OpenAI, Anthropic, Google, Meta a SpaceX o dosahování zisku měl přednost před základním právem na ochranu osobních údajů. Používání osobních údajů „v kontextu umělé inteligence“ by mělo být automaticky zákonné. Zdá se, že mezi mnoha členskými státy panuje široká neformální shoda. Zejména by velké technologické společnosti mohly využívat veškeré osobní údaje shromážděné v uplynulých desetiletích prakticky bez jakýchkoli omezení, pokud k tomu dojde „v kontextu“ umělé inteligence. Schrems: „Podle těchto návrhů by zisky společností zabývajících se umělou inteligencí převážily nad základním právem Evropanů na soukromí. Nejde o nic jiného než o digitální vyvlastnění Evropanů.“ To vše se děje navzdory tomu, že klíčové osobnosti společností zabývajících se umělou inteligencí aktivně varují před obrovskými riziky spojenými s jejich vlastními produkty.
- Článek na serveru Politico s původně uniklými dokumenty (za paywallem)
- Uniklý radikální návrh irského předsednictví (PDF)
- Návrh Německa na masivní liberalizaci společností zabývajících se umělou inteligencí (PDF)
- Přehledová stránka Evropské komise k „digitálnímu omnibusu“
Padají poslední bariéry: Zisky společností zabývajících se umělou inteligencí mají přednost před ochranou údajů? Vrámci návrhu „Digital Omnibus“ Evropská komise tvrdila, že přijímá pouze drobná zjednodušení pro společnosti v EU, přičemž výslovně prohlašovala, že zachovává „vysokou úroveň ochrany“ pro Evropany. Jelikož měly být změny minimální, bylo zvoleno „zrychlené řízení“ – bez posouzení základních práv a bez přímého zapojení evropské expertní skupiny pro ochranu osobních údajů.
Článek 88c navržený Evropskou komisí (nyní článek 88bis v dokumentu Rady) má za cíl uvolnit využívání osobních údajů pro umělou inteligenci. Návrh je v současné době projednáván v Radě, kde má nyní hlavní slovo irské předsednictví. Irsko slouží jako sídlo v EU pro většinu amerických a čínských společností zabývajících se umělou inteligencí, od SpaceX po TikTok.
S podporou Německa a dalších mocných členských států EU se v současné době navrhuje, aby při využívání osobních údajů „v kontextu umělé inteligence“, bylo společnostem obecně povoleno v podstatě cokoli. Obchodní zájmy společností zabývajících se umělou inteligencí by měly obecně převážit nad základními právy uživatelů. Toto obecné povolení by se vztahovalo i na osoby, které nikdy nebyly zákazníky společnosti zabývající se umělou inteligencí, nebo na údaje zadané před desítkami let, například v chatech či na sociálních médiích. Toto ustanovení by se vztahovalo na veškeré osobní údaje, ke kterým se společnost zabývající se umělou inteligencí nějakým způsobem dostane. Není třeba žádat uživatele o souhlas – u společností se automaticky předpokládá, že mají převažující „oprávněný zájem“, pokud trénují nebo používají jakýkoli produkt umělé inteligence.
Schrems: „Pravděpodobná většina členských států EU nyní tvrdí, že zájmy Elona Muska, Zuckerberga, Googlu nebo OpenAI na dosahování obrovských zisků by měly mít přednost před základním právem Evropanů na ochranu osobních údajů. Jedná se o nic menšího než o ‚digitální vyvlastnění‘ Evropanů. Všechno, co jsme kdy zadali do digitálních systémů nebo co společnosti zabývající se umělou inteligencí získaly jiným způsobem, se stává pro tyto společnosti volnou kořistí k využití.“
Prodej evropských dat do USA a Číny. Politici se zřejmě domnívají, že evropské hospodářství bude mít prospěch ze zrušení co největšího počtu zákonů. Lze však očekávat pravý opak: většina společností v EU nemá ani přístup ke stejnému objemu dat, ani kapitál, aby mohla konkurovat americkým společnostem. V mnoha případech by to také mohlo znamenat, že data shromážděná společnostmi v EU (ale zpracovávaná na platformách nebo službách v USA) by směřovala k poskytovatelům v USA nebo Číně.
Schrems: „Tato legislativní změna prospívá především velkým hráčům, kteří nashromáždili obrovské množství evropských dat. Jedná se o naprostý výprodej evropských dat globálním korporacím. Vedlo by to také k odlivu velkého množství know-how z podniků v EU do USA nebo Číny. Z hlediska průmyslové politiky je takový přístup šílenství.“
Nekonečná volnost pro celou technologii? ObvykleGDPR povoluje zpracování pro konkrétní účely (např. uchovávání pro daňové účely nebo prevenci podvodů). Aktuálně navrhovaný článek 88c (nebo článek 88bis) však legitimizuje celou technologii. Bez ohledu na účel, pro který je používán, by jakýkoli systém umělé inteligence standardně a v souladu se zákonem shromažďoval jakékoli osobní údaje. Navrhovaný článek by například umožňoval i trénování a využívání umělé inteligence k manipulaci, šíření dezinformací, generování nahých obrázků, k výrobě zabijáckých dronů a v podstatě k jakémukoli jinému spornému účelu. Mnohé operace zpracování, které byly dosud nezákonné, by se náhle staly legálními – jen proto, že se provádějí „v kontextu“ systému umělé inteligence. Například zpracování údajů pro účely personalizované reklamy (bez souhlasu) je v současné době v EU nezákonné. Nyní by se však, pokud by měla být reklama personalizována pomocí technologie umělé inteligence, náhle stalo legálním.
Schrems: „Je to, jako by se říkalo, že je vše povoleno – ať už děláte cokoli – pokud je to prováděno pomocí konkrétní technologie. Mnoho věcí, které byly dříve nezákonné, by se náhle stalo legálními, pokud použijete umělou inteligenci. Je naprosto absurdní poskytovat vysoce rizikové technologii preferenční zacházení oproti všem ostatním počítačovým systémům.“
45 let trvající slib ochrany osobních údajů se hroutí. Na evropské úrovni existuje legislativa na ochranu osobních údajů již od roku 1981. Po celá desetiletí se Evropanům slibovalo, že taková (údajně) „přísná“ ochrana osobních údajů zajistí, že platformy jako Twitter/X, Facebook nebo Instagram a korporace jako Google či Microsoft, které shromažďují obrovské množství dat, je „nikdy“ nepoužijí k jiným účelům, než k těm, pro které byly sdíleny. Navrhovaný článek 88c (nyní 88bis) tento slib porušuje: všechna shromážděná data jsou najednou k dispozici pro jakékoli použití jakýmkoli systémem umělé inteligence.
Schrems: „Od 80. let slibujeme lidem, že ačkoli velké korporace mohou data uchovávat, smí je využívat pouze v omezeném rozsahu. Článek 88bis nyní náhle otevírá stavidla a umožňuje neomezené využití všech dat pro umělou inteligenci.“
Další do očí bijící návrhy: Členské státy EU dále navrhly drasticky zúžit definici „osobních údajů“, což mimo jiné znamená, že není jasné, zda by se například online sledování stále vztahovalo pod GDPR. Navíc by práva subjektů údajů neměla platit, pokud jsou subjektem údajů „zneužívána“. V praxi by o tom, zda jsou údaje stále „osobní“ nebo zda je jejich využití „zneužívající“, rozhodovaly především společnosti. Obě tato opatření by v praxi téměř znemožnila prosazování GDPR. Ještě předtím, než by bylo jasné, zda se na daný případ GDPR vztahuje, by již vznikaly debaty ohledně schopností a záměrů společností a subjektů údajů. V praxi to může trvat roky a stát desítky tisíc eur.
Schrems: „Tyto změny jsou přímo z příručky jakékoli velké advokátní kanceláře hájící zájmy velkých technologických firem. Trávíme roky u soudů a před úřady, abychom dosáhli zamítnutí těchto nároků. Evropský zákonodárce je pravděpodobně ještě posílí, a tím učiní právo EU ještě složitějším a nevymahatelným.“
Postoj Evropské komise a Evropského parlamentu. Evropská komise před časem provedla obrat o 180 stupňů a v současné době jednoznačně upřednostňuje zájmy průmyslových lobby před základními právy. Postoj Evropského parlamentu zůstává rozporuplný. Zatímco většina členů Evropské lidové strany se přiklání k zavádění stále více mezer do digitálních právních předpisů EU, poslanci Evropského parlamentu ze středolevicových frakcí se tomu dosud brání. Stále častěji se proti návrhům na „volnou jízdenku“ pro velké technologické společnosti staví i krajně pravicové skupiny.
Poslední naděje: Soudní dvůr?Hlavníotázkouzřejmě je, zda lze zákon bez jakýchkoli smysluplných omezení vůbec nějak sladit se základními právy EU. V minulosti Evropský soudní dvůr zrušil právní předpisy EU v případech, které se týkaly mnohem méně závažných porušení základních práv EU, jako je uchovávání údajů nebo předávání údajů z EU do Spojených států.
Schrems: „Pokud zákonodárce ztratil veškerý smysl pro míru a směr, pak se občané mohou obrátit pouze na soudy. Jakýkoli extrémní zákon, u něhož existuje vysoké riziko zrušení, by zároveň vedl pouze k větší právní nejistotě – namísto slibovaného zjednodušení.“
