V dokumentu, který unikl na veřejnost, irské předsednictví navrhuje členským státům EU, aby zájem společností OpenAI, Anthropic, Google, Meta a SpaceX na dosahování zisku měl přednost před základním právem na ochranu osobních údajů. Využití osobních údajů „v kontextu umělé inteligence“ by mělo být automaticky zákonné. Zdá se, že mezi mnoha členskými státy panuje široká neformální shoda. Zejména by velké technologické firmy mohly využívat veškeré osobní údaje shromážděné v uplynulých desetiletích prakticky bez jakýchkoli omezení, pokud k tomu dojde „v kontextu“ umělé inteligence. Schrems: „Podle těchto návrhů by zisky společností zabývajících se umělou inteligencí převážily nad základním právem Evropanů na soukromí. Nejedná se o nic jiného než o digitální vyvlastnění Evropanů.“ To vše se děje navzdory tomu, že klíčové osobnosti společností zabývajících se umělou inteligencí aktivně varují před obrovskými riziky spojenými s jejich vlastními produkty.
- Článek na webu Politico s původně uniklými dokumenty (za paywallem)
- Uniklý extrémní návrh irského předsednictví (PDF)
- Návrh Německa na masivní liberalizaci společností zabývajících se umělou inteligencí (PDF)
- Přehledová stránka Evropské komise k „digitálnímu omnibusu“
Padají poslední bariéry: Zisky společností zabývajících se umělou inteligencí mají přednost před ochranou osobních údajů? Vrámci návrhu „Digital Omnibus“ Evropská komise tvrdila, že přijímá pouze drobná zjednodušení pro společnosti v EU, přičemž výslovně prohlašovala, že zachovává „vysokou úroveň ochrany“ pro Evropany. Jelikož měly být změny minimální, bylo zvoleno „zrychlené řízení“ – bez posouzení základních práv a bez přímého zapojení evropské expertní skupiny pro ochranu osobních údajů.
Článek 88c navržený Evropskou komisí (nyní článek 88bis v dokumentu Rady) má za cíl uvolnit využívání osobních údajů pro umělou inteligenci. Návrh je v současné době projednáván v Radě, kde má nyní hlavní slovo irské předsednictví. Irsko slouží jako sídlo většiny amerických a čínských společností zabývajících se umělou inteligencí v rámci EU.
S podporou Německa a dalších mocných členských států EU se v současné době navrhuje, aby při využívání osobních údajů „v kontextu umělé inteligence“, by měly mít společnosti obecně povoleno v podstatě cokoli. Obchodní zájmy společností zabývajících se umělou inteligencí by měly obecně mít přednost před základními právy uživatelů. Toto obecné povolení by se vztahovalo i na osoby, které nikdy nebyly zákazníky žádné společnosti zabývající se umělou inteligencí, nebo na údaje zadané před desítkami let, například v chatech či na sociálních médiích. Toto ustanovení by se vztahovalo na veškeré osobní údaje, ke kterým se společnost zabývající se umělou inteligencí nějakým způsobem dostane. Není třeba žádat uživatele o souhlas – u společností se automaticky předpokládá, že mají převažující „oprávněný zájem“, pokud trénují nebo používají jakýkoli produkt umělé inteligence.
Schrems: „Pravděpodobná většina členských států EU nyní tvrdí, že zájmy Elona Muska, Marca Zuckerberga, Googlu nebo OpenAI na dosahování obrovských zisků by měly mít přednost před základním právem Evropanů na ochranu údajů. To není nic jiného než ‚digitální vyvlastnění‘ Evropanů. Všechno, co jsme kdy zadali do digitálních systémů nebo co společnosti zabývající se umělou inteligencí jinak získaly, se stává pro tyto společnosti volnou kořistí k využití.“
Prodej evropských dat do USA a Číny. Politici se zřejmě domnívají, že evropské ekonomice prospěje zrušení co největšího počtu zákonů. Lze však očekávat přesně opačný vývoj: většina společností v EU nemá ani přístup k takovému objemu dat, ani kapitál, aby mohla konkurovat americkým korporacím. V mnoha případech by to také mohlo znamenat, že data shromážděná společnostmi z EU (ale zpracovávaná na platformách nebo službách v USA) by proudila k poskytovatelům v USA nebo Číně.
Schrems: „Tato legislativní změna prospívá především velkým hráčům, kteří nashromáždili obrovské množství evropských dat. Jedná se o naprostý výprodej evropských dat globálním korporacím. Vedlo by to také k odlivu velkého množství know-how z podniků v EU do USA nebo Číny. Z hlediska průmyslové politiky je takový přístup šílenství.“
Nekonečná volnost pro celou technologii? ObvykleGDPR povoluje zpracování pro konkrétní účely (např. uchovávání pro daňové účely nebo prevenci podvodů). Aktuálně navrhovaný článek 88c (nebo článek 88bis) však legitimizuje celou technologii. Bez ohledu na účel, k němuž je využíván, by jakýkoli systém umělé inteligence standardně a v souladu se zákonem shromažďoval jakékoli osobní údaje. Navrhovaný článek by například umožňoval i trénování a využívání umělé inteligence k manipulaci, šíření dezinformací, generování nahých obrázků, k výrobě zabijáckých dronů a v podstatě k jakémukoli jinému spornému účelu. Mnoho operací zpracování, které byly dosud nezákonné, by se náhle stalo legálními – jen proto, že se provádějí „v kontextu“ systému umělé inteligence. Například zpracování údajů pro účely personalizované reklamy (bez souhlasu) je v současné době v EU nezákonné. Nyní by však, pokud by měla být reklama personalizována pomocí technologie umělé inteligence, náhle legální.
Schrems: „Je to, jako by se říkalo, že je vše dovoleno – ať už děláte cokoli – pokud k tomu použijete konkrétní technologii. Mnoho věcí, které byly dříve nezákonné, by se náhle stalo legálními, pokud k tomu použijete umělou inteligenci. Je naprosto absurdní poskytovat vysoce rizikové technologii preferenční zacházení oproti všem ostatním počítačovým systémům.“
45 let trvající slib ochrany osobních údajů se hroutí. Na evropské úrovni existuje legislativa na ochranu osobních údajů již od roku 1981. Po celá desetiletí se Evropanům slibovalo, že taková (údajně) „přísná“ ochrana osobních údajů zajistí, že platformy jako Twitter/X, Facebook nebo Instagram a korporace jako Google či Microsoft, které shromažďují obrovské množství dat, je „nikdy“ nepoužijí k jiným účelům, než k těm, pro které byla sdílená. Navrhovaný článek 88c (nyní 88bis) tento slib porušuje: všechna shromážděná data jsou najednou k dispozici pro jakékoli použití jakýmkoli systémem umělé inteligence.
Schrems: „Od 80. let slibujeme lidem, že ačkoli velké korporace mohou data uchovávat, smí je využívat pouze v omezené míře. Článek 88bis nyní náhle otevírá stavidla a umožňuje neomezené využití všech dat pro umělou inteligenci.“
Další masivní omezení ochrany a práv. Členské státy EU dále navrhly drasticky zúžit definici „osobních údajů“, což mimo jiné znamená, že není jasné, zda by se například na online sledování stále vztahovalo nařízení GDPR. Toho má být dosaženo prostřednictvím takzvaných „pseudonymů“, na které by se obecně již nemělo vztahovat nařízení GDPR. Problémem je, že většina IT systémů pracuje primárně s pseudonymy (jako jsou uživatelská ID, identifikační čísla pro sledování, IP adresy nebo čísla sociálního zabezpečení).
Kromě toho by při určování, zda se na daný případ GDPR vůbec vztahuje, měly být zohledněny interní znalosti a schopnosti společnosti. Stejně tak by práva subjektů údajů neměla platit, pokud jsou subjektem údajů „zneužívána“.
V praxi jsou tyto „subjektivní“ faktory náchylné ke zneužití. Rozhodnutí o tom, zda jsou údaje stále „osobní“ nebo zda je právo „zneužíváno“, by v první řadě činily samotné společnosti, na které se zákon vztahuje. Obě tato opatření mohou v praxi prakticky znemožnit prosazování GDPR. V každém jednotlivém případě by společnosti mohly vést zdlouhavé debaty o svých (neznámých) interních schopnostech a záměrech a spekulovat o potenciálně „zneužívajících“ záměrech uživatelů. Takové debaty se obvykle táhnou roky a zaplavují řízení obrovskými zpožděními a enormními náklady – což je tedy vše jiné než „zjednodušení“.
Schrems: „Tyto změny jsou přímo z příručky jakékoli velké advokátní kanceláře hájící zájmy velkých technologických firem. Trávíme roky u soudů a před úřady, abychom dosáhli zamítnutí těchto nároků. Evropský zákonodárce je pravděpodobně ještě posílí, a tím učiní evropské právo ještě složitějším a nevymahatelným.“
Postoj Evropské komise a Evropského parlamentu. Evropská komise před časem provedla obrat o 180 stupňů a v současné době jasně upřednostňuje zájmy průmyslových lobby před základními právy. Postoj Evropského parlamentu zůstává nejednoznačný. Zatímco většina členů Evropské lidové strany se přiklání k zavádění stále více mezer v digitálních předpisech EU, poslanci Evropského parlamentu ze středolevicových frakcí se tomu dosud brání. Stále častěji se proti návrhům na „volnou jízdenku“ pro velké technologické firmy staví i krajně pravicové skupiny.
Poslední naděje: Soudní dvůr?Hlavníotázkouse zdá být, zda lze zákon bez jakýchkoli smysluplných omezení vůbec sladit se základními právy EU. V minulosti Evropský soudní dvůr zrušil právní předpisy EU v případech, které se týkaly mnohem méně závažných porušení základních práv EU, jako je uchovávání údajů nebo předávání údajů z EU do Spojených států.
Schrems: „Pokud zákonodárce ztratil veškerý smysl pro míru a směr, pak se občané mohou obrátit pouze na soudy. Jakýkoli extrémní zákon, u něhož existuje vysoké riziko, že bude zrušen, by zároveň vedl pouze k větší právní nejistotě – namísto slibovaného zjednodušení.“
