V dokumente, ktorý unikol na verejnosť, írske predsedníctvo navrhuje členským štátom EÚ, aby záujem spoločností OpenAI, Anthropic, Google, Meta a SpaceX na dosahovaní zisku mal prednosť pred základným právom na ochranu údajov. Používanie osobných údajov „v kontexte umelej inteligencie“ by malo byť automaticky zákonné. Zdá sa, že medzi mnohými členskými štátmi panuje široká neformálna zhoda. Konkrétne by veľké technologické spoločnosti mohli využívať všetky osobné údaje zhromaždené za posledné desaťročia prakticky bez akýchkoľvek obmedzení, pokiaľ by sa tak dialo „v kontexte“ umelej inteligencie. Schrems: „Podľa týchto návrhov by zisky spoločností zaoberajúcich sa umelou inteligenciou prevážili nad základným právom Európanov na súkromie. Nie je to nič iné ako digitálne vyvlastnenie Európanov.“ Všetko toto sa deje napriek tomu, že kľúčové osobnosti spoločností zaoberajúcich sa umelou inteligenciou aktívne varujú pred obrovskými rizikami spojenými s ich vlastnými produktmi.
- Článok v Politico s pôvodne uniknutými dokumentmi (prístup len pre predplatiteľov)
- Uniknutý radikálny návrh írskeho predsedníctva (PDF)
- Návrh Nemecka na rozsiahlu liberalizáciu spoločností zaoberajúcich sa umelou inteligenciou (PDF)
- Prehľadová stránka Európskej komisie o „digitálnom omnibusovom balíku“
Padajú posledné bariéry: Zisky spoločností zaoberajúcich sa umelou inteligenciou prevážia nad ochranou údajov? Vrámci návrhu „Digital Omnibus“ Európska komisia tvrdila, že prijíma iba menšie zjednodušenia pre spoločnosti v EÚ, pričom výslovne deklarovala zachovanie „vysokej úrovne ochrany“ pre Európanov. Keďže zmeny mali byť minimálne, zvolilo sa „zrýchlené konanie“ – bez posúdenia základných práv a bez priameho zapojenia európskej expertnej skupiny pre ochranu údajov.
Článok 88c navrhnutý Európskou komisiou (teraz článok 88bis v dokumente Rady) má za cieľ uvoľniť využívanie osobných údajov pre umelú inteligenciu. Návrh je v súčasnosti v Rade, kde momentálne predsedá Írsko. Írsko slúži ako sídlo EÚ pre väčšinu amerických a čínskych spoločností pôsobiacich v oblasti umelej inteligencie.
S podporou Nemecka a ďalších vplyvných členských štátov EÚ sa v súčasnosti navrhuje, aby pri používaní osobných údajov „v kontexte umelej inteligencie“, mali spoločnosti vo všeobecnosti povolenie robiť prakticky čokoľvek. Obchodné záujmy spoločností zaoberajúcich sa umelou inteligenciou by mali vo všeobecnosti prevážiť nad základnými právami používateľov. Toto všeobecné povolenie by sa vzťahovalo aj na osoby, ktoré nikdy neboli zákazníkmi spoločnosti zaoberajúcej sa umelou inteligenciou, alebo na údaje zadané pred desiatkami rokov, napríklad v chatoch alebo na sociálnych médiách. Toto ustanovenie by sa vzťahovalo na všetky osobné údaje, ku ktorým sa spoločnosť zaoberajúca sa umelou inteligenciou nejakým spôsobom dostane. Nie je potrebné žiadať používateľov o súhlas – automaticky sa predpokladá, že spoločnosti majú prevládajúci „oprávnený záujem“, ak trénujú alebo používajú akýkoľvek produkt umelej inteligencie.
Schrems: „Pravdepodobná väčšina členských štátov EÚ teraz tvrdí, že záujmy Elona Muska, Marca Zuckerberga, spoločnosti Google alebo OpenAI o dosahovanie obrovských ziskov by mali mať prednosť pred základným právom Európanov na ochranu údajov. Ide v podstate o ‚digitálnu vyvlastnenie‘ Európanov. Všetko, čo sme kedy zadali do digitálnych systémov, alebo čo spoločnosti zaoberajúce sa umelou inteligenciou inak získali, sa stáva pre tieto spoločnosti voľnou korisťou na využitie.“
Predaj európskych údajov do USA a Číny. Zdá sa, že politici veria, že európske hospodárstvo bude profitovať zo zrušenia čo najväčšieho počtu zákonov. Dá sa však očakávať presný opak: väčšina spoločností v EÚ nemá ani prístup k rovnakému objemu údajov, ani kapitál na to, aby mohla konkurovať americkým spoločnostiam. V mnohých prípadoch by to mohlo tiež znamenať, že údaje zhromaždené spoločnosťami z EÚ (spracovávané však na platformách alebo službách v USA) by smerovali k poskytovateľom v USA alebo Číne.
Schrems: „Táto legislatívna zmena prospieva predovšetkým veľkým hráčom, tým, ktorí zhromaždili obrovské množstvá údajov o Európanoch. Ide o úplný výpredaj európskych údajov globálnym korporáciám. Viedlo by to tiež k odlevu veľkého množstva know-how z firiem v EÚ do USA alebo Číny. Z hľadiska priemyselnej politiky je takýto prístup šialenstvo.“
Voľná ruka pre celú technológiu?GDPRzvyčajnepovoľuje spracúvanie na konkrétne účely (napr. uchovávanie údajov pre daňové účely alebo prevenciu podvodov). V súčasnosti navrhovaný článok 88c (alebo článok 88bis) však legitimizuje celú technológiu. Bez ohľadu na účel, na ktorý sa používa, by akýkoľvek systém umelej inteligencie štandardne zákonne zbieral akékoľvek osobné údaje. Navrhovaný článok by napríklad umožňoval aj trénovanie a používanie umelej inteligencie na manipuláciu, dezinformáciu, generovanie nahých obrázkov alebo zabíjacie drony a v podstate akýkoľvek iný sporný účel. Mnohé operácie spracovania, ktoré boli doteraz nezákonné, by sa zrazu stali zákonnými – len preto, že sa vykonávajú „v kontexte“ systému umelej inteligencie. Napríklad spracovanie údajov na účely personalizovanej reklamy (bez súhlasu) je v súčasnosti v EÚ nezákonné. Ak by sa však reklama mala personalizovať pomocou technológie umelej inteligencie, zrazu by sa stala zákonnou.
Schrems: „Je to ako keby sme hovorili, že všetko je dovolené – bez ohľadu na to, čo robíte – pokiaľ sa to robí pomocou konkrétnej technológie. Mnohé veci, ktoré boli predtým nezákonné, by sa zrazu stali zákonnými, pokiaľ použijete umelú inteligenciu. Je absolútne absurdné poskytovať technológii s vysokým rizikom preferenčné zaobchádzanie pred akýmkoľvek iným počítačovým systémom.“
45-ročný sľub o ochrane údajov sa rúca. Na európskej úrovni existuje legislatíva o ochrane údajov už od roku 1981. Po celé desaťročia sa Európanom sľubovalo, že takáto (údajne) „prísna“ ochrana údajov zabezpečí, že platformy ako Twitter/X, Facebook alebo Instagram a spoločnosti ako Google či Microsoft, ktoré zhromažďujú obrovské množstvá údajov, ich „nikdy“ nepoužijú na iné účely, ako na tie, na ktoré boli zdieľané. Navrhovaný článok 88c (alebo teraz 88bis) porušuje tento sľub: všetky zhromaždené údaje sú zrazu k dispozícii na akékoľvek použitie akýmkoľvek systémom umelej inteligencie.
Schrems: „Od 80. rokov sme ľuďom sľubovali, že hoci veľké korporácie môžu údaje uchovávať, môžu ich používať len v obmedzenom rozsahu. Článok 88bis teraz náhle otvára stavidlá a umožňuje neobmedzené využívanie všetkých údajov pre umelú inteligenciu.“
Ďalšie masívne obmedzenia ochrany a práv. Členské štáty EÚ ďalej navrhli drastické zúženie definície „osobných údajov“, čo okrem iného znamená, že nie je jasné, či by sa napríklad online sledovanie naďalej riadilo nariadením GDPR. Toto sa má dosiahnuť prostredníctvom takzvaných „pseudonymov“, na ktoré by sa GDPR už v zásade nemalo vzťahovať. Problémom je, že väčšina IT systémov pracuje predovšetkým s pseudonymami (ako sú používateľské ID, sledovacie ID, IP adresy alebo rodné čísla).
Okrem toho by sa pri určovaní, či sa GDPR vôbec uplatňuje, mali zohľadňovať interné znalosti a kapacity spoločnosti. Rovnako by sa práva dotknutej osoby nemali uplatňovať, ak ich dotknutá osoba „zneužíva“.
V praxi sú tieto „subjektívne“ faktory náchylné na zneužitie. Rozhodnutie o tom, či sú údaje stále „osobné“ alebo či je uplatňovanie práva „zneužívajúce“, by prijímali predovšetkým spoločnosti, na ktoré sa zákon vzťahuje. Obe tieto opatrenia môžu v praxi takmer znemožniť presadzovanie GDPR. V každom jednotlivom prípade by spoločnosti mohli viesť zdĺhavé diskusie o svojich (neznámych) vnútorných schopnostiach a zámeroch a špekulovať o potenciálne „zneužívajúcich“ zámeroch používateľov. Takéto diskusie sa zvyčajne ťahajú celé roky a postupy sa v nich topia v obrovských meškaniach a obrovských nákladoch – čo je všetko, len nie „zjednodušenie“.
Schrems: „Tieto zmeny sú priamo z príručky akejkoľvek veľkej advokátskej kancelárie, ktorá obhajuje veľké technologické firmy. Strávili sme roky na súdoch a pred orgánmi, aby sme dosiahli zamietnutie týchto tvrdení. Legislatívny orgán EÚ ich pravdepodobne ešte viac posilní, a tým ešte viac skomplikuje a znemožní vynútiteľnosť práva EÚ.“
Postoj Európskej komisie a Európskeho parlamentu. Európska komisia pred časom urobila obrat o 180 stupňov a v súčasnosti jednoznačne uprednostňuje záujmy priemyselných lobistických skupín pred základnými právami. Postoj Európskeho parlamentu zostáva nejednoznačný. Zatiaľ čo väčšina členov Európskej ľudovej strany sa skôr prikláňa k tomu, aby sa do digitálnych zákonov EÚ vkladalo čoraz viac výnimiek, poslanci Európskeho parlamentu zo stredoľavých frakcií sa tomu doteraz bránili. Čoraz viac sa proti návrhom na „voľný priechod“ pre veľké technologické firmy stavajú aj krajne pravicové skupiny.
Posledná nádej: Súdny dvor?Hlavnouotázkousa zdá byť, či je možné zákon bez akýchkoľvek zmysluplných obmedzení akýmkoľvek spôsobom zosúladiť so základnými právami EÚ. V minulosti Európsky súdny dvor zrušil právne predpisy EÚ v prípadoch, ktoré sa týkali oveľa menej závažných porušení základných práv EÚ, ako je uchovávanie údajov alebo prenos údajov z EÚ do Spojených štátov.
Schrems: „Ak zákonodarca stratil akýkoľvek zmysel pre mieru a smer, ľudia sa môžu obrátiť len na súdy. Akýkoľvek extrémny zákon, u ktorého existuje vysoké riziko zrušenia, by zároveň vytvoril len väčšiu právnu neistotu – namiesto sľubovaného zjednodušenia.“
