Významným krokom v oblasti regulácie umelej inteligencie bolo minulotýždňové zasadnutie Európskeho parlamentu, ktorý 499 hlasmi svojich poslancov podporil potrebu jednotnej úpravy danej problematiky na úrovni EÚ. Nasledovať budú rokovania s krajinami EÚ zastúpenými v Rade EÚ. Cieľom je dosiahnuť finálnu dohodu o konečnom znení nariadenia do konca tohto roka.

Len pre úplnosť dodajme, že pôvodné znenie návrhu (ďalej aj len ako „AIA“ – z anglického Artificial Intelligence Act) z apríla 2021 bolo výsledkom politického záväzku jeho predsedníčky Ursuly von der Leyenovej, kedy po publikovaní Bielej knihy o umelej inteligencii si táto stanovila dvojaký cieľ: nabádať k využívaniu umelej inteligencie a zároveň riešiť riziká spojené s niektorými použitiami tejto technológie.

Hlavná obsahová náplň nariadenia

Nariadenie sa vo svojom aktuálnom (navrhovanom) znení riadi prístupom založeným na rozličnej miere rizika a stanovuje povinnosti pre poskytovateľov a tých, ktorí nasadzujú systémy umelej inteligencie, v závislosti od úrovne rizika, ktoré môže umelá inteligencia predstavovať. Systémy umelej inteligencie s neprijateľnou úrovňou rizika pre bezpečnosť ľudí by preto v zmysle návrhu mali byť zakázané. Zákazy sa vzťahujú na praktiky, ktoré majú značný potenciál manipulovať s osobami prostredníctvom podprahových techník mimo ich vedomia alebo využívať zraniteľné miesta určitých zraniteľných skupín, ako sú napr. deti s cieľom podstatne narušiť ich správanie spôsobom, ktorý im môže spôsobiť psychickú alebo fyzickú ujmu (medzi takéto patria napríklad systémy používané na účely hodnotenia tzv. sociorating, t.j. klasifikácia ľudí na základe ich sociálneho správania alebo osobných charakteristík).

Dopad nariadenia na systémy umelej inteligencie

Medzi vysokorizikové by mali byť zaradené aj systémy AI ohrozujúce zdravie ľudí, bezpečnosť, základné práva či životné prostredie. Označenie za vysokorizikové v zmysle návrhu nariadenia nezávisí iba od funkcie vykonávanej systémom umelej inteligencie, ale aj od konkrétneho účelu a spôsobov, ktorými sa tento systém má používať. Do tejto skupiny boli novo zaradené aj odporúčacie systémy, či systémy na ovplyvňovanie voličov a výsledkov volieb.

Transparentnosť a boj proti nelegálnemu obsahu

Generatívne systémy AI založené na modeloch, ako je ChatGPT (interakcie či vytvárania obsahu), v zmysle návrhu môžu za určitých okolností predstavovať osobitné riziko podvodu spojené s predstieraním identity alebo priamym podvodným konaním bez ohľadu na to, či sú klasifikované ako vysokorizikové alebo nie. Práve preto sa pre ne zavádzajú požiadavky na transparentnosť (zverejniť, že obsah bol generovaný AI a obdobne aj pre tzv. „deepfakes“) a zabezpečiť záruky proti generovaniu nelegálneho obsahu.

Verejne by sa mali sprístupniť aj údaje chránené autorskými právami použité na ich vytvorenie. Medzi takéto systémy patria systémy AI, ktoré i) komunikujú s ľuďmi; ii) sa používajú na zisťovanie emócií alebo určovanie asociácie so (sociálnymi) kategóriami na základe biometrických údajov, alebo iii) vytvárajú obsah alebo s ním manipulujú (už spomínané tzv. deepfakes). Okrem toho jednotlivé fyzické osoby by zároveň mali byť informované o tom, že sú vystavené systému na rozpoznávanie emócií alebo systému biometrickej kategorizácie.

Zaujímavým ustanovením nariadenia je tiež článok 55, ktorý zohľadňuje osobitosti malých poskytovateľov a používateľov zavedením povinnosti členských štátov uviesť do praxe opatrenia, ktoré:

• im umožnia prednostný prístup k experimentálnym regulačným prostrediam pre umelú inteligenciu, pokiaľ spĺňajú podmienky oprávnenosti;
• zvýšia informovanosť o uplatňovaní nariadenia pričom tieto musia byť prispôsobené potrebám malých poskytovateľov a používateľov;
• (v prípade potreby) vytvoria vyhradený kanál na komunikáciu s malými poskytovateľmi a používateľmi, ako aj s ďalšími inovátormi s cieľom poskytovať usmernenia a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia;
• prispôsobia výšku poplatku za posudzovanie zhody systému s ohľadom na osobitné záujmy a potreby malých poskytovateľov tak, že sa tieto poplatky znížia úmerne k ich veľkosti a veľkosti ich trhu.

Čo nás čaká vo vzťahu k Zákonu o umelej inteligencii (AIA)

V rámci rozpravy navrhli poslanci tiež posilniť právo občanov podávať sťažnosti na systémy umelej inteligencie, ktoré výrazne ovplyvňujú ich základné práva. Napr. občan by mal mať právo dostať vysvetlenie každého rozhodnutia založeného na vysokorizikových systémoch umelej inteligencie.

Ako sme uviedli v úvode tohto príspevku AIA bude v najbližších mesiacoch predmetom rokovaní v snahe docieliť dohodu o jednotlivých bodoch tohto návrhu, a tak aj jeho finálne znenie. O tomto ako aj o ďalšom vývoji v danej oblasti vás budeme priebežne informovať.