Návrh regulačného rámca pre umelú inteligenciu

Cieľom regulačného návrhu je poskytnúť vývojárom, nasadzujúcim a používateľom umelej inteligencie jasné požiadavky a povinnosti týkajúce sa konkrétneho využívania umelej inteligencie. Cieľom návrhu je zároveň znížiť administratívne a finančné zaťaženie podnikov, najmä malých a stredných podnikov (MSP).

Návrh je súčasťou širšieho balíka v oblasti umelej inteligencie, ktorý zahŕňa aj aktualizovaný koordinovaný plán v oblasti umelej inteligencie. Regulačný rámec a koordinovaný plán spoločne zaručia bezpečnosť a základné práva ľudí a podnikov, pokiaľ ide o umelú inteligenciu. A posilnia zavádzanie, investície a inovácie v oblasti umelej inteligencie v celej EÚ.

Prečo potrebujeme pravidlá o umelej inteligencii?

Navrhované nariadenie o umelej inteligencii zabezpečuje, že Európania môžu dôverovať tomu, čo umelá inteligencia ponúka. Hoci väčšina systémov umelej inteligencie nepredstavuje žiadne riziko a môže prispieť k riešeniu mnohých spoločenských výziev, niektoré systémy umelej inteligencie vytvárajú riziká, ktoré musíme riešiť, aby sme sa vyhli nežiaducim výsledkom.

Napríklad často nie je možné zistiť, prečo systém umelej inteligencie prijal rozhodnutie alebo predpoveď a prijal konkrétne opatrenia. Preto môže byť ťažké posúdiť, či niekto bol nespravodlivo znevýhodnený, napríklad v rozhodnutí o prijatí do zamestnania alebo v žiadosti o systém verejnoprospešných dávok.

Hoci existujúce právne predpisy poskytujú určitú ochranu, nestačí na riešenie konkrétnych výziev, ktoré systémy umelej inteligencie môžu priniesť.

Navrhované pravidlá budú:

• riešiť riziká osobitne vytvorené aplikáciami umelej inteligencie;
• navrhnúť zoznam vysokorizikových aplikácií;
• stanoviť jasné požiadavky na systémy umelej inteligencie pre vysokorizikové aplikácie;
• vymedziť osobitné povinnosti pre používateľov umelej inteligencie a poskytovateľov vysokorizikových aplikácií;
• navrhne posúdenie zhody pred uvedením systému umelej inteligencie do prevádzky alebo jeho uvedením na trh;
• navrhne presadzovanie po uvedení takéhoto systému umelej inteligencie na trh;
• navrhnúť štruktúru riadenia na európskej a vnútroštátnej úrovni.

Prístup založený na riziku

V regulačnom rámci sa vymedzujú 4 úrovne rizika v umelej inteligencii:

• Neprijateľné riziko
• Vysoké riziko
• Obmedzené riziko
• Minimálne alebo žiadne riziko

Neprijateľné riziko

Všetky systémy umelej inteligencie považované za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí budú zakázané, od spoločenského hodnotenia vlád až po hračky využívajúce hlasovú pomoc, ktorá podporuje nebezpečné správanie.

Vysoké riziko

Systémy umelej inteligencie identifikované ako vysokorizikové zahŕňajú technológiu umelej inteligencie používanú v:

• kritické infraštruktúry (napr. doprava), ktoré by mohli ohroziť život a zdravie občanov;
• vzdelávanie alebo odborná príprava, ktorá môže určovať prístup k vzdelaniu a odbornému priebehu niekoho života (napr. bodovanie skúšok);
• bezpečnostné komponenty výrobkov (napr. aplikácia umelej inteligencie v chirurgii asistovanej robotom);
• zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov pre postupy prijímania zamestnancov);
• základné súkromné a verejné služby (napr. úverové hodnotenie, ktorým sa občanom odopiera možnosť získať úver);
• presadzovanie práva, ktoré môže zasahovať do základných práv ľudí (napr. hodnotenie spoľahlivosti dôkazov);
• riadenie migrácie, azylu a kontroly hraníc (napr. overenie pravosti cestovných dokladov);
• výkon spravodlivosti a demokratické procesy (napr. uplatňovanie práva na konkrétny súbor faktov).

Vysokorizikové systémy umelej inteligencie budú podliehať prísnym povinnostiam pred ich uvedením na trh:

• primerané systémy hodnotenia a zmierňovania rizika;
• vysoká kvalita súborov údajov, ktoré zásobujú systém, aby sa minimalizovali riziká a diskriminačné výsledky;
• ťažba činností na zabezpečenie vysledovateľnosti výsledkov;
• podrobnú dokumentáciu poskytujúcu všetky informácie o systéme a jeho účele, aby orgány posúdili jeho súlad;
• jasné a primerané informácie pre používateľa;
• vhodné opatrenia ľudského dohľadu na minimalizáciu rizika;
• vysoká úroveň robustnosti, bezpečnosti a presnosti.

Všetky systémy diaľkovej biometrickej identifikácie sa považujú za vysoko rizikové a podliehajú prísnym požiadavkám. Používanie diaľkovej biometrickej identifikácie vo verejne prístupných priestoroch na účely presadzovania práva je v zásade zakázané.

Prísne vymedzené a regulované sú prísne vymedzené a regulované výnimky, napríklad ak je to potrebné na vyhľadávanie nezvestného dieťaťa, na zabránenie konkrétnej a bezprostrednej teroristickej hrozbe alebo na odhaľovanie, lokalizáciu, identifikáciu alebo stíhanie páchateľa alebo podozrivého zo závažného trestného činu.

Takéto používanie podlieha schváleniu súdnym alebo iným nezávislým orgánom a primeraným časovým obmedzeniam, geografickému dosahu a vyhľadávaným databázam.

Obmedzené riziko

Obmedzené riziko sa vzťahuje na systémy umelej inteligencie s osobitnými povinnosťami týkajúcimi sa transparentnosti. Pri používaní systémov umelej inteligencie, ako sú chatboty, by si používatelia mali byť vedomí toho, že interagujú so strojom, aby mohli prijať informované rozhodnutie pokračovať alebo ustúpiť.

Minimálne alebo žiadne riziko

Návrh umožňuje bezplatné používanie umelej inteligencie s minimálnym rizikom. To zahŕňa aplikácie, ako sú videohry s podporou umelej inteligencie alebo spamové filtre. Prevažná väčšina systémov umelej inteligencie, ktoré sa v súčasnosti používajú v EÚ, patrí do tejto kategórie.

Keď je systém umelej inteligencie na trhu, orgány sú zodpovedné za dohľad nad trhom, používatelia zabezpečujú ľudský dohľad a monitorovanie a poskytovatelia majú zavedený systém monitorovania po uvedení na trh. Poskytovatelia a používatelia budú tiež nahlasovať závažné incidenty a nesprávne fungovanie.

Nadčasové právne predpisy

Keďže umelá inteligencia je rýchlo sa vyvíjajúca technológia, návrh má nadčasový prístup, ktorý umožňuje prispôsobiť pravidlá technologickým zmenám. Aplikácie umelej inteligencie by mali zostať dôveryhodné aj po ich uvedení na trh. To si vyžaduje nepretržitú kvalitu a riadenie rizík zo strany poskytovateľov.

Ďalšie kroky

V nadväznosti na návrh Komisie z apríla 2021 by nariadenie mohlo nadobudnúť účinnosť koncom roka 2022/začiatkom roka 2023 v prechodnom období. V tomto období by boli stanovené a vypracované normy a zavedené riadiace štruktúry by boli funkčné. Druhá polovica roku 2024 je najskoršia, keď by sa nariadenie mohlo začať uplatňovať na prevádzkovateľov s pripravenými normami a s vykonanými prvými posúdeniami zhody.