
© gorodenkoff - iStock Getty Images Plus
Cieľom regulačného návrhu je poskytnúť vývojárom, nasadzujúcim a používateľom umelej inteligencie jasné požiadavky a povinnosti týkajúce sa konkrétneho využívania umelej inteligencie. Cieľom návrhu je zároveň znížiť administratívne a finančné zaťaženie podnikov, najmä malých a stredných podnikov (MSP).
Návrh je súčasťou širšieho balíka v oblasti umelej inteligencie, ktorý zahŕňa aj aktualizovaný koordinovaný plán v oblasti umelej inteligencie. Regulačný rámec a koordinovaný plán spoločne zaručia bezpečnosť a základné práva ľudí a podnikov, pokiaľ ide o umelú inteligenciu. A posilnia zavádzanie, investície a inovácie v oblasti umelej inteligencie v celej EÚ.
Prečo potrebujeme pravidlá o umelej inteligencii?
Navrhované nariadenie o umelej inteligencii zabezpečuje, že Európania môžu dôverovať tomu, čo umelá inteligencia ponúka. Hoci väčšina systémov umelej inteligencie nepredstavuje žiadne riziko a môže prispieť k riešeniu mnohých spoločenských výziev, niektoré systémy umelej inteligencie vytvárajú riziká, ktoré musíme riešiť, aby sme sa vyhli nežiaducim výsledkom.
Napríklad často nie je možné zistiť, prečo systém umelej inteligencie prijal rozhodnutie alebo predpoveď a prijal konkrétne opatrenia. Preto môže byť ťažké posúdiť, či niekto bol nespravodlivo znevýhodnený, napríklad v rozhodnutí o prijatí do zamestnania alebo v žiadosti o systém verejnoprospešných dávok.
Hoci existujúce právne predpisy poskytujú určitú ochranu, nestačí na riešenie konkrétnych výziev, ktoré systémy umelej inteligencie môžu priniesť.
Navrhované pravidlá budú:
- riešiť riziká osobitne vytvorené aplikáciami umelej inteligencie;
- navrhnúť zoznam vysokorizikových aplikácií;
- stanoviť jasné požiadavky na systémy umelej inteligencie pre vysokorizikové aplikácie;
- vymedziť osobitné povinnosti pre používateľov umelej inteligencie a poskytovateľov vysokorizikových aplikácií;
- navrhne posúdenie zhody pred uvedením systému umelej inteligencie do prevádzky alebo jeho uvedením na trh;
- navrhne presadzovanie po uvedení takéhoto systému umelej inteligencie na trh;
- navrhnúť štruktúru riadenia na európskej a vnútroštátnej úrovni.
Prístup založený na riziku
V regulačnom rámci sa vymedzujú 4 úrovne rizika v umelej inteligencii:
- Neprijateľné riziko
- Vysoké riziko
- Obmedzené riziko
- Minimálne alebo žiadne riziko
Neprijateľné riziko
Všetky systémy umelej inteligencie považované za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí budú zakázané, od spoločenského hodnotenia vlád až po hračky využívajúce hlasovú pomoc, ktorá podporuje nebezpečné správanie.
Vysoké riziko
Systémy umelej inteligencie identifikované ako vysokorizikové zahŕňajú technológiu umelej inteligencie používanú v:
- kritické infraštruktúry (napr. doprava), ktoré by mohli ohroziť život a zdravie občanov;
- vzdelávanie alebo odborná príprava, ktorá môže určovať prístup k vzdelaniu a odbornému priebehu niekoho života (napr. bodovanie skúšok);
- bezpečnostné komponenty výrobkov (napr. aplikácia umelej inteligencie v chirurgii asistovanej robotom);
- zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov pre postupy prijímania zamestnancov);
- základné súkromné a verejné služby (napr. úverové hodnotenie, ktorým sa občanom odopiera možnosť získať úver);
- presadzovanie práva, ktoré môže zasahovať do základných práv ľudí (napr. hodnotenie spoľahlivosti dôkazov);
- riadenie migrácie, azylu a kontroly hraníc (napr. overenie pravosti cestovných dokladov);
- výkon spravodlivosti a demokratické procesy (napr. uplatňovanie práva na konkrétny súbor faktov).
Vysokorizikové systémy umelej inteligencie budú podliehať prísnym povinnostiam pred ich uvedením na trh:
- primerané systémy hodnotenia a zmierňovania rizika;
- vysoká kvalita súborov údajov, ktoré zásobujú systém, aby sa minimalizovali riziká a diskriminačné výsledky;
- ťažba činností na zabezpečenie vysledovateľnosti výsledkov;
- podrobnú dokumentáciu poskytujúcu všetky informácie o systéme a jeho účele, aby orgány posúdili jeho súlad;
- jasné a primerané informácie pre používateľa;
- vhodné opatrenia ľudského dohľadu na minimalizáciu rizika;
- vysoká úroveň robustnosti, bezpečnosti a presnosti.
Všetky systémy diaľkovej biometrickej identifikácie sa považujú za vysoko rizikové a podliehajú prísnym požiadavkám. Používanie diaľkovej biometrickej identifikácie vo verejne prístupných priestoroch na účely presadzovania práva je v zásade zakázané.
Prísne vymedzené a regulované sú prísne vymedzené a regulované výnimky, napríklad ak je to potrebné na vyhľadávanie nezvestného dieťaťa, na zabránenie konkrétnej a bezprostrednej teroristickej hrozbe alebo na odhaľovanie, lokalizáciu, identifikáciu alebo stíhanie páchateľa alebo podozrivého zo závažného trestného činu.
Takéto používanie podlieha schváleniu súdnym alebo iným nezávislým orgánom a primeraným časovým obmedzeniam, geografickému dosahu a vyhľadávaným databázam.
Obmedzené riziko
Obmedzené riziko sa vzťahuje na systémy umelej inteligencie s osobitnými povinnosťami týkajúcimi sa transparentnosti. Pri používaní systémov umelej inteligencie, ako sú chatboty, by si používatelia mali byť vedomí toho, že interagujú so strojom, aby mohli prijať informované rozhodnutie pokračovať alebo ustúpiť.
Minimálne alebo žiadne riziko
Návrh umožňuje bezplatné používanie umelej inteligencie s minimálnym rizikom. To zahŕňa aplikácie, ako sú videohry s podporou umelej inteligencie alebo spamové filtre. Prevažná väčšina systémov umelej inteligencie, ktoré sa v súčasnosti používajú v EÚ, patrí do tejto kategórie.
Keď je systém umelej inteligencie na trhu, orgány sú zodpovedné za dohľad nad trhom, používatelia zabezpečujú ľudský dohľad a monitorovanie a poskytovatelia majú zavedený systém monitorovania po uvedení na trh. Poskytovatelia a používatelia budú tiež nahlasovať závažné incidenty a nesprávne fungovanie.
Nadčasové právne predpisy
Keďže umelá inteligencia je rýchlo sa vyvíjajúca technológia, návrh má nadčasový prístup, ktorý umožňuje prispôsobiť pravidlá technologickým zmenám. Aplikácie umelej inteligencie by mali zostať dôveryhodné aj po ich uvedení na trh. To si vyžaduje nepretržitú kvalitu a riadenie rizík zo strany poskytovateľov.
Ďalšie kroky
V nadväznosti na návrh Komisie z apríla 2021 by nariadenie mohlo nadobudnúť účinnosť koncom roka 2022/začiatkom roka 2023 v prechodnom období. V tomto období by boli stanovené a vypracované normy a zavedené riadiace štruktúry by boli funkčné. Druhá polovica roku 2024 je najskoršia, keď by sa nariadenie mohlo začať uplatňovať na prevádzkovateľov s pripravenými normami a s vykonanými prvými posúdeniami zhody.
Najnovšie správy
Related Content
Big Picture
Prístup EÚ k umelej inteligencii sa zameriava na excelentnosť a dôveru s cieľom posilniť výskumné a priemyselné kapacity a zároveň zaistiť bezpečnosť a základné práva.
See Also
Medzinárodná iniciatíva zameraná na umelú inteligenciu zameranú na človeka pomôže presadzovať víziu EÚ v oblasti udržateľnej a dôveryhodnej umelej inteligencie.
Cieľom koordinovaného plánu pre umelú inteligenciu je urýchliť investície do umelej inteligencie, konať v oblasti stratégií a programov umelej inteligencie a zosúladiť politiku umelej inteligencie s cieľom zabrániť fragmentácii v Európe.
Európska komisia vymenovala skupinu expertov, ktorá bude poskytovať poradenstvo v súvislosti so svojou stratégiou v oblasti umelej inteligencie.
Európska aliancia pre umelú inteligenciu je iniciatívou Európskej komisie na nadviazanie otvoreného politického dialógu o umelej inteligencii. Od svojho spustenia v roku 2018 Aliancia pre umelú inteligenciu zapojila približne 6000 zainteresovaných strán prostredníctvom...