Akt o umelej inteligencii

Prístup založený na riziku

V akte o umelej inteligencii sa vymedzujú štyri úrovne rizika pre systémy umelej inteligencie:

Neprijateľné riziko

Všetky systémy umelej inteligencie, ktoré sa považujú za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí, sú zakázané. V akte o umelej inteligencii sa zakazuje deväť praktík, konkrétne:

1. škodlivá manipulácia a klamanie založené na umelej inteligencii
2. škodlivé využívanie zraniteľností založené na umelej inteligencii
3. sociálne bodovanie
4. Posúdenie alebo predpoveď rizika individuálneho trestného činu
5. necielené škrabanie internetového materiálu alebo materiálu CCTV na vytvorenie alebo rozšírenie databáz rozpoznávania tváre
6. rozpoznávanie emócií na pracoviskách a vo vzdelávacích inštitúciách
7. biometrická kategorizácia na odvodenie určitých chránených charakteristík
8. diaľková biometrická identifikácia v reálnom čase na účely presadzovania práva vo verejne prístupných priestoroch
9. systémy umelej inteligencie, ktoré vytvárajú sexuálne explicitný a intímny obsah alebo materiál obsahujúci sexuálne zneužívanie detí bez súhlasu, ako sú aplikácie na „nudizáciu“ umelej inteligencie 

Zákazy 1 – 8 nadobudli účinnosť vo februári 2025. Komisia uverejnila dva kľúčové dokumenty na podporu praktického uplatňovania zakázaných praktík:

• Usmernenia o zakázaných praktikách umelej inteligencie podľa aktu o umelej inteligencii, ktoré ponúkajú právne vysvetlenia a praktické príklady s cieľom pomôcť zainteresovaným stranám pochopiť zákazy a dodržiavať ich.
• Usmernenia k vymedzeniu systému umelej inteligencie v akte o umelej inteligencii s cieľom pomôcť zainteresovaným stranám pri určovaní rozsahu pôsobnosti aktu o umelej inteligencii

Zákaz 9 nadobudne účinnosť v decembri 2026 a bol zavedený ako súčasť súhrnného nariadenia o umelej inteligencii.

Vysoké riziko

Prípady použitia umelej inteligencie, ktoré môžu predstavovať vážne riziká pre zdravie, bezpečnosť alebo základné práva, sa klasifikujú ako vysokorizikové. Medzi tieto vysokorizikové prípady použitia patria:

• Bezpečnostné komponenty umelej inteligencie v kritických infraštruktúrach (napr. v doprave), ktorých zlyhanie by mohlo ohroziť život a zdravie občanov
• Riešenia umelej inteligencie používané vo vzdelávacích inštitúciách, ktoré môžu určovať prístup k vzdelávaniu a priebeh profesionálneho života osoby (napr. bodovanie skúšok)
• Bezpečnostné komponenty výrobkov založené na umelej inteligencii (napr. aplikácia umelej inteligencie v robotickej chirurgii)
• Nástroje umelej inteligencie na zamestnávanie, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov na účely náboru)
• Niektoré prípady použitia umelej inteligencie využívané na poskytovanie prístupu k základným súkromným a verejným službám (napr. bodové hodnotenie úverov, ktorým sa občanom odopiera možnosť získať úver)
• systémy umelej inteligencie používané na diaľkovú biometrickú identifikáciu, rozpoznávanie emócií a biometrickú kategorizáciu (napr. systém umelej inteligencie na spätnú identifikáciu obchodníka)
• Prípady použitia umelej inteligencie pri presadzovaní práva, ktoré môžu zasahovať do základných práv ľudí (napr. hodnotenie spoľahlivosti dôkazov)
• Prípady použitia umelej inteligencie pri riadení migrácie, azylu a kontroly hraníc (napr. automatizované preskúmanie žiadostí o víza)
• Riešenia umelej inteligencie používané pri výkone spravodlivosti a demokratických procesov (napr. riešenia umelej inteligencie na prípravu súdnych rozhodnutí)

Od 2. decembra 2027 budú vysokorizikové systémy umelej inteligencie podliehať prísnym povinnostiam pred ich uvedením na trh:

• primerané systémy hodnotenia a zmierňovania rizika
• vysoká kvalita súborov údajov vstupujúcich do systému s cieľom minimalizovať riziká diskriminačných výsledkov
• zaznamenávanie činnosti s cieľom zabezpečiť vysledovateľnosť výsledkov
• podrobnú dokumentáciu poskytujúcu všetky potrebné informácie o systéme a jeho účele pre orgány na posúdenie jeho súladu
• jasné a primerané informácie pre nasadzujúci subjekt
• primerané opatrenia ľudského dohľadu
• vysoká úroveň spoľahlivosti, kybernetickej bezpečnosti a presnosti

Riziko transparentnosti

Týka sa to rizík spojených s potrebou transparentnosti v súvislosti s používaním umelej inteligencie. Aktom o umelej inteligencii sa zavádzajú osobitné povinnosti zverejňovania s cieľom zabezpečiť, aby boli ľudia informovaní, keď je to potrebné na zachovanie dôvery. Napríklad pri používaní systémov umelej inteligencie, ako sú chatboty, by ľudia mali byť informovaní o tom, že komunikujú so strojom, aby mohli prijať informované rozhodnutie.

Poskytovatelia generatívnej umelej inteligencie musia okrem toho zabezpečiť, aby bol obsah vytvorený umelou inteligenciou identifikovateľný. Okrem toho by mal byť určitý obsah vytvorený umelou inteligenciou jasne a viditeľne označený, konkrétne deepfakes a text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu.

Pravidlá transparentnosti aktu o umelej inteligencii nadobudnú účinnosť v auguste 2026.

Minimálne alebo žiadne riziko

Aktom o umelej inteligencii sa nezavádzajú pravidlá pre umelú inteligenciu, ktorá sa považuje za minimálne alebo žiadne riziko. Do tejto kategórie patrí prevažná väčšina systémov umelej inteligencie, ktoré sa v súčasnosti používajú v EÚ. Patria sem aplikácie, ako sú videohry s podporou umelej inteligencie alebo spamové filtre.

Ako to všetko funguje v praxi pre poskytovateľov vysokorizikových systémov umelej inteligencie?

Po uvedení systému umelej inteligencie na trh sú za dohľad nad trhom zodpovedné orgány, nasadzujúce subjekty zabezpečujú ľudský dohľad a monitorovanie a poskytovatelia majú zavedený systém monitorovania po uvedení na trh. Poskytovatelia a nasadzujúce subjekty budú takisto nahlasovať závažné incidenty a poruchy.

Aké sú pravidlá pre modely umelej inteligencie na všeobecné účely?

Modely umelej inteligencie na všeobecné účely (GPAI) môžu vykonávať širokú škálu úloh a stávajú sa základom mnohých systémov umelej inteligencie v EÚ. Niektoré z týchto modelov by mohli predstavovať systémové riziká, ak sú veľmi schopné alebo široko používané. S cieľom zaistiť bezpečnú a dôveryhodnú umelú inteligenciu sa v akte o umelej inteligencii zavádzajú pravidlá – napr. o transparentnosti a autorských právach – pre poskytovateľov modelov GPAI. V prípade modelov GPAI, ktoré môžu predstavovať systémové riziká, by poskytovatelia mali tieto riziká posúdiť a zmierniť. Pravidlá aktu o umelej inteligencii týkajúce sa GPAI nadobudli účinnosť v auguste 2025.

Podpora dodržiavania predpisov

V júli 2025 Komisia uverejnila tri nástroje na podporu zodpovedného vývoja a zavádzania modelov GPAI:

• V usmerneniach k rozsahu povinností poskytovateľov modelov GPAI sa objasňuje rozsah povinností GPAI podľa aktu o umelej inteligencii, čo pomáha aktérom v celom hodnotovom reťazci umelej inteligencie pochopiť, kto musí tieto povinnosti dodržiavať.
• Kódex postupov GPAI je dobrovoľný nástroj na zabezpečenie súladu, ktorý Komisii predložili nezávislí experti a ktorý ponúka praktické usmernenia s cieľom pomôcť poskytovateľom plniť si povinnosti podľa aktu o umelej inteligencii týkajúce sa transparentnosti, autorských práv a bezpečnosti a ochrany.
• Vo vzore verejného zhrnutia obsahu odbornej prípravy modelov GPAI sa od poskytovateľov vyžaduje, aby poskytli prehľad údajov použitých na odbornú prípravu svojich modelov. Zahŕňa to zdroje, z ktorých boli údaje získané (pozostávajúce z veľkých súborov údajov a hlavných názvov domén). Vo vzore sa požadujú aj informácie o aspektoch spracúvania údajov, aby strany s oprávnenými záujmami mohli uplatňovať svoje práva podľa práva EÚ.

Tieto nástroje sú navrhnuté tak, aby pracovali ruka v ruke. Spoločne poskytujú jasný a realizovateľný rámec pre poskytovateľov modelov GPAI na dosiahnutie súladu s aktom o umelej inteligencii, zníženie administratívnej záťaže a podporu inovácií pri súčasnom zabezpečení základných práv a dôvery verejnosti.

Komisia vypracovala aj ďalšie usmernenia na podporu súladu s pravidlami transparentnosti aktu o umelej inteligencii:

• Kódex postupov označovania obsahu vytvoreného umelou inteligenciou je dobrovoľný nástroj na usmernenie poskytovateľov a nasadzujúcich subjektov generatívnych systémov umelej inteligencie, aby dodržiavali povinnosti týkajúce sa transparentnosti. Patrí medzi ne súbor ikon, ktoré môžu tvorcovia, vydavatelia a iné subjekty nasadzujúce generatívne systémy umelej inteligencie použiť na zverejnenie umelej povahy určitých obrázkov, zvuku (vrátane deepfake) a textu.
• V usmerneniach o povinnostiach týkajúcich sa transparentnosti pre poskytovateľov a nasadzujúce subjekty určitých systémov umelej inteligencie sa objasňuje rozsah uplatňovania, príslušné právne vymedzenia, povinnosti týkajúce sa transparentnosti a výnimky.

Ďalšie informácie o ďalších usmerneniach na podporu vykonávania aktu o umelej inteligencii.

Riadenie a presadzovanie

Od 2. augusta 2026 sú úrad pre umelú inteligenciu a orgány členských štátov zodpovedné za vykonávanie aktu o umelej inteligencii, dohľad nad ním a jeho presadzovanie. Úrad pre umelú inteligenciu má právomoci presadzovania práva v súvislosti s modelmi GPAI. Môže požadovať technickú dokumentáciu, hodnotiť modely, vyžadovať nápravné opatrenia a ukladať pokuty za nesúlad.

Rada pre umelú inteligenciu, vedecká skupina a poradné fórum podporujú presadzovanie práva a riadia a poskytujú poradenstvo v oblasti riadenia aktu o umelej inteligencii.

V akčnom pláne pre kybernetickú bezpečnosť a umelú inteligenciu z júla 2026 sa stanovuje koordinovaný prístup s cieľom pomôcť členským štátom, podnikom a verejným orgánom riešiť výzvy v oblasti kybernetickej bezpečnosti a odolnosti, ktoré predstavujú najpokročilejšie modely umelej inteligencie. Komisia uverejní výzvu na zvýšenie kapacity EÚ v oblasti hodnotenia modelov umelej inteligencie pred ich uvedením na trh EÚ. Tým sa posilní posudzovanie spôsobilostí a rizík v oblasti umelej inteligencie treťou stranou a prispeje sa k regulačnej funkcii úradu pre umelú inteligenciu.

Komisia a Agentúra Európskej únie pre kybernetickú bezpečnosť (ENISA) takisto vypracujú koncepciu na zabezpečenie prístupu k pokročilým systémom umelej inteligencie na účely kybernetickej bezpečnosti a zriadia bezpečnú testovaciu platformu s cieľom pomôcť organizáciám v kritických odvetviach, ako je energetika, doprava, zdravotníctvo, financie a verejná správa, bezpečne testovať a zavádzať riešenia umelej inteligencie.

Harmonogram podávania prihlášok

Akt o umelej inteligencii nadobudol účinnosť 1. augusta 2024 a začal sa uplatňovať 2. augusta 2026 s niekoľkými výnimkami:

• zakázané postupy umelej inteligencie a povinnosti týkajúce sa gramotnosti v oblasti umelej inteligencie sa začali uplatňovať od 2. februára 2025
• pravidlá riadenia a povinnosti týkajúce sa modelov GPAI sa začali uplatňovať 2. augusta 2025
• pravidlá pre vysokorizikové systémy umelej inteligencie zabudované do regulovaných výrobkov (príloha I) majú predĺžené prechodné obdobie do 2. augusta 2028 a pravidlá pre prípady vysokorizikového použitia v určitých citlivých oblastiach (príloha III) boli predĺžené do 2. decembra 2027 v dôsledku politickej dohody o návrhu na zjednodušenie aktu o umelej inteligencii –súhrnného nariadenia o umelej inteligencii

Ako Komisia zjednodušila vykonávanie aktu o umelej inteligencii?

V digitálnom balíku o zjednodušení sa navrhli zmeny s cieľom zjednodušiť vykonávanie aktu o umelej inteligencii a zabezpečiť, aby pravidlá zostali jasné, jednoduché a priaznivé pre inovácie. Tento legislatívny návrh (nazývaný „súhrnný návrh o umelej inteligencii“) bol prijatý 19. novembra 2025, politická dohoda sa dosiahla 7. mája 2026 a účinnosť nadobudla 27. júla 2026. Nájsť konečné znenie súhrnného nariadenia o umelej inteligencii.

V dôsledku toho sa stanovuje jasný harmonogram vykonávania pravidiel upravujúcich vysokorizikové systémy umelej inteligencie:

• Pravidlá pre systémy používané v určitých vysokorizikových oblastiach – vrátane biometrie, kritickej infraštruktúry, vzdelávania, zamestnanosti, migrácie, azylu a kontroly hraníc – sa budú uplatňovať od 2. decembra 2027.
• V prípade systémov integrovaných do výrobkov, ako sú výťahy alebo hračky, sa pravidlá budú uplatňovať od 2. augusta 2028.

Tým sa zabezpečí, aby sa pravidlá uplatňovali vtedy, keď majú spoločnosti správne podporné nástroje na uľahčenie vykonávania, ako sú normy.

Tieto zmeny boli doplnené aj do aktu o umelej inteligencii:

• Zákaz systémov umelej inteligencie, ktoré vytvárajú sexuálne explicitný a intímny obsah alebo materiál obsahujúci sexuálne zneužívanie detí bez súhlasu, ako sú aplikácie na „nudizáciu“ umelej inteligencie
• Posilniť právomoci úradu pre umelú inteligenciu a centralizovať dohľad nad systémami umelej inteligencie založenými na modeloch GPAI, čím sa zníži fragmentácia riadenia
• Určité zjednodušené požiadavky udelené malým a stredným podnikom sa rozširujú na malé spoločnosti so strednou trhovou kapitalizáciou (MSP a MSP) vrátane zjednodušených požiadaviek na technickú dokumentáciu.
• Viac inovátorov získa prístup k experimentálnym regulačným prostrediam vrátane experimentálneho prostredia na úrovni EÚ s cieľom otestovať svoje riešenia v oblasti umelej inteligencie v reálnych podmienkach.
• Objasňuje sa vzájomné pôsobenie medzi aktom o umelej inteligencii a právnymi predpismi EÚ o bezpečnosti výrobkov, najmä nariadením o strojových zariadeniach, čím sa predchádza duplicite medzi odvetvovými pravidlami a pravidlami v oblasti umelej inteligencie.

To všetko dopĺňa už zavedené opatrenia úradu pre umelú inteligenciu s cieľom zabezpečiť jasnosť pre podniky a vnútroštátne orgány. Napríklad prostredníctvom usmernení, kódexov postupov a asistenčnej služby aktu o umelej inteligencii.