AdobeStock © Supatman
Toto zasadnutie nasledovalo po tom, ako Komisia 2. februára 2025 uverejnila usmernenia o zakázaných praktikách v oblasti umelej inteligencie, ktorých cieľom je objasniť praktické uplatňovanie ustanovení aktu o umelej inteligencii.
Webinár sa zameral na výklad zakázaných praktík umelej inteligencie zo strany Komisie vrátane škodlivej manipulácie a vykorisťovania, sociálneho bodovania, predpovedí rizika individuálnej trestnej činnosti výlučne na základe profilovania, rozpoznávania emócií na pracovisku a vzdelávania, určitých druhov biometrickej kategorizácie, necieleného škrabania biometrických snímok s cieľom vybudovať alebo rozšíriť databázy rozpoznávania tváre a diaľkovej biometrickej identifikácie v reálnom čase na účely presadzovania práva. Odborníci diskutovali aj o tom, čo nepatrí do rozsahu pôsobnosti zákazov, o širšom kontexte prístupu aktu o umelej inteligencii založeného na riziku a o tom, ako sú tieto usmernenia v súlade so záväzkom EÚ chrániť základné práva a etický vývoj umelej inteligencie.
Okrem zakázaných praktík sa webinár zameral aj na nedávno uverejnené usmernenia Komisie k vymedzeniu systému umelej inteligencie. Tieto nezáväzné usmernenia sú určené na pomoc poskytovateľom a zainteresovaným stranám pri určovaní toho, či sa softvérový systém kvalifikuje ako systém umelej inteligencie podľa aktu o umelej inteligencii. Ich cieľom je uľahčiť účinné uplatňovanie pravidiel zákona a časom sa vyvíjali na základe praktických skúseností, nových prípadov použitia a nových otázok.
Program rokovania
10:00 - 11:30
Moderátor: Arnaud Latil, profesor práva na Sorbonne University a SCAI (Sorbonne Center for AI).
Rečníci z úradu pre umelú inteligenciu:
- Yordanka Ivanova, oddelenie regulácie a dodržiavania predpisov v oblasti umelej inteligencie, vedúca úseku právneho dohľadu nad vykonávaním aktu o umelej inteligencii
- Irina Orssich, oddelenie pre reguláciu a dodržiavanie predpisov v oblasti umelej inteligencie, vedúca úseku pre riadenie a regulačnú politiku
- Tatjana Evas, oddelenie pre reguláciu a dodržiavanie predpisov v oblasti umelej inteligencie, referentka pre právne záležitosti a politiku
Témy:
- Pochopenie vyvíjajúceho sa vymedzenia systémov umelej inteligencie
- Prehľad zakázaných postupov v oblasti umelej inteligencie podľa aktu o umelej inteligencii
- Právne a praktické dôsledky usmernení
- Prípadové štúdie a príklady neprijateľných postupov umelej inteligencie
- Zabezpečenie súladu so zákazmi stanovenými v akte o umelej inteligencii
The event was streamed live on our YouTube channel, and presentation slides are available for download.
Súvislosti
V akte o umelej inteligencii, ktorého cieľom je podporovať inovácie a zároveň zabezpečiť vysokú úroveň ochrany zdravia, bezpečnosti a základných práv, sa systémy umelej inteligencie klasifikujú do rôznych kategórií rizika vrátane zakázaných, vysokorizikových a tých, na ktoré sa vzťahujú povinnosti týkajúce sa transparentnosti.
Aktom o umelej inteligencii sa stanovuje rámec regulácie systémov umelej inteligencie založený na riziku, pričom zakázané praktiky predstavujú najvyššiu úroveň rizika z dôvodu ich neprijateľnej ujmy a porušovania európskych hodnôt a základných práv. Tieto usmernenia objasňujú výklad týchto zákazov zo strany Komisie a poskytujú právne vysvetlenia a praktické príklady s cieľom pomôcť zainteresovaným stranám pochopiť a dodržiavať požiadavky aktu o umelej inteligencii.
Tento webinár je súčasťou širšej série podujatí, ktoré organizuje úrad pre umelú inteligenciu v rámci úsilia komunity paktu o umelej inteligencii na podporu vykonávania aktu o umelej inteligencii. V roku 2025 sa na ďalších zasadnutiach preskúmajú ďalšie kritické aspekty aktu o umelej inteligencii vrátane povinností týkajúcich sa transparentnosti a požiadaviek na vysokorizikové systémy umelej inteligencie. Naším cieľom je poskytnúť zainteresovaným stranám znalosti a nástroje potrebné na orientáciu vo vyvíjajúcom sa regulačnom prostredí umelej inteligencie v Európe.