Gramotnosť umelej inteligencie – otázky a amp; odpovede

V článku 4 aktu o umelej inteligencii sa vyžaduje, aby poskytovatelia a nasadzujúce subjekty systémov umelej inteligencie prijali opatrenia na zabezpečenie dostatočnej úrovne gramotnosti svojich zamestnancov a iných osôb zaoberajúcich sa prevádzkou a používaním systémov umelej inteligencie v ich mene v oblasti umelej inteligencie. Sú povinné tak urobiť s prihliadnutím na svoje technické znalosti, skúsenosti, vzdelávanie a odbornú prípravu zamestnancov a iných osôb, ako aj kontext, v ktorom sa majú systémy umelej inteligencie používať, a osoby, v ktorých sa majú systémy umelej inteligencie používať.

Koncepcia gramotnosti v oblasti umelej inteligencie uvedená v článku 4 aktu o umelej inteligencii vychádza z vymedzenia pojmu uvedeného v článku 3 ods. 56 aktu o umelej inteligencii, podľa ktorého: „gramotnosť v oblasti umelej inteligencie“ sú zručnosti, znalosti a porozumenie, ktoré poskytovateľom, nasadzujúcim subjektom a dotknutým osobám umožňujú pri zohľadnení ich príslušných práv a povinností v kontexte tohto nariadenia informovane zavádzať systémy umelej inteligencie, ako aj získavať informovanosť o príležitostiach a rizikách umelej inteligencie a možnej ujme, ktorú môže spôsobiť. 

Článok 4 aktu o umelej inteligencii je kľúčovým ustanovením na zabezpečenie toho, aby všetci poskytovatelia a nasadzujúce subjekty systémov umelej inteligencie vybavili svojich zamestnancov správnymi zručnosťami, znalosťami a porozumením poskytovaného(-ých) alebo nasadzovaného(-ých) systému(-ov). Týka sa to každej osoby v organizácii, ktorá sa priamo zaoberá systémom umelej inteligencie, a posilňujú sa tým ustanovenia o transparentnosti (článok 13 aktu o umelej inteligencii) a ľudskom dohľade (článok 14 aktu o umelej inteligencii) zahrnuté v nariadení. Článok 4 zároveň nepriamo prispieva k ochrane dotknutých osôb, pretože zabezpečuje účinné uplatňovanie pravidiel aktu o umelej inteligencii.  

„Osoby, ktoré sa zaoberajú prevádzkou a používaním systémov umelej inteligencie v mene poskytovateľov/nasadzujúcich subjektov“ znamenajú, že nejde o zamestnancov, ale o osoby, ktoré vo všeobecnosti patria do organizačnej pôsobnosti. Môže to byť napríklad dodávateľ, poskytovateľ služieb, klient. 

V článku 3 ods. 56 sa uvádzajú dotknuté osoby. Odôvodnenie 20 tiež znie: „Scieľom získať čo najväčšie výhody zo systémov umelej inteligencie a zároveň chrániť základné práva, zdravie a bezpečnosť a umožniť demokratickú kontrolu by gramotnosť v oblasti umelej inteligencie mala vybaviť poskytovateľov, nasadzujúce subjekty a dotknuté osoby potrebnými pojmami, aby mohli prijímať informované rozhodnutia týkajúce sa systémov umelej inteligencie. Tieto pojmy sa môžu líšiť v závislosti od príslušného kontextu a môžu zahŕňať pochopenie správneho uplatňovania technických prvkov počas fázy vývoja systému umelej inteligencie, opatrenia, ktoré sa majú uplatňovať počas jeho používania, vhodné spôsoby výkladu výstupov systému umelej inteligencie a v prípade dotknutých osôb znalosti potrebné na pochopenie toho, ako na ne budú mať rozhodnutia prijaté s pomocou umelej inteligencie vplyv. V kontexte uplatňovania tohto nariadenia by gramotnosť v oblasti umelej inteligencie mala všetkým príslušným aktérom v hodnotovom reťazci umelej inteligencie poskytnúť poznatky potrebné na zabezpečenie primeraného súladu a jeho správneho presadzovania. Okrem toho by rozsiahle vykonávanie opatrení v oblasti gramotnosti v oblasti umelej inteligencie a zavedenie vhodných následných opatrení mohlo prispieť k zlepšeniu pracovných podmienok a v konečnom dôsledku k udržaniu konsolidácie a inovačnej cesty dôveryhodnej umelej inteligencie v Únii.“ Vzhľadom na uvedené skutočnosti a v závislosti od konkrétneho rizika môže byť užitočné mať gramotnosť aj pre zákazníkov/klientov.“

V článku 4 aktu o umelej inteligencii sa nestanovuje povinnosť merať vedomosti zamestnancov o umelej inteligencii. Potvrdzuje však, že poskytovatelia a nasadzujúce subjekty umelej inteligencie by mali zabezpečiť dostatočnú úroveň gramotnosti v oblasti umelej inteligencie s prihliadnutím na technické znalosti, skúsenosti, vzdelávanie a odbornú prípravu zamestnancov.

Áno, v akte o umelej inteligencii sa rozlišuje medzi modelmi umelej inteligencie (modely GPAI), systémami umelej inteligencie vrátane systémov GPAI, zakázanými, vysokorizikovými systémami. Podrobnejšie informácie sú uvedené aj v usmerneniach k vymedzeniu systému umelej inteligencie, ktoré Komisia uverejnila 6. februára s cieľom pomôcť poskytovateľom a iným príslušným osobám pri určovaní toho, či softvérový systém predstavuje systém umelej inteligencie, a uľahčiť účinné uplatňovanie pravidiel. V týchto usmerneniach, ktoré sú nezáväzné a sú navrhnuté tak, aby sa časom vyvíjali, sa vysvetľuje praktické uplatňovanie právnej koncepcie zakotvenej v akte o umelej inteligencii. Usmernenia k vymedzeniu systémov umelej inteligencie boli uverejnené popri usmerneniach k zakázaným postupom v oblasti umelej inteligencie, ako sa vymedzujú v akte o umelej inteligencii. 

Aktuálne informácie o činnostiach Komisie v súvislosti s článkom 4 aktu o umelej inteligencii možno nájsť na webovej stránkepaktu oumelej inteligencii vrátanezáznamu webinára,ktorý sa konal 20. februára, aživého archívugramotnosti v oblasti umelej inteligencie. Pripravuje sa osobitná webová stránka o gramotnosti a zručnostiach v oblasti umelej inteligencie.

Úrad pre umelú inteligenciu neuloží prísne požiadavky týkajúce sa článku 4 aktu o umelej inteligencii a jeho „dostatočnej úrovne gramotnosti v oblasti umelej inteligencie“. Naopak, vzhľadom na širokú tému gramotnosti v oblasti umelej inteligencie a rýchlo sa vyvíjajúcu technológiu, ktorou umelá inteligencia je, považuje za potrebný určitý stupeň flexibility. Na dosiahnutie súladu s článkom 4 aktu o umelej inteligencii by však poskytovatelia a subjekty nasadzujúce systémy umelej inteligencie mali prinajmenšom:

a) Zabezpečiť všeobecné pochopenie umelej inteligencie v rámci svojej organizácie: Čo je AI? Ako to funguje? Aká umelá inteligencia sa používa v našej organizácii? Aké sú jej možnosti a nebezpečenstvá?

b) Zvážiť úlohu ich organizácie (poskytovateľa alebo nasadzujúceho subjektu systémov umelej inteligencie): Vyvíja moja organizácia systémy umelej inteligencie alebo len používa systémy umelej inteligencie vyvinuté inou organizáciou?

c) Zvážte riziko systémov umelej inteligencie, ktoré sú poskytované alebo nasadzované: Čo potrebujú zamestnanci vedieť pri práci s takýmto systémom umelej inteligencie? Aké riziká si musia byť vedomé a musia si byť vedomé zmierňovania?

d) konkrétne stavať svoje činnosti v oblasti gramotnosti v oblasti umelej inteligencie na predchádzajúcej analýze s prihliadnutím na

• rozdiely v technických poznatkoch, skúsenostiach, vzdelávaní a odbornej príprave zamestnancov a iných osôb – koľko vedia zamestnanci/osoba o umelej inteligencii a systémoch organizácie, ktoré používajú? Čo ešte by mali vedieť?
• ako aj kontext, v ktorom sa majú systémy umelej inteligencie používať, a osoby, v ktorých sa majú systémy umelej inteligencie používať – v ktorom odvetví a na aký účel/službu sa systém umelej inteligencie používa?

Úvahy a, b, c a d zahŕňajú právne a etické aspekty. Preto sa podporujú prepojenia s nariadením EÚ o umelej inteligencii (t. j. chápanie aktu o umelej inteligencii) a so zásadami etiky a riadenia.

Ako sa uvádza v odpovedi na predchádzajúcu otázku, na dosiahnutie súladu s článkom 4 aktu o umelej inteligencii by organizácie mali zvážiť svoju úlohu (ako poskytovatelia alebo nasadzujúce subjekty systémov umelej inteligencie), ako aj riziká spojené so systémami umelej inteligencie, ktoré poskytujú a/alebo zavádzajú. Podľa toho by organizácie mali prispôsobiť svoj prístup k gramotnosti v oblasti umelej inteligencie. Ak sú napríklad systémy umelej inteligencie organizácie vysokorizikové, podľa kapitoly III aktu o umelej inteligencii môžu byť relevantné dodatočné opatrenia na zabezpečenie toho, aby zamestnanci vedeli, ako zaobchádzať s danými systémami umelej inteligencie a ako sa vyhnúť ich rizikám a/alebo ich zmierniť.

Závisí to od odpovedí organizácie na úvahy uvedené v otázke 1. V mnohých prípadoch však jednoduché spoliehanie sa na pokyny na používanie systémov umelej inteligencie alebo požiadanie zamestnancov, aby si ich prečítali, môže byť neúčinné a nedostatočné. Článok 4 aktu o umelej inteligencii je určený na poskytovanie školení a usmernení podľa toho, čo je najvhodnejšie na základe úrovne a typu vedomostí každej cieľovej skupiny, ako aj vzhľadom na kontext a účel systémov umelej inteligencie používaných v organizácii.

Je to aj v súlade s inými ustanoveniami aktu o umelej inteligencii. V článku 26 sa napríklad zavádza povinnosť subjektov nasadzujúcich vysokorizikové systémy zabezpečiť, aby zamestnanci, ktorí v praxi pracujú so systémami umelej inteligencie, boli dostatočne vyškolení na to, aby zvládli systém a zabezpečili ľudský dohľad. Spoliehanie sa na návod na použitie preto nestačí, sú potrebné ďalšie opatrenia.

Pokiaľ ide o gramotnosť v oblasti umelej inteligencie, neexistuje univerzálny prístup a úrad pre umelú inteligenciu nemá v úmysle ukladať prísne požiadavky ani povinné školenia. Požiadavky na odbornú prípravu závisia od konkrétneho kontextu. Hoci opakovanie zozbieraných postupov automaticky nezaručuje predpoklad súladu s článkom 4, iniciatívy v živom archíve o gramotnosti v oblasti umelej inteligencie by mohli poskytnúť určitú inšpiráciu.

Nie, úrad pre umelú inteligenciu neukladá požiadavky na konkrétne odvetvia. Ako sa však uvádza v odpovedi na otázku 1, kontext – vrátane odvetvia a účelu –, v ktorom sa systémy umelej inteligencie poskytujú/nasadzujú, by mal byť relevantný pri vývoji iniciatívy zameranej na gramotnosť v oblasti umelej inteligencie. Okrem toho by sa mala zvážiť úroveň rizika systémov umelej inteligencie.

Závisí to od konkrétneho typu systému umelej inteligencie a rizika (napr. v prípade vysokého rizika). Ľudia pracujúci pre poskytovateľa služieb alebo dodávateľa musia mať vo všeobecnosti primerané zručnosti v oblasti umelej inteligencie na plnenie danej úlohy (rovnako ako zamestnanci).

Áno, mali by byť informovaní o konkrétnych rizikách, napríklad halucináciách.

To sú dve odlišné otázky. Zamestnanci a ľudia v slučke potrebujú primerané zručnosti zamerané na systém, ktorý používajú.

Zvyčajne áno, ale závisí to od príslušného nástroja umelej inteligencie a jeho konkrétnej kvalifikácie. Je to obzvlášť dôležité vzhľadom na rýchlosť technologického vývoja.

Organizácia by mala stále zvážiť kroky uvedené v odpovedi na otázku 1 a pýta sa sama seba: Vedia títo technickí zamestnanci, čo je potrebné vedieť o systémoch umelej inteligencie organizácie a ako s nimi zaobchádzať? Sú si vedomí všetkých rizík a ako sa im vyhnúť/zmierniť ich? Okrem toho by organizácia mala zvážiť, čo by títo zamestnanci mohli ešte potrebovať vedieť; napr. právne a etické aspekty umelej inteligencie.

Áno, v článku 4 aktu o umelej inteligencii sa poskytovatelia a nasadzujúce subjekty nabádajú, aby zvážili znalosti, skúsenosti, vzdelávanie a odbornú prípravu zamestnancov a iných osôb s cieľom zabezpečiť dostatočnú úroveň gramotnosti v oblasti umelej inteligencie. Vzhľadom na rozdiel medzi systémami umelej inteligencie a na to, že úroveň vedomostí a skúseností, ako aj typ získaného vzdelávania a odbornej prípravy sa môžu líšiť, môže byť vhodné mať rôzne úrovne odbornej prípravy alebo vzdelávacích prístupov.

Certifikát nie je potrebný. Organizácie môžu viesť interné záznamy o odbornej príprave a/alebo iných usmerňujúcich iniciatívach.

Nie, žiadna osobitná riadiaca štruktúra nie je povinná dodržiavať článok 4 aktu o umelej inteligencii.

Európska komisia navrhla digitálny súhrnný akt s cielenými zmenami aktu o umelej inteligencii ako súčasť širšieho úsilia Komisie o zjednodušenie a zefektívnenie súboru digitálnych pravidiel EÚ. 

Pokiaľ ide o článok 4, Komisia navrhla presunúť povinnosť členských štátov a Komisie podporovať gramotnosť v oblasti umelej inteligencie a zvyšovanie úrovne zručností a rekvalifikáciu v oblasti umelej inteligencie namiesto presadzovania nešpecifickej povinnosti organizácií. Komisia tým zároveň zabezpečí kontinuitu s doterajším úsilím (najmä prostredníctvom tejto otázky a amp;A o gramotnosti v oblasti umelej inteligencie a archívu postupov gramotnosti v oblasti umelej inteligencie).

Je dôležité zdôrazniť, že pre tých, ktorí nasadzujú vysokorizikové systémy umelej inteligencie, zostáva v platnosti povinnosť zabezpečiť, aby ich zamestnanci boli vyškolení na zabezpečenie ľudského dohľadu.

Článok 4 aktu o umelej inteligencii nadobudol účinnosť 2. februára 2025, preto sa už uplatňuje povinnosť prijať opatrenia na zabezpečenie gramotnosti ich zamestnancov v oblasti umelej inteligencie. Pravidlá dohľadu a presadzovania sa uplatňujú od 3. augusta 2026.

Dohľad nad článkom 4 aktu o umelej inteligencii a jeho presadzovanie neprináleží úradu pre umelú inteligenciu, ale patrí do právomoci vnútroštátnych orgánov dohľadu nad trhom. Vnútroštátne orgány dohľadu nad trhom začnú vykonávať dohľad nad pravidlami a presadzovať ich od 2. augusta 2026. Zatiaľ čo rozhodnutia o presadzovaní sa prijímajú s vnútroštátnymi orgánmi dohľadu nad trhom v rôznych členských štátoch, úrad pre umelú inteligenciu bude úzko spolupracovať s radou pre umelú inteligenciu s cieľom podporiť primerané vykonávanie.

Zákazy sa uplatňujú od 2. februára 2025. Vďaka rade pre umelú inteligenciu a spolupráci medzi všetkými príslušnými orgánmi sa zabezpečí jednotné uplatňovanie pravidiel.

Verejné presadzovanie znamená, že každý členský štát vymenuje orgány zodpovedné za presadzovanie ustanovení aktu o umelej inteligencii, ktoré budú dohliadať na dodržiavanie tohto zákona a presadzovať ho. Súkromnoprávne presadzovanie sa týka scenára, keď súkromná osoba utrpí škodu, a domnieva sa, že je to spôsobené tým, že organizácia nedodržiava povinnosť podľa článku 4, a žaluje organizáciu, aby získala náhradu škody.

Ak dôjde k ujme/škode, poskytovateľa systému umelej inteligencie možno žalovať podľa vnútroštátneho práva. Akt o umelej inteligencii nevytvára trestné činy ani právo na odškodnenie.

Komisia uverejní usmernenia o uplatňovaní požiadaviek a povinností uvedených v článkoch 8 až 15 a v článku 25 aktu o umelej inteligencii a tieto usmernenia sa budú týkať aj otázok gramotnosti, napríklad pri diskusii o dohľade nad človekom alebo riadení rizík.

V súčasnosti už mnohé agentúry majú prístup k vzdelávacej platforme Komisie (EU-Learn), ako aj k zdrojom, ako sú vzdelávacie balíky v oblasti umelej inteligencie a iná odborná príprava Komisie.

S cieľom podporiť vykonávanie a súlad s článkom 4 aktu o umelej inteligencii bude úrad pre umelú inteligenciu naďalej podporovaťživý archívpostupov gramotnosti v oblasti umelej inteligencie, zhromažďovať ďalšie príklady od organizácií a aktualizovať otázky a odpovede. Zorganizujú sa ďalšie informačné činnosti a vytvorí sa osobitná webová stránka pre činnosti súvisiace s gramotnosťou v oblasti umelej inteligencie (v rámci pôsobnosti článku 4 a mimo nej), zručnosti a talenty s cieľom podporiť prístup k gramotnosti v oblasti umelej inteligencie a podporiť dialóg o umelej inteligencii pre všetkých.

Živé úložisko o postupoch gramotnosti v oblasti umelej inteligencie je voľne dostupné na našom webovom sídle: Živé úložisko na podporu vzdelávania a výmeny v oblasti gramotnosti v oblasti umelej inteligencie

Príkladom iniciatívy EÚ, ktorá by mohla podporovať MSP, je sieť európskych centier digitálnych inovácií (EDIH). Európske centrá digitálnych inovácií sú 251 jednotnými kontaktnými miestami v celej Európe (27 členských štátov, 3 krajiny EZVO – Nórsko, Island a Lichtenštajnsko; 8 pridružených krajín: Albánsko, Bosna a Hercegovina, Kosovo, Čierna Hora, Severné Macedónsko, Srbsko, Turecko a Ukrajina), ktoré podporujú MSP a organizácie verejného sektora pri digitalizácii ich procesov. 80 % európskych centier digitálnych inovácií už poskytuje služby zamerané na umelú inteligenciu vrátane školení, seminárov, bootcamp pre rôzne potreby a úrovne znalostí o umelej inteligencii. MSP a organizácie verejného sektora sa môžu obrátiť na európske centrá digitálnych inovácií, aby získali podporu v oblasti technológií umelej inteligencie a ich cieľov v oblasti digitalizácie v širšom zmysle. Európske centrá digitálnych inovácií môžu pomáhať ako prvé asistenčné pracovisko v súvislosti s aktom o umelej inteligencii a slúžiť ako vstupné body k inýmpodporným opatreniam financovaným EÚ,akosú okrem iného testovacie a experimentálne zariadenia alebo továrne umelej inteligencie. EDIH, ktoré je k vám najbližšie, nájdete v tomto katalógu.