A mesterséges intelligenciáról szóló jogszabály

A mesterséges intelligenciáról szóló jogszabály (amesterséges intelligenciára vonatkozó harmonizált szabályokmegállapításáról szóló (EU) 2024/1689 rendelet) egyértelmű követelményeket és kötelezettségeket ír elő a mesterséges intelligencia fejlesztői és alkalmazói számára a mesterséges intelligencia konkrét felhasználásai tekintetében. A rendelet ugyanakkor csökkenteni kívánja a vállalkozások, különösen a kis- és középvállalkozások (kkv-k) adminisztratív és pénzügyi terheit.

A mesterséges intelligenciáról szóló jogszabály a megbízható mesterséges intelligencia fejlesztését támogató szélesebb körű szakpolitikai intézkedéscsomag része, amely magában foglalja a mesterségesintelligenciáravonatkozó innovációs csomagot és a mesterséges intelligenciáról szóló összehangolt tervetis. Ezek az intézkedések együttesen garantálják az emberek és a vállalkozások biztonságát és alapvető jogait a mesterséges intelligencia tekintetében. Emellett Unió-szerte erősítik a mesterséges intelligencia elterjedését, az abba való beruházást és az innovációt.

A mesterséges intelligenciáról szóló jogszabály a mesterséges intelligenciára vonatkozó első átfogó jogi keret világszerte. Az új szabályok célja a megbízható mesterséges intelligencia előmozdítása Európában és Európán kívül, biztosítva, hogy az MI-rendszerek tiszteletben tartsák az alapvető jogokat, a biztonságot és az etikai elveket, valamint kezelve a nagyon erős és hatásos MI-modellek kockázatait.

Miért van szükség a mesterséges intelligenciára vonatkozó szabályokra?

A mesterséges intelligenciáról szóló jogszabály biztosítja, hogy az európaiak megbízhassanak abban, amit a mesterséges intelligencia kínál. Míg a legtöbb MI-rendszer kockázatot nem jelent, és számos társadalmi kihívás megoldásához hozzájárulhat, bizonyos MI-rendszerek olyan kockázatokat teremtenek, amelyeket a nemkívánatos kimenetelek elkerülése érdekében kezelnünk kell.

Például gyakran nem lehet megtudni, hogy egy MI-rendszer miért hozott döntést vagy előrejelzést, és miért hozott meg egy adott intézkedést. Így nehézzé válhat annak értékelése, hogy valaki méltánytalanul hátrányos helyzetbe került-e, például felvételi határozatban vagy közhasznú támogatási rendszer iránti kérelemben.

Bár a meglévő jogszabályok biztosítanak némi védelmet, nem elegendőek az MI-rendszerek által esetlegesen támasztott konkrét kihívások kezeléséhez.

Az új szabályok:

• kezeli a kifejezetten a mesterségesintelligencia-alkalmazások által előidézett kockázatokat
• tiltják az elfogadhatatlan kockázatot jelentő MI-gyakorlatokat
• meghatározza a magas kockázatú alkalmazások listáját
• egyértelmű követelményeket határoz meg a nagy kockázatú alkalmazások MI-rendszereire vonatkozóan
• a nagy kockázatú MI-alkalmazások alkalmazóira és szolgáltatóira vonatkozó konkrét kötelezettségek meghatározása
• megfelelőségértékelés előírása egy adott MI-rendszer üzembe helyezése vagy forgalomba hozatala előtt
• jogérvényesítés bevezetése egy adott MI-rendszer forgalomba hozatalát követően
• európai és nemzeti szintű irányítási struktúra létrehozása

Kockázatalapú megközelítés

A szabályozási keret 4 kockázati szintet határoz meg az MI-rendszerekre vonatkozóan:

Minden olyan MI-rendszert betiltottak, amely egyértelműen veszélyezteti az emberek biztonságát, megélhetését és jogait, a kormányok által végzett közösségi pontozástól kezdve a veszélyes viselkedésre ösztönző hangos segítségnyújtást használó játékokig.

Magas kockázat

A nagy kockázatúként azonosított MI-rendszerek közé tartoznak a következőkben használt MI-technológiák:

• kritikus infrastruktúrák (pl. közlekedés), amelyek veszélyeztethetik a polgárok életét és egészségét
• oktatás vagy szakképzés, amely meghatározhatja az oktatáshoz és a szakmai életúthoz való hozzáférést (pl. vizsgák pontozása)
• termékek biztonsági alkatrészei (pl. mesterségesintelligencia-alkalmazás robottal segített sebészetben)
• foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés (pl. önéletrajz-válogató szoftver a munkaerő-felvételi eljárásokhoz)
• alapvető magán- és közszolgáltatások (pl. hitelpontozás, amely megfosztja a polgárokat a hitelszerzés lehetőségétől)
• bűnüldözés, amely sértheti az emberek alapvető jogait (pl. a bizonyítékok megbízhatóságának értékelése)
• migrációkezelés, menekültügy és határellenőrzés (pl. a vízumkérelmek automatizált vizsgálata)
• igazságszolgáltatás és demokratikus folyamatok (pl. mesterségesintelligencia-megoldások bírósági ítéletek keresésére)

A nagy kockázatú MI-rendszerekre szigorú kötelezettségek vonatkoznak forgalomba hozataluk előtt:

• megfelelő kockázatértékelési és -csökkentési rendszerek
• a rendszert tápláló adatkészletek magas minősége a kockázatok és a diszkriminatív eredmények minimalizálása érdekében
• a tevékenységek naplózása az eredmények nyomonkövethetőségének biztosítása érdekében
• részletes dokumentáció, amely minden szükséges információt tartalmaz a rendszerről és annak céljáról ahhoz, hogy a hatóságok értékelhessék annak megfelelőségét
• az alkalmazó egyértelmű és megfelelő tájékoztatása
• megfelelő emberi felügyeleti intézkedések a kockázat minimalizálása érdekében
• nagyfokú robusztusság, biztonság és pontosság

Minden távoli biometrikus azonosító rendszer magas kockázatúnak minősül, és szigorú követelmények vonatkoznak rá. A nyilvánosság számára hozzáférhető helyeken főszabály szerint tilos a távoli biometrikus azonosítás bűnüldözési célú használata.

A szűk körű kivételeket szigorúan meghatározzák és szabályozzák, például ha azok eltűnt gyermek felkutatásához, konkrét és közvetlen terrorfenyegetés megelőzéséhez vagy súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának felderítéséhez, lokalizálásához, azonosításához vagy büntetőeljárás alá vonásához szükségesek.

E felhasználások bírósági vagy más független szerv engedélyéhez, valamint megfelelő időbeli korlátokhoz, földrajzi hatókörhöz és a lekérdezett adatbázisokhoz kötöttek.

Korlátozott kockázat

A korlátozott kockázat a mesterséges intelligencia használatának átláthatatlanságához kapcsolódó kockázatokrautal. A mesterséges intelligenciáról szóló jogszabály konkrét átláthatósági kötelezettségeket vezet be annak biztosítása érdekében, hogy az emberek szükség esetén tájékoztatást kapjanak, ami erősíti a bizalmat. Például az MI-rendszerek, például a chatbotok használatakor fel kell hívni az emberek figyelmét arra, hogy kapcsolatba lépnek egy géppel, hogy megalapozott döntést hozhassanak a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy a mesterséges intelligencián alapuló tartalom azonosítható legyen. Emellett a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett, mesterséges intelligencián alapuló szöveget mesterségesen létrehozottként kell címkézni. Ez vonatkozik a mélykamunak minősülő audio- és videotartalmakra is.

Minimális kockázat vagy nincs kockázat

A mesterséges intelligenciáról szóló jogszabály lehetővé teszi a minimális kockázatú mesterséges intelligencia ingyenes használatát. Ez magában foglalja az olyan alkalmazásokat, mint az AI-kompatibilis videojátékok vagy a spamszűrők. Az EU-ban jelenleg használt MI-rendszerek túlnyomó többsége ebbe a kategóriába tartozik.

Hogyan működik mindez a gyakorlatban a nagy kockázatú MI-rendszerek szolgáltatói esetében?

Amint egy MI-rendszer forgalomba kerül, a hatóságok felelnek a piacfelügyeletért, az alkalmazók biztosítják az emberi felügyeletet és nyomon követést, a szolgáltatók pedig forgalomba hozatal utáni nyomonkövetési rendszerrel rendelkeznek. A szolgáltatók és az alkalmazók szintén jelenteni fogják a súlyos váratlan eseményeket és a hibás működést.

Megoldás a nagy mesterségesintelligencia-modellek megbízható használatára

Egyre több általános célú MI-modell válik az MI-rendszerek alkotóelemévé. Ezek a modellek számtalan különböző feladatot képesek elvégezni és adaptálni.

Bár az általános célú mesterségesintelligencia-modellek jobb és hatékonyabb mesterségesintelligencia-megoldásokat tehetnek lehetővé, nehéz felügyelni az összes képességet.

Ott a mesterséges intelligenciáról szóló jogszabály átláthatósági kötelezettségeket vezet be valamennyi általános célú mesterségesintelligencia-modellre vonatkozóan, hogy lehetővé tegye e modellek jobb megértését, valamint további kockázatkezelési kötelezettségeket ír elő a nagyon alkalmas és hatásos modellek számára. Ezek a további kötelezettségek magukban foglalják az önértékelést és a rendszerszintű kockázatok csökkentését, a súlyos váratlan események bejelentését, a teszt- és modellértékelések elvégzését, valamint a kiberbiztonsági követelményeket.

Időtálló jogszabályok

Mivel a mesterséges intelligencia gyorsan fejlődő technológia, a rendelet időtálló megközelítést alkalmaz, lehetővé téve a szabályok technológiai változásokhoz való alkalmazkodását. A mesterségesintelligencia-alkalmazásoknak a forgalomba hozatalt követően is megbízhatónak kell maradniuk. Ehhez folyamatos minőség- és kockázatkezelésre van szükség a szolgáltatók részéről.

Végrehajtás és végrehajtás

A Bizottságon belül 2024 februárjában létrehozott Európai Mesterséges Intelligenciával Foglalkozó Hivatal a tagállamokkal együtt felügyeli a mesterséges intelligenciáról szóló jogszabály érvényesítését és végrehajtását. Célja, hogy olyan környezetet teremtsen, amelyben a mesterségesintelligencia-technológiák tiszteletben tartják az emberi méltóságot, az emberi jogokat és a bizalmat. Előmozdítja továbbá a mesterséges intelligenciával kapcsolatos együttműködést, innovációt és kutatást a különböző érdekelt felek között. Emellett nemzetközi párbeszédet és együttműködést folytat a mesterséges intelligenciával kapcsolatos kérdésekben, elismerve a mesterséges intelligencia irányításával kapcsolatos globális összehangolás szükségességét. Ezen erőfeszítések révén az Európai Mesterséges Intelligenciával Foglalkozó Hivatal arra törekszik, hogy Európa vezető szerepet töltsön be a mesterségesintelligencia-technológiák etikus és fenntartható fejlesztésében.

Következő lépések

A mesterséges intelligenciáról szóló jogszabály augusztus 1-jén lépett hatályba, és két évvel később teljes mértékben alkalmazandó lesz, néhány kivételtől eltekintve: a tilalmak hat hónap elteltével lépnek hatályba, az általános célú MI-modellekre vonatkozó irányítási szabályok és kötelezettségek 12 hónap elteltével válnak alkalmazandóvá, a szabályozott termékekbe beépített MI-rendszerekre vonatkozó szabályok pedig 36 hónap elteltével alkalmazandók. Az új szabályozási keretre való átállás megkönnyítése érdekében a Bizottság elindította a mesterséges intelligenciáról szóló paktumot,egy önkéntes kezdeményezést, amelynek célja a jövőbeli végrehajtás támogatása, és felkéri az európai és Európán kívüli MI-fejlesztőket, hogy idő előtt tegyenek eleget a mesterséges intelligenciáról szóló jogszabály kulcsfontosságú kötelezettségeinek.