A mesterséges intelligenciáról szóló törvény célja, hogy egyértelmű követelményeket és kötelezettségeket biztosítson az MI-fejlesztők és -bevivők számára a mesterséges intelligencia egyes felhasználási módjai tekintetében. Ugyanakkor a rendelet célja a vállalkozások, különösen a kis- és középvállalkozások (kkv-k) adminisztratív és pénzügyi terheinek csökkentése.
A mesterséges intelligenciáról szóló jogszabály a megbízható mesterséges intelligencia fejlesztését támogató, szélesebb körű szakpolitikai intézkedéscsomag részét képezi, amely magában foglalja a mesterséges intelligenciával kapcsolatos innovációs csomagot és a mesterséges intelligenciára vonatkozó összehangolt tervet is. Ezek az intézkedések együttesen garantálják az emberek és a vállalkozások biztonságát és alapvető jogait a mesterséges intelligenciával kapcsolatban. Emellett Unió-szerte erősíteni fogják a mesterséges intelligencia elterjedését, a beruházásokat és az innovációt.
A mesterséges intelligenciáról szóló törvény az MI-re vonatkozó első átfogó jogi keret világszerte. Az új szabályok célja, hogy Európában és azon túl is előmozdítsák a megbízható mesterséges intelligenciát azáltal, hogy biztosítják, hogy az MI-rendszerek tiszteletben tartsák az alapvető jogokat, a biztonságot és az etikai elveket, és kezeljék a rendkívül hatékony és hatásos MI-modellek kockázatait.
Miért van szükség a mesterséges intelligenciára vonatkozó szabályokra?
A mesterséges intelligenciáról szóló jogszabály biztosítja, hogy az európaiak bízhassanak abban, amit a mesterséges intelligencia kínál. Míg a legtöbb MI-rendszer kockázatmentes, és számos társadalmi kihívás megoldásához járulhat hozzá, bizonyos MI-rendszerek olyan kockázatokat hordoznak, amelyeket a nemkívánatos eredmények elkerülése érdekében kezelnünk kell.
Például gyakran nem lehet megtudni, hogy egy MI-rendszer miért hozott döntést vagy előrejelzést, és miért tett konkrét lépéseket. Így nehézzé válhat annak értékelése, hogy valaki tisztességtelenül hátrányos helyzetbe került-e, például munkaerő-felvételi határozat vagy közhasznú rendszer iránti kérelem keretében.
Bár a meglévő jogszabályok bizonyos fokú védelmet biztosítanak, nem elegendő az MI-rendszerek által esetlegesen felmerülő konkrét kihívások kezeléséhez.
A javasolt szabályok:
- a kifejezetten mesterségesintelligencia-alkalmazások által létrehozott kockázatok kezelése;
- tiltsák be az elfogadhatatlan kockázatot jelentő MI-gyakorlatokat;
- meghatározza a magas kockázatú alkalmazások listáját;
- egyértelmű követelmények meghatározása a nagy kockázatú alkalmazásokhoz használt MI-rendszerekre vonatkozóan;
- konkrét kötelezettségek meghatározása a nagy kockázatú MI-alkalmazások alkalmazói és szolgáltatói számára;
- megfelelőségértékelés előírása egy adott MI-rendszer üzembe helyezése vagy forgalomba hozatala előtt;
- egy adott MI-rendszer forgalomba hozatalát követően végrehajtja a végrehajtást;
- európai és nemzeti szintű irányítási struktúra létrehozása.
Kockázatalapú megközelítés
A szabályozási keret az MI-rendszerek tekintetében négy kockázati szintet határoz meg:
Minden olyan MI-rendszer, amely egyértelmű fenyegetést jelent az emberek biztonságára, megélhetésére és jogaira nézve, be lesz tiltva, a kormányok által végzett társadalmi pontszámoktól a veszélyes viselkedést ösztönző hangtámogatást használó játékokig.
Magas kockázatú
A magas kockázatúként azonosított MI-rendszerek közé tartoznak a következőkben használt mesterségesintelligencia-technológiák:
- kritikus infrastruktúrák (pl. közlekedés), amelyek veszélyeztethetik a polgárok életét és egészségét;
- oktatás vagy szakképzés, amely meghatározhatja az oktatáshoz és a szakmai képzéshez való hozzáférést (pl. vizsgák pontozása);
- a termékek biztonsági alkatrészei (pl. mesterséges intelligencia alkalmazása a robot által támogatott sebészetben);
- foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés (pl. önéletrajz-válogatási szoftver a munkaerő-felvételi eljárásokhoz);
- alapvető magán- és közszolgáltatások (pl. hitelpontosítás, amely megtagadja a polgárok hitelhez jutásának lehetőségét);
- olyan bűnüldözés, amely sértheti az emberek alapvető jogait (pl. a bizonyítékok megbízhatóságának értékelése);
- migráció, menekültügy és határellenőrzés igazgatása (pl. a vízumkérelmek automatizált vizsgálata);
- igazságszolgáltatás és demokratikus folyamatok (pl. a bírósági ítéletek keresésére szolgáló MI-megoldások).
A nagy kockázatú MI-rendszerekre szigorú kötelezettségek vonatkoznak majd, mielőtt forgalomba hozhatók lennének:
- megfelelő kockázatértékelési és -csökkentési rendszerek;
- a rendszert tápláló adatkészletek magas minősége a kockázatok és a diszkriminatív eredmények minimalizálása érdekében;
- a tevékenységek naplózása az eredmények nyomon követhetőségének biztosítása érdekében;
- részletes dokumentáció, amely minden szükséges információt tartalmaz a rendszerről és annak a hatóságok számára történő megfelelésének értékeléséhez;
- egyértelmű és megfelelő tájékoztatás a bevetést végző személy számára;
- megfelelő emberi felügyeleti intézkedések a kockázat minimalizálása érdekében;
- magas szintű robusztusság, biztonság és pontosság.
Minden távoli biometrikus azonosító rendszer magas kockázatúnak minősül, és szigorú követelményeknek van alávetve. A távoli biometrikus azonosítás nyilvános helyeken bűnüldözési célokra történő használata főszabály szerint tilos.
A szűk kivételeket szigorúan határozzák meg és szabályozzák, például az eltűnt gyermek felkutatásához, egy konkrét és közvetlen terrorfenyegetettség megelőzéséhez, vagy a súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának felderítéséhez, felkutatásához, azonosításához vagy büntetőeljárás alá vonásához.
E felhasználások bírósági vagy más független szerv engedélyéhez, valamint az idő, a földrajzi elérhetőség és a keresett adatbázisok megfelelő korlátaihoz kötöttek.
Korlátozott kockázat
A korlátozottkockázat a mesterségesintelligencia-használat átláthatóságának hiányával kapcsolatos kockázatokra utal. A mesterséges intelligenciáról szóló törvény konkrét átláthatósági kötelezettségeket vezet be annak biztosítása érdekében, hogy az emberek szükség esetén tájékoztatást kapjanak, ami elősegíti a bizalmat. Például az AI-rendszerek, például a chatbotok használatakor az embereket tájékoztatni kell arról, hogy kölcsönhatásba lépnek egy géppel, hogy megalapozott döntést hozhassanak a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy a mesterséges intelligencián alapuló tartalom azonosítható legyen. Emellett mesterségesen előállítottnak kell tekinteni azokat a mesterségesen előállított szövegeket, amelyeket azzal a céllal tettek közzé, hogy tájékoztassák a nyilvánosságot a közérdekű ügyekről. Ez vonatkozik a mély hamisítványokat alkotó hang- és videotartalmakra is.
Minimális vagy semmilyen kockázat
A mesterséges intelligenciáról szóló törvény lehetővé teszi a minimális kockázatú mesterséges intelligencia szabad használatát. Ez magában foglalja az olyan alkalmazásokat, mint az AI-kompatibilis videojátékok vagy a spamszűrők. Az EU-ban jelenleg használt MI-rendszerek túlnyomó többsége ebbe a kategóriába tartozik.
Hogyan működik mindez a gyakorlatban a nagy kockázatú MI-rendszerek szolgáltatói számára?
Amint egy MI-rendszer piacra kerül, a hatóságok felelősek a piacfelügyeletért, az üzembe helyezők biztosítják az emberi felügyeletet és nyomon követést, a szolgáltatók pedig forgalomba hozatal utáni felügyeleti rendszerrel rendelkeznek. A szolgáltatók és a beszerelők szintén bejelentik a súlyos incidenseket és a hibás működést.
Megoldás a nagy MI-modellek megbízható használatára
Egyre inkább az általános célú MI-modellek válnak az MI-rendszerek részévé. Ezek a modellek számtalan különböző feladatot képesek végrehajtani és adaptálni.
Míg az általános célú MI-modellek jobb és hatékonyabb MI-megoldásokat tesznek lehetővé, nehéz minden képességet felügyelni.
A mesterséges intelligenciáról szóló jogszabály átláthatósági kötelezettségeket vezet be valamennyi általános célú MI-modellre vonatkozóan, hogy lehetővé tegye e modellek jobb megértését, valamint további kockázatkezelési kötelezettségeket a nagyon alkalmas és hatásos modellek esetében. Ezek a további kötelezettségek magukban foglalják a rendszerkockázatok önértékelését és csökkentését, a súlyos események bejelentését, a tesztelést és a modellek értékelését, valamint a kiberbiztonsági követelményeket.
Időtálló jogszabályok
Mivel a mesterséges intelligencia gyorsan fejlődő technológia, a javaslat időtálló megközelítést alkalmaz, amely lehetővé teszi a szabályok technológiai változásokhoz való alkalmazkodását. A mesterségesintelligencia-alkalmazásoknak a forgalomba hozataluk után is megbízhatónak kell maradniuk. Ehhez folyamatos minőségre és kockázatkezelésre van szükség a szolgáltatók részéről.
Végrehajtás és végrehajtás
A Bizottságon belül 2024 februárjában létrehozott Európai MI -iroda felügyeli a mesterséges intelligenciáról szóló jogszabály végrehajtását és végrehajtását a tagállamokkal együtt. Célja egy olyan környezet megteremtése, amelyben az MI-technológiák tiszteletben tartják az emberi méltóságot, jogokat és bizalmat. Ösztönzi továbbá a mesterséges intelligenciával kapcsolatos együttműködést, innovációt és kutatást a különböző érdekelt felek között. Emellett nemzetközi párbeszédet és együttműködést folytat a mesterséges intelligenciával kapcsolatos kérdésekben, elismerve a mesterséges intelligencia irányításával kapcsolatos globális összehangolás szükségességét. Ezen erőfeszítések révén az Európai MI-iroda arra törekszik, hogy Európa vezető szerepet töltsön be a mesterségesintelligencia-technológiák etikus és fenntartható fejlődésében.
Következő lépések
2023decemberében az Európai Parlament és az EU Tanácsa politikai megállapodásra jutott a mesterséges intelligenciáról szóló jogszabályról. A szöveg hivatalos elfogadása és lefordítása folyamatban van. A mesterséges intelligenciáról szóló törvény 20 nappal a Hivatalos Lapban való kihirdetését követően lép hatályba, és két évvel később teljes mértékben alkalmazandó lesz, néhány kivétellel: a tilalmak hat hónap elteltével lépnek hatályba, az irányítási szabályok és az általános célú MI-modellekre vonatkozó kötelezettségek 12 hónap elteltével válnak alkalmazandóvá, a szabályozott termékekbe ágyazott MI-rendszerekre vonatkozó szabályokat pedig 36 hónap elteltével kell alkalmazni. Az új szabályozási keretre való áttérés megkönnyítése érdekében a Bizottság elindította a mesterséges intelligenciáról szóló paktumot, amely egy önkéntes kezdeményezés, amelynek célja a jövőbeli végrehajtás támogatása, és felkéri az európai és Európán kívüli mesterségesintelligencia-fejlesztőket, hogy időben tegyenek eleget a mesterséges intelligenciáról szóló jogszabály fő kötelezettségeinek.
Legfrissebb hírek
Report / Study
- 05-04-2024Mesterséges intelligencia közjavakért: EU-USA kutatási szövetség a mesterséges intelligenciával a közjavakért
- 30-11-2023Európa potenciálja az Edge-számítástechnika terén: Az ipari innováció támogatása nagyszabású kísérleti projektek révén
- 30-11-2023Trends in advanced manufacturing Research and Innovation
Kapcsolódó tartalom
Összkép
A mesterséges intelligenciával foglalkozó kiválósági és bizalmi központokra vonatkozó uniós megközelítés, amelynek célja a kutatás és az ipari kapacitás fellendítése a biztonság és az alapvető jogok biztosítása mellett.
Mélyedjen el alaposabban a témában
A mesterséges intelligenciáról szóló paktum ösztönözni fogja és támogatni fogja a vállalatokat a mesterséges intelligenciáról szóló jogszabályban előírt intézkedések tervezésében.
Lásd még
Az emberközpontú mesterséges intelligenciára vonatkozó nemzetközi kezdeményezés elő fogja segíteni az EU fenntartható és megbízható mesterséges intelligenciára vonatkozó elképzelésének előmozdítását.
A mesterséges intelligenciára vonatkozó összehangolt terv célja, hogy felgyorsítsa a mesterséges intelligenciába történő beruházásokat, végrehajtsa az MI-stratégiákat és -programokat, valamint összehangolja az MI-politikát az Európán belüli széttagoltság megelőzése érdekében.
Az Európai Bizottság szakértői csoportot nevezett ki, hogy tanácsot adjon a mesterséges intelligenciára vonatkozó stratégiájával kapcsolatban.
A mesterséges intelligenciával foglalkozó európai szövetség az Európai Bizottság kezdeményezése a mesterséges intelligenciáról szóló nyílt szakpolitikai párbeszéd létrehozására. A mesterségesintelligencia-szövetség 2018-as indulása óta mintegy 6000 érdekelt felet vont be...