U skladu sa Smjernicama pouzdana umjetna inteligencija trebala bi biti:
(1) zakonito – poštovanje svih primjenjivih zakona i propisa
(2) etičnost – poštovanje etičkih načela i vrijednosti
(3) robusnu – iz tehničke perspektive, uzimajući u obzir njezino socijalno okruženje
Preuzmite smjernice na svojem jeziku u nastavku:
BG | CS | DE | DA П EL П EN П ES П ET П FI П FR |0|1|2| [ /NOTRANSLATE]3[NOTRANSLATE]==DELETE = =|4[NOTRANSLATE] = =DELETE==|[/NOTRANSLATE]5 [ NOTRANSLATE]==DELETE==| [ /NOTRANSLATE]6[NOTRANSLATE]==DELETE = =|[/NOTRANSLATE]7[NOTRANSLATE] = =DELETE==|[/NOTRANSLATE]8 [ NOTRANSLATE]==DELETE==|[ /NOTRANSLATE]9[NOTRANSLATE]==DELETE= = |[/NOTRANSLATE]0[NOTRANSLATE] = =DELETE==|[/NOTRANSLATE]1 [ NOTRANSLATE]==DELETE==|[ /NOTRANSLATE]2
U Smjernicama se iznosi sedam ključnih zahtjeva koje bi UI sustavi trebali ispuniti kako bi se smatrali pouzdanima. Posebnim popisom za procjenu provjerava se primjena svakog ključnog zahtjeva:
- Ljudsko djelovanje i nadzor: Sustavi umjetne inteligencije trebali bi osnažiti ljude, omogućiti im donošenje utemeljenih odluka i poticati njihova temeljna prava. Istodobno je potrebno osigurati odgovarajuće mehanizme nadzora, što se može postići pristupima koji se temelje na ljudskoj petlji, ljudskoj samoj petlji i ljudskim zapovjednim pristupima.
- Tehnička stabilnost i sigurnost: UI sustavi moraju biti otporni i sigurni. Moraju biti sigurni, osigurati rezervni plan u slučaju da nešto pođe po zlu te biti točni, pouzdani i ponovljivi. To je jedini način da se osigura da se i nenamjerna šteta može svesti na najmanju moguću mjeru i spriječiti.
- Privatnost i upravljanje podacima: osim osiguravanja potpunog poštovanja privatnosti i zaštite podataka, moraju se osigurati i odgovarajući mehanizmi upravljanja podacima, uzimajući u obzir kvalitetu i cjelovitost podataka te osiguravajući legitimizirani pristup podacima.
- Transparentnost: poslovni modeli podataka, sustava i umjetne inteligencije trebali bi biti transparentni. Mehanizmi sljedivosti mogu pomoći u postizanju tog cilja. Osim toga, UI sustavi i njihove odluke trebali bi biti objašnjeni na način prilagođen predmetnim dionicima. Ljudi moraju biti svjesni da su u interakciji s UI sustavom i moraju biti obaviješteni o mogućnostima i ograničenjima sustava.
- Raznolikost, nediskriminacija i pravednost: Potrebno je izbjegavati nepoštenu pristranost jer bi mogla imati višestruke negativne posljedice, od marginalizacije ranjivih skupina do pogoršanja predrasuda i diskriminacije. Poticanje raznolikosti sustavi umjetne inteligencije trebali bi biti dostupni svima, bez obzira na invaliditet, i uključivati relevantne dionike tijekom cijelog životnog ciklusa.
- Društvena i okolišna dobrobit: Sustavi umjetne inteligencije trebali bi koristiti svim ljudima, uključujući buduće generacije. Stoga se mora osigurati da su održivi i ekološki prihvatljivi. Nadalje, trebale bi uzeti u obzir okoliš, uključujući druga živa bića, te bi trebalo pažljivo razmotriti njihov socijalni i društveni učinak.
- Odgovornost: Potrebno je uspostaviti mehanizme kojima bi se utvrdile dužnosti i osigurala odgovornost za sustave umjetne inteligencije i njihove ishode. Mogućnost revizije, koja omogućuje procjenu algoritama, podataka i postupaka projektiranja, ima ključnu ulogu u tome, posebno u ključnim aplikacijama. Nadalje, trebalo bi osigurati odgovarajuću dostupnu pravnu zaštitu.
Stručna skupina na visokoj razini za umjetnu inteligenciju pripremila je i dokument u kojem se razrađuje definicija umjetne inteligencije koja se upotrebljava za potrebe Smjernica.
U nastavku preuzmite definiciju umjetne inteligencije na svojem jeziku:
BG | CS | DE | DA П EL П EN П ES П ET П FI П FR |0|1|2| [ /NOTRANSLATE]3[NOTRANSLATE]==DELETE = =|4[NOTRANSLATE] = =DELETE==|[/NOTRANSLATE]5 [ NOTRANSLATE]==DELETE==| [ /NOTRANSLATE]6[NOTRANSLATE]==DELETE = =|[/NOTRANSLATE]7[NOTRANSLATE] = =DELETE==|[/NOTRANSLATE]8 [ NOTRANSLATE]==DELETE==|[ /NOTRANSLATE]9[NOTRANSLATE]==DELETE= = |[/NOTRANSLATE]0[NOTRANSLATE] = =DELETE==|[/NOTRANSLATE]1 [ NOTRANSLATE]==DELETE==|[ /NOTRANSLATE]2
Postupak pilot-projekta
Dokument sadržava i popis za procjenu u kojem se provode ključni zahtjevi i daju smjernice za njihovu provedbu u praksi. Od 26. lipnja taj je popis za procjenu prošao probni postupak na koji su svi dionici pozvani da testiraju popis za procjenu i pruže praktične povratne informacije o tome kako ga se može poboljšati.
Povratne informacije primljene su na različite načine:
- Otvorena anketa ili „kvantitativna analiza” poslana svima koji su se prijavili za pilot-projekt
- Detaljni razgovori s nizom predstavničkih organizacija radi prikupljanja detaljnijih povratnih informacija za različite sektore
- Stalna mogućnost učitavanja povratnih informacija i najboljih praksi putem Europskog saveza za umjetnu inteligenciju
Pilot-faza završena je 1. prosinca 2019.
Na temelju primljenih povratnih informacija stručna skupina za umjetnu inteligenciju predstavila je u srpnju 2020. konačni popis za procjenu pouzdane umjetne inteligencije ( ALTAI). Altai je praktičan alat kojim se etičke smjernice pretvaraju u pristupačan i dinamičan kontrolni popis (samoprocjena). Kontrolni popis mogu upotrebljavati razvojni programeri i subjekti za uvođenje umjetne inteligencije koji žele provesti ključne zahtjeve u praksi. Ovaj novi popis dostupan je kao prototip internetskog alata u PDF formatu.