Evropski center za algoritemsko preglednost

Algoritmični sistemi določajo številne vidike naše spletne izkušnje, na primer aplikacija za pretakanje glasbe lahko uporablja algoritme, da svojim uporabnikom predlaga pesmi ali pasove. Zaradi vse večjega družbenega vpliva spletnih platform, kot so družbena omrežja, spletne tržnice in iskalniki, je nujno potreben javni nadzor nad procesi, ki so v središču njihovega poslovanja. To vključuje zlasti način, kako te platforme in iskalniki moderirajo vsebino in kako urejajo informacije za svoje uporabnike.

Misija

Evropski center za algoritemsko preglednost (ECAT) bo prispeval k varnejšemu, predvidljivejšemu in zaupanja vrednemu spletnemu okolju za ljudi in podjetja.

Vse bolj zaskrbljujoče je, kako algoritemski sistemi oblikujejo prepoznavnost in promocijo vsebin ter njihov družbeni in etični vpliv. Ukrepi, sprejeti na podlagiakta o digitalnih storitvah, zahtevajo revizijo algoritemske odgovornosti in preglednosti.

ECAT je del Evropske komisije, gosti pa ga Skupno raziskovalno središče (JRC) – notranja služba Komisije za znanost in znanje – v tesnem sodelovanju zGeneralnim direktoratomza komunikacijska omrežja, vsebine in tehnologijo (GD CONNECT).  Prispeva znanstveno in tehnično strokovno znanje k izključni nadzorni in izvršilni vlogi Komisije v zvezi s sistemskimi obveznostmi za zelo velike spletne platforme in zelo velike spletne iskalnike, določenimi v aktu o digitalnih storitvah.

Znanstveniki in strokovnjaki, ki delajo v ECAT, bodo sodelovali s predstavniki industrije, akademskimi krogi in organizacijami civilne družbe, da bi izboljšali naše razumevanje delovanja algoritmov: analizirali bodo preglednost, ocenili tveganja ter predlagali nove pregledne pristope in najboljše prakse.

Kaj počnemo

Tehnična podpora

tehnični preskusi algoritemskih sistemov za boljše razumevanje njihovega delovanja; analiza poročil o preglednosti, ocen tveganja in neodvisnih revizij; podpora preiskavam, kot so inšpekcijski pregledi; opredelitev ustreznih postopkov za zagotavljanje dostopa do podatkov regulativnim organom in raziskovalcem.

Znanstvene raziskave in predvidevanja

opredelitev in merjenje sistemskih tveganj, povezanih z zelo velikimi spletnimi platformami in zelo velikimi spletnimi iskalniki, ocenjevanje ukrepov za zmanjšanje tveganja, predlaganje praktičnih metodologij za pregledne in odgovorne algoritemske pristope; proučevanje dolgoročnega družbenega vpliva algoritmov; opredeliti nastajajoča tveganja, povezana z uporabo zelo velikih spletnih platform in zelo velikih spletnih iskalnikov.

Mreženje in oblikovanje skupnosti

na mednarodni ravni centralizirati znanje po vsem svetu z izmenjavo glavnih znanstvenih ugotovitev in najboljših praks za študije na podlagi podatkov na tem področju; deluje kot vozlišče znanja za raziskave, ki se izvajajo zaradi dostopa do podatkov, ki jih zagotavlja akt o digitalnih storitvah.

Teme

• Algoritemska preglednost
• Priporočilni sistemi, iskanje informacij, iskalniki
• Pravičnost, odgovornost in preglednost
• Etične, gospodarske, pravne in socialne posledice
• Ocena tveganja in ukrepi za zmanjšanje tveganja
• Temeljne pravice

Naš pristop

Naš pristop je interdisciplinaren in vključujoč.

Naše poslanstvo je zagotoviti tehnično pomoč in praktične smernice za pregledne in zaupanja vredne algoritemske sisteme, ki zagotavljajo varno, predvidljivo in zaupanja vredno spletno okolje.

Združujemo metodologije iz različnih disciplin, da bi vključili tehnične, etične, ekonomske, pravne in okoljske vidike.

 Sodelujemo z mednarodno skupnostjo raziskovalcev in strokovnih delavcev z ustreznih področij, vključno z akademskim svetom, industrijo, civilno družbo in javno upravo.

Kako delujemo

ECAT se upravlja v tesnem sodelovanju z GD CONNECT in Skupnim raziskovalnim središčem Evropske komisije. Poleg lastnega osebja se ECAT opira na znanje štipendistov in zunanjih strokovnjakov. Poleg tega bo k delu centra prispevala skupina raziskovalcev in strokovnjakov iz zunanjih institucij. Mednarodna mreža zainteresiranih strani (države članice EU, raziskovalna skupnost, neodvisni revizorji, predstavniki industrije in strokovni delavci, civilna družba) bo zagotovila široko zastavljen skupni pristop. 

Kontaktni podatki

Elektronska pošta: ECAT

Ozadje

Algoritmični sistemi se uporabljajo za identifikacijo, kategorizacijo, razvrščanje, predlaganje in predstavitev informacij uporabnikom. Ti sistemi vse bolj pomagajo ljudem, nanje vplivajo in jih pogosto nadomeščajo v postopkih odločanja. 

Akt o digitalnih storitvah bo od zelo velikih spletnih platform in zelo velikih spletnih iskalnikov, ki delujejo v Evropski uniji, zahteval, da opredelijo, analizirajo in ocenijo nekatera sistemska tveganja, ki izhajajo iz zasnove in delovanja njihovih storitev in povezanih sistemov, vključno z algoritemskimi sistemi. Poleg tega se morajo zavezati, da bodo obravnavale ugotovljena tveganja, ki so neposredno ali posredno povezana z delovanjem algoritemskega sistema, ki se uporablja.

Poleg nadzorne vloge Komisije bodo take ocene tveganja in vsi spremljajoči blažilni ukrepi predmet zunanje neodvisne revizije in nadzora s strani raziskovalcev in civilne družbe.