Európske centrum pre transparentnosť algoritmov

Algoritmické systémy určujú mnohé aspekty nášho online zážitku, napríklad aplikácia na streamovanie hudby môže používať algoritmy na navrhovanie skladieb alebo kapiel svojim používateľom. Vzhľadom na čoraz väčší spoločenský vplyv online platforiem, ako sú sociálne siete, online trhy a vyhľadávače, je naliehavo potrebný verejný dohľad nad procesmi, ktoré sú jadrom ich podnikania. To zahŕňa najmä spôsob, akým tieto platformy a vyhľadávače moderujú obsah a ako spravujú informácie pre svojich používateľov.

Služobná cesta

Európske centrum pre transparentnosť algoritmov (ECAT) prispeje k bezpečnejšiemu, predvídateľnejšiemu a dôveryhodnejšiemu online prostrediu pre ľudí a podniky.

Čoraz väčšie obavy vyvoláva otázka, ako algoritmické systémy formujú viditeľnosť a propagáciu obsahu a jeho spoločenský a etický vplyv. Opatrenia prijaté podľaaktu o digitálnych službách si vyžadujú audity algoritmickej zodpovednosti a transparentnosti.

ECAT je súčasťou Európskej komisie a jeho hostiteľom je Spoločné výskumné centrum (JRC) – interný vedecký a vedomostný útvar Komisie – v úzkej spolupráci sGenerálnym riaditeľstvompre komunikačné siete, obsah a technológie (GR CONNECT ). Prispieva vedeckými a technickými odbornými znalosťami k výlučnej úlohe Komisie v oblasti dohľadu a presadzovania systémových povinností týkajúcich sa veľmi veľkých online platforiem (VLOP) a veľmi veľkých internetových vyhľadávačov (VLOSE) stanovených v akte o digitálnych službách.

Vedci a odborníci pracujúci v ECAT budú spolupracovať so zástupcami priemyslu, akademickou obcou a organizáciami občianskej spoločnosti s cieľom zlepšiť naše chápanie fungovania algoritmov: budú analyzovať transparentnosť, posudzovať riziká a navrhovať nové transparentné prístupy a najlepšie postupy.

Čo robíme

Technická podpora

technické testy algoritmických systémov s cieľom lepšie pochopiť ich fungovanie, analýza správ o transparentnosti, posúdení rizík a nezávislých auditov; podpora vyšetrovaní, ako sú inšpekcie; vymedzenie príslušných postupov na zabezpečenie prístupu k údajom pre regulačné orgány a výskumných pracovníkov.

Vedecký výskum a prognóza

identifikovať a merať systémové riziká spojené s veľmi veľkými online platformami a veľmi veľkými online platformami, hodnotiť opatrenia na zmiernenie rizika, navrhovať praktické metodiky na dosiahnutie transparentných a zodpovedných algoritmických prístupov, skúmať dlhodobý spoločenský vplyv algoritmov; identifikovať vznikajúce riziká spojené s používaním veľmi veľkých online platforiem a veľmi veľkých online vyhľadávačov.

Vytváranie sietí a budovanie komunít

na medzinárodnej úrovni centralizovať poznatky na celom svete a vymieňať si hlavné vedecké zistenia a najlepšie postupy pre štúdie založené na údajoch v tejto oblasti, pôsobiť ako znalostné centrum pre výskum vykonávaný vďaka prístupu k údajom poskytovaným aktom o digitálnych službách.

Témy

• Algoritmická transparentnosť
• Odporúčacie systémy, vyhľadávanie informácií, vyhľadávače
• Spravodlivosť, zodpovednosť a transparentnosť
• Etický, hospodársky, právny a sociálny vplyv
• Posúdenie rizík a opatrenia na zmiernenie rizík
• Základné práva

Náš prístup

Náš prístup je aplikovaný, interdisciplinárny a inkluzívny.

Naším poslaním je poskytovať technickú pomoc a praktické usmernenia pre transparentné a dôveryhodné algoritmické systémy, ktoré zabezpečujú bezpečné, predvídateľné a dôveryhodné online prostredie.

Kombinujeme metodiky z rôznych disciplín, aby sme integrovali technické, etické, ekonomické, právne a environmentálne perspektívy.

Spolupracujeme  s medzinárodnou komunitou výskumníkov a odborníkov z praxe v príslušných disciplínach vrátane akademickej obce, priemyslu, občianskej spoločnosti a verejnej správy.

Ako pracujeme

ECAT je riadený v úzkej spolupráci s GR CONNECT a Spoločným výskumným centrom Európskej komisie. Okrem vlastných zamestnancov ECAT čerpá aj z poznatkov kolegov a externých odborníkov. Okrem toho k práci centra prispeje tím výskumných pracovníkov a odborníkov z praxe z externých inštitúcií. Medzinárodná sieť zainteresovaných strán (členské štáty EÚ, výskumná obec, nezávislí audítori, zástupcovia priemyslu a odborníci z praxe, občianska spoločnosť) zaručí široký kolektívny prístup. 

Kontaktné údaje

E-mail: EC ECAT

Súvislosti

Algoritmické systémy sa používajú na identifikáciu, kategorizáciu, hodnotenie, navrhovanie a prezentáciu informácií používateľom. Tieto systémy čoraz viac pomáhajú ľuďom v rozhodovacích procesoch, ovplyvňujú ich a často ich nahrádzajú.

V akte o digitálnych službách sa bude od veľmi veľkých online platforiem a veľmi veľkých internetových vyhľadávačov pôsobiacich v Európskej únii vyžadovať, aby identifikovali, analyzovali a posudzovali určité systémové riziká vyplývajúce z návrhu a fungovania ich služieb a súvisiacich systémov vrátane algoritmických systémov. Okrem toho sa musia zaviazať k riešeniu identifikovaných rizík, ktoré priamo alebo nepriamo súvisia s fungovaním používaného algoritmického systému.

Okrem úlohy dohľadu Komisie budú takéto posúdenia rizík a všetky sprievodné zmierňujúce opatrenia podliehať externému nezávislému auditu a dohľadu zo strany výskumných pracovníkov a občianskej spoločnosti.