Europejskie Centrum Przejrzystości Algorytmicznej

Systemyalgorytmiczne określają wiele aspektów naszego doświadczenia online, na przykład aplikacja do strumieniowego przesyłania muzyki może wykorzystywać algorytmy do sugerowania użytkownikom piosenek lub zespołów. W związku z coraz większym wpływem społecznym platform internetowych, takich jak sieci społecznościowe, internetowe platformy handlowe i wyszukiwarki, istnieje pilna potrzeba publicznego nadzoru nad procesami leżącymi u podstaw ich działalności. Obejmuje to w szczególności sposób, w jaki te platformy i wyszukiwarki moderują treści i w jaki przetwarzają informacje dla swoich użytkowników.

Misja

Europejskie Centrum Przejrzystości Algorytmicznej (ECAT) przyczyni się do bezpieczniejszego, bardziej przewidywalnego i budzącego zaufanie środowiska internetowego dla ludzi i przedsiębiorstw.

To, w jaki sposób systemy algorytmiczne kształtują widoczność i promocję treści oraz jaki jest ich społeczny i etyczny wpływ, budzi coraz większe obawy. Środki przyjęte na podstawieaktu o usługach cyfrowych wymagają kontroli rozliczalności algorytmicznej i przejrzystości.

ECAT jest częścią Komisji Europejskiej, której gospodarzem jest Wspólne Centrum Badawcze  (JRC)– wewnętrzna służba Komisji ds.nauki i wiedzy – w ścisłej współpracy z Dyrekcją Generalną ds. Sieci Komunikacyjnych, Treści i Technologii (DG CONNECT). Wnosi on naukową i techniczną wiedzę fachową do wyłącznej roli Komisji w zakresie nadzoru i egzekwowania obowiązków systemowych dotyczących bardzo dużych platform internetowych (VLOP) i bardzo dużych wyszukiwarek internetowych (VLOSE) przewidzianych w akcie o usługach cyfrowych.

Naukowcy i eksperci pracujący w ECAT będą współpracować z przedstawicielami przemysłu, środowiskami akademickimi i organizacjami społeczeństwa obywatelskiego w celu lepszego zrozumienia sposobu działania algorytmów: przeanalizują przejrzystość, ocenią ryzyko i zaproponują nowe przejrzyste podejścia i najlepsze praktyki.

Co robimy

Wsparcie techniczne

testytechniczne systemów algorytmicznych w celu lepszego zrozumienia ich funkcjonowania; analiza sprawozdań dotyczących przejrzystości, ocen ryzyka i niezależnych audytów; wspieranie dochodzeń, takich jak inspekcje; określenie odpowiednich procedur zapewniających dostęp do danych organom regulacyjnym i badaczom.

Badania naukowe i prognozowanie

identyfikować i mierzyć ryzyko systemowe związane z bardzo dużymi platformami internetowymi i bardzo dużymi platformami internetowymi, oceniać środki zmniejszające ryzyko, proponować praktyczne metody na rzecz przejrzystych i rozliczalnych podejść algorytmicznych; badanie długoterminowego wpływu społecznego algorytmów; określenie pojawiających się zagrożeń związanych ze stosowaniem bardzo dużych platform internetowych i bardzo dużych platform internetowych.

Tworzenie sieci kontaktów i budowanie społeczności

na szczeblu międzynarodowym centralizować wiedzę na całym świecie, dzieląc się głównymi ustaleniami naukowymi i najlepszymi praktykami w zakresie badań opartych na danych w tej dziedzinie; pełnienie roli centrum wiedzy na potrzeby badań prowadzonych dzięki dostępowi do danych dostarczanych przez akt o usługach cyfrowych.

Tematy

• Przejrzystość algorytmiczna
• Systemy rekomendacji, wyszukiwanie informacji, wyszukiwarki
• Sprawiedliwość, rozliczalność i przejrzystość
• Skutki etyczne, gospodarcze, prawne i społeczne
• Ocena ryzyka i środki zmniejszające ryzyko
• Prawa podstawowe

Nasze podejście

Nasze podejście jest stosowane, interdyscyplinarne i integracyjne.

Naszą misją jest zapewnienie pomocy technicznej i praktycznych wskazówek dotyczących przejrzystych i godnych zaufania systemów algorytmicznych, które zapewniają bezpieczne, przewidywalne i godne zaufania środowisko online.

 Łączymy metodologie z różnych dyscyplin, aby zintegrować perspektywy techniczne, etyczne, ekonomiczne, prawne i środowiskowe.

 Współpracujemy z międzynarodową społecznością naukowców i praktyków w odpowiednich dyscyplinach, w tym w środowisku akademickim, przemyśle, społeczeństwie obywatelskim i administracji publicznej.

Jak pracujemy

ECAT jest zarządzany w ścisłej współpracy z DG CONNECT i Wspólnym Centrum Badawczym Komisji Europejskiej. Oprócz własnego personelu ECAT korzysta z wiedzy kolegów i ekspertów zewnętrznych. Ponadto zespół naukowców i praktyków z instytucji zewnętrznych będzie wnosił wkład w prace Centrum. Międzynarodowa sieć zainteresowanych stron (państwa członkowskie UE, środowisko naukowe, niezależni audytorzy, przedstawiciele i praktycy branży, społeczeństwo obywatelskie) zagwarantuje szerokie, zbiorowe podejście. 

Kontakt

Poczta: ECAT WE

Kontekst

Systemyalgorytmiczne służą do identyfikacji, kategoryzacji, rankingu, sugerowania i prezentowania informacji użytkownikom. Systemy te w coraz większym stopniu wspomagają, wpływają i często zastępują ludzi w procesach decyzyjnych. 

Akt o usługach cyfrowych będzie wymagał, aby VLOP i VLOSE działające w Unii Europejskiej identyfikowały, analizowały i oceniały pewne ryzyko systemowe wynikające z projektowania i funkcjonowania ich usług i powiązanych systemów, w tym systemów algorytmicznych. Ponadto muszą zobowiązać się do przeciwdziałania zidentyfikowanym zagrożeniom, bezpośrednio lub pośrednio związanym z funkcjonowaniem stosowanego systemu algorytmicznego.

Oprócz roli nadzorczej Komisji takie oceny ryzyka i wszelkie towarzyszące im środki ograniczające ryzyko będą podlegać niezależnemu audytowi zewnętrznemu i nadzorowi ze strony naukowców i społeczeństwa obywatelskiego.