Ευρωπαϊκό Κέντρο Αλγοριθμικής Διαφάνειας

Τα αλγοριθμικά συστήματα καθορίζουν πολλές πτυχές της online εμπειρίας μας, για παράδειγμα, μια εφαρμογή ροής μουσικής μπορεί να χρησιμοποιεί αλγόριθμους για να προτείνει τραγούδια ή ζώνες στους χρήστες της. Με τον ολοένα αυξανόμενο κοινωνικό αντίκτυπο των επιγραμμικών πλατφορμών, όπως τα κοινωνικά δίκτυα, οι επιγραμμικές αγορές και οι μηχανές αναζήτησης, υπάρχει επείγουσα ανάγκη δημόσιας εποπτείας των διαδικασιών που βρίσκονται στον πυρήνα της επιχείρησής τους. Αυτό περιλαμβάνει ιδίως τον τρόπο με τον οποίο αυτές οι πλατφόρμες και οι μηχανές αναζήτησης μετριάζουν το περιεχόμενο και τον τρόπο με τον οποίο επεξεργάζονται πληροφορίες για τους χρήστες τους.

Αποστολή

Το Ευρωπαϊκό Κέντρο για την Αλγοριθμική Διαφάνεια (ECAT) θα συμβάλει σε ένα ασφαλέστερο, πιο προβλέψιμο και αξιόπιστο επιγραμμικό περιβάλλον για τους ανθρώπους και τις επιχειρήσεις.

Ο τρόπος με τον οποίο τα αλγοριθμικά συστήματα διαμορφώνουν την προβολή και την προώθηση του περιεχομένου, καθώς και ο κοινωνικός και ηθικός αντίκτυπος αυτού, είναι ένας τομέας αυξανόμενης ανησυχίας. Τα μέτρα που εγκρίθηκαν στο πλαίσιο του νόμου για τις ψηφιακές υπηρεσίες (DSA) απαιτούν αλγοριθμικούς ελέγχους λογοδοσίας και διαφάνειας.

Το ECAT αποτελεί μέρος της Ευρωπαϊκής Επιτροπής, το οποίο φιλοξενείται από το Κοινό Κέντρο Ερευνών ( JRC) -την εσωτερική υπηρεσία επιστήμης και γνώσης της Επιτροπής- σε στενή συνεργασία με τηΓενική Διεύθυνση Επικοινωνιακών Δικτύων, Περιεχομένου και Τεχνολογίας (ΓΔ CONNECT). Συνεισφέρει επιστημονική και τεχνική εμπειρογνωμοσύνη στον αποκλειστικό εποπτικό και εκτελεστικό ρόλο της Επιτροπής όσον αφορά τις συστημικές υποχρεώσεις για τις πολύ μεγάλες επιγραμμικές πλατφόρμες (VLOP) και τις πολύ μεγάλες επιγραμμικές μηχανές αναζήτησης (VLOSE) που προβλέπονται στο πλαίσιο της πράξης για τις ψηφιακές υπηρεσίες.

Οι επιστήμονες και οι εμπειρογνώμονες που εργάζονται στο ECAT θα συνεργαστούν με εκπροσώπους της βιομηχανίας, της ακαδημαϊκής κοινότητας και των οργανώσεων της κοινωνίας των πολιτών για τη βελτίωση της κατανόησης του τρόπου λειτουργίας των αλγορίθμων: θα αναλύσουν τη διαφάνεια, θα αξιολογήσουν τους κινδύνους και θα προτείνουν νέες διαφανείς προσεγγίσεις και βέλτιστες πρακτικές.

Τι κάνουμε

Τεχνική υποστήριξη

Τεχνικές δοκιμές αλγοριθμικών συστημάτων για την καλύτερη κατανόηση της λειτουργίας τους· ανάλυση των εκθέσεων διαφάνειας, των εκτιμήσεων κινδύνου και των ανεξάρτητων ελέγχων· υποστήριξη των ερευνών, όπως οι επιθεωρήσεις· καθορισμός των σχετικών διαδικασιών για τη διασφάλιση της πρόσβασης των ρυθμιστικών αρχών και των ερευνητών στα δεδομένα.

Επιστημονική έρευνα και πρόβλεψη

Τον εντοπισμό και τη μέτρηση των συστημικών κινδύνων που συνδέονται με τις VLOP και τις VLOSE, την αξιολόγηση των μέτρων μετριασμού του κινδύνου, την πρόταση πρακτικών μεθοδολογιών για διαφανείς και υπεύθυνες αλγοριθμικές προσεγγίσεις· μελέτη του μακροπρόθεσμου κοινωνικού αντικτύπου των αλγορίθμων· προσδιορισμός των αναδυόμενων κινδύνων που συνδέονται με τη χρήση VLOP και VLOSE.

Δικτύωση και δημιουργία κοινοτήτων

Σε διεθνές επίπεδο, συγκέντρωση γνώσεων σε ολόκληρο τον κόσμο, ανταλλαγή των κύριων επιστημονικών ευρημάτων και βέλτιστων πρακτικών για μελέτες που βασίζονται σε δεδομένα στον τομέα αυτό· ενεργεί ως κόμβος γνώσης για την έρευνα που διεξάγεται χάρη στην πρόσβαση σε δεδομένα που παρέχονται από την DSA.

Θέματα

• Αλγοριθμική διαφάνεια
• Συστήματα συστάσεων, ανάκτηση πληροφοριών, μηχανές αναζήτησης
• Δικαιοσύνη, λογοδοσία και διαφάνεια
• Δεοντολογικός, οικονομικός, νομικός και κοινωνικός αντίκτυπος
• Εκτίμηση κινδύνων και μέτρα μετριασμού του κινδύνου
• Θεμελιώδη δικαιώματα

Η προσέγγισή μας

Η προσέγγισή μας εφαρμόζεται, διεπιστημονική και χωρίς αποκλεισμούς.

Η αποστολή μας είναι να παρέχουμε τεχνική βοήθεια και πρακτική καθοδήγηση για διαφανή και αξιόπιστα αλγοριθμικά συστήματα που εξασφαλίζουν ένα ασφαλές, προβλέψιμο και αξιόπιστο διαδικτυακό περιβάλλον.

Συνδυάζουμε μεθοδολογίες από διαφορετικούς κλάδους για να ενσωματώσουμε τεχνικές, ηθικές, οικονομικές, νομικές και περιβαλλοντικές προοπτικές.

Συνεργαζόμαστε με τη διεθνή κοινότητα ερευνητών και επαγγελματιών σε σχετικούς κλάδους, συμπεριλαμβανομένης της ακαδημαϊκής κοινότητας, της βιομηχανίας, της κοινωνίας των πολιτών και της δημόσιας διοίκησης.

Πώς δουλεύουμε

Η διαχείριση της ECAT πραγματοποιείται σε στενή συνεργασία με τη ΓΔ CONNECT και το Κοινό Κέντρο Ερευνών της Ευρωπαϊκής Επιτροπής. Εκτός από το προσωπικό της, η ECAT αξιοποιεί τις γνώσεις των υποτρόφων και των εξωτερικών εμπειρογνωμόνων. Επιπλέον, μια ομάδα ερευνητών και επαγγελματιών από εξωτερικά ιδρύματα θα συμβάλει στο έργο του Κέντρου. Ένα διεθνές δίκτυο ενδιαφερόμενων μερών (κράτη μέλη της ΕΕ, ερευνητική κοινότητα, ανεξάρτητοι ελεγκτές, εκπρόσωποι του κλάδου και επαγγελματίες, κοινωνία των πολιτών) θα εγγυηθεί μια ευρεία συλλογική προσέγγιση.

Επικοινωνία

Ταχυδρομείο: ECAT

Πλαίσιο

Τα αλγοριτιμικά συστήματα χρησιμοποιούνται για τον εντοπισμό, την κατηγοριοποίηση, την κατάταξη, την πρόταση και την παρουσίαση πληροφοριών στους χρήστες. Αυτά τα συστήματα όλο και περισσότερο βοηθούν, επηρεάζουν και συχνά αντικαθιστούν τους ανθρώπους στις διαδικασίες λήψης αποφάσεων.

Η πράξη για τις ψηφιακές υπηρεσίες θα απαιτήσει από τα VLOP και τα VLOSE που δραστηριοποιούνται στην Ευρωπαϊκή Ένωση να εντοπίζουν, να αναλύουν και να αξιολογούν ορισμένους συστημικούς κινδύνους που απορρέουν από τον σχεδιασμό και τη λειτουργία των υπηρεσιών τους και των συναφών συστημάτων τους, συμπεριλαμβανομένων των αλγοριθμικών συστημάτων. Επιπλέον, πρέπει να δεσμευτούν για την αντιμετώπιση των εντοπισθέντων κινδύνων που σχετίζονται άμεσα ή έμμεσα με τη λειτουργία του χρησιμοποιούμενου αλγοριθμικού συστήματος.

Εκτός από τον εποπτικό ρόλο της Επιτροπής, οι εν λόγω εκτιμήσεις κινδύνου και τυχόν συνοδευτικά μέτρα μετριασμού θα υπόκεινται σε εξωτερικό ανεξάρτητο έλεγχο και εποπτεία από ερευνητές και την κοινωνία των πολιτών.