Σύμφωνα με τις κατευθυντήριες γραμμές, η αξιόπιστη ΤΝ θα πρέπει:
(1) νόμιμη — τήρηση όλων των εφαρμοστέων νόμων και κανονισμών
(2) δεοντολογικός — σεβασμός των δεοντολογικών αρχών και αξιών
(3) ισχυρά — και τα δύο από τεχνική άποψη, λαμβάνοντας παράλληλα υπόψη το κοινωνικό τους περιβάλλον
Τηλεφορτώστε τις κατευθυντήριες γραμμές στη γλώσσα σας παρακάτω:
BG | CS | DE | DA | EL | EN | ES | ET | FI | FR | HR | HU | IT | LT | LV | MT | NL | PL | PT | RO | SK | SL | SV
Οι κατευθυντήριες γραμμές προτείνουν ένα σύνολο 7 βασικών απαιτήσεων που θα πρέπει να πληρούν τα συστήματα ΤΝ προκειμένου να θεωρούνται αξιόπιστα. Σκοπός του ειδικού καταλόγου αξιολόγησης είναι να συμβάλει στην επαλήθευση της εφαρμογής καθεμιάς από τις βασικές απαιτήσεις:
- Ανθρώπινη παρέμβαση και εποπτεία: Τα συστήματα ΤΝ θα πρέπει να ενδυναμώνουν τους ανθρώπους, επιτρέποντάς τους να λαμβάνουν τεκμηριωμένες αποφάσεις και να προωθούν τα θεμελιώδη δικαιώματά τους. Ταυτόχρονα, πρέπει να εξασφαλιστούν κατάλληλοι μηχανισμοί εποπτείας, οι οποίοι μπορούν να επιτευχθούν μέσω προσεγγίσεων «human in-the-loop», «human on-on-op» και «man-in-board».
- Τεχνική ευρωστία και ασφάλεια: Τα συστήματα ΤΝ πρέπει να είναι ανθεκτικά και ασφαλή. Πρέπει να είναι ασφαλείς, να διασφαλίζουν ένα εφεδρικό σχέδιο σε περίπτωση που κάτι πάει πρόβλημα, καθώς και να είναι ακριβείς, αξιόπιστες και αναπαραγώγιμες. Αυτός είναι ο μόνος τρόπος για να διασφαλιστεί ότι και οι ακούσιες βλάβες μπορούν να ελαχιστοποιηθούν και να προληφθούν.
- Ιδιωτικότητα και διακυβέρνηση των δεδομένων: εκτός από τη διασφάλιση του πλήρους σεβασμού της ιδιωτικής ζωής και της προστασίας των δεδομένων, πρέπει επίσης να εξασφαλιστούν κατάλληλοι μηχανισμοί διακυβέρνησης των δεδομένων, λαμβάνοντας υπόψη την ποιότητα και την ακεραιότητα των δεδομένων και διασφαλίζοντας τη νομιμοποιημένη πρόσβαση στα δεδομένα.
- Διαφάνεια: τα δεδομένα, το σύστημα και τα επιχειρηματικά μοντέλα ΤΝ θα πρέπει να είναι διαφανή. Οι μηχανισμοί ιχνηλασιμότητας μπορούν να συμβάλουν στην επίτευξη αυτού του στόχου. Επιπλέον, τα συστήματα ΤΝ και οι αποφάσεις τους θα πρέπει να επεξηγούνται με τρόπο προσαρμοσμένο στα ενδιαφερόμενα μέρη. Οι άνθρωποι πρέπει να γνωρίζουν ότι αλληλεπιδρούν με ένα σύστημα ΤΝ και πρέπει να ενημερώνονται για τις ικανότητες και τους περιορισμούς του συστήματος.
- Διαφορετικότητα, απαγόρευση των διακρίσεων και δικαιοσύνη: Πρέπει να αποφευχθεί η αθέμιτη μεροληψία, καθώς θα μπορούσε να έχει πολλαπλές αρνητικές επιπτώσεις, από την περιθωριοποίηση των ευάλωτων ομάδων έως την επιδείνωση των προκαταλήψεων και των διακρίσεων. Προωθώντας την πολυμορφία, τα συστήματα ΤΝ θα πρέπει να είναι προσβάσιμα σε όλους, ανεξάρτητα από οποιαδήποτε αναπηρία, και να εξασφαλίζουν τη συμμετοχή των σχετικών ενδιαφερόμενων μερών καθ’ όλη τη διάρκεια του κύκλου ζωής τους.
- Κοινωνιακή και περιβαλλοντική ευημερία: Τα συστήματα ΤΝ θα πρέπει να ωφελούν όλους τους ανθρώπους, συμπεριλαμβανομένων των μελλοντικών γενεών. Ως εκ τούτου, πρέπει να διασφαλιστεί ότι είναι βιώσιμες και φιλικές προς το περιβάλλον. Επιπλέον, θα πρέπει να λαμβάνουν υπόψη το περιβάλλον, συμπεριλαμβανομένων άλλων ζώντων όντων, και ο κοινωνικός και κοινωνικός αντίκτυπός τους θα πρέπει να εξετάζεται προσεκτικά.
- Λογοδοσία: Θα πρέπει να δημιουργηθούν μηχανισμοί μέσω των οποίων θα διασφαλίζεται η υπευθυνότητα και η λογοδοσία για τα συστήματα ΤΝ και τα αποτελέσματά τους. Η ελεγξιμότητα, η οποία καθιστά δυνατή την αξιολόγηση των αλγορίθμων, των δεδομένων και των διαδικασιών σχεδιασμού, διαδραματίζει καίριο ρόλο σε αυτό, ιδίως σε κρίσιμες εφαρμογές. Επιπλέον, θα πρέπει να διασφαλιστεί επαρκής και προσβάσιμη έννομη προστασία.
Η ΟΕΥΕ για την ΤΝ εκπόνησε επίσης έγγραφο στο οποίο αναλύεται ο ορισμός της τεχνητής νοημοσύνης που χρησιμοποιείται για τους σκοπούς των κατευθυντήριων γραμμών.
Τηλεφορτώστε τον ορισμό της ΤΝ στη γλώσσα σας παρακάτω:
BG | CS | DE | DA | EL | EN | ES | ET | FI | FR | HR | HU | IT | LT | LV | MT | NL | PL | PT | RO | SK | SL | SV
Διαδικασία πιλοτικής εφαρμογής
Το έγγραφο παρέχει επίσης κατάλογο αξιολόγησης που υλοποιεί τις βασικές απαιτήσεις και παρέχει καθοδήγηση για την εφαρμογή τους στην πράξη. Αρχής γενομένης από την 26 Ιουνίου, ο εν λόγω κατάλογος αξιολόγησης υποβλήθηκε σε πιλοτική διαδικασία, στο πλαίσιο της οποίας όλα τα ενδιαφερόμενα μέρη κλήθηκαν να δοκιμάσουν τον κατάλογο αξιολόγησης και να παράσχουν πρακτικές παρατηρήσεις σχετικά με τον τρόπο με τον οποίο μπορεί να βελτιωθεί.
Ελήφθησαν παρατηρήσεις μέσω διαφόρων αξόνων:
- Αποστολή ανοικτής έρευνας ή «ποσοτικής ανάλυσης» σε όλους τους εγγεγραμμένους στην πιλοτική εφαρμογή
- Διεξοδικές συνεντεύξεις με ορισμένες αντιπροσωπευτικές οργανώσεις για τη συγκέντρωση λεπτομερέστερων σχολίων για διάφορους τομείς
- Συνεχής δυνατότητα αναφόρτωσης παρατηρήσεων και βέλτιστων πρακτικών μέσω της Ευρωπαϊκής Συμμαχίας για την ΤΝ
Η πιλοτική φάση ολοκληρώθηκε στις 1 Δεκεμβρίου 2019
Με βάση τις παρατηρήσεις που ελήφθησαν, η ΟΕΥΕ για την ΤΝ παρουσίασε τον τελικό κατάλογο αξιολόγησης για αξιόπιστη ΤΝ (ALTAI) τον Ιούλιο του 2020. Το Altai είναι πρακτικό εργαλείο που μεταφράζει τις κατευθυντήριες γραμμές δεοντολογίας σε έναν προσβάσιμο και δυναμικό κατάλογο ελέγχου (αυτοαξιολόγησης). Ο κατάλογος ελέγχου μπορεί να χρησιμοποιηθεί από προγραμματιστές και φορείς εφαρμογής ΤΝ που επιθυμούν να εφαρμόσουν τις βασικές απαιτήσεις στην πράξη. Ο νέος αυτός κατάλογος είναι διαθέσιμος ως πρωτότυπο διαδικτυακό εργαλείο και σε μορφότυπο PDF.