Πρόταση κανονιστικού πλαισίου για την τεχνητή νοημοσύνη

Στόχος της κανονιστικής πρότασης είναι να παράσχει στους προγραμματιστές ΤΝ, στους φορείς υλοποίησης και στους χρήστες σαφείς απαιτήσεις και υποχρεώσεις όσον αφορά συγκεκριμένες χρήσεις της ΤΝ. Ταυτόχρονα, η πρόταση αποσκοπεί στη μείωση του διοικητικού και οικονομικού φόρτου για τις επιχειρήσεις, ιδίως τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ).

Η πρόταση αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων για την ΤΝ, η οποία περιλαμβάνει επίσης το επικαιροποιημένο συντονισμένο σχέδιο για την ΤΝ. Από κοινού, το κανονιστικό πλαίσιο και το συντονισμένο σχέδιο θα εγγυηθούν την ασφάλεια και τα θεμελιώδη δικαιώματα των ανθρώπων και των επιχειρήσεων όσον αφορά την ΤΝ. Και, θα ενισχύσουν την υιοθέτηση, τις επενδύσεις και την καινοτομία στην ΤΝ σε ολόκληρη την ΕΕ.

Γιατί χρειαζόμαστε κανόνες για την τεχνητή νοημοσύνη;

Ο προτεινόμενος κανονισμός για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ ενέχουν περιορισμένο κίνδυνο και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφευχθούν τα ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει μια απόφαση ή πρόβλεψη και έχει λάβει μια συγκεκριμένη δράση. Ως εκ τούτου, μπορεί να καταστεί δύσκολο να εκτιμηθεί αν κάποιος έχει περιέλθει σε αδικαιολόγητα μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για τη χορήγηση κοινωφελούς συστήματος.

Μολονότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να προκαλέσουν τα συστήματα ΤΝ.

Οι προτεινόμενοι κανόνες:

• αντιμετώπιση των κινδύνων που δημιουργούνται ειδικά από εφαρμογές ΤΝ·
• να προτείνει κατάλογο των αιτήσεων υψηλού κινδύνου·
• καθορισμός σαφών απαιτήσεων για τα συστήματα ΤΝ για εφαρμογές υψηλού κινδύνου·
• καθορισμός ειδικών υποχρεώσεων για τους χρήστες ΤΝ και τους παρόχους εφαρμογών υψηλού κινδύνου·
• προτείνει αξιολόγηση της συμμόρφωσης πριν από τη θέση σε λειτουργία του συστήματος ΤΝ ή τη διάθεσή του στην αγορά·
• να προτείνει την επιβολή της νομοθεσίας μετά τη διάθεση ενός τέτοιου συστήματος ΤΝ στην αγορά·
• να προτείνει μια δομή διακυβέρνησης σε ευρωπαϊκό και εθνικό επίπεδο.

Μια προσέγγιση βάσει κινδύνου

Το κανονιστικό πλαίσιο ορίζει 4 επίπεδα κινδύνου στην ΤΝ:

• Απαράδεκτος κίνδυνος
• Υψηλός κίνδυνος
• Περιορισμένος κίνδυνος
• Ελάχιστος ή μηδενικός κίνδυνος

Απαράδεκτος κίνδυνος

Όλα τα συστήματα τεχνητής νοημοσύνης που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων θα απαγορευτούν, από την κοινωνική βαθμολόγηση από τις κυβερνήσεις μέχρι τα παιχνίδια που χρησιμοποιούν φωνητική βοήθεια που ενθαρρύνει την επικίνδυνη συμπεριφορά.

Υψηλός κίνδυνος

Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνουν την τεχνολογία ΤΝ που χρησιμοποιείται:

• υποδομές ζωτικής σημασίας (π.χ. μεταφορές), οι οποίες θα μπορούσαν να θέσουν σε κίνδυνο τη ζωή και την υγεία των πολιτών·
• εκπαιδευτική ή επαγγελματική κατάρτιση, η οποία μπορεί να καθορίσει την πρόσβαση στην εκπαίδευση και την επαγγελματική πορεία της ζωής κάποιου (π.χ. βαθμολόγηση των εξετάσεων)·
• κατασκευαστικά στοιχεία ασφάλειας των προϊόντων (π.χ. εφαρμογή ΤΝ σε χειρουργική επέμβαση με τη βοήθεια ρομπότ)·
• απασχόληση, διαχείριση των εργαζομένων και πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών για τις διαδικασίες πρόσληψης)·
• βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστώσεων που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)·
• επιβολή του νόμου που μπορεί να επηρεάσει τα θεμελιώδη δικαιώματα των ανθρώπων (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
• διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. επαλήθευση της γνησιότητας των ταξιδιωτικών εγγράφων)·
• απονομή δικαιοσύνης και δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

• επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων·
• υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα ώστε να ελαχιστοποιούνται οι κίνδυνοι και τα αποτελέσματα που εισάγουν διακρίσεις·
• καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
• λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό της για τις αρχές να αξιολογούν τη συμμόρφωσή του·
• σαφείς και επαρκείς πληροφορίες για τον χρήστη·
• κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
• υψηλό επίπεδο αντοχής, ασφάλειας και ακρίβειας.

Όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Απαγορεύεται, κατ’ αρχήν, η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου.

Οι περιορισμένες εξαιρέσεις ορίζονται και ρυθμίζονται αυστηρά, όπως όταν είναι απαραίτητο για την αναζήτηση εξαφανισμένου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δραστών ή υπόπτων για σοβαρή αξιόποινη πράξη.

Η χρήση αυτή υπόκειται σε έγκριση από δικαστικό ή άλλο ανεξάρτητο φορέα και σε κατάλληλα χρονικά όρια, γεωγραφική εμβέλεια και τις βάσεις δεδομένων που αναζητούνται.

Περιορισμένος κίνδυνος

Ο περιορισμένος κίνδυνος αναφέρεται σε συστήματα ΤΝ με ειδικές υποχρεώσεις διαφάνειας. Όταν χρησιμοποιούν συστήματα ΤΝ, όπως τα chatbots, οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με ένα μηχάνημα, ώστε να μπορούν να λαμβάνουν τεκμηριωμένη απόφαση να συνεχίσουν ή να κάνουν πίσω.

Ελάχιστος ή μηδενικός κίνδυνος

Η πρόταση επιτρέπει την ελεύθερη χρήση της ΤΝ ελάχιστου κινδύνου. Αυτό περιλαμβάνει εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή φίλτρα ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν στην κατηγορία αυτή.

Μόλις ένα σύστημα ΤΝ διατεθεί στην αγορά, οι αρχές είναι αρμόδιες για την εποπτεία της αγοράς, οι χρήστες διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι χρήστες θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μελλοντοστραφή νομοθεσία

Δεδομένου ότι η ΤΝ είναι μια ταχέως εξελισσόμενη τεχνολογία, η πρόταση έχει μια μακρόπνοη προσέγγιση, η οποία επιτρέπει την προσαρμογή των κανόνων στις τεχνολογικές αλλαγές. Οι εφαρμογές ΤΝ θα πρέπει να παραμένουν αξιόπιστες ακόμη και μετά τη διάθεσή τους στην αγορά. Αυτό απαιτεί συνεχή διαχείριση της ποιότητας και του κινδύνου από τους παρόχους.

Τα επόμενα βήματα

Μετά την πρόταση της Επιτροπής τον Απρίλιο του 2021, ο κανονισμός θα μπορούσε να τεθεί σε ισχύ στα τέλη του 2022/αρχές του 2023 σε μια μεταβατική περίοδο. Κατά την περίοδο αυτή, θα ανατεθούν και θα αναπτυχθούν πρότυπα, ενώ οι δομές διακυβέρνησης που θα δημιουργηθούν θα είναι λειτουργικές. Το δεύτερο εξάμηνο του 2024 είναι το νωρίτερο χρονικό διάστημα κατά το οποίο ο κανονισμός θα μπορούσε να εφαρμοστεί σε φορείς εκμετάλλευσης με τα πρότυπα έτοιμα και τις πρώτες αξιολογήσεις συμμόρφωσης που διενεργήθηκαν.