Skip to main content
Shaping Europe’s digital future

Πρόταση κανονιστικού πλαισίου για την τεχνητή νοημοσύνη

Η Επιτροπή προτείνει το πρώτο νομικό πλαίσιο για την ΤΝ, το οποίο αντιμετωπίζει τους κινδύνους της ΤΝ και τοποθετεί την Ευρώπη να διαδραματίσει ηγετικό ρόλο σε παγκόσμιο επίπεδο.

    ένας άνδρας και μια γυναίκα που εργάζονται σε μια οθόνη υψηλής τεχνολογίας

© gorodenkoff - iStock Getty Images Plus

Στόχος της κανονιστικής πρότασης είναι να παράσχει στους προγραμματιστές ΤΝ, στους φορείς υλοποίησης και στους χρήστες σαφείς απαιτήσεις και υποχρεώσεις όσον αφορά συγκεκριμένες χρήσεις της ΤΝ. Ταυτόχρονα, η πρόταση αποσκοπεί στη μείωση του διοικητικού και οικονομικού φόρτου για τις επιχειρήσεις, ιδίως τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ).

Η πρόταση αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων για την ΤΝ, η οποία περιλαμβάνει επίσης το επικαιροποιημένο συντονισμένο σχέδιο για την ΤΝ. Από κοινού, το κανονιστικό πλαίσιο και το συντονισμένο σχέδιο θα εγγυηθούν την ασφάλεια και τα θεμελιώδη δικαιώματα των ανθρώπων και των επιχειρήσεων όσον αφορά την ΤΝ. Και, θα ενισχύσουν την υιοθέτηση, τις επενδύσεις και την καινοτομία στην ΤΝ σε ολόκληρη την ΕΕ.

Γιατί χρειαζόμαστε κανόνες για την τεχνητή νοημοσύνη;

Ο προτεινόμενος κανονισμός για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ ενέχουν περιορισμένο κίνδυνο και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφευχθούν τα ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει μια απόφαση ή πρόβλεψη και έχει λάβει μια συγκεκριμένη δράση. Ως εκ τούτου, μπορεί να καταστεί δύσκολο να εκτιμηθεί αν κάποιος έχει περιέλθει σε αδικαιολόγητα μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για τη χορήγηση κοινωφελούς συστήματος.

Μολονότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να προκαλέσουν τα συστήματα ΤΝ.

Οι προτεινόμενοι κανόνες:

  • αντιμετώπιση των κινδύνων που δημιουργούνται ειδικά από εφαρμογές ΤΝ·
  • να προτείνει κατάλογο των αιτήσεων υψηλού κινδύνου·
  • καθορισμός σαφών απαιτήσεων για τα συστήματα ΤΝ για εφαρμογές υψηλού κινδύνου·
  • καθορισμός ειδικών υποχρεώσεων για τους χρήστες ΤΝ και τους παρόχους εφαρμογών υψηλού κινδύνου·
  • προτείνει αξιολόγηση της συμμόρφωσης πριν από τη θέση σε λειτουργία του συστήματος ΤΝ ή τη διάθεσή του στην αγορά·
  • να προτείνει την επιβολή της νομοθεσίας μετά τη διάθεση ενός τέτοιου συστήματος ΤΝ στην αγορά·
  • να προτείνει μια δομή διακυβέρνησης σε ευρωπαϊκό και εθνικό επίπεδο.

Μια προσέγγιση βάσει κινδύνου

πυραμίδα που δείχνει τα τέσσερα επίπεδα κινδύνου: Μη αποδεκτός κίνδυνος· Υψηλός κίνδυνος· περιορισμένος κίνδυνος, ελάχιστος ή μηδενικός κίνδυνος

Το κανονιστικό πλαίσιο ορίζει 4 επίπεδα κινδύνου στην ΤΝ:

  • Απαράδεκτος κίνδυνος
  • Υψηλός κίνδυνος
  • Περιορισμένος κίνδυνος
  • Ελάχιστος ή μηδενικός κίνδυνος

Απαράδεκτος κίνδυνος

Όλα τα συστήματα τεχνητής νοημοσύνης που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων θα απαγορευτούν, από την κοινωνική βαθμολόγηση από τις κυβερνήσεις μέχρι τα παιχνίδια που χρησιμοποιούν φωνητική βοήθεια που ενθαρρύνει την επικίνδυνη συμπεριφορά.

Υψηλός κίνδυνος

Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνουν την τεχνολογία ΤΝ που χρησιμοποιείται:

  • υποδομές ζωτικής σημασίας (π.χ. μεταφορές), οι οποίες θα μπορούσαν να θέσουν σε κίνδυνο τη ζωή και την υγεία των πολιτών·
  • εκπαιδευτική ή επαγγελματική κατάρτιση, η οποία μπορεί να καθορίσει την πρόσβαση στην εκπαίδευση και την επαγγελματική πορεία της ζωής κάποιου (π.χ. βαθμολόγηση των εξετάσεων)·
  • κατασκευαστικά στοιχεία ασφάλειας των προϊόντων (π.χ. εφαρμογή ΤΝ σε χειρουργική επέμβαση με τη βοήθεια ρομπότ)·
  • απασχόληση, διαχείριση των εργαζομένων και πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών για τις διαδικασίες πρόσληψης)·
  • βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστώσεων που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)·
  • επιβολή του νόμου που μπορεί να επηρεάσει τα θεμελιώδη δικαιώματα των ανθρώπων (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
  • διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. επαλήθευση της γνησιότητας των ταξιδιωτικών εγγράφων)·
  • απονομή δικαιοσύνης και δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

  • επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων·
  • υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα ώστε να ελαχιστοποιούνται οι κίνδυνοι και τα αποτελέσματα που εισάγουν διακρίσεις·
  • καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
  • λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό της για τις αρχές να αξιολογούν τη συμμόρφωσή του·
  • σαφείς και επαρκείς πληροφορίες για τον χρήστη·
  • κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
  • υψηλό επίπεδο αντοχής, ασφάλειας και ακρίβειας.

Όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Απαγορεύεται, κατ’ αρχήν, η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου.

Οι περιορισμένες εξαιρέσεις ορίζονται και ρυθμίζονται αυστηρά, όπως όταν είναι απαραίτητο για την αναζήτηση εξαφανισμένου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δραστών ή υπόπτων για σοβαρή αξιόποινη πράξη.

Η χρήση αυτή υπόκειται σε έγκριση από δικαστικό ή άλλο ανεξάρτητο φορέα και σε κατάλληλα χρονικά όρια, γεωγραφική εμβέλεια και τις βάσεις δεδομένων που αναζητούνται.

Περιορισμένος κίνδυνος

Ο περιορισμένος κίνδυνος αναφέρεται σε συστήματα ΤΝ με ειδικές υποχρεώσεις διαφάνειας. Όταν χρησιμοποιούν συστήματα ΤΝ, όπως τα chatbots, οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με ένα μηχάνημα, ώστε να μπορούν να λαμβάνουν τεκμηριωμένη απόφαση να συνεχίσουν ή να κάνουν πίσω.

Ελάχιστος ή μηδενικός κίνδυνος

Η πρόταση επιτρέπει την ελεύθερη χρήση της ΤΝ ελάχιστου κινδύνου. Αυτό περιλαμβάνει εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή φίλτρα ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν στην κατηγορία αυτή.

βήμα προς βήμα διαδικασία δήλωσης συμμόρφωσης
How does it all work in practice for providers of high risk AI systems?

Μόλις ένα σύστημα ΤΝ διατεθεί στην αγορά, οι αρχές είναι αρμόδιες για την εποπτεία της αγοράς, οι χρήστες διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι χρήστες θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μελλοντοστραφή νομοθεσία

Δεδομένου ότι η ΤΝ είναι μια ταχέως εξελισσόμενη τεχνολογία, η πρόταση έχει μια μακρόπνοη προσέγγιση, η οποία επιτρέπει την προσαρμογή των κανόνων στις τεχνολογικές αλλαγές. Οι εφαρμογές ΤΝ θα πρέπει να παραμένουν αξιόπιστες ακόμη και μετά τη διάθεσή τους στην αγορά. Αυτό απαιτεί συνεχή διαχείριση της ποιότητας και του κινδύνου από τους παρόχους.

Τα επόμενα βήματα

Μετά την πρόταση της Επιτροπής τον Απρίλιο του 2021, ο κανονισμός θα μπορούσε να τεθεί σε ισχύ στα τέλη του 2022/αρχές του 2023 σε μια μεταβατική περίοδο. Κατά την περίοδο αυτή, θα ανατεθούν και θα αναπτυχθούν πρότυπα, ενώ οι δομές διακυβέρνησης που θα δημιουργηθούν θα είναι λειτουργικές. Το δεύτερο εξάμηνο του 2024 είναι το νωρίτερο χρονικό διάστημα κατά το οποίο ο κανονισμός θα μπορούσε να εφαρμοστεί σε φορείς εκμετάλλευσης με τα πρότυπα έτοιμα και τις πρώτες αξιολογήσεις συμμόρφωσης που διενεργήθηκαν.

Ως πρόσθετη κανονιστική έκδοση της Λευκής Βίβλου για την ΤΝ, στις 28 Σεπτεμβρίου 2022 εκδόθηκε προτεινόμενη οδηγία για την ευθύνη της ΤΝ.

Τελευταια ΝΕΑ

PRESS RELEASE |
Το πρώτο Συμβούλιο Εμπορίου και Τεχνολογίας ΕΕ-Ινδίας επικεντρώθηκε στην εμβάθυνση της στρατηγικής δέσμευσης για το εμπόριο και την τεχνολογία

Η Ευρωπαϊκή Ένωση και η Ινδία πραγματοποίησαν σήμερα την πρώτη υπουργική σύνοδο του Συμβουλίου Εμπορίου και Τεχνολογίας (ΣΕΤ) στις Βρυξέλλες.

PRESS RELEASE |
1.3 δισ. ευρώ από το πρόγραμμα «Ψηφιακή Ευρώπη» για την ψηφιακή μετάβαση και την κυβερνοασφάλεια στην Ευρώπη

Σήμερα η Επιτροπή ενέκρινε δύο πολυετή προγράμματα εργασίας για το πρόγραμμα «Ψηφιακή Ευρώπη», στα οποία περιγράφονται οι στόχοι και οι συγκεκριμένοι θεματικοί τομείς που θα λάβουν χρηματοδότηση ύψους σχεδόν 1.3 δισ. EUR.

PRESS RELEASE |
ΕΕ-Ινδία: το νέο Συμβούλιο Εμπορίου και Τεχνολογίας θα ηγηθεί του ψηφιακού μετασχηματισμού, των πράσινων τεχνολογιών και του εμπορίου

Η Ευρωπαϊκή Ένωση και η Ινδία ενίσχυσαν τη σχέση τους ως στρατηγικών εταίρων με τη σύσταση νέου Συμβουλίου Εμπορίου και Τεχνολογίας (ΣΕΤ).

Σχετικό περιεχόμενο

Ευρύτερο πλαίσιο

Μια ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης

Η προσέγγιση της ΕΕ για την τεχνητή νοημοσύνη επικεντρώνεται στην αριστεία και την εμπιστοσύνη, με στόχο την ενίσχυση της ερευνητικής και βιομηχανικής ικανότητας, διασφαλίζοντας παράλληλα την ασφάλεια και τα θεμελιώδη δικαιώματα.

Βλ. επίσης

Συντονισμένο σχέδιο για την τεχνητή νοημοσύνη

Το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη έχει ως στόχο να επιταχύνει τις επενδύσεις στην ΤΝ, να ενεργήσει σε στρατηγικές και προγράμματα για την ΤΝ και να ευθυγραμμίσει την πολιτική για την ΤΝ ώστε να αποφευχθεί ο κατακερματισμός στην Ευρώπη.

Ευρωπαϊκή Συμμαχία για την ΤΝ

Η Ευρωπαϊκή Συμμαχία για την ΤΝ είναι μια πρωτοβουλία της Ευρωπαϊκής Επιτροπής για την καθιέρωση ανοικτού διαλόγου πολιτικής για την τεχνητή νοημοσύνη. Από την έναρξή της το 2018, η Συμμαχία για την ΤΝ έχει δεσμεύσει περίπου 6.000 ενδιαφερόμενα μέρη μέσω τακτικών εκδηλώσεων...