Skip to main content
Shaping Europe’s digital future

Πρόταση κανονιστικού πλαισίου για την τεχνητή νοημοσύνη

Η Επιτροπή προτείνει το πρώτο νομικό πλαίσιο για την ΤΝ, το οποίο αντιμετωπίζει τους κινδύνους της ΤΝ και τοποθετεί την Ευρώπη να διαδραματίσει ηγετικό ρόλο σε παγκόσμιο επίπεδο.

    ένας άνδρας και μια γυναίκα που εργάζονται σε μια οθόνη υψηλής τεχνολογίας

© gorodenkoff - iStock Getty Images Plus

Στόχος της κανονιστικής πρότασης είναι να παράσχει στους προγραμματιστές ΤΝ, στους φορείς υλοποίησης και στους χρήστες σαφείς απαιτήσεις και υποχρεώσεις όσον αφορά συγκεκριμένες χρήσεις της ΤΝ. Ταυτόχρονα, η πρόταση αποσκοπεί στη μείωση του διοικητικού και οικονομικού φόρτου για τις επιχειρήσεις, ιδίως τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ).

Η πρόταση αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων για την ΤΝ, η οποία περιλαμβάνει επίσης το επικαιροποιημένο συντονισμένο σχέδιο για την ΤΝ. Από κοινού, το κανονιστικό πλαίσιο και το συντονισμένο σχέδιο θα εγγυηθούν την ασφάλεια και τα θεμελιώδη δικαιώματα των ανθρώπων και των επιχειρήσεων όσον αφορά την ΤΝ. Και, θα ενισχύσουν την υιοθέτηση, τις επενδύσεις και την καινοτομία στην ΤΝ σε ολόκληρη την ΕΕ.

Γιατί χρειαζόμαστε κανόνες για την τεχνητή νοημοσύνη;

Ο προτεινόμενος κανονισμός για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ ενέχουν περιορισμένο κίνδυνο και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφευχθούν τα ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει μια απόφαση ή πρόβλεψη και έχει λάβει μια συγκεκριμένη δράση. Ως εκ τούτου, μπορεί να καταστεί δύσκολο να εκτιμηθεί αν κάποιος έχει περιέλθει σε αδικαιολόγητα μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για τη χορήγηση κοινωφελούς συστήματος.

Μολονότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να προκαλέσουν τα συστήματα ΤΝ.

Οι προτεινόμενοι κανόνες:

  • αντιμετώπιση των κινδύνων που δημιουργούνται ειδικά από εφαρμογές ΤΝ·
  • να προτείνει κατάλογο των αιτήσεων υψηλού κινδύνου·
  • καθορισμός σαφών απαιτήσεων για τα συστήματα ΤΝ για εφαρμογές υψηλού κινδύνου·
  • καθορισμός ειδικών υποχρεώσεων για τους χρήστες ΤΝ και τους παρόχους εφαρμογών υψηλού κινδύνου·
  • προτείνει αξιολόγηση της συμμόρφωσης πριν από τη θέση σε λειτουργία του συστήματος ΤΝ ή τη διάθεσή του στην αγορά·
  • να προτείνει την επιβολή της νομοθεσίας μετά τη διάθεση ενός τέτοιου συστήματος ΤΝ στην αγορά·
  • να προτείνει μια δομή διακυβέρνησης σε ευρωπαϊκό και εθνικό επίπεδο.

Μια προσέγγιση βάσει κινδύνου

πυραμίδα που δείχνει τα τέσσερα επίπεδα κινδύνου: Μη αποδεκτός κίνδυνος· Υψηλός κίνδυνος· περιορισμένος κίνδυνος, ελάχιστος ή μηδενικός κίνδυνος

Το κανονιστικό πλαίσιο ορίζει 4 επίπεδα κινδύνου στην ΤΝ:

  • Απαράδεκτος κίνδυνος
  • Υψηλός κίνδυνος
  • Περιορισμένος κίνδυνος
  • Ελάχιστος ή μηδενικός κίνδυνος

Απαράδεκτος κίνδυνος

Όλα τα συστήματα τεχνητής νοημοσύνης που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων θα απαγορευτούν, από την κοινωνική βαθμολόγηση από τις κυβερνήσεις μέχρι τα παιχνίδια που χρησιμοποιούν φωνητική βοήθεια που ενθαρρύνει την επικίνδυνη συμπεριφορά.

Υψηλός κίνδυνος

Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνουν την τεχνολογία ΤΝ που χρησιμοποιείται:

  • υποδομές ζωτικής σημασίας (π.χ. μεταφορές), οι οποίες θα μπορούσαν να θέσουν σε κίνδυνο τη ζωή και την υγεία των πολιτών·
  • εκπαιδευτική ή επαγγελματική κατάρτιση, η οποία μπορεί να καθορίσει την πρόσβαση στην εκπαίδευση και την επαγγελματική πορεία της ζωής κάποιου (π.χ. βαθμολόγηση των εξετάσεων)·
  • κατασκευαστικά στοιχεία ασφάλειας των προϊόντων (π.χ. εφαρμογή ΤΝ σε χειρουργική επέμβαση με τη βοήθεια ρομπότ)·
  • απασχόληση, διαχείριση των εργαζομένων και πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών για τις διαδικασίες πρόσληψης)·
  • βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστώσεων που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)·
  • επιβολή του νόμου που μπορεί να επηρεάσει τα θεμελιώδη δικαιώματα των ανθρώπων (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
  • διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. επαλήθευση της γνησιότητας των ταξιδιωτικών εγγράφων)·
  • απονομή δικαιοσύνης και δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

  • επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων·
  • υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα ώστε να ελαχιστοποιούνται οι κίνδυνοι και τα αποτελέσματα που εισάγουν διακρίσεις·
  • καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
  • λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό της για τις αρχές να αξιολογούν τη συμμόρφωσή του·
  • σαφείς και επαρκείς πληροφορίες για τον χρήστη·
  • κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
  • υψηλό επίπεδο αντοχής, ασφάλειας και ακρίβειας.

Όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Απαγορεύεται, κατ’ αρχήν, η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου.

Οι περιορισμένες εξαιρέσεις ορίζονται και ρυθμίζονται αυστηρά, όπως όταν είναι απαραίτητο για την αναζήτηση εξαφανισμένου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δραστών ή υπόπτων για σοβαρή αξιόποινη πράξη.

Η χρήση αυτή υπόκειται σε έγκριση από δικαστικό ή άλλο ανεξάρτητο φορέα και σε κατάλληλα χρονικά όρια, γεωγραφική εμβέλεια και τις βάσεις δεδομένων που αναζητούνται.

Περιορισμένος κίνδυνος

Ο περιορισμένος κίνδυνος αναφέρεται σε συστήματα ΤΝ με ειδικές υποχρεώσεις διαφάνειας. Όταν χρησιμοποιούν συστήματα ΤΝ, όπως τα chatbots, οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με ένα μηχάνημα, ώστε να μπορούν να λαμβάνουν τεκμηριωμένη απόφαση να συνεχίσουν ή να κάνουν πίσω.

Ελάχιστος ή μηδενικός κίνδυνος

Η πρόταση επιτρέπει την ελεύθερη χρήση της ΤΝ ελάχιστου κινδύνου. Αυτό περιλαμβάνει εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή φίλτρα ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν στην κατηγορία αυτή.

βήμα προς βήμα διαδικασία δήλωσης συμμόρφωσης
How does it all work in practice for providers of high risk AI systems?

Μόλις ένα σύστημα ΤΝ διατεθεί στην αγορά, οι αρχές είναι αρμόδιες για την εποπτεία της αγοράς, οι χρήστες διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι χρήστες θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μελλοντοστραφή νομοθεσία

Δεδομένου ότι η ΤΝ είναι μια ταχέως εξελισσόμενη τεχνολογία, η πρόταση έχει μια μακρόπνοη προσέγγιση, η οποία επιτρέπει την προσαρμογή των κανόνων στις τεχνολογικές αλλαγές. Οι εφαρμογές ΤΝ θα πρέπει να παραμένουν αξιόπιστες ακόμη και μετά τη διάθεσή τους στην αγορά. Αυτό απαιτεί συνεχή διαχείριση της ποιότητας και του κινδύνου από τους παρόχους.

Τα επόμενα βήματα

Μετά την πρόταση της Επιτροπής τον Απρίλιο του 2021, ο κανονισμός θα μπορούσε να τεθεί σε ισχύ στα τέλη του 2022/αρχές του 2023 σε μια μεταβατική περίοδο. Κατά την περίοδο αυτή, θα ανατεθούν και θα αναπτυχθούν πρότυπα, ενώ οι δομές διακυβέρνησης που θα δημιουργηθούν θα είναι λειτουργικές. Το δεύτερο εξάμηνο του 2024 είναι το νωρίτερο χρονικό διάστημα κατά το οποίο ο κανονισμός θα μπορούσε να εφαρμοστεί σε φορείς εκμετάλλευσης με τα πρότυπα έτοιμα και τις πρώτες αξιολογήσεις συμμόρφωσης που διενεργήθηκαν.

Ως πρόσθετη κανονιστική έκδοση της Λευκής Βίβλου για την ΤΝ, στις 28 Σεπτεμβρίου 2022 εκδόθηκε προτεινόμενη οδηγία για την ευθύνη της ΤΝ.

Τελευταια ΝΕΑ

PRESS RELEASE |
Ευρωπαϊκό σχέδιο για την καταπολέμηση του καρκίνου: Δρομολόγηση της ευρωπαϊκής πρωτοβουλίας απεικόνισης του καρκίνου

Σήμερα, σε εκδήλωση στις Βρυξέλλες, η Επιτροπή εγκαινιάζει την ευρωπαϊκή πρωτοβουλία απεικόνισης του καρκίνου για τη στήριξη των παρόχων υγειονομικής περίθαλψης, των ερευνητικών ιδρυμάτων και των φορέων καινοτομίας για τη βέλτιστη χρήση καινοτόμων λύσεων που βασίζονται σε δεδομένα για τη θεραπεία και την περίθαλψη του καρκίνου.

PRESS RELEASE |
Ξεκινά ο πρώτος κύκλος συνεργασίας και παρακολούθησης για την επίτευξη των στόχων της ψηφιακής δεκαετίας της ΕΕ για το 2030

Το πρόγραμμα πολιτικής για την ψηφιακή δεκαετία 2030, ένας μηχανισμός παρακολούθησης και συνεργασίας για την επίτευξη κοινών στόχων για τον ψηφιακό μετασχηματισμό της Ευρώπης έως το 2030, έχει τεθεί σε ισχύ.

PRESS RELEASE |
EU to invest €13.5 billion in research and innovation for 2023-2024

The Commission has adopted the main Horizon Europe work programme 2023-24, with around €13.5 billion to support researchers and innovators in Europe to pursue breakthrough solutions for environmental, energy, digital and geopolitical challenges.

Related Content

Big Picture

Μια ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης

Η προσέγγιση της ΕΕ για την τεχνητή νοημοσύνη επικεντρώνεται στην αριστεία και την εμπιστοσύνη, με στόχο την ενίσχυση της ερευνητικής και βιομηχανικής ικανότητας, διασφαλίζοντας παράλληλα την ασφάλεια και τα θεμελιώδη δικαιώματα.

See Also

Συντονισμένο σχέδιο για την τεχνητή νοημοσύνη

Το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη έχει ως στόχο να επιταχύνει τις επενδύσεις στην ΤΝ, να ενεργήσει σε στρατηγικές και προγράμματα για την ΤΝ και να ευθυγραμμίσει την πολιτική για την ΤΝ ώστε να αποφευχθεί ο κατακερματισμός στην Ευρώπη.

Ευρωπαϊκή Συμμαχία για την ΤΝ

Η Ευρωπαϊκή Συμμαχία για την ΤΝ είναι μια πρωτοβουλία της Ευρωπαϊκής Επιτροπής για την καθιέρωση ανοικτού διαλόγου πολιτικής για την τεχνητή νοημοσύνη. Από την έναρξή της το 2018, η Συμμαχία για την ΤΝ έχει δεσμεύσει περίπου 6.000 ενδιαφερόμενα μέρη μέσω τακτικών εκδηλώσεων...