Skip to main content
Shaping Europe’s digital future

Πράξη για την ΤΝ

Η πράξη για την τεχνητή νοημοσύνη είναι το πρώτο νομικό πλαίσιο για την τεχνητή νοημοσύνη, το οποίο αντιμετωπίζει τους κινδύνους της τεχνητής νοημοσύνης και θέτει την Ευρώπη σε ηγετική θέση παγκοσμίως.

    ένας άνδρας και μια γυναίκα που εργάζονται σε μια οθόνη υψηλής τεχνολογίας

© gorodenkoff - iStock Getty Images Plus

Η πράξη για την ΤΝ έχει ως στόχο να παράσχει στους προγραμματιστές και τους φορείς εφαρμογής ΤΝ σαφείς απαιτήσεις και υποχρεώσεις σχετικά με συγκεκριμένες χρήσεις της ΤΝ. Ταυτόχρονα, ο κανονισμός αποσκοπεί στη μείωση του διοικητικού και οικονομικού φόρτου για τις επιχειρήσεις, ιδίως τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ).

Η πράξη για την ΤΝ αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων πολιτικής για τη στήριξη της ανάπτυξης αξιόπιστης ΤΝ, η οποία περιλαμβάνει επίσης τηδέσμη μέτρων για τηνκαινοτομία στην ΤΝ και το συντονισμένο σχέδιο για την ΤΝ. Από κοινού, τα μέτρα αυτά θα εγγυώνται την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων όσον αφορά την ΤΝ. Θα ενισχύσουν επίσης την υιοθέτηση, τις επενδύσεις και την καινοτομία στον τομέα της ΤΝ σε ολόκληρη την ΕΕ.

Η πράξη για την ΤΝ είναι το πρώτο ολοκληρωμένο νομικό πλαίσιο για την ΤΝ παγκοσμίως. Στόχος των νέων κανόνων είναι η προώθηση αξιόπιστης ΤΝ στην Ευρώπη και πέραν αυτής, διασφαλίζοντας ότι τα συστήματα ΤΝ σέβονται τα θεμελιώδη δικαιώματα, την ασφάλεια και τις δεοντολογικές αρχές και αντιμετωπίζοντας τους κινδύνους πολύ ισχυρών και επιδραστικών μοντέλων ΤΝ.

Γιατί χρειαζόμαστε κανόνες για την ΤΝ;

Η πράξη για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ δεν ενέχουν κανέναν κίνδυνο και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφύγουμε ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει μια απόφαση ή πρόβλεψη και έχει προβεί σε μια συγκεκριμένη ενέργεια. Έτσι, μπορεί να καταστεί δύσκολο να εκτιμηθεί αν κάποιος έχει βρεθεί σε άδικη μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για ένα κοινωφελές σύστημα.

Μολονότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να συνεπάγονται τα συστήματα ΤΝ.

Οι προτεινόμενοι κανόνες:

  • να αντιμετωπίζουν τους κινδύνους που δημιουργούνται ειδικά από τις εφαρμογές ΤΝ·
  • να απαγορεύουν πρακτικές ΤΝ που ενέχουν απαράδεκτους κινδύνους·
  • καταρτίζει κατάλογο εφαρμογών υψηλού κινδύνου·
  • καθορίζει σαφείς απαιτήσεις για τα συστήματα ΤΝ για εφαρμογές υψηλού κινδύνου·
  • καθορίζουν ειδικές υποχρεώσεις για τους φορείς ανάπτυξης και τους παρόχους εφαρμογών ΤΝ υψηλού κινδύνου·
  • να απαιτούν αξιολόγηση της συμμόρφωσης πριν από τη θέση ενός δεδομένου συστήματος ΤΝ σε λειτουργία ή τη διάθεσή του στην αγορά·
  • θέτουν σε εφαρμογή την επιβολή μετά τη διάθεση ενός δεδομένου συστήματος ΤΝ στην αγορά·
  • δημιουργία μιας δομής διακυβέρνησης σε ευρωπαϊκό και εθνικό επίπεδο.

Προσέγγιση βάσει κινδύνου

Το κανονιστικό πλαίσιο καθορίζει 4 επίπεδα κινδύνου για τα συστήματα ΤΝ:

πυραμίδα που δείχνει τα τέσσερα επίπεδα κινδύνου: Μη αποδεκτός κίνδυνος· Υψηλού κινδύνου· περιορισμένος κίνδυνος, ελάχιστος ή μηδενικός κίνδυνος

 

Όλα τα συστήματα τεχνητής νοημοσύνης που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων θα απαγορευτούν, από την κοινωνική βαθμολόγηση από τις κυβερνήσεις έως τα παιχνίδια που χρησιμοποιούν φωνητική βοήθεια που ενθαρρύνει την επικίνδυνη συμπεριφορά.

Υψηλός κίνδυνος

Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνουν την τεχνολογία ΤΝ που χρησιμοποιείται σε:

  • υποδομές ζωτικής σημασίας (π.χ. μεταφορές), οι οποίες θα μπορούσαν να θέσουν σε κίνδυνο τη ζωή και την υγεία των πολιτών·
  • εκπαιδευτική ή επαγγελματική κατάρτιση, η οποία μπορεί να καθορίσει την πρόσβαση στην εκπαίδευση και την επαγγελματική πορεία της ζωής κάποιου (π.χ. βαθμολόγηση εξετάσεων)·
  • κατασκευαστικά στοιχεία ασφάλειας των προϊόντων (π.χ. εφαρμογή ΤΝ σε ρομποτικά υποβοηθούμενη χειρουργική)·
  • απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό ταξινόμησης βιογραφικών σημειωμάτων για διαδικασίες πρόσληψης)·
  • βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση της πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)·
  • επιβολή του νόμου που ενδέχεται να επηρεάσει τα θεμελιώδη δικαιώματα των ανθρώπων (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
  • διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. αυτοματοποιημένη εξέταση των αιτήσεων θεώρησης)·
  • απονομή δικαιοσύνης και δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για την αναζήτηση δικαστικών αποφάσεων).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

  • επαρκή συστήματα εκτίμησης και μετριασμού του κινδύνου·
  • υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα για την ελαχιστοποίηση των κινδύνων και των αποτελεσμάτων που εισάγουν διακρίσεις·
  • καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
  • λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του ώστε οι αρχές να αξιολογούν τη συμμόρφωσή του·
  • σαφείς και επαρκείς πληροφορίες για τον φορέα ανάπτυξης·
  • κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
  • υψηλό επίπεδο στιβαρότητας, ασφάλειας και ακρίβειας.

Όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου απαγορεύεται, κατ’ αρχήν.

Στενές εξαιρέσεις ορίζονται και ρυθμίζονται αυστηρά, όπως όταν είναι αναγκαίο για την αναζήτηση αγνοούμενου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για την ανίχνευση, τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου σοβαρού ποινικού αδικήματος.

Οι εν λόγω χρήσεις υπόκεινται σε έγκριση από δικαστική ή άλλη ανεξάρτητη αρχή και σε κατάλληλους χρονικούς περιορισμούς, περιορισμούς γεωγραφικής εμβέλειας και περιορισμούς όσον αφορά τις βάσεις δεδομένων στις οποίες πραγματοποιείται η αναζήτηση.

Περιορισμένος κίνδυνος

Ο περιορισμένος κίνδυνοςαφορά τους κινδύνους που συνδέονται με την έλλειψη διαφάνειας στη χρήση της ΤΝ. Η πράξη για την ΤΝ θεσπίζει ειδικές υποχρεώσεις διαφάνειας ώστε να διασφαλίζεται ότι οι άνθρωποι ενημερώνονται όταν είναι αναγκαίο, ενισχύοντας την εμπιστοσύνη. Για παράδειγμα, κατά τη χρήση συστημάτων τεχνητής νοημοσύνης, όπως τα chatbots, οι άνθρωποι θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με ένα μηχάνημα, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση να συνεχίσουν ή να κάνουν ένα βήμα πίσω. Οι πάροχοι θα πρέπει επίσης να διασφαλίζουν ότι το περιεχόμενο που παράγεται από ΤΝ είναι αναγνωρίσιμο. Επιπλέον, το κείμενο που παράγεται από την ΤΝ και δημοσιεύεται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου συμφέροντος πρέπει να επισημαίνεται ως τεχνητά δημιουργημένο. Αυτό ισχύει επίσης για το περιεχόμενο ήχου και βίντεο που συνιστά βαθιά απομίμηση.

Ελάχιστος ή μηδενικός κίνδυνος

Η πράξη για την ΤΝ επιτρέπει την ελεύθερη χρήση ΤΝ ελάχιστου κινδύνου. Αυτό περιλαμβάνει εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή φίλτρα ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν σε αυτή την κατηγορία.

Πώς λειτουργούν όλα στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

βήμα προς βήμα διαδικασία για τη δήλωση συμμόρφωσης
How does it all work in practice for providers of high risk AI systems?

Μόλις ένα σύστημα ΤΝ διατεθεί στην αγορά, οι αρχές είναι αρμόδιες για την εποπτεία της αγοράς, οι φορείς ανάπτυξης διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι φορείς ανάπτυξης θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μια λύση για την αξιόπιστη χρήση μεγάλων μοντέλων τεχνητής νοημοσύνης

Όλο και περισσότερο, τα μοντέλα ΤΝ γενικής χρήσης καθίστανται συστατικά στοιχεία των συστημάτων ΤΝ. Αυτά τα μοντέλα μπορούν να εκτελέσουν και να προσαρμόσουν αμέτρητες διαφορετικές εργασίες.

Ενώ τα μοντέλα ΤΝ γενικής χρήσης μπορούν να καταστήσουν δυνατές καλύτερες και ισχυρότερες λύσεις ΤΝ, είναι δύσκολο να επιβλεφθούν όλες οι δυνατότητες.

Εκεί, η πράξη για την ΤΝ θεσπίζει υποχρεώσεις διαφάνειας για όλα τα μοντέλα ΤΝ γενικού σκοπού, ώστε να καταστεί δυνατή η καλύτερη κατανόηση των εν λόγω μοντέλων και πρόσθετες υποχρεώσεις διαχείρισης κινδύνου για πολύ ικανά και επιδραστικά μοντέλα. Αυτές οι πρόσθετες υποχρεώσεις περιλαμβάνουν την αυτοαξιολόγηση και τον μετριασμό των συστημικών κινδύνων, την αναφορά σοβαρών περιστατικών, τη διενέργεια αξιολογήσεων δοκιμών και μοντέλων, καθώς και απαιτήσεις κυβερνοασφάλειας.

Νομοθεσία ανθεκτική στις μελλοντικές εξελίξεις

Δεδομένου ότι η ΤΝ είναι μια ταχέως εξελισσόμενη τεχνολογία, η πρόταση έχει μια ανθεκτική στις μελλοντικές εξελίξεις προσέγγιση, η οποία επιτρέπει στους κανόνες να προσαρμόζονται στις τεχνολογικές αλλαγές. Οι εφαρμογές ΤΝ θα πρέπει να παραμένουν αξιόπιστες ακόμη και μετά τη διάθεσή τους στην αγορά. Αυτό απαιτεί συνεχή διαχείριση της ποιότητας και των κινδύνων από τους παρόχους.

Επιβολή και εφαρμογή

Η Ευρωπαϊκή Υπηρεσία ΤΝ, η οποία συστάθηκε τον Φεβρουάριο του 2024 στο πλαίσιο της Επιτροπής, επιβλέπει την επιβολή και την εφαρμογή της πράξης για την ΤΝ από κοινού με τα κράτη μέλη. Αποσκοπεί στη δημιουργία ενός περιβάλλοντος όπου οι τεχνολογίες ΤΝ σέβονται την ανθρώπινη αξιοπρέπεια, τα δικαιώματα και την εμπιστοσύνη. Προωθεί επίσης τη συνεργασία, την καινοτομία και την έρευνα στον τομέα της ΤΝ μεταξύ διαφόρων ενδιαφερόμενων μερών. Επιπλέον, συμμετέχει σε διεθνή διάλογο και συνεργασία σε θέματα ΤΝ, αναγνωρίζοντας την ανάγκη για παγκόσμια ευθυγράμμιση όσον αφορά τη διακυβέρνηση της ΤΝ. Μέσω αυτών των προσπαθειών, η Ευρωπαϊκή Υπηρεσία Τεχνητής Νοημοσύνης προσπαθεί να καταστήσει την Ευρώπη πρωτοπόρο στη δεοντολογική και βιώσιμη ανάπτυξη των τεχνολογιών τεχνητής νοημοσύνης.

Επόμενα βήματα

Τον Δεκέμβριο του 2023 το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο της ΕΕ κατέληξαν σε πολιτική συμφωνία σχετικά με την πράξη για την ΤΝ. Το κείμενο βρίσκεται στο στάδιο της επίσημης έγκρισης και μετάφρασης. Η πράξη για την ΤΝ θα τεθεί σε ισχύ 20 ημέρες μετά τη δημοσίευσή της στην Επίσημη Εφημερίδα και θα εφαρμοστεί πλήρως 2 έτη αργότερα, με ορισμένες εξαιρέσεις: οι απαγορεύσεις θα τεθούν σε ισχύ μετά από έξι μήνες, οι κανόνες διακυβέρνησης και οι υποχρεώσεις για τα μοντέλα ΤΝ γενικού σκοπού θα τεθούν σε εφαρμογή μετά από 12 μήνες και οι κανόνες για τα συστήματα ΤΝ —που είναι ενσωματωμένα σε ρυθμιζόμενα προϊόντα— θα εφαρμοστούν μετά από 36 μήνες. Για να διευκολυνθεί η μετάβαση στο νέο κανονιστικό πλαίσιο, η Επιτροπή δρομολόγησε τοσύμφωνο για την ΤΝ,μια εθελοντική πρωτοβουλία που επιδιώκει να στηρίξει τη μελλοντική εφαρμογή και καλεί τους προγραμματιστές ΤΝ από την Ευρώπη και πέραν αυτής να συμμορφωθούν εκ των προτέρων με τις βασικές υποχρεώσεις της πράξης για την ΤΝ.

Τελευταία νέα

Η ΕΕ και η Ιαπωνία προωθούν τις κοινές εργασίες για την ψηφιακή ταυτότητα, τους ημιαγωγούς και την τεχνητή νοημοσύνη

Η ΕΕ και η Ιαπωνία πραγματοποίησαν το δεύτερο Συμβούλιο Ψηφιακής Εταιρικής Σχέσης στις Βρυξέλλες.

PRESS RELEASE |
Η Επιτροπή επενδύει 112 εκατ. ευρώ στην τεχνητή νοημοσύνη και την κβαντική έρευνα και καινοτομία

Η Ευρωπαϊκή Επιτροπή δημοσίευσε προσκλήσεις υποβολής προτάσεων στο πλαίσιο του προγράμματος εργασίας 2023-2024 του προγράμματος «Ορίζων Ευρώπη» για την ψηφιακή, βιομηχανική και διαστημική έρευνα και καινοτομία στον τομέα της τεχνητής νοημοσύνης (ΤΝ) και των κβαντικών τεχνολογιών.

DIGIBYTE |
Η χρηματοδότηση του νέου προγράμματος «Ορίζων Ευρώπη» ενισχύει την ευρωπαϊκή έρευνα στον τομέα της τεχνητής νοημοσύνης και των κβαντικών τεχνολογιών

Έχει δρομολογηθεί νέα δέσμη προσκλήσεων υποβολής προτάσεων αξίας άνω των 112 εκατ. EUR από το πρόγραμμα εργασίας «Ψηφιακές τεχνολογίες, βιομηχανία και διάστημα» του προγράμματος «Ορίζων Ευρώπη» για την περίοδο 2023-2024.

PRESS RELEASE |
Η ΕΕ και οι ΗΠΑ συνεχίζουν την ισχυρή εμπορική και τεχνολογική συνεργασία σε μια εποχή παγκόσμιων προκλήσεων

Η ΕΕ και οι Ηνωμένες Πολιτείες πραγματοποίησαν την έκτη σύνοδο του Συμβουλίου Εμπορίου και Τεχνολογίας ΕΕ-ΗΠΑ (TTC) στο Leuven του Βελγίου. Η σύνοδος επέτρεψε στους υπουργούς να αξιοποιήσουν τις εν εξελίξει εργασίες και να παρουσιάσουν νέα παραδοτέα του ΣΕΤ μετά από δυόμισι χρόνια συνεργασίας.

Σχετικό περιεχόμενο

Ευρύτερο πλαίσιο

Ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης

Η προσέγγιση της ΕΕ όσον αφορά την τεχνητή νοημοσύνη επικεντρώνεται στην αριστεία και την εμπιστοσύνη, με στόχο την ενίσχυση της έρευνας και της βιομηχανικής ικανότητας, διασφαλίζοντας παράλληλα την ασφάλεια και τα θεμελιώδη δικαιώματα.

Διαβάστε περισσότερα

Σύμφωνο για την ΤΝ

Το σύμφωνο για την ΤΝ ενθαρρύνει και στηρίζει τους οργανισμούς να προγραμματίσουν εκ των προτέρων την εφαρμογή των μέτρων της πράξης για την ΤΝ.

Βλ. επίσης

Συντονισμένο σχέδιο για την τεχνητή νοημοσύνη

Το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη αποσκοπεί στην επιτάχυνση των επενδύσεων στην ΤΝ, στην εφαρμογή στρατηγικών και προγραμμάτων ΤΝ και στην ευθυγράμμιση της πολιτικής για την ΤΝ με σκοπό την πρόληψη του κατακερματισμού εντός της Ευρώπης.

Η Ευρωπαϊκή Συμμαχία για την Τεχνητή Νοημοσύνη

Η Ευρωπαϊκή Συμμαχία για την Τεχνητή Νοημοσύνη είναι μια πρωτοβουλία της Ευρωπαϊκής Επιτροπής για την καθιέρωση ανοικτού πολιτικού διαλόγου για την τεχνητή νοημοσύνη. Από την έναρξή της το 2018, η Συμμαχία για την Τεχνητή Νοημοσύνη έχει συμμετάσχει σε περίπου 6000 ενδιαφερόμενα...