Πλοήγηση στην πράξη για την ΤΝ

Ο νόμος για την ΤΝ είναι ο πρώτος ολοκληρωμένος νόμος στον κόσμο για την ΤΝ. Αποσκοπεί στην αντιμετώπιση των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Ο κανονισμός αποσκοπεί επίσης στην προστασία της δημοκρατίας, του κράτους δικαίου και του περιβάλλοντος. 

Η υιοθέτηση συστημάτων ΤΝ και μοντέλων ΤΝ γενικού σκοπού έχει μεγάλες δυνατότητες να αποφέρει κοινωνικά οφέλη, οικονομική ανάπτυξη και να ενισχύσει την καινοτομία της ΕΕ και την παγκόσμια ανταγωνιστικότητα. Ωστόσο, σε ορισμένες περιπτώσεις, τα ειδικά χαρακτηριστικά ορισμένων συστημάτων ΤΝ και μοντέλων ΤΝ γενικού σκοπού ενδέχεται να δημιουργήσουν νέους κινδύνους που σχετίζονται με την ασφάλεια των χρηστών, συμπεριλαμβανομένης της σωματικής ασφάλειας, και τα θεμελιώδη δικαιώματα. Ορισμένα μοντέλα ΤΝ γενικού σκοπού, τα πλέον προηγμένα, θα μπορούσαν ακόμη και να ενέχουν τους λεγόμενους «συστημικούς κινδύνους».

Αυτό οδηγεί σε ανασφάλεια δικαίου και δυνητικά βραδύτερη υιοθέτηση των τεχνολογιών ΤΝ από τις δημόσιες αρχές, τις επιχειρήσεις και τους πολίτες, λόγω έλλειψης εμπιστοσύνης. Οι διαφορετικές ρυθμιστικές αντιδράσεις των εθνικών αρχών θα μπορούσαν να οδηγήσουν σε κατακερματισμό της εσωτερικής αγοράς.

Ανταποκρινόμενη σε αυτές τις προκλήσεις, χρειάστηκε να αναληφθεί νομοθετική δράση για να διασφαλιστεί η εύρυθμη λειτουργία της εσωτερικής αγοράς για τα συστήματα ΤΝ και τα μοντέλα ΤΝ γενικού σκοπού, στο πλαίσιο της οποίας αντιμετωπίζονται επαρκώς οι κίνδυνοι και λαμβάνονται υπόψη τα οφέλη.

Το νομικό πλαίσιο εφαρμόζεται τόσο σε δημόσιους όσο και σε ιδιωτικούς φορείς εντός και εκτός της ΕΕ, οι οποίοι διαθέτουν σύστημα ΤΝ ή μοντέλο ΤΝ γενικού σκοπού στην αγορά της ΕΕ, ή θέτουν ένα σύστημα ΤΝ σε λειτουργία ή το χρησιμοποιούν στην ΕΕ. 

Οι υποχρεώσεις ισχύουν, μεταξύ άλλων, για τους παρόχους (π.χ. προγραμματιστή εργαλείου ελέγχου βιογραφικών σημειωμάτων) και τους φορείς εφαρμογής συστημάτων ΤΝ (π.χ. τράπεζα που χρησιμοποιεί αυτό το εργαλείο ελέγχου), καθώς και για τους παρόχους μοντέλων ΤΝ γενικού σκοπού. Υπάρχουν ορισμένες εξαιρέσεις από τον κανονισμό. Οι δραστηριότητες έρευνας, ανάπτυξης και δημιουργίας πρωτοτύπων που πραγματοποιούνται πριν από τη διάθεση συστήματος ή μοντέλου ΤΝ στην αγορά δεν υπόκεινται στον παρόντα κανονισμό. Εξαιρούνται επίσης τα συστήματα ΤΝ που έχουν σχεδιαστεί αποκλειστικά για στρατιωτικούς σκοπούς, σκοπούς άμυνας ή εθνικής ασφάλειας, ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες.

Η πράξη για την ΤΝ εισάγει ένα ενιαίο πλαίσιο σε όλα τα κράτη μέλη της ΕΕ, το οποίο βασίζεται σε μια προσέγγιση βάσει κινδύνου.

Απαγορευμένα συστήματα ΤΝ

 Ένα πολύ περιορισμένο σύνολο ιδιαίτερα επιβλαβών χρήσεων συστημάτων ΤΝ που αντιβαίνουν στις αξίες της ΕΕ διότι παραβιάζουν θεμελιώδη δικαιώματα και, ως εκ τούτου, θα απαγορευτούν: 

• Εκμετάλλευση των τρωτών σημείων των προσώπων, χειραγώγηση και χρήση τεχνικών του υποσυνείδητου
• Κοινωνική βαθμολόγηση για δημόσιους και ιδιωτικούς σκοπούς
• Ατομική προληπτική αστυνόμευση με βάση αποκλειστικά την κατάρτιση προφίλ ατόμων
• Μη στοχευμένη απόξεση διαδικτύου ή CCTV για εικόνες προσώπου για τη δημιουργία ή την επέκταση βάσεων δεδομένων
• Αναγνώριση συναισθημάτων στον χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, εκτός εάν πρόκειται για ιατρικούς λόγους ή λόγους ασφάλειας (π.χ. παρακολούθηση των επιπέδων κόπωσης ενός πιλότου)
• Βιομετρική κατηγοριοποίηση φυσικών προσώπων για να συναχθεί ή να συναχθεί η φυλή, τα πολιτικά φρονήματα, η συμμετοχή σε συνδικαλιστική οργάνωση, οι θρησκευτικές ή φιλοσοφικές πεποιθήσεις ή ο γενετήσιος προσανατολισμός τους. Η επισήμανση ή το φιλτράρισμα των συνόλων δεδομένων και η κατηγοριοποίηση των δεδομένων θα εξακολουθήσουν να είναι δυνατές
• Εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, με την επιφύλαξη στενών εξαιρέσεων (βλ. κατωτέρω)

Η Επιτροπή έχει εκδώσει κατευθυντήριες γραμμές σχετικά με τις απαγορευμένες πρακτικές ΤΝ και κατευθυντήριες γραμμές σχετικά με τον ορισμό του συστήματος ΤΝ της πράξης για την ΤΝ. Παρέχουν νομικές εξηγήσεις και πρακτικά παραδείγματα για να βοηθήσουν τα ενδιαφερόμενα μέρη να συμμορφωθούν με τους εν λόγω κανόνες. 

Συστήματα ΤΝ υψηλού κινδύνου

Η πράξη για την ΤΝ θεωρεί ότι ένας περιορισμένος αριθμός συστημάτων ΤΝ είναι υψηλού κινδύνου, διότι ενδέχεται να έχουν αρνητικό αντίκτυπο στην ασφάλεια των ανθρώπων ή στα θεμελιώδη δικαιώματά τους (όπως προστατεύονται από τον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ). Στην πράξη επισυνάπτονται οι κατάλογοι των συστημάτων ΤΝ υψηλού κινδύνου, οι οποίοι μπορούν να επανεξεταστούν ώστε να ευθυγραμμιστούν με την εξέλιξη των περιπτώσεων χρήσης ΤΝ. 

Τα συστήματα ΤΝ υψηλού κινδύνου περιλαμβάνουν, για παράδειγμα, συστήματα ΤΝ που αξιολογούν κατά πόσον κάποιος είναι σε θέση να λάβει συγκεκριμένη ιατρική περίθαλψη, να βρει συγκεκριμένη θέση εργασίας ή δάνειο για να αγοράσει διαμέρισμα. Άλλα συστήματα ΤΝ υψηλού κινδύνου είναι εκείνα που χρησιμοποιούνται από την αστυνομία για την αξιολόγηση του κινδύνου διάπραξης εγκλήματος από κάποιον (εκτός εάν απαγορεύεται βάσει του άρθρου 5).

Τα συστήματα ΤΝ υψηλού κινδύνου περιλαμβάνουν επίσης κατασκευαστικά στοιχεία ασφάλειας προϊόντων που καλύπτονται από την τομεακή νομοθεσία της Ένωσης ή συστήματα ΤΝ που συνιστούν τα ίδια τα εν λόγω προϊόντα. Θα θεωρούνται πάντα υψηλού κινδύνου όταν υπόκεινται σε αξιολόγηση της συμμόρφωσης από τρίτους βάσει της εν λόγω τομεακής νομοθεσίας. Αυτό θα μπορούσε να περιλαμβάνει, για παράδειγμα, συστήματα ΤΝ που χειρίζονται ρομπότ, μη επανδρωμένα αεροσκάφη ή ιατρικές συσκευές.

Απαιτήσεις διαφάνειας για ορισμένα συστήματα ΤΝ

Για την ενίσχυση της εμπιστοσύνης, είναι σημαντικό να διασφαλιστεί η διαφάνεια σχετικά με την τεχνητή προέλευση ορισμένων περιεχομένων ή αλληλεπιδράσεων της ΤΝ. Ως εκ τούτου, η πράξη για την ΤΝ θεσπίζει ειδικές απαιτήσεις διαφάνειας για τους παρόχους ή τους φορείς εφαρμογής ορισμένων διαδραστικών ή παραγωγικών συστημάτων ΤΝ (π.χ. διαλογικά ρομπότ ή βαθιά ψευδείς πληροφορίες). Οι εν λόγω απαιτήσεις διαφάνειας αποσκοπούν στην αντιμετώπιση των κινδύνων παραπληροφόρησης και χειραγώγησης, απάτης, πλαστοπροσωπίας και εξαπάτησης των καταναλωτών. 

Συστήματα ΤΝ με ελάχιστο κίνδυνο

Η πλειονότητα των συστημάτων ΤΝ μπορεί να αναπτυχθεί και να χρησιμοποιηθεί με την επιφύλαξη της ισχύουσας νομοθεσίας χωρίς πρόσθετες νομικές υποχρεώσεις. 

Μοντέλα ΤΝ γενικού σκοπού

Η πράξη για την ΤΝ ρυθμίζει επίσης τα μοντέλα ΤΝ γενικού σκοπού. Αυτά μπορούν να χρησιμοποιηθούν για διάφορα καθήκοντα και αποτελούν τη βάση για πολλά συστήματα ΤΝ στην ΕΕ. Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού πρέπει να τεκμηριώνουν ορισμένες πληροφορίες (εκτός εάν πληρούν τις προϋποθέσεις για την εξαίρεση ανοικτού κώδικα) και να λαμβάνουν μέτρα που διασφαλίζουν ότι τηρούν τη νομοθεσία της ΕΕ για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα.

Τα πιο προηγμένα μεταξύ των μοντέλων ΣΔΓΠ θα μπορούσαν επίσης να παρουσιάζουν συστημικούς κινδύνους. Για παράδειγμα, ισχυρά μοντέλα θα μπορούσαν να καταστήσουν δυνατές χημικές, βιολογικές, ραδιολογικές ή πυρηνικές (ΧΒΡΠ) επιθέσεις ή εξελιγμένες κυβερνοεπιθέσεις μεγάλης κλίμακας, να ξεφύγουν από τον ανθρώπινο έλεγχο ή να καταστήσουν δυνατή τη στρατηγική στρέβλωση της ανθρώπινης συμπεριφοράς ή πεποιθήσεων. Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους πρέπει επιπλέον να αξιολογούν και να μετριάζουν τους συστημικούς κινδύνους.

Η πράξη για την ΤΝ δημιουργεί ένα νομικό πλαίσιο που ανταποκρίνεται στις νέες εξελίξεις, προσαρμόζεται εύκολα και γρήγορα και επιτρέπει τη συχνή αξιολόγηση. Ο κανονισμός καθορίζει απαιτήσεις και υποχρεώσεις προσανατολισμένες στα αποτελέσματα, αλλά αφήνει τις συγκεκριμένες τεχνικές λύσεις και τη θέση σε λειτουργία σε πρότυπα και κώδικες πρακτικής που βασίζονται στη βιομηχανία και είναι ευέλικτοι ώστε να προσαρμόζονται σε διαφορετικές περιπτώσεις χρήσης και να επιτρέπουν νέες τεχνολογικές λύσεις. 

Η πράξη για την ΤΝ μπορεί να τροποποιηθεί με κατ’ εξουσιοδότηση και εκτελεστικές πράξεις, για παράδειγμα για την επανεξέταση του καταλόγου των περιπτώσεων χρήσης υψηλού κινδύνου στο παράρτημα III. Θα διενεργούνται συχνές αξιολογήσεις ορισμένων μερών της πράξης για την ΤΝ και, ενδεχομένως, ολόκληρου του κανονισμού, ώστε να διασφαλίζεται ότι εντοπίζεται τυχόν ανάγκη αναθεώρησης και τροποποιήσεων. 

Σύμφωνα με την πράξη για την ΤΝ, τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε ειδικές απαιτήσεις. Τα ευρωπαϊκά εναρμονισμένα πρότυπα θα παρέχουν λεπτομερείς προδιαγραφές για την εφαρμογή και τη συμμόρφωση με τις απαιτήσεις υψηλού κινδύνου. Οι πάροχοι που αναπτύσσουν σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τα εναρμονισμένα πρότυπα θα επωφελούνται από τεκμήριο συμμόρφωσης. 

Τον Μάιο του 2023 η Ευρωπαϊκή Επιτροπή ανέθεσε στους ευρωπαϊκούς οργανισμούς τυποποίησης CEN και CENELEC να αναπτύξουν πρότυπα για τις εν λόγω απαιτήσεις υψηλού κινδύνου. Η εντολή αυτή τροποποιήθηκε τον Ιούνιο του 2025, ώστε να ευθυγραμμιστεί με το τελικό κείμενο της πράξης για την ΤΝ. Η CEN και η CENELEC δεν μπόρεσαν να αναπτύξουν τα πρότυπα στο ζητούμενο χρονοδιάγραμμα του Αυγούστου 2025. Οι εργασίες τυποποίησης βρίσκονται ακόμη σε εξέλιξη.

Τα πρότυπα είναι προαιρετικά, αλλά καθοριστικά για την ασφάλεια δικαίου. Βοηθούν τις εταιρείες να κατανοήσουν τι πρέπει να κάνουν και τις αρχές να γνωρίζουν τι πρέπει να ελέγξουν. Η καθυστερημένη διαθεσιμότητα των προτύπων θέτει σε κίνδυνο την επιτυχή έναρξη εφαρμογής των κανόνων υψηλού κινδύνου στις 2 Αυγούστου 2026. Ως εκ τούτου, η Επιτροπή θεωρεί ότι είναι σκόπιμο να δοθεί περισσότερος χρόνος για την αποτελεσματική εφαρμογή των κανόνων για τους οποίους τα πρότυπα έχουν σημαντική σημασία (βλ. πρόταση Digital Omnibus). 

Οι ευκαιρίες και ο αντίκτυπος της ΤΝ υπερβαίνουν τα σύνορα. Οι προκλήσεις είναι παγκόσμιες και αυτός είναι ο λόγος για τον οποίο η συνεργασία είναι σημαντική και απαραίτητη. Η Υπηρεσία ΤΝ ηγείται της διεθνούς δέσμευσης της Επιτροπής στον τομέα της ΤΝ, βάσει της πράξης για την ΤΝ και του συντονισμένου σχεδίου για την ΤΝ. Η ΕΕ επιδιώκει:

• Ανάληψη ηγετικού ρόλου στις παγκόσμιες προσπάθειες για την ΤΝ μέσω της στήριξης της καινοτομίας, της δημιουργίας κατάλληλων προστατευτικών κιγκλιδωμάτων για την ΤΝ και της ανάπτυξης της παγκόσμιας διακυβέρνησης για την ΤΝ 
• Προώθηση της υπεύθυνης διαχείρισης και της χρηστής διακυβέρνησης της ΤΝ
• Διασφάλιση της ευθυγράμμισης των διεθνών συμφωνιών με την προσέγγισή μας 

Καθώς μεταβάλλεται το παγκόσμιο τοπίο, η προορατική συμμετοχή στον τομέα της ΤΝ —σε στενό συντονισμό με τους συμμάχους μας— έχει καταστεί ουσιαστική και αυξανόμενη προτεραιότητα. Η ΕΕ είναι ένας προορατικός, συνεργάσιμος και αξιόπιστος εταίρος που δίνει το παράδειγμα και συνεργάζεται σε διεθνές επίπεδο, προστατεύοντας παράλληλα τα συμφέροντα, την ασφάλεια και τις αξίες της.

Συμμετέχει σε διμερές και πολυμερές επίπεδο για την προώθηση αξιόπιστης και ανθρωποκεντρικής ΤΝ. Διμερώς, η ΕΕ συνεργάζεται με αυξανόμενο αριθμό χωρών και περιοχών, όπως ο Καναδάς, οι ΗΠΑ, η Ινδία, η Ιαπωνία, η Δημοκρατία της Κορέας, η Σινγκαπούρη, η Αυστραλία, το Ηνωμένο Βασίλειο, η περιοχή της Λατινικής Αμερικής και της Καραϊβικής, η Αφρική κ.λπ. Πολυμερώς, η ΕΕ συμμετέχει σε βασικά φόρουμ και πρωτοβουλίες όπου συζητείται η ΤΝ —ιδίως η G7, η G20, ο ΟΟΣΑ και η παγκόσμια εταιρική σχέση για την ΤΝ, το Συμβούλιο της Ευρώπης, το Διεθνές Δίκτυο Προηγμένων Μετρήσεων, Αξιολόγησης και Επιστήμης για την ΤΝ, αλλά και στο πλαίσιο των Ηνωμένων Εθνών.

Η ΕΕ βασίζεται σε στρατηγικούς πόρους και πλεονεκτήματα —όπως το ταλέντο, η έρευνα, η βιομηχανική ισχύς και η μεγάλη ενιαία αγορά με ενιαίους κανόνες— και τα αναπτύσσει διεθνώς στο πλαίσιο της τεχνολογικής προσφοράς της ΕΕ για την οικοδόμηση αμοιβαία επωφελών εταιρικών σχέσεων και συμμαχιών σε ολόκληρο τον κόσμο.

Η πράξη για την ΤΝ καθορίζει μια σταθερή μεθοδολογία για την ταξινόμηση των συστημάτων ΤΝ ως υψηλού κινδύνου. Αυτό αποσκοπεί στην παροχή ασφάλειας δικαίου για τις επιχειρήσεις και άλλους φορείς εκμετάλλευσης.

Η ταξινόμηση κινδύνου βασίζεται στον επιδιωκόμενο σκοπό του συστήματος ΤΝ, σύμφωνα με την ισχύουσα νομοθεσία της ΕΕ για την ασφάλεια των προϊόντων. Αυτό σημαίνει ότι η ταξινόμηση εξαρτάται από τη λειτουργία που επιτελεί το σύστημα ΤΝ και από τον συγκεκριμένο σκοπό και τις λεπτομέρειες για τις οποίες χρησιμοποιείται το σύστημα.

Τα συστήματα ΤΝ μπορούν να ταξινομηθούν ως υψηλού κινδύνου σε δύο περιπτώσεις: 

• Εάν το σύστημα ΤΝ είναι ενσωματωμένο ως κατασκευαστικό στοιχείο ασφάλειας σε προϊόντα που καλύπτονται από την ισχύουσα νομοθεσία για τα προϊόντα (παράρτημα I) ή αποτελούν τα ίδια τα εν λόγω προϊόντα. Αυτό θα μπορούσε να είναι, για παράδειγμα, ιατρικό λογισμικό που βασίζεται στην ΤΝ. 
• Εάν το σύστημα ΤΝ προορίζεται να χρησιμοποιηθεί για περίπτωση χρήσης υψηλού κινδύνου, που παρατίθεται στο παράρτημα III της πράξης για την ΤΝ. Ο κατάλογος περιλαμβάνει περιπτώσεις χρήσης σε τομείς όπως η εκπαίδευση, η απασχόληση, η επιβολή του νόμου ή η μετανάστευση. Επανεξετάζεται ετησίως από την Επιτροπή και μπορεί να επικαιροποιείται.

Η Επιτροπή καταρτίζει κατευθυντήριες γραμμές για την ταξινόμηση υψηλού κινδύνου, οι οποίες θα δημοσιευθούν πριν από την ημερομηνία εφαρμογής των εν λόγω κανόνων.

Το παράρτημα III της πράξης για την ΤΝ περιλαμβάνει 8 τομείς στους οποίους η χρήση της ΤΝ μπορεί να είναι ιδιαίτερα ευαίσθητη και απαριθμεί συγκεκριμένες περιπτώσεις χρήσης για κάθε τομέα. Ένα σύστημα ΤΝ ταξινομείται ως υψηλού κινδύνου εάν προορίζεται να χρησιμοποιηθεί για μία από αυτές τις περιπτώσεις χρήσης. Ορισμένα παραδείγματα:

• Συστήματα ΤΝ που χρησιμοποιούνται ως κατασκευαστικά στοιχεία ασφάλειας σε ορισμένες υποδομές ζωτικής σημασίας. Για παράδειγμα, στους τομείς της οδικής κυκλοφορίας και της παροχής νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας.
• Συστήματα ΤΝ που χρησιμοποιούνται για ορισμένα καθήκοντα στην εκπαίδευση και την επαγγελματική κατάρτιση. Π.χ. αξιολόγηση των μαθησιακών αποτελεσμάτων και καθοδήγηση της μαθησιακής διαδικασίας και παρακολούθηση της εξαπάτησης.
• Συστήματα ΤΝ που χρησιμοποιούνται για ορισμένα καθήκοντα στον τομέα της απασχόλησης και της διαχείρισης των εργαζομένων, καθώς και για την πρόσβαση στην αυτοαπασχόληση. Π.χ. για τη δημοσίευση στοχευμένων αγγελιών θέσεων εργασίας, για την ανάλυση και το φιλτράρισμα των αιτήσεων εργασίας και για την αξιολόγηση των υποψηφίων.
• Συστήματα ΤΝ που χρησιμοποιούνται για την πρόσβαση σε βασικές ιδιωτικές και δημόσιες υπηρεσίες και παροχές (π.χ. υγειονομική περίθαλψη), αξιολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων και εκτίμηση κινδύνου και τιμολόγηση σε σχέση με την ασφάλιση ζωής και υγείας.
• Συστήματα ΤΝ που χρησιμοποιούνται για ορισμένα καθήκοντα στους τομείς της επιβολής του νόμου, της μετανάστευσης και του ελέγχου των συνόρων, στον βαθμό που δεν απαγορεύονται ήδη, καθώς και στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες.
• Συστήματα ΤΝ που χρησιμοποιούνται για τη βιομετρική ταυτοποίηση, τη βιομετρική κατηγοριοποίηση και την αναγνώριση συναισθημάτων, στον βαθμό που δεν απαγορεύονται.

Πριν από τη διάθεση συστήματος ΤΝ υψηλού κινδύνου στην αγορά της ΕΕ ή τη θέση του σε λειτουργία με άλλον τρόπο, οι πάροχοι πρέπει να το υποβάλλουν σε αξιολόγηση συμμόρφωσης. Αυτό θα τους επιτρέψει να αποδείξουν ότι το σύστημά τους συμμορφώνεται με τις υποχρεωτικές απαιτήσεις για αξιόπιστη ΤΝ (π.χ. διαχείριση κινδύνου, ποιότητα δεδομένων, τεκμηρίωση και ιχνηλασιμότητα, διαφάνεια, ανθρώπινη εποπτεία, ακρίβεια, κυβερνοασφάλεια και ανθεκτικότητα). Η αξιολόγηση αυτή πρέπει να επαναλαμβάνεται εάν το σύστημα ή ο σκοπός του τροποποιηθούν ουσιωδώς. Ανάλογα με τον τύπο του συστήματος ΤΝ υψηλού κινδύνου, η αξιολόγηση της συμμόρφωσης ενδέχεται να πρέπει να διενεργείται από ανεξάρτητο οργανισμό αξιολόγησης της συμμόρφωσης. Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου θα πρέπει επίσης να εφαρμόζουν συστήματα διαχείρισης ποιότητας για να διασφαλίζουν τη συμμόρφωσή τους με τις νέες απαιτήσεις και να ελαχιστοποιούν τους κινδύνους για τους χρήστες και τα θιγόμενα πρόσωπα, καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος ΤΝ.

Για να καταστεί δυνατή η εποπτεία και να διασφαλιστεί η δημόσια διαφάνεια, οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου πρέπει να καταχωρίζουν το σύστημα σε δημόσια βάση δεδομένων της ΕΕ.

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου παραμένουν υπεύθυνοι για την ασφάλεια και τη συμμόρφωση του συστήματος καθ’ όλη τη διάρκεια του κύκλου ζωής του. Όπου απαιτείται, πρέπει να αναφέρουν και να ανταποκρίνονται σε σοβαρά περιστατικά, να λαμβάνουν διορθωτικά μέτρα σε περίπτωση εντοπισθέντων κινδύνων ή μη συμμόρφωσης, να παρέχουν πληροφορίες και να συνεργάζονται με τις αρχές εποπτείας της αγοράς.

Ως βάση αναφοράς, οι φορείς εφαρμογής πρέπει να χρησιμοποιούν το σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τις οδηγίες χρήσης και πρέπει να λαμβάνουν όλα τα τεχνικά μέσα για τον σκοπό αυτό. Με βάση τις οδηγίες χρήσης, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου πρέπει να παρακολουθούν τη λειτουργία του συστήματος ΤΝ και να ενεργούν σε περίπτωση εντοπισθέντων κινδύνων ή σοβαρών περιστατικών. Οι φορείς ανάπτυξης πρέπει να αναθέσουν την ανθρώπινη εποπτεία σε ένα πρόσωπο στην οργάνωσή τους. Το εν λόγω πρόσωπο ή πρόσωπα πρέπει να είναι επαρκώς εξοπλισμένα και ικανά να ασκούν ανθρώπινη εποπτεία. Όταν ένας φορέας εφαρμογής παρέχει δεδομένα εισόδου για σύστημα ΤΝ υψηλού κινδύνου, η πράξη για την ΤΝ απαιτεί τα δεδομένα εισόδου να είναι συναφή και επαρκώς αντιπροσωπευτικά για τον επιδιωκόμενο σκοπό του συστήματος ΤΝ.

Οι φορείς ανάπτυξης που είναι δημόσιες αρχές ή παρέχουν δημόσιες υπηρεσίες πρέπει να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν από την πρώτη χρήση.

Επιπλέον, ο φορέας εφαρμογής μπορεί να έχει υποχρεώσεις παροχής πληροφοριών: 

• Τα συστήματα ΤΝ υψηλού κινδύνου που αναπτύσσονται από δημόσιες αρχές ή οντότητες που ενεργούν για λογαριασμό τους θα πρέπει να καταχωρίζονται σε δημόσια βάση δεδομένων της ΕΕ, με εξαίρεση τα συστήματα ΤΝ υψηλού κινδύνου για υποδομές ζωτικής σημασίας. Τα συστήματα ΤΝ που χρησιμοποιούνται για την επιβολή του νόμου και τη μετανάστευση πρέπει να καταχωρίζονται σε μη δημόσιο τμήμα της βάσης δεδομένων στο οποίο θα έχουν πρόσβαση μόνο οι αρμόδιες εποπτικές αρχές.
• Εάν το σύστημα ΤΝ υψηλού κινδύνου εγκατασταθεί στον χώρο εργασίας, οι φορείς εφαρμογής πρέπει να ενημερώνουν εκ των προτέρων τους θιγόμενους εργαζομένους και τους εκπροσώπους των εργαζομένων. Αυτό προστίθεται στους κανόνες διαβούλευσης με τους εργαζομένους που ενδέχεται να ισχύουν ήδη. 
• Εάν το σύστημα ΤΝ υψηλού κινδύνου έχει σχεδιαστεί για να λαμβάνει αποφάσεις ή να βοηθά στη λήψη αποφάσεων σχετικά με φυσικά πρόσωπα, ο φορέας εφαρμογής πρέπει να ενημερώνει το θιγόμενο πρόσωπο.

Η πράξη για την ΤΝ θεσπίζει επίσης δικαίωμα εξήγησης για τα φυσικά πρόσωπα. Αυτό ισχύει όταν τα στοιχεία εξόδου ενός συστήματος ΤΝ υψηλού κινδύνου χρησιμοποιήθηκαν για τη λήψη απόφασης σχετικά με φυσικό πρόσωπο και η απόφαση αυτή παράγει έννομα αποτελέσματα. Οι φορείς ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου πρέπει να λαμβάνουν υπόψη αυτή τη δυνατότητα και, σε περίπτωση αιτήματος, να παρέχουν σαφή και ουσιαστική εξήγηση στο θιγόμενο πρόσωπο.

Οι δοκιμές συστημάτων ΤΝ υψηλού κινδύνου σε πραγματικές συνθήκες μπορούν να διεξαχθούν για μέγιστο διάστημα 6 μηνών (αυτό μπορεί να παραταθεί για άλλους 6 μήνες). Πριν από τη δοκιμή, πρέπει να καταρτιστεί σχέδιο και να υποβληθεί σε αρχή εποπτείας της αγοράς, η οποία πρέπει να εγκρίνει το σχέδιο και τις ειδικές συνθήκες δοκιμής, με εξ ορισμού σιωπηρή έγκριση εάν δεν δοθεί απάντηση εντός 30 ημερών. Οι δοκιμές μπορούν να υπόκεινται σε αιφνιδιαστικές επιθεωρήσεις από την αρχή.

Οι δοκιμές σε πραγματικές συνθήκες μπορούν να διενεργούνται μόνο με συγκεκριμένες διασφαλίσεις, π.χ. οι χρήστες των συστημάτων που υποβάλλονται σε δοκιμές σε πραγματικές συνθήκες πρέπει να παρέχουν συγκατάθεση μετά από ενημέρωση, οι δοκιμές δεν πρέπει να έχουν αρνητικές επιπτώσεις σε αυτούς, τα αποτελέσματα πρέπει να είναι αναστρέψιμα ή αδικαιολόγητα και τα δεδομένα τους πρέπει να διαγράφονται μετά την ολοκλήρωση των δοκιμών. Ειδική προστασία πρέπει να παρέχεται σε ευάλωτες ομάδες, π.χ. λόγω ηλικίας, σωματικής ή διανοητικής αναπηρίας.

Τα συστήματα ΤΝ δεν δημιουργούν ούτε αναπαράγουν προκαταλήψεις. Αντιθέτως, όταν σχεδιάζονται και χρησιμοποιούνται σωστά, τα συστήματα ΤΝ μπορούν να συμβάλουν στη μείωση της μεροληψίας και των υφιστάμενων διαρθρωτικών διακρίσεων και, ως εκ τούτου, να οδηγήσουν σε πιο δίκαιες και αμερόληπτες αποφάσεις (π.χ. κατά την πρόσληψη).

Οι νέες υποχρεωτικές απαιτήσεις για όλα τα συστήματα ΤΝ υψηλού κινδύνου θα εξυπηρετούν αυτόν τον σκοπό. Τα συστήματα ΤΝ πρέπει να είναι τεχνικά ανθεκτικά, ώστε να διασφαλίζεται ότι είναι κατάλληλα για τον επιδιωκόμενο σκοπό και δεν παράγουν μεροληπτικά αποτελέσματα, όπως ψευδώς θετικά ή αρνητικά, που επηρεάζουν δυσανάλογα τις περιθωριοποιημένες ομάδες, συμπεριλαμβανομένων εκείνων που βασίζονται στη φυλετική ή εθνοτική καταγωγή, το φύλο, την ηλικία και άλλα προστατευόμενα χαρακτηριστικά.

Τα συστήματα υψηλού κινδύνου θα πρέπει επίσης να εκπαιδεύονται και να δοκιμάζονται με επαρκώς αντιπροσωπευτικά σύνολα δεδομένων, ώστε να ελαχιστοποιείται ο κίνδυνος αθέμιτων προκαταλήψεων που ενσωματώνονται στο μοντέλο και να διασφαλίζεται ότι αυτές μπορούν να αντιμετωπιστούν μέσω του κατάλληλου εντοπισμού, της διόρθωσης και άλλων μέτρων μετριασμού των προκαταλήψεων. Πρέπει επίσης να είναι ανιχνεύσιμα και ελέγξιμα, διασφαλίζοντας ότι τηρείται κατάλληλη τεκμηρίωση, συμπεριλαμβανομένων των δεδομένων που χρησιμοποιούνται για την κατάρτιση του αλγορίθμου που θα ήταν καίριας σημασίας στις εκ των υστέρων έρευνες.

Τα συστήματα συμμόρφωσης πρέπει να παρακολουθούνται τακτικά και οι πιθανοί κίνδυνοι να αντιμετωπίζονται αμέσως, πριν και μετά τη διάθεσή τους στην αγορά.

Η βιομετρική ταυτοποίηση μπορεί να λάβει διάφορες μορφές. Η βιομετρική επαλήθευση ταυτότητας και η επαλήθευση ταυτότητας, δηλαδή το ξεκλείδωμα ενός έξυπνου τηλεφώνου ή η επαλήθευση/επαλήθευση ταυτότητας στα σημεία διέλευσης των συνόρων για τον έλεγχο της ταυτότητας ενός προσώπου έναντι των ταξιδιωτικών του εγγράφων (αντιστοίχιση ένα προς ένα), εξακολουθούν να μην υπόκεινται σε ρυθμίσεις, διότι δεν συνιστούν σημαντικό κίνδυνο για τα θεμελιώδη δικαιώματα.

Αντίθετα, η εξ αποστάσεως βιομετρική ταυτοποίηση (π.χ. για την ταυτοποίηση ατόμων σε πλήθος) μπορεί να επηρεάσει σημαντικά την προστασία της ιδιωτικής ζωής στον δημόσιο χώρο. Η ακρίβεια των συστημάτων αναγνώρισης προσώπου μπορεί να επηρεαστεί σημαντικά από ένα ευρύ φάσμα παραγόντων, όπως η ποιότητα της κάμερας, το φως, η απόσταση, η βάση δεδομένων, ο αλγόριθμος και η εθνικότητα, η ηλικία ή το φύλο του υποκειμένου. Το ίδιο ισχύει για το βάδισμα και την αναγνώριση φωνής και άλλα βιομετρικά συστήματα. 

Ενώ ένα ποσοστό ακρίβειας 99% μπορεί να φαίνεται καλό γενικά, είναι σημαντικά επικίνδυνο όταν το αποτέλεσμα μπορεί να οδηγήσει στην υποψία ενός αθώου ατόμου. Ακόμη και ένα ποσοστό σφάλματος 0,1% μπορεί να έχει σημαντικό αντίκτυπο όταν εφαρμόζεται σε μεγάλους πληθυσμούς, για παράδειγμα σε σιδηροδρομικούς σταθμούς.

Απαγορεύεται η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους (δηλαδή αναγνώριση προσώπου με χρήση CCTV) για σκοπούς επιβολής του νόμου. Τα κράτη μέλη μπορούν να θεσπίσουν εξαιρέσεις διά νόμου που θα επιτρέπουν τη χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο στις ακόλουθες περιπτώσεις:

• Δραστηριότητες επιβολής του νόμου που σχετίζονται με 16 συγκεκριμένα πολύ σοβαρά εγκλήματα
• Στοχευμένη αναζήτηση συγκεκριμένων θυμάτων, απαγωγών, εμπορίας ανθρώπων και σεξουαλικής εκμετάλλευσης ανθρώπων και αγνοουμένων
• Πρόληψη απειλής κατά της ζωής ή της σωματικής ασφάλειας προσώπων ή τρομοκρατικής επίθεσης

Κάθε κατ’ εξαίρεση χρήση θα πρέπει να είναι αναγκαία και αναλογική και να υπόκειται σε προηγούμενη έγκριση από δικαστική ή ανεξάρτητη διοικητική αρχή της οποίας η απόφαση είναι δεσμευτική. Σε περίπτωση επείγοντος, η έγκριση μπορεί να ζητηθεί εντός 24 ωρών. Εάν η άδεια απορριφθεί, όλα τα δεδομένα και τα αποτελέσματα της χρήσης πρέπει να διαγραφούν.

Η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο θα πρέπει να κοινοποιείται στην αρμόδια αρχή εποπτείας της αγοράς και στην αρχή προστασίας δεδομένων. 

Η χρήση συστημάτων ΤΝ για την εκ των υστέρων εξ αποστάσεως βιομετρική ταυτοποίηση (ταυτοποίηση προσώπων σε υλικό που έχει συλλεχθεί προηγουμένως) των υπό έρευνα προσώπων δεν απαγορεύεται, αλλά απαιτεί προηγούμενη άδεια από δικαστική ή διοικητική αρχή, καθώς και κοινοποίηση στην αρμόδια αρχή προστασίας δεδομένων και εποπτείας της αγοράς.

Υπάρχει ήδη ισχυρή προστασία των θεμελιωδών δικαιωμάτων και της απαγόρευσης των διακρίσεων σε επίπεδο ΕΕ και κρατών μελών, αλλά η πολυπλοκότητα και η αδιαφάνεια ορισμένων εφαρμογών ΤΝ («μαύρα κουτιά») μπορεί να δημιουργήσει πρόβλημα.

Μια ανθρωποκεντρική προσέγγιση της ΤΝ σημαίνει ότι διασφαλίζεται ότι οι εφαρμογές ΤΝ συμμορφώνονται με τη νομοθεσία για τα θεμελιώδη δικαιώματα. Με την ενσωμάτωση απαιτήσεων λογοδοσίας και διαφάνειας στην ανάπτυξη συστημάτων ΤΝ υψηλού κινδύνου και τη βελτίωση των ικανοτήτων επιβολής, μπορούμε να διασφαλίσουμε ότι τα συστήματα αυτά σχεδιάζονται με γνώμονα τη συμμόρφωση με τις κείμενες διατάξεις εξαρχής. Σε περίπτωση παραβιάσεων, οι εν λόγω απαιτήσεις θα επιτρέπουν στις εθνικές αρχές να έχουν πρόσβαση στις πληροφορίες που απαιτούνται για τη διερεύνηση του κατά πόσον η χρήση της ΤΝ συμμορφώνεται με το δίκαιο της ΕΕ.

Η πράξη για την ΤΝ απαιτεί από ορισμένους φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα. 

Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου πρέπει να διενεργούν εκτίμηση κινδύνου και να σχεδιάζουν το σύστημα κατά τρόπο ώστε να ελαχιστοποιούνται οι κίνδυνοι για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα.

Ωστόσο, ορισμένοι κίνδυνοι για τα θεμελιώδη δικαιώματα μπορούν να προσδιοριστούν πλήρως μόνο γνωρίζοντας το πλαίσιο χρήσης του συστήματος ΤΝ υψηλού κινδύνου. Όταν χρησιμοποιούνται συστήματα ΤΝ υψηλού κινδύνου σε ιδιαίτερα ευαίσθητους τομείς πιθανής ασυμμετρίας ισχύος, απαιτούνται πρόσθετες εκτιμήσεις των εν λόγω κινδύνων.

Ως εκ τούτου, οι φορείς εφαρμογής που είναι οργανισμοί δημοσίου δικαίου ή ιδιωτικοί φορείς που παρέχουν δημόσιες υπηρεσίες, καθώς και φορείς εκμετάλλευσης που παρέχουν συστήματα ΤΝ υψηλού κινδύνου που διενεργούν αξιολογήσεις πιστοληπτικής ικανότητας ή εκτιμήσεις τιμών και κινδύνων στον τομέα της ασφάλισης ζωής και υγείας, διενεργούν εκτίμηση των επιπτώσεων στα θεμελιώδη δικαιώματα και κοινοποιούν τα αποτελέσματα στην εθνική αρχή.

Στην πράξη, πολλοί φορείς εφαρμογής θα πρέπει επίσης να διενεργούν εκτίμηση επιπτώσεων σχετικά με την προστασία των δεδομένων. Για την αποφυγή ουσιαστικών επικαλύψεων σε τέτοιες περιπτώσεις, η εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα διενεργείται σε συνδυασμό με την εν λόγω εκτίμηση επιπτώσεων για την προστασία των δεδομένων.

Τα μοντέλα ΤΝ γενικού σκοπού, συμπεριλαμβανομένων των μοντέλων παραγωγικής ΤΝ, μπορούν να χρησιμοποιηθούν για διάφορες εργασίες. Μπορούν να ενσωματωθούν σε μεγάλο αριθμό συστημάτων ΤΝ.

Ο πάροχος συστήματος ΤΝ που ενσωματώνει μοντέλο ΤΝ γενικού σκοπού πρέπει να έχει πρόσβαση στις απαραίτητες πληροφορίες για να το πράξει και να διασφαλίζει ότι το σύστημα συμμορφώνεται με την πράξη για την ΤΝ. Η πράξη για την ΤΝ υποχρεώνει τους παρόχους των εν λόγω μοντέλων να τεκμηριώνουν τεχνικές πληροφορίες σχετικά με τα μοντέλα και να γνωστοποιούν ορισμένες πληροφορίες στους παρόχους κατάντη συστημάτων. Η διαφάνεια αυτή επιτρέπει την καλύτερη κατανόηση αυτών των μοντέλων.

Οι πάροχοι μοντέλων πρέπει να διαθέτουν πολιτικές για τη διασφάλιση της συμμόρφωσης με τη νομοθεσία της ΕΕ για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα. Ειδικότερα, για τον προσδιορισμό και τη συμμόρφωση με τις επιφυλάξεις για τα δικαιώματα στο πλαίσιο της εξαίρεσης της εξόρυξης κειμένων και δεδομένων. Οι πάροχοι πρέπει επίσης να δημοσιεύουν περίληψη του περιεχομένου που χρησιμοποιείται για την κατάρτιση του μοντέλου, με βάση υπόδειγμα από την Υπηρεσία ΤΝ.

Τα πιο προηγμένα από αυτά τα μοντέλα θα μπορούσαν να ενέχουν συστημικούς κινδύνους. Επί του παρόντος, τα μοντέλα ΤΝ γενικού σκοπού που εκπαιδεύονται με τη χρήση συνολικού αριθμού υπολογιστικών πόρων που υπερβαίνει τα 10^25 FLOP (λειτουργίες κυμαινόμενου σημείου) τεκμαίρεται ότι ενέχουν συστημικούς κινδύνους. Η Επιτροπή μπορεί να επικαιροποιεί το όριο αυτό υπό το πρίσμα των τεχνολογικών εξελίξεων. Κατόπιν αιτήματος παρόχου, η Επιτροπή μπορεί επίσης να ανατρέψει το τεκμήριο ότι ένα μοντέλο που υπερβαίνει το όριο FLOP ενέχει συστημικό κίνδυνο, εάν το μοντέλο δεν θεωρείται από τα πλέον προηγμένα. Η Επιτροπή μπορεί επίσης να ορίσει μοντέλα κάτω από το όριο FLOP ως μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο, με βάση τα κριτήρια που καθορίζονται στο παράρτημα XIII της πράξης για την ΤΝ.

Οι πάροχοι μοντέλων με συστημικό κίνδυνο πρέπει να αξιολογούν και να μετριάζουν αυτούς τους κινδύνους, μεταξύ άλλων με τη διενέργεια αξιολογήσεων μοντέλων τελευταίας τεχνολογίας, την αναφορά σοβαρών περιστατικών και τη διασφάλιση επαρκούς κυβερνοασφάλειας των μοντέλων τους και των υλικών υποδομών τους.

Για τη στήριξη των παρόχων όσον αφορά τη συμμόρφωση με τις εν λόγω υποχρεώσεις, η Επιτροπή διευκόλυνε την ανάπτυξη του κώδικα ορθής πρακτικής για την ΤΝ γενικού σκοπού (GPAI). Ο κώδικας ορθής πρακτικής της ΣΔΓΠ είναι ένα εθελοντικό εργαλείο, το οποίο εκπονήθηκε από ανεξάρτητους εμπειρογνώμονες στο πλαίσιο πολυσυμμετοχικής διαδικασίας και έχει σχεδιαστεί για να βοηθήσει τη βιομηχανία να συμμορφωθεί με τις υποχρεώσεις της πράξης για την ΤΝ για τους παρόχους μοντέλων ΤΝ γενικού σκοπού. Ο κώδικας συμπληρώνεται από τις κατευθυντήριες γραμμές της Επιτροπής σχετικά με το πεδίο εφαρμογής των υποχρεώσεων των παρόχων μοντέλων ΤΝ γενικού σκοπού στο πλαίσιο της πράξης για την ΤΝ.

Ο πρώτος κώδικας ορθής πρακτικής για την ΤΝ γενικού σκοπού (GPAI) περιγράφει λεπτομερώς τους κανόνες της πράξης για την ΤΝ για τους παρόχους μοντέλων ΤΝ γενικού σκοπού και μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Ο κώδικας ορθής πρακτικής της ΣΔΓΠ είναι ένα εθελοντικό εργαλείο, το οποίο εκπονήθηκε από ανεξάρτητους εμπειρογνώμονες στο πλαίσιο πολυσυμμετοχικής διαδικασίας και έχει σχεδιαστεί για να βοηθήσει τη βιομηχανία να συμμορφωθεί με τις υποχρεώσεις της πράξης για την ΤΝ για τους παρόχους μοντέλων ΤΝ γενικού σκοπού.

Η Υπηρεσία ΤΝ διευκόλυνε την κατάρτιση του κώδικα. Στη διαδικασία προήδρευσαν ανεξάρτητοι εμπειρογνώμονες, με τη συμμετοχή σχεδόν 1000 ενδιαφερόμενων μερών, καθώς και εκπροσώπων των κρατών μελών της ΕΕ, ευρωπαίων και διεθνών παρατηρητών. Η Επιτροπή και το συμβούλιο για την ΤΝ επιβεβαίωσαν ότι ο κώδικας αποτελεί επαρκές εθελοντικό εργαλείο για τους παρόχους μοντέλων GPAI για την απόδειξη της συμμόρφωσης με την πράξη για την ΤΝ.

Μετά την έγκριση, οι πάροχοι μοντέλων GPAI που υπογράφουν οικειοθελώς μπορούν να αποδείξουν ότι συμμορφώνονται με την πράξη για την ΤΝ τηρώντας τον κώδικα. Με τον τρόπο αυτό θα μειωθεί ο διοικητικός τους φόρτος και θα τους παρασχεθεί μεγαλύτερη ασφάλεια δικαίου απ’ ό,τι εάν αποδείκνυαν τη συμμόρφωση με άλλες μεθόδους. Ο κώδικας συμπληρώνεται από κατευθυντήριες γραμμές της Επιτροπής σχετικά με βασικές έννοιες που σχετίζονται με μοντέλα ΤΝ γενικού σκοπού.

Η Υπηρεσία ΤΝ θα ενθαρρύνει και θα διευκολύνει, κατά περίπτωση, την επανεξέταση και την προσαρμογή του κώδικα ώστε να αντικατοπτρίζει τις εξελίξεις στην τεχνολογία και την τεχνολογία αιχμής. Μόλις ένα εναρμονισμένο πρότυπο δημοσιευθεί και αξιολογηθεί ως κατάλληλο για την κάλυψη των σχετικών υποχρεώσεων από την Υπηρεσία ΤΝ, η συμμόρφωση με ένα ευρωπαϊκό εναρμονισμένο πρότυπο θα πρέπει να παρέχει στους παρόχους το τεκμήριο συμμόρφωσης.

Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει να είναι σε θέση να αποδεικνύουν τη συμμόρφωση χρησιμοποιώντας εναλλακτικά κατάλληλα μέσα, εάν δεν υπάρχουν κώδικες ορθής πρακτικής ή εναρμονισμένα πρότυπα ή επιλέγουν να μην βασίζονται σε αυτά.

Η πράξη για την ΤΝ θεσπίζει ειδικές απαιτήσεις διαφάνειας για τους παρόχους και τους φορείς εφαρμογής ορισμένων διαδραστικών ή παραγωγικών συστημάτων ΤΝ (συμπεριλαμβανομένων των διαλογικών ρομπότ ή των βαθιά παραποιημένων προϊόντων). Οι εν λόγω απαιτήσεις διαφάνειας αποσκοπούν στην αντιμετώπιση των κινδύνων παραπληροφόρησης και χειραγώγησης, απάτης, πλαστοπροσωπίας και εξαπάτησης των καταναλωτών:

1. Οι πάροχοι συστημάτων ΤΝ που αλληλεπιδρούν άμεσα με φυσικά πρόσωπα πρέπει να σχεδιάζουν και να αναπτύσσουν τα εν λόγω συστήματα κατά τρόπο ώστε τα οικεία φυσικά πρόσωπα να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ.
2. Οι πάροχοι συστημάτων παραγωγικής ΤΝ πρέπει να επισημαίνουν τις εξόδους ΤΝ σε μηχαναγνώσιμο μορφότυπο και να διασφαλίζουν ότι είναι ανιχνεύσιμες ως τεχνητά παραγόμενες ή χειριζόμενες. Οι τεχνικές λύσεις πρέπει να είναι αποτελεσματικές, διαλειτουργικές, ισχυρές και αξιόπιστες στον βαθμό που αυτό είναι τεχνικά εφικτό, λαμβανομένων υπόψη των ιδιαιτεροτήτων και των περιορισμών των διαφόρων ειδών περιεχομένου, του κόστους εφαρμογής και της γενικώς αναγνωρισμένης εξέλιξης της τεχνολογίας, όπως μπορεί να αντικατοπτρίζεται στα σχετικά τεχνικά πρότυπα.
3. Οι φορείς ανάπτυξης συστημάτων αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης πρέπει να διασφαλίζουν ότι τα άτομα που εκτίθενται σε αυτά τα συστήματα είναι ενήμερα.
4. Οι φορείς ανάπτυξης συστημάτων παραγωγικής ΤΝ που παράγουν ή χειρίζονται περιεχόμενο εικόνας, ήχου ή βίντεο, το οποίο αποτελεί βαθιά ψευδές, πρέπει να βεβαιώνονται εμφανώς ότι το περιεχόμενο έχει παραχθεί ή υποστεί χειρισμό τεχνητά . Ομοίως, οι φορείς εφαρμογής συστημάτων ΤΝ που παράγουν ή χειρίζονται κείμενο που δημοσιεύεται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου συμφέροντος πρέπει επίσης να δημοσιοποιούν ότι το κείμενο έχει παραχθεί ή υποστεί χειρισμό τεχνητά. 

Ειδικές εξαιρέσεις ισχύουν για όλες τις αναφερόμενες υποχρεώσεις διαφάνειας.

Η Υπηρεσία ΤΝ θα εκδώσει κατευθυντήριες γραμμές για την παροχή περαιτέρω καθοδήγησης στους παρόχους και τους φορείς εφαρμογής σχετικά με τις υποχρεώσεις του άρθρου 50, οι οποίες θα τεθούν σε εφαρμογή στις 2 Αυγούστου 2026.

Για να συμβάλει στη συμμόρφωση με ορισμένες από αυτές τις υποχρεώσεις διαφάνειας, η Υπηρεσία ΤΝ ξεκίνησε τη διαδικασία κατάρτισης κώδικα πρακτικής σχετικά με τη διαφάνεια του περιεχομένου που παράγεται από ΤΝ. Ο κώδικας θα καταρτιστεί από ανεξάρτητους εμπειρογνώμονες που θα διοριστούν από την Υπηρεσία ΤΝ, βάσει διαδικασίας χωρίς αποκλεισμούς. Περισσότερα από 200 ενδιαφερόμενα μέρη από όλους τους τομείς συμβάλλουν στην κατάρτιση του κώδικα. Εάν εγκριθεί από την Επιτροπή, ο τελικός κώδικας θα χρησιμεύσει ως εθελοντικό εργαλείο για τους παρόχους και τους φορείς εφαρμογής συστημάτων παραγωγικής ΤΝ για την απόδειξη της συμμόρφωσης με τις αντίστοιχες υποχρεώσεις τους. 

Η πράξη για την ΤΝ θα εφαρμοστεί 2 έτη μετά την έναρξη ισχύος της στις 2 Αυγούστου 2026, εκτός από τις ακόλουθες ειδικές διατάξεις:

• Οι απαγορεύσεις, οι ορισμοί και οι διατάξεις που σχετίζονται με τον γραμματισμό στον τομέα της ΤΝ εφαρμόζονται από τις 2 Φεβρουαρίου 2025. Η Επιτροπή έχει δημοσιεύσει κατευθυντήριες γραμμές σχετικά με τις απαγορεύσεις και τους ορισμούς, καθώς και ένα ζωντανό αποθετήριο πρακτικών γραμματισμού στον τομέα της ΤΝ και ειδικές συχνές ερωτήσεις.
• Οι κανόνες διακυβέρνησης και οι υποχρεώσεις για την ΤΝ γενικού σκοπού τέθηκαν σε εφαρμογή στις 2 Αυγούστου 2025.
• Οι υποχρεώσεις για τα συστήματα ΤΝ υψηλού κινδύνου που ταξινομούνται ως υψηλού κινδύνου επειδή είναι ενσωματωμένα σε ρυθμιζόμενα προϊόντα, τα οποία απαριθμούνται στο παράρτημα II (κατάλογος της ενωσιακής νομοθεσίας εναρμόνισης), ισχύουν 36 μήνες μετά την έναρξη ισχύος στις 2 Αυγούστου 2027.

Στις 19 Νοεμβρίου 2025, στο πλαίσιο της πρότασης «Digital Omnibus», η Επιτροπή πρότεινε την προσαρμογή του χρονοδιαγράμματος για την εφαρμογή των κανόνων υψηλού κινδύνου, συνδέοντας την ημερομηνία εφαρμογής με τη διαθεσιμότητα μέτρων στήριξης, όπως εναρμονισμένα πρότυπα, κοινές προδιαγραφές ή κατευθυντήριες γραμμές της Επιτροπής.

Η παρούσα πρόταση εντάσσεται στο πλαίσιο της καθυστέρησης στην κατάρτιση προτύπων για τη στήριξη της εφαρμογής των απαιτήσεων υψηλού κινδύνου και της σύστασης αρμόδιων αρχών στα κράτη μέλη της ΕΕ. Αυτό θέτει σε κίνδυνο την ομαλή έναρξη εφαρμογής στις 2 Αυγούστου 2026. Το Digital Omnibus εξετάζεται επί του παρόντος από το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο της ΕΕ.

Η πράξη για την ΤΝ θεσπίζει ένα σύστημα διακυβέρνησης δύο επιπέδων, στο πλαίσιο του οποίου οι εθνικές αρμόδιες αρχές είναι υπεύθυνες για την εποπτεία και την επιβολή των κανόνων για τα συστήματα ΤΝ, ενώ η Υπηρεσία ΤΝ είναι υπεύθυνη για τη διακυβέρνηση και την επιβολή των υποχρεώσεων των παρόχων μοντέλων ΤΝ γενικού σκοπού και για ένα υποσύνολο ορισμένων συστημάτων ΤΝ. 

Το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης (Συμβούλιο Τεχνητής Νοημοσύνης) συστάθηκε για να διασφαλίσει τη συνοχή και τη συνεργασία σε επίπεδο ΕΕ. Απαρτίζεται από εκπροσώπους υψηλού επιπέδου από τα κράτη μέλη και εξειδικευμένες υποομάδες για τις εθνικές ρυθμιστικές αρχές και άλλες αρμόδιες αρχές. 

Η πράξη για την ΤΝ θεσπίζει δύο συμβουλευτικά όργανα για την παροχή στοιχείων από εμπειρογνώμονες: την επιστημονική ομάδα και το συμβουλευτικό σώμα. Οι φορείς αυτοί θα προσφέρουν πολύτιμες πληροφορίες από τα ενδιαφερόμενα μέρη και τις διεπιστημονικές επιστημονικές κοινότητες, οι οποίες θα τροφοδοτούν τη λήψη αποφάσεων και θα διασφαλίζουν μια ισορροπημένη προσέγγιση για την ανάπτυξη της ΤΝ. 

Το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης απαρτίζεται από εκπροσώπους υψηλού επιπέδου των κρατών μελών και από τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων (ΕΕΠΔ). Ως βασικός σύμβουλος, το συμβούλιο για την ΤΝ παρέχει καθοδήγηση για όλα τα θέματα που σχετίζονται με την πολιτική για την ΤΝ, ιδίως τη ρύθμιση της ΤΝ, την πολιτική καινοτομίας και αριστείας και τη διεθνή συνεργασία στον τομέα της ΤΝ. 

Το συμβούλιο για την ΤΝ διαδραματίζει καίριο ρόλο στη διασφάλιση της ομαλής, αποτελεσματικής και εναρμονισμένης εφαρμογής της πράξης για την ΤΝ. Διαθέτει εξειδικευμένες υποομάδες αποτελούμενες από τεχνικούς εμπειρογνώμονες, εθνικές ρυθμιστικές αρχές και άλλες αρμόδιες αρχές. Το συμβούλιο είναι ένα φόρουμ στο οποίο οι ρυθμιστικές αρχές ΤΝ μπορούν να συντονίζουν τη συνεπή εφαρμογή της πράξης για την ΤΝ. 

Τα κράτη μέλη πρέπει να θεσπίσουν αποτελεσματικές, αναλογικές και αποτρεπτικές κυρώσεις για παραβάσεις των κανόνων για τα συστήματα ΤΝ. Ο κανονισμός καθορίζει κατώτατα όρια που πρέπει να λαμβάνονται υπόψη:

• Έως 35 εκατ. EUR ή το 7 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους (όποιο είναι υψηλότερο) για παραβάσεις απαγορευμένων πρακτικών ή μη συμμόρφωση με απαιτήσεις σχετικά με τα δεδομένα
• Έως 15 εκατ. ευρώ ή 3% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους για μη συμμόρφωση με οποιαδήποτε από τις άλλες απαιτήσεις ή υποχρεώσεις του κανονισμού
• Έως 7,5 εκατ. ευρώ ή 1,5 % του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους για την παροχή εσφαλμένων, ελλιπών ή παραπλανητικών πληροφοριών σε κοινοποιημένους οργανισμούς και εθνικές αρμόδιες αρχές σε απάντηση αιτήματος
• Για κάθε κατηγορία παράβασης, το κατώτατο όριο θα είναι το χαμηλότερο από τα 2 ποσά για τις ΜΜΕ και το υψηλότερο για τις άλλες εταιρείες.

Η Επιτροπή μπορεί επίσης να επιβάλει τους κανόνες για τους παρόχους μοντέλων ΤΝ γενικού σκοπού μέσω προστίμων, λαμβάνοντας υπόψη το κατώτατο όριο:

• Έως 15 εκατ. ευρώ ή 3% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών του προηγούμενου οικονομικού έτους λόγω μη συμμόρφωσης με οποιαδήποτε από τις υποχρεώσεις ή τα μέτρα που ζήτησε η Επιτροπή βάσει του κανονισμού.

Τα θεσμικά και λοιπά όργανα ή οργανισμοί της ΕΕ αναμένεται να δώσουν το παράδειγμα, και αυτός είναι ο λόγος για τον οποίο θα υπόκεινται επίσης στους κανόνες και σε πιθανές κυρώσεις. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων (ΕΕΠΔ) θα έχει την εξουσία να τους επιβάλλει πρόστιμα σε περίπτωση μη συμμόρφωσης. 

Το σύμφωνο για την ΤΝ, το οποίο δρομολογήθηκε τον Μάιο του 2023, προωθεί τη συνεργασία μεταξύ της Υπηρεσίας ΤΝ και των οργανισμών (πυλώνας I) και ενθαρρύνει την εθελοντική δέσμευση του κλάδου να αρχίσει να εφαρμόζει τις απαιτήσεις της πράξης για την ΤΝ πριν από τη νόμιμη προθεσμία (πυλώνας II).

Στο πλαίσιο του πυλώνα Ι, οι συμμετέχοντες συμβάλλουν στη δημιουργία μιας συνεργατικής κοινότητας, ανταλλάσσοντας τις εμπειρίες και τις γνώσεις τους. Αυτό περιλαμβάνει διαδικτυακά σεμινάρια που διοργανώνονται από την Υπηρεσία ΤΝ, τα οποία παρέχουν στους συμμετέχοντες καλύτερη κατανόηση της πράξης για την ΤΝ, των αρμοδιοτήτων τους και του τρόπου προετοιμασίας για την εφαρμογή της. Με τη σειρά τους, αυτά τα διαδικτυακά σεμινάρια επιτρέπουν στην Υπηρεσία ΤΝ να συγκεντρώνει πληροφορίες σχετικά με τις βέλτιστες πρακτικές και τις προκλήσεις που αντιμετωπίζουν οι συμμετέχοντες.

Στο πλαίσιο του πυλώνα ΙΙ, οι οργανισμοί ενθαρρύνονται να δημοσιοποιούν προορατικά τις διαδικασίες και τις πρακτικές που εφαρμόζουν για την πρόβλεψη της συμμόρφωσης, μέσω εθελοντικών δεσμεύσεων (.PDF). Οι δεσμεύσεις προορίζονται ως «δηλώσεις δέσμευσης» και θα περιλαμβάνουν δράσεις (που έχουν προγραμματιστεί ή βρίσκονται σε εξέλιξη) για την εκπλήρωση ορισμένων από τις απαιτήσεις της πράξης για την ΤΝ.

Η πλειονότητα των κανόνων της πράξης για την ΤΝ (για παράδειγμα, ορισμένες απαιτήσεις σχετικά με τα συστήματα ΤΝ υψηλού κινδύνου) θα ισχύουν στο τέλος μιας μεταβατικής περιόδου (δηλαδή το χρονικό διάστημα μεταξύ της έναρξης ισχύος και της ημερομηνίας εφαρμογής). Στο πλαίσιο αυτό και στο πλαίσιο του συμφώνου για την ΤΝ, η Υπηρεσία ΤΝ κάλεσε όλους τους οργανισμούς να προβλέψουν και να εφαρμόσουν προορατικά ορισμένες από τις βασικές διατάξεις της πράξης για την ΤΝ, με στόχο τον μετριασμό των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα το συντομότερο δυνατόν.

Περισσότεροι από 3000 οργανισμοί έχουν ήδη εκφράσει το ενδιαφέρον τους να συμμετάσχουν στην πρωτοβουλία του συμφώνου για την ΤΝ, κατόπιν πρόσκλησης υποβολής προτάσεων που προκηρύχθηκε τον Νοέμβριο του 2023. Μια πρώτη ενημερωτική συνεδρία πραγματοποιήθηκε διαδικτυακά στις 6 Μαΐου, με 300 συμμετέχοντες. Η επίσημη υπογραφή των εθελοντικών δεσμεύσεων πραγματοποιήθηκε για το φθινόπωρο του 2024 και μέχρι σήμερα περισσότερες από 230 εταιρείες έχουν υπογράψει τις δεσμεύσεις. Στις 15 Δεκεμβρίου 2025, η Υπηρεσία ΤΝ συγκέντρωσε τους φορείς δέσμευσης του συμφώνου για την ΤΝ προκειμένου να προβεί σε απολογισμό της προόδου που έχει σημειωθεί.

Η Επιτροπή έχει δημιουργήσει το γραφείο εξυπηρέτησης της πράξης για την ΤΝ και μια ενιαία πλατφόρμα πληροφοριών (SIP). Και οι δύο δρομολογήθηκαν παράλληλα με τη στρατηγική εφαρμογής της ΤΝ και είχαν ήδη ανακοινωθεί στο σχέδιο δράσης για την ήπειρο της ΤΝ. Το SIP παρέχει όλες τις σχετικές πληροφορίες, τα εργαλεία συμμόρφωσης και την εξατομικευμένη καθοδήγηση σχετικά με την πράξη για την ΤΝ. Προσφέρει:

• Συχνές ερωτήσεις και πόροι σχετικά με την πράξη για την ΤΝ
• έναν έλεγχο συμμόρφωσης, ένα εργαλείο που δημιουργήθηκε για να βοηθήσει τα ενδιαφερόμενα μέρη να προσδιορίσουν αν υπόκεινται σε νομικές υποχρεώσεις και να κατανοήσουν τα μέτρα που πρέπει να λάβουν για να συμμορφωθούν
• έναν εξερευνητή πράξης για την ΤΝ, ένα διαδικτυακό εργαλείο που έχει σχεδιαστεί για να βοηθά τους χρήστες να περιηγούνται σε διάφορα κεφάλαια, παραρτήματα και αιτιολογικές σκέψεις της πράξης για την ΤΝ με διαισθητικό τρόπο
• ένα διαδικτυακό έντυπο επιτρέπει στα ενδιαφερόμενα μέρη να υποβάλλουν ερωτήσεις στο γραφείο εξυπηρέτησης της πράξης για την ΤΝ — μια ομάδα εμπειρογνωμόνων επαγγελματιών που εργάζονται σε στενή συνεργασία με την Υπηρεσία ΤΝ

Η πράξη για την ΤΝ μπορεί να ενισχύσει την υιοθέτηση της ΤΝ με 2 τρόπους:

1. Η αύξηση της εμπιστοσύνης των χρηστών θα αυξήσει τη ζήτηση για ΤΝ που χρησιμοποιείται από εταιρείες και δημόσιες αρχές
2. με την εναρμόνιση των κανόνων σε όλα τα κράτη μέλη της ΕΕ, οι πάροχοι ΤΝ θα έχουν πρόσβαση σε μεγαλύτερες αγορές, με προϊόντα που εκτιμούν και αγοράζουν οι χρήστες και οι καταναλωτές

Η πράξη για την ΤΝ είναι φιλική προς την καινοτομία. Οι κανόνες θα εφαρμόζονται μόνο όταν είναι απολύτως αναγκαίο και κατά τρόπο που ελαχιστοποιεί την επιβάρυνση για τους οικονομικούς φορείς, με απλουστευμένη δομή διακυβέρνησης. Για τις ΜΜΕ, η πράξη για την ΤΝ προβλέπει απλουστευμένες οδούς συμμόρφωσης για ορισμένες επαχθείς υποχρεώσεις, όπως η τεχνική τεκμηρίωση. Για να δοθεί χώρος στους φορείς καινοτομίας, προβλέπονται εξαιρέσεις για δραστηριότητες έρευνας και ανάπτυξης.

Η πράξη για την ΤΝ καθιστά επίσης δυνατή τη δημιουργία ρυθμιστικών δοκιμαστηρίων και δοκιμών σε πραγματικές συνθήκες, τα οποία παρέχουν ένα ελεγχόμενο περιβάλλον για τη δοκιμή καινοτόμων τεχνολογιών για περιορισμένο χρονικό διάστημα. Τα μέτρα αυτά προωθούν την καινοτομία από εταιρείες, ΜΜΕ και νεοφυείς επιχειρήσεις και θα συμβάλουν στη δημιουργία του κατάλληλου πλαισίου συνθηκών για την ανάπτυξη και την εφαρμογή της ΤΝ. Πρόσθετες πρωτοβουλίες για τη στήριξη της καινοτομίας περιλαμβάνουν:

• Δίκτυα Κέντρων Αριστείας Τεχνητής Νοημοσύνης
• Σύμπραξη δημόσιου-ιδιωτικού τομέα για την τεχνητή νοημοσύνη, τα δεδομένα και τη ρομποτική
• Ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας
• Εγκαταστάσεις δοκιμών και πειραματισμού

Στόχος της πράξης για την ΤΝ είναι η αντιμετώπιση των κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα, συμπεριλαμβανομένου του θεμελιώδους δικαιώματος σε υψηλού επιπέδου προστασία του περιβάλλοντος. Το περιβάλλον είναι επίσης ένα από τα ρητώς αναφερόμενα και προστατευόμενα έννομα συμφέροντα.

Το 2026 η Επιτροπή σχεδιάζει να ζητήσει από τους ευρωπαϊκούς οργανισμούς τυποποίησης να καταρτίσουν παραδοτέο τυποποίησης σχετικά με τις διαδικασίες υποβολής εκθέσεων και τεκμηρίωσης για τη βελτίωση των επιδόσεων των συστημάτων ΤΝ όσον αφορά τους πόρους. Αυτό περιλαμβάνει τη μείωση της κατανάλωσης ενέργειας και άλλων πόρων του συστήματος ΤΝ υψηλού κινδύνου κατά τη διάρκεια του κύκλου ζωής του, καθώς και την ενεργειακά αποδοτική ανάπτυξη μοντέλων ΤΝ γενικού σκοπού.

Η Επιτροπή καλείται να υποβάλει έκθεση προόδου σχετικά με την ανάπτυξη παραδοτέων τυποποίησης για την ενεργειακά αποδοτική ανάπτυξη μοντέλων γενικού σκοπού και να αξιολογήσει την ανάγκη για περαιτέρω μέτρα ή δράσεις (συμπεριλαμβανομένων των δεσμευτικών). Η υποχρέωση αυτή αρχίζει 2 έτη μετά την ημερομηνία εφαρμογής της πράξης για την ΤΝ και στη συνέχεια πραγματοποιείται ανά τετραετία.

Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού, οι οποίοι εκπαιδεύονται σε μεγάλες ποσότητες δεδομένων και, ως εκ τούτου, είναι επιρρεπείς σε υψηλή κατανάλωση ενέργειας, υποχρεούνται να δημοσιοποιούν την κατανάλωση ενέργειας. Στην περίπτωση μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους, πρέπει να αξιολογείται η ενεργειακή απόδοση.

Η Επιτροπή εξουσιοδοτείται να αναπτύξει μεθοδολογία με κατάλληλη και συγκρίσιμη μέτρηση για τις εν λόγω υποχρεώσεις γνωστοποίησης.