Πράξη για την ΤΝ

Προσέγγιση βάσει κινδύνου

Η πράξη για την ΤΝ ορίζει 4 επίπεδα κινδύνου για τα συστήματα ΤΝ:

Μη αποδεκτός κίνδυνος

Όλα τα συστήματα ΤΝ που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων απαγορεύονται. Η πράξη για την ΤΝ απαγορεύει οκτώ πρακτικές, και συγκεκριμένα:

1. επιβλαβής χειραγώγηση και εξαπάτηση που βασίζεται στην ΤΝ
2. επιζήμια εκμετάλλευση τρωτών σημείων βάσει ΤΝ
3. κοινωνική βαθμολόγηση
4. Εκτίμηση ή πρόβλεψη κινδύνου για επιμέρους ποινικά αδικήματα
5. μη στοχευμένη απόξεση του διαδικτύου ή υλικού CCTV για τη δημιουργία ή την επέκταση βάσεων δεδομένων αναγνώρισης προσώπου
6. αναγνώριση συναισθημάτων σε χώρους εργασίας και εκπαιδευτικά ιδρύματα
7. βιομετρική κατηγοριοποίηση για να συναχθούν ορισμένα προστατευόμενα χαρακτηριστικά
8. εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο για σκοπούς επιβολής του νόμου σε δημόσια προσβάσιμους χώρους

Οι απαγορεύσεις τέθηκαν σε ισχύ τον Φεβρουάριο του 2025. Η Επιτροπή δημοσίευσε δύο βασικά έγγραφα για την υποστήριξη της πρακτικής εφαρμογής των απαγορευμένων πρακτικών:

• Οι κατευθυντήριες γραμμές σχετικά με τις απαγορευμένες πρακτικές ΤΝ στο πλαίσιο της πράξης για την ΤΝ, οι οποίες παρέχουν νομικές εξηγήσεις και πρακτικά παραδείγματα που βοηθούν τα ενδιαφερόμενα μέρη να κατανοήσουν και να συμμορφωθούν με τις απαγορεύσεις.
• Οι κατευθυντήριες γραμμές σχετικά με τον ορισμό του συστήματος ΤΝ της πράξης για την ΤΝ, ώστε να βοηθηθούν τα ενδιαφερόμενα μέρη στον καθορισμό του πεδίου εφαρμογής της πράξης για την ΤΝ

Υψηλός κίνδυνος

Οι περιπτώσεις χρήσης ΤΝ που μπορεί να ενέχουν σοβαρούς κινδύνους για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα ταξινομούνται ως υψηλού κινδύνου. Αυτές οι περιπτώσεις χρήσης υψηλού κινδύνου περιλαμβάνουν:

• κατασκευαστικά στοιχεία ασφάλειας ΤΝ σε υποδομές ζωτικής σημασίας (π.χ. μεταφορές), η αστοχία των οποίων θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών
• Λύσεις ΤΝ που χρησιμοποιούνται σε εκπαιδευτικά ιδρύματα, οι οποίες μπορούν να καθορίσουν την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής κάποιου (π.χ. βαθμολόγηση εξετάσεων)
• Εξαρτήματα ασφάλειας προϊόντων που βασίζονται στην τεχνητή νοημοσύνη (π.χ. εφαρμογή τεχνητής νοημοσύνης σε χειρουργική επέμβαση υποβοηθούμενη από ρομπότ)
• Εργαλεία ΤΝ για την απασχόληση, τη διαχείριση των εργαζομένων και την πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σημειωμάτων για προσλήψεις)
• Ορισμένες περιπτώσεις χρήσης ΤΝ που χρησιμοποιούνται για την παροχή πρόσβασης σε βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)
• Συστήματα ΤΝ που χρησιμοποιούνται για εξ αποστάσεως βιομετρική ταυτοποίηση, αναγνώριση συναισθημάτων και βιομετρική κατηγοριοποίηση (π.χ. σύστημα ΤΝ για την αναδρομική ταυτοποίηση κλέφτη)
• Περιπτώσεις χρήσης ΤΝ στην επιβολή του νόμου που ενδέχεται να επηρεάσουν τα θεμελιώδη δικαιώματα των ανθρώπων (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)
• Περιπτώσεις χρήσης ΤΝ στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. αυτοματοποιημένη εξέταση αιτήσεων θεώρησης)
• Λύσεις ΤΝ που χρησιμοποιούνται στην απονομή της δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για την προετοιμασία δικαστικών αποφάσεων)

Τα συστήματα ΤΝ υψηλού κινδύνου υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

• επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων
• υψηλής ποιότητας των συνόλων δεδομένων που τροφοδοτούν το σύστημα για την ελαχιστοποίηση των κινδύνων διακρίσεων
• καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων
• λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του, ώστε οι αρχές να αξιολογούν τη συμμόρφωσή του
• σαφείς και επαρκείς πληροφορίες στον φορέα εφαρμογής
• κατάλληλα μέτρα ανθρώπινης εποπτείας
• υψηλό επίπεδο ευρωστίας, κυβερνοασφάλειας και ακρίβειας

Οι κανόνες για την ΤΝ υψηλού κινδύνου θα τεθούν σε ισχύ τον Αύγουστο του 2026 και τον Αύγουστο του 2027.

Κίνδυνος διαφάνειας

Πρόκειται για τους κινδύνους που συνδέονται με την ανάγκη διαφάνειας όσον αφορά τη χρήση της ΤΝ. Η πράξη για την ΤΝ θεσπίζει ειδικές υποχρεώσεις γνωστοποίησης, ώστε να διασφαλίζεται ότι οι άνθρωποι ενημερώνονται όταν είναι αναγκαίο για τη διατήρηση της εμπιστοσύνης. Για παράδειγμα, κατά τη χρήση συστημάτων ΤΝ, όπως τα διαλογικά ρομπότ, οι άνθρωποι θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μια μηχανή, ώστε να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις.

Επιπλέον, οι πάροχοι παραγωγικής ΤΝ πρέπει να διασφαλίζουν ότι το περιεχόμενο που παράγεται από ΤΝ είναι αναγνωρίσιμο. Επιπλέον, ορισμένα περιεχόμενα που παράγονται από ΤΝ θα πρέπει να φέρουν σαφή και ευδιάκριτη επισήμανση, και συγκεκριμένα τα deep fakes και τα κείμενα που δημοσιεύονται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου συμφέροντος.

Οι κανόνες διαφάνειας της πράξης για την ΤΝ θα τεθούν σε ισχύ τον Αύγουστο του 2026. 

Ελάχιστος ή μηδενικός κίνδυνος

Η πράξη για την ΤΝ δεν θεσπίζει κανόνες για την ΤΝ που θεωρείται ελάχιστος ή μηδενικός κίνδυνος. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν σε αυτή την κατηγορία. Αυτό περιλαμβάνει εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή φίλτρα ανεπιθύμητης αλληλογραφίας.

Πώς λειτουργούν όλα αυτά στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

Μόλις ένα σύστημα ΤΝ διατεθεί στην αγορά, οι αρχές είναι αρμόδιες για την εποπτεία της αγοράς, οι φορείς εφαρμογής διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι φορείς εφαρμογής θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Ποιοι είναι οι κανόνες για τα μοντέλα ΤΝ γενικού σκοπού;

Τα μοντέλα ΤΝ γενικού σκοπού (GPAI) μπορούν να εκτελούν ευρύ φάσμα καθηκόντων και αποτελούν τη βάση για πολλά συστήματα ΤΝ στην ΕΕ. Ορισμένα από αυτά τα μοντέλα θα μπορούσαν να ενέχουν συστημικούς κινδύνους εάν είναι πολύ ικανά ή χρησιμοποιούνται ευρέως. Για να διασφαλιστεί η ασφαλής και αξιόπιστη ΤΝ, η πράξη για την ΤΝ θεσπίζει κανόνες για τους παρόχους τέτοιων μοντέλων. Αυτό περιλαμβάνει κανόνες σχετικά με τη διαφάνεια και τα δικαιώματα πνευματικής ιδιοκτησίας. Για τα μοντέλα που ενδέχεται να ενέχουν συστημικούς κινδύνους, οι πάροχοι θα πρέπει να αξιολογούν και να μετριάζουν τους εν λόγω κινδύνους. Οι κανόνες της πράξης για την ΤΝ σχετικά με τη ΣΔΓΠ τέθηκαν σε ισχύ τον Αύγουστο του 2025.

Στήριξη της συμμόρφωσης

Τον Ιούλιο του 2025 η Επιτροπή δημοσίευσε 3 βασικά μέσα για τη στήριξη της υπεύθυνης ανάπτυξης και εγκατάστασης μοντέλων ΣΔΓΠ:

• Οι κατευθυντήριες γραμμές σχετικά με το πεδίο εφαρμογής των υποχρεώσεων για τους παρόχους μοντέλων ΣΔΓΠ αποσαφηνίζουν το πεδίο εφαρμογής των υποχρεώσεων ΣΔΓΠ βάσει της πράξης για την ΤΝ, βοηθώντας τους παράγοντες κατά μήκος της αξιακής αλυσίδας της ΤΝ να κατανοήσουν ποιος πρέπει να συμμορφώνεται με τις εν λόγω υποχρεώσεις.
• Ο κώδικας ορθής πρακτικής της ΣΔΓΠ είναι ένα εθελοντικό εργαλείο συμμόρφωσης που υποβάλλεται στην Επιτροπή από ανεξάρτητους εμπειρογνώμονες, το οποίο παρέχει πρακτική καθοδήγηση για να βοηθήσει τους παρόχους να συμμορφωθούν με τις υποχρεώσεις τους που απορρέουν από την πράξη για την ΤΝ και σχετίζονται με τη διαφάνεια, τα δικαιώματα πνευματικής ιδιοκτησίας και την ασφάλεια και την προστασία.
• Το υπόδειγμα για τη δημόσια περίληψη του εκπαιδευτικού περιεχομένου των μοντέλων GPAI απαιτεί από τους παρόχους να παρέχουν επισκόπηση των δεδομένων που χρησιμοποιούνται για την κατάρτιση των μοντέλων τους. Αυτό περιλαμβάνει τις πηγές από τις οποίες ελήφθησαν τα δεδομένα (που περιλαμβάνουν μεγάλα σύνολα δεδομένων και κορυφαία ονόματα τομέα). Το υπόδειγμα ζητεί επίσης πληροφορίες σχετικά με πτυχές της επεξεργασίας δεδομένων, ώστε να μπορούν τα μέρη με έννομα συμφέροντα να ασκούν τα δικαιώματά τους βάσει του δικαίου της ΕΕ.

Αυτά τα εργαλεία έχουν σχεδιαστεί για να λειτουργούν χέρι-χέρι. Από κοινού, παρέχουν ένα σαφές και εφαρμόσιμο πλαίσιο για τη συμμόρφωση των παρόχων μοντέλων GPAI με την πράξη για την ΤΝ, μειώνοντας τον διοικητικό φόρτο και προωθώντας την καινοτομία, διασφαλίζοντας παράλληλα τα θεμελιώδη δικαιώματα και την εμπιστοσύνη του κοινού.

Η Επιτροπή αναπτύσσει επίσης υποστηρικτικά άλλα εργαλεία που παρέχουν καθοδήγηση σχετικά με τον τρόπο συμμόρφωσης με τους κανόνες διαφάνειας της πράξης για την ΤΝ:

• Ο κώδικας ορθής πρακτικής για τη σήμανση και την επισήμανση περιεχομένου που παράγεται από ΤΝ, ο οποίος επιλέγεται από την Υπηρεσία ΤΝ. Ο κώδικας θα αποτελέσει προαιρετικό εργαλείο για την καθοδήγηση των παρόχων και των φορέων εφαρμογής συστημάτων παραγωγικής ΤΝ ώστε να συμμορφώνονται με τις υποχρεώσεις διαφάνειας. Σε αυτές περιλαμβάνονται η επισήμανση περιεχομένου που παράγεται από ΤΝ και η γνωστοποίηση της τεχνητής φύσης των εικόνων, του ήχου (συμπεριλαμβανομένων των βαθιά ψευδών ειδήσεων), καθώς και του κειμένου.
• Κατευθυντήριες γραμμές σχετικά με διαφανή συστήματα ΤΝ για την αποσαφήνιση του πεδίου εφαρμογής, των σχετικών νομικών ορισμών, των υποχρεώσεων διαφάνειας, των εξαιρέσεων και των σχετικών οριζόντιων ζητημάτων.

Τα εν λόγω μέσα στήριξης βρίσκονται στο στάδιο της προετοιμασίας και θα δημοσιευθούν το δεύτερο τρίμηνο του 2026. Μάθετε περισσότερα για τον τρόπο με τον οποίο η Υπηρεσία ΤΝ στηρίζει την εφαρμογή της πράξης για την ΤΝ.

Διακυβέρνηση και εφαρμογή

Η Ευρωπαϊκή Υπηρεσία ΤΝ και οι αρχές των κρατών μελών είναι αρμόδιες για την εφαρμογή, την εποπτεία και την επιβολή της πράξης για την ΤΝ. Το συμβούλιο για την ΤΝ, η επιστημονική ομάδα και το συμβουλευτικό φόρουμ καθοδηγούν και συμβουλεύουν τη διακυβέρνηση της πράξης για την ΤΝ. Μάθετε περισσότερες λεπτομέρειες σχετικά με τη διακυβέρνηση και την επιβολή της πράξης για την ΤΝ.  

Χρονοδιάγραμμα εφαρμογής

Η πράξη για την ΤΝ τέθηκε σε ισχύ την 1η Αυγούστου 2024 και θα εφαρμοστεί πλήρως 2 έτη αργότερα, στις 2 Αυγούστου 2026, με ορισμένες εξαιρέσεις:

• απαγορευμένες πρακτικές ΤΝ και υποχρεώσεις γραμματισμού στον τομέα της ΤΝ που τέθηκαν σε εφαρμογή από τις 2 Φεβρουαρίου 2025
• οι κανόνες διακυβέρνησης και οι υποχρεώσεις για τα μοντέλα ΣΔΓΠ τέθηκαν σε εφαρμογή στις 2 Αυγούστου 2025
• οι κανόνες για τα συστήματα ΤΝ υψηλού κινδύνου —που είναι ενσωματωμένα σε ρυθμιζόμενα προϊόντα— έχουν παρατεταμένη μεταβατική περίοδο έως τις 2 Αυγούστου 2027

Ποια είναι η πρόταση της Επιτροπής για απλούστευση της εφαρμογής της πράξης για την ΤΝ;

Η ψηφιακή δέσμη μέτρων για την απλούστευση προτείνει τροποποιήσεις για την απλούστευση της εφαρμογής της πράξης για την ΤΝ και τη διασφάλιση ότι οι κανόνες παραμένουν σαφείς, απλοί και φιλικοί προς την καινοτομία.

Η Επιτροπή προτείνει να προσαρμοστεί το χρονοδιάγραμμα για την εφαρμογή των κανόνων υψηλού κινδύνου σε 16 μήνες κατ’ ανώτατο όριο. Με τον τρόπο αυτό διασφαλίζεται ότι οι κανόνες εφαρμόζονται όταν οι εταιρείες διαθέτουν τα κατάλληλα εργαλεία υποστήριξης για τη διευκόλυνση της εφαρμογής, όπως πρότυπα.

Η Επιτροπή προτείνει επίσης στοχευμένες τροποποιήσεις στην πράξη για την ΤΝ, οι οποίες:

• Ενίσχυση των εξουσιών της Υπηρεσίας ΤΝ και κεντρική εποπτεία των συστημάτων ΤΝ που βασίζονται σε μοντέλα ΤΝ γενικού σκοπού, με μείωση του κατακερματισμού της διακυβέρνησης·
• να επεκταθούν ορισμένες απλουστεύσεις που χορηγούνται στις ΜΜΕ και τις χώρες της νότιας Μεσογείου, συμπεριλαμβανομένων των απλουστευμένων απαιτήσεων τεχνικής τεκμηρίωσης·
• να απαιτήσει από την Επιτροπή και τα κράτη μέλη να προωθήσουν τον γραμματισμό στον τομέα της ΤΝ και να διασφαλίσουν τη συνεχή στήριξη των εταιρειών αξιοποιώντας τις υφιστάμενες προσπάθειες (όπως το αποθετήριο πρακτικών γραμματισμού στον τομέα της ΤΝ της Υπηρεσίας ΤΝ, το οποίο ανανεώθηκε πρόσφατα), διατηρώντας παράλληλα τις υποχρεώσεις κατάρτισης για τους φορείς εφαρμογής υψηλού κινδύνου·
• να διευρύνουν τα μέτρα για τη στήριξη της συμμόρφωσης, ώστε περισσότεροι φορείς καινοτομίας να μπορούν να επωφεληθούν από ρυθμιστικά δοκιμαστήρια που θα δημιουργηθούν από το 2028 και με την επέκταση των δυνατοτήτων για δοκιμές σε πραγματικές συνθήκες·
• Προσαρμογή των διαδικασιών του κανονισμού για την ΤΝ ώστε να αποσαφηνιστεί η αλληλεπίδρασή του με άλλους νόμους και να βελτιωθεί η συνολική εφαρμογή και λειτουργία του.

Όλα αυτά συμπληρώνουν τις δράσεις που έχουν ήδη αναλάβει η Επιτροπή και η οικεία υπηρεσία ΤΝ για την παροχή σαφήνειας στις επιχειρήσεις και τις εθνικές αρχές, για παράδειγμα, μέσω κατευθυντήριων γραμμών, κωδίκων πρακτικής και του γραφείου εξυπηρέτησης της πράξης για την ΤΝ.

Η νομοθετική πρόταση εγκρίθηκε στις 19 Νοεμβρίου. Το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο της ΕΕ συζητούν και διαπραγματεύονται επί του παρόντος το Digital Omnibus για την ΤΝ.