Νόμος για την ΤΝ

Η πράξη για την ΤΝ [κανονισμός (ΕΕ) 2024/1689 για τη θέσπιση εναρμονισμένων κανόνων για την τεχνητή νοημοσύνη] είναι το πρώτο ολοκληρωμένο νομικό πλαίσιο για την ΤΝ παγκοσμίως. Στόχος των κανόνων είναι η προώθηση αξιόπιστης ΤΝ στην Ευρώπη.

Ο νόμος για την ΤΝ καθορίζει ένα σαφές σύνολο κανόνων βάσει κινδύνου για τους προγραμματιστές και τους φορείς εφαρμογής ΤΝ όσον αφορά συγκεκριμένες χρήσεις της ΤΝ. Ο νόμος για την ΤΝ αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων πολιτικής για τη στήριξη της ανάπτυξης αξιόπιστης ΤΝ, η οποία περιλαμβάνει επίσης τη δέσμη μέτρων για την καινοτομία στην ΤΝ, τη δρομολόγηση εργοστασίων ΤΝ και το συντονισμένο σχέδιο για την ΤΝ. Από κοινού, τα μέτρα αυτά εγγυώνται την ασφάλεια, τα θεμελιώδη δικαιώματα και την ανθρωποκεντρική ΤΝ, και ενισχύουν την υιοθέτηση, τις επενδύσεις και την καινοτομία στην ΤΝ σε ολόκληρη την ΕΕ.

Για να διευκολυνθεί η μετάβαση στο νέο κανονιστικό πλαίσιο, η Επιτροπή δρομολόγησε το σύμφωνο για την ΤΝ, μια εθελοντική πρωτοβουλία που επιδιώκει να στηρίξει τη μελλοντική εφαρμογή, να συνεργαστεί με τα ενδιαφερόμενα μέρη και να καλέσει τους παρόχους και τους φορείς εφαρμογής ΤΝ από την Ευρώπη και πέραν αυτής να συμμορφωθούν εκ των προτέρων με τις βασικές υποχρεώσεις της πράξης για την ΤΝ. 

Γιατί χρειαζόμαστε κανόνες για την τεχνητή νοημοσύνη;

Ο νόμος για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ ενέχουν περιορισμένο κίνδυνο και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφύγουμε τα ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει απόφαση ή πρόβλεψη και έχει λάβει συγκεκριμένη δράση. Έτσι, μπορεί να είναι δύσκολο να εκτιμηθεί αν κάποιος έχει βρεθεί σε άδικα μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για τη χορήγηση κοινωφελούς συστήματος.

Παρά το γεγονός ότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να προκαλέσουν τα συστήματα ΤΝ.

Μια προσέγγιση με βάση τον κίνδυνο

Ο νόμος για την ΤΝ ορίζει 4 επίπεδα κινδύνου για τα συστήματα ΤΝ:

Απαράδεκτος κίνδυνος

Όλα τα συστήματα ΤΝ που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων απαγορεύονται. Ο νόμος για την ΤΝ απαγορεύει οκτώ πρακτικές, και συγκεκριμένα:

1. επιβλαβής χειραγώγηση και εξαπάτηση με βάση την ΤΝ
2. επιβλαβής εκμετάλλευση των τρωτών σημείων με βάση την ΤΝ
3. κοινωνική βαθμολογία
4. Ατομική εκτίμηση ή πρόβλεψη κινδύνου ποινικού αδικήματος
5. μη στοχευμένη απόξεση του διαδικτύου ή υλικού CCTV για τη δημιουργία ή την επέκταση βάσεων δεδομένων αναγνώρισης προσώπου
6. αναγνώριση συναισθημάτων σε χώρους εργασίας και εκπαιδευτικά ιδρύματα
7. βιομετρική κατηγοριοποίηση για την εξαγωγή ορισμένων προστατευόμενων χαρακτηριστικών
8. εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο για σκοπούς επιβολής του νόμου σε δημόσια προσβάσιμους χώρους

Υψηλός κίνδυνος

Οι περιπτώσεις χρήσης ΤΝ που μπορούν να θέσουν σοβαρούς κινδύνους για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα ταξινομούνται ως υψηλού κινδύνου. Αυτές οι περιπτώσεις χρήσης υψηλού κινδύνου περιλαμβάνουν:

• Συνιστώσες ασφάλειας ΤΝ σε υποδομές ζωτικής σημασίας (π.χ. μεταφορές), η αστοχία των οποίων θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών
• Λύσεις τεχνητής νοημοσύνης που χρησιμοποιούνται σε εκπαιδευτικά ιδρύματα, οι οποίες μπορούν να καθορίζουν την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής κάποιου (π.χ. βαθμολόγηση εξετάσεων)
• Κατασκευαστικά στοιχεία ασφάλειας προϊόντων που βασίζονται στην ΤΝ (π.χ. εφαρμογή τεχνητής νοημοσύνης στη χειρουργική με ρομποτική βοήθεια)
• Εργαλεία ΤΝ για την απασχόληση, τη διαχείριση των εργαζομένων και την πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό ταξινόμησης βιογραφικών σημειωμάτων για πρόσληψη)
• Ορισμένες περιπτώσεις χρήσης ΤΝ που χρησιμοποιούνται για την παροχή πρόσβασης σε βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)
• Συστήματα ΤΝ που χρησιμοποιούνται για την εξ αποστάσεως βιομετρική ταυτοποίηση, την αναγνώριση συναισθημάτων και τη βιομετρική κατηγοριοποίηση (π.χ. σύστημα ΤΝ για την αναδρομική ταυτοποίηση ενός κλέφτη καταστημάτων)
• Περιπτώσεις χρήσης ΤΝ στην επιβολή του νόμου που ενδέχεται να επηρεάσουν τα θεμελιώδη δικαιώματα των πολιτών (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)
• Περιπτώσεις χρήσης ΤΝ στη διαχείριση της μετανάστευσης, του ασύλου και του ελέγχου των συνόρων (π.χ. αυτοματοποιημένη εξέταση των αιτήσεων θεώρησης)
• Λύσεις ΤΝ που χρησιμοποιούνται στην απονομή της δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για την προετοιμασία δικαστικών αποφάσεων)

Τασυστήματα ΤΝ υψηλού κινδύνου υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

• επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων
• υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα για την ελαχιστοποίηση των κινδύνων αποτελεσμάτων που εισάγουν διακρίσεις
• καταγραφή δραστηριοτήτων για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων
• λεπτομερής τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του για την αξιολόγηση της συμμόρφωσής του από τις αρχές
• σαφείς και επαρκείς πληροφορίες προς τον φορέα ανάπτυξης
• κατάλληλα μέτρα ανθρώπινης εποπτείας
• υψηλό επίπεδο ευρωστίας, κυβερνοασφάλειας και ακρίβειας

Κίνδυνος διαφάνειας

Αυτό αναφέρεται στους κινδύνους που συνδέονται με την ανάγκη διαφάνειας όσον αφορά τη χρήση της ΤΝ. Ο νόμος για την ΤΝ θεσπίζει ειδικές υποχρεώσεις γνωστοποίησης, ώστε να διασφαλίζεται ότι οι άνθρωποι ενημερώνονται όταν είναι απαραίτητο για τη διατήρηση της εμπιστοσύνης. Για παράδειγμα, όταν χρησιμοποιούν συστήματα τεχνητής νοημοσύνης, όπως τα chatbots, οι άνθρωποι θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με μια μηχανή, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση.

Επιπλέον, οι πάροχοι παραγόμενης ΤΝ πρέπει να διασφαλίζουν ότι το περιεχόμενο που παράγεται από ΤΝ είναι αναγνωρίσιμο. Επιπλέον, ορισμένα περιεχόμενα που παράγονται από ΤΝ θα πρέπει να φέρουν σαφή και ευδιάκριτη επισήμανση, συγκεκριμένα τα βαθιά απομιμήσεις και τα κείμενα που δημοσιεύονται με σκοπό την ενημέρωση του κοινού σε θέματα δημόσιου συμφέροντος.

Ελάχιστος ή μηδενικός κίνδυνος

Ο νόμος για την ΤΝ δεν θεσπίζει κανόνες για την ΤΝ που θεωρείται ελάχιστος ή μηδενικός κίνδυνος. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν σε αυτή την κατηγορία. Αυτό περιλαμβάνει εφαρμογές όπως τα βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή τα φίλτρα spam.

Πώς λειτουργούν όλα στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

Πώς λειτουργούν όλα στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

Μόλις διατεθεί ένα σύστημα ΤΝ στην αγορά, οι αρχές είναι υπεύθυνες για την εποπτεία της αγοράς, οι φορείς υλοποίησης διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι φορείς εγκατάστασης θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μια λύση για την αξιόπιστη χρήση μεγάλων μοντέλων τεχνητής νοημοσύνης

Τα μοντέλα ΤΝ γενικής χρήσης μπορούν να εκτελούν ευρύ φάσμα καθηκόντων και αποτελούν τη βάση για πολλά συστήματα ΤΝ στην ΕΕ. Ορισμένα από αυτά τα μοντέλα θα μπορούσαν να φέρουν συστημικούς κινδύνους εάν είναι πολύ ικανά ή χρησιμοποιούνται ευρέως. Για τη διασφάλιση ασφαλούς και αξιόπιστης ΤΝ, ο νόμος για την ΤΝ θεσπίζει κανόνες για τους παρόχους τέτοιων μοντέλων. Αυτό περιλαμβάνει τη διαφάνεια και τους κανόνες που σχετίζονται με τα δικαιώματα πνευματικής ιδιοκτησίας. Για τα μοντέλα που ενδέχεται να ενέχουν συστημικούς κινδύνους, οι πάροχοι θα πρέπει να αξιολογούν και να μετριάζουν τους κινδύνους αυτούς.

Οι κανόνες του νόμου για την ΤΝ σχετικά με την ΤΝ γενικής χρήσης θα τεθούν σε ισχύ τον Αύγουστο του 2025. Η Υπηρεσία Τεχνητής Νοημοσύνης διευκολύνει την κατάρτιση κώδικα ορθής πρακτικής για τη λεπτομερή περιγραφή των εν λόγω κανόνων. Ο κώδικας θα πρέπει να αποτελεί κεντρικό εργαλείο για τους παρόχους ώστε να αποδεικνύουν τη συμμόρφωση με τον νόμο για την ΤΝ, ενσωματώνοντας πρακτικές αιχμής. 

Διακυβέρνηση και εφαρμογή

Η Ευρωπαϊκή Υπηρεσία ΤΝ και οι αρχές των κρατών μελών είναι αρμόδιες για την εφαρμογή, την εποπτεία και την επιβολή της πράξης για την ΤΝ. Το συμβούλιο ΤΝ, η επιστημονική ομάδα και το συμβουλευτικό φόρουμ καθοδηγούν και συμβουλεύουν τη διακυβέρνηση του νόμου για την ΤΝ. Μάθετε περισσότερες λεπτομέρειες σχετικά με τη διακυβέρνηση και την επιβολή του νόμου για την ΤΝ.  

Επόμενα βήματα

Ο νόμος για την ΤΝ τέθηκε σε ισχύ την 1η Αυγούστου 2024 και θα τεθεί σε πλήρη εφαρμογή 2 έτη αργότερα, στις 2 Αυγούστου 2026, με ορισμένες εξαιρέσεις:

• απαγορεύσεις και υποχρεώσεις γραμματισμού στην ΤΝ που τέθηκαν σε εφαρμογή από τις 2 Φεβρουαρίου 2025
• οι κανόνες διακυβέρνησης και οι υποχρεώσεις για τα μοντέλα ΤΝ γενικής χρήσης τίθενται σε εφαρμογή στις 2 Αυγούστου 2025
• οι κανόνες για τα συστήματα ΤΝ υψηλού κινδύνου — που ενσωματώνονται σε ρυθμιζόμενα προϊόντα — έχουν παραταθεί έως τις 2 Αυγούστου 2027.