Νόμος για την ΤΝ

Ο νόμος για την ΤΝ έχει ως στόχο να παρέχει στους προγραμματιστές και στους φορείς εφαρμογής ΤΝ σαφείς απαιτήσεις και υποχρεώσεις όσον αφορά συγκεκριμένες χρήσεις της ΤΝ. Ταυτόχρονα, ο κανονισμός αποσκοπεί στη μείωση του διοικητικού και οικονομικού φόρτου για τις επιχειρήσεις, ιδίως τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ).

Ο νόμος για την ΤΝ αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων πολιτικής για τη στήριξη της ανάπτυξης αξιόπιστης ΤΝ, η οποία περιλαμβάνει επίσης τη δέσμη μέτρων για την καινοτομία στην ΤΝ και το συντονισμένο σχέδιο για την ΤΝ. Από κοινού, τα μέτρα αυτά θα εγγυηθούν την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων όσον αφορά την τεχνητή νοημοσύνη. Θα ενισχύσουν επίσης την υιοθέτηση, τις επενδύσεις και την καινοτομία στον τομέα της ΤΝ σε ολόκληρη την ΕΕ.

Ο νόμος για την ΤΝ είναι το πρώτο ολοκληρωμένο νομικό πλαίσιο για την ΤΝ παγκοσμίως. Στόχος των νέων κανόνων είναι η προώθηση της αξιόπιστης ΤΝ στην Ευρώπη και πέραν αυτής, διασφαλίζοντας ότι τα συστήματα ΤΝ σέβονται τα θεμελιώδη δικαιώματα, την ασφάλεια και τις δεοντολογικές αρχές και αντιμετωπίζοντας τους κινδύνους πολύ ισχυρών και αποτελεσματικών μοντέλων ΤΝ.

Γιατί χρειαζόμαστε κανόνες για την τεχνητή νοημοσύνη;

Ο νόμος για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ ενέχουν περιορισμένο κίνδυνο και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφύγουμε τα ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει απόφαση ή πρόβλεψη και έχει λάβει συγκεκριμένη δράση. Έτσι, μπορεί να είναι δύσκολο να εκτιμηθεί αν κάποιος έχει βρεθεί σε άδικα μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για τη χορήγηση κοινωφελούς συστήματος.

Παρά το γεγονός ότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να προκαλέσουν τα συστήματα ΤΝ.

Οι προτεινόμενοι κανόνες:

• αντιμετώπιση των κινδύνων που δημιουργούνται ειδικά από εφαρμογές ΤΝ·
• να απαγορεύουν τις πρακτικές ΤΝ που ενέχουν απαράδεκτους κινδύνους·
• κατάρτιση καταλόγου εφαρμογών υψηλού κινδύνου·
• καθορισμός σαφών απαιτήσεων για τα συστήματα ΤΝ για εφαρμογές υψηλού κινδύνου·
• ορίζουν ειδικούς φορείς υλοποίησης υποχρεώσεων και παρόχους εφαρμογών ΤΝ υψηλού κινδύνου·
• απαιτεί αξιολόγηση της συμμόρφωσης προτού ένα δεδομένο σύστημα ΤΝ τεθεί σε λειτουργία ή διατεθεί στην αγορά·
• να θέσει σε εφαρμογή την επιβολή μετά τη διάθεση συγκεκριμένου συστήματος ΤΝ στην αγορά·
• δημιουργία δομής διακυβέρνησης σε ευρωπαϊκό και εθνικό επίπεδο.

Μια προσέγγιση με βάση τον κίνδυνο

Το κανονιστικό πλαίσιο ορίζει 4 επίπεδα κινδύνου για τα συστήματα ΤΝ:

Όλα τα συστήματα τεχνητής νοημοσύνης που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων θα απαγορευτούν, από την κοινωνική βαθμολόγηση από τις κυβερνήσεις σε παιχνίδια που χρησιμοποιούν φωνητική βοήθεια που ενθαρρύνει την επικίνδυνη συμπεριφορά.

Υψηλός κίνδυνος

Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνουν την τεχνολογία ΤΝ που χρησιμοποιείται:

• υποδομές ζωτικής σημασίας (π.χ. μεταφορές), που θα μπορούσαν να θέσουν σε κίνδυνο τη ζωή και την υγεία των πολιτών·
• εκπαιδευτική ή επαγγελματική κατάρτιση, η οποία μπορεί να καθορίσει την πρόσβαση στην εκπαίδευση και την επαγγελματική πορεία της ζωής κάποιου (π.χ. βαθμολόγηση εξετάσεων)·
• κατασκευαστικά στοιχεία ασφάλειας των προϊόντων (π.χ. εφαρμογή ΤΝ στη χειρουργική με τη βοήθεια ρομπότ)·
• απασχόληση, διαχείριση των εργαζομένων και πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό ταξινόμησης βιογραφικών για τις διαδικασίες πρόσληψης)·
• βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστώσεων που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)·
• επιβολή του νόμου που ενδέχεται να επηρεάσει τα θεμελιώδη δικαιώματα των πολιτών (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·
• διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ( π.χ. αυτοματοποιημένη εξέταση των αιτήσεων θεώρησης)·
• απονομή δικαιοσύνης και δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για την αναζήτηση δικαστικών αποφάσεων).

Τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

• επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων·
• υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα για την ελαχιστοποίηση των κινδύνων και των αποτελεσμάτων που εισάγουν διακρίσεις·
• καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων·
• λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του για την αξιολόγηση της συμμόρφωσής του από τις αρχές·
• σαφείς και επαρκείς πληροφορίες προς τον φορέα ανάπτυξης·
• κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου·
• υψηλό επίπεδο στιβαρότητας, ασφάλειας και ακρίβειας.

Όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Η χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου απαγορεύεται, κατ’ αρχήν.

Οι στενές εξαιρέσεις ορίζονται αυστηρά και ρυθμίζονται, όπως όταν είναι αναγκαίο για την αναζήτηση αγνοούμενου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου σοβαρής αξιόποινης πράξης.

Οι συνήθειες αυτές υπόκεινται σε έγκριση δικαστικής ή άλλης ανεξάρτητης αρχής και σε κατάλληλα χρονικά όρια, γεωγραφική εμβέλεια και τις βάσεις δεδομένων που αναζητούνται.

Περιορισμένος κίνδυνος

Περιορισμένος κίνδυνος προκύπτειαπό τους κινδύνους που συνδέονται με την έλλειψη διαφάνειας στη χρήση της τεχνητής νοημοσύνης. Ο νόμος για την ΤΝ εισάγει ειδικές υποχρεώσεις διαφάνειας προκειμένου να διασφαλιστεί ότι οι άνθρωποι ενημερώνονται όταν είναι απαραίτητο, ενισχύοντας την εμπιστοσύνη. Για παράδειγμα, όταν χρησιμοποιούν συστήματα ΤΝ, όπως τα chatbots, οι άνθρωποι θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με μια μηχανή, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση να συνεχίσουν ή να κάνουν πίσω. Οι πάροχοι θα πρέπει επίσης να διασφαλίζουν ότι το περιεχόμενο που παράγεται από ΤΝ είναι αναγνωρίσιμο. Επιπλέον, το κείμενο που παράγεται από την ΤΝ και δημοσιεύεται με σκοπό την ενημέρωση του κοινού σχετικά με θέματα δημόσιου ενδιαφέροντος πρέπει να επισημαίνεται ως τεχνητά παραγόμενο. Το ίδιο ισχύει και για το περιεχόμενο ήχου και βίντεο που αποτελούν βαθιά ψεύτικα.

Ελάχιστος ή μηδενικός κίνδυνος

Ο νόμος για την ΤΝ επιτρέπει την ελεύθερη χρήση ΤΝ ελάχιστου κινδύνου. Αυτό περιλαμβάνει εφαρμογές όπως τα βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή τα φίλτρα spam. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν σε αυτή την κατηγορία.

Πώς λειτουργούν όλα στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

Μόλις διατεθεί ένα σύστημα ΤΝ στην αγορά, οι αρχές είναι υπεύθυνες για την εποπτεία της αγοράς, οι φορείς υλοποίησης διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι φορείς εγκατάστασης θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μια λύση για την αξιόπιστη χρήση μεγάλων μοντέλων τεχνητής νοημοσύνης

Όλο και περισσότερο, τα μοντέλα ΤΝ γενικής χρήσης καθίστανται συστατικά στοιχεία των συστημάτων ΤΝ. Αυτά τα μοντέλα μπορούν να εκτελέσουν και να προσαρμόσουν αμέτρητες διαφορετικές εργασίες.

Ενώ τα μοντέλα ΤΝ γενικής χρήσης μπορούν να επιτρέψουν καλύτερες και ισχυρότερες λύσεις ΤΝ, είναι δύσκολο να εποπτεύονται όλες οι δυνατότητες.

Εκεί, ο νόμος για την ΤΝ εισάγει υποχρεώσεις διαφάνειας για όλα τα μοντέλα ΤΝ γενικού σκοπού, ώστε να καταστεί δυνατή η καλύτερη κατανόηση αυτών των μοντέλων και πρόσθετες υποχρεώσεις διαχείρισης κινδύνου για πολύ ικανά και αποτελεσματικά μοντέλα. Αυτές οι πρόσθετες υποχρεώσεις περιλαμβάνουν την αυτοαξιολόγηση και τον μετριασμό των συστημικών κινδύνων, την αναφορά σοβαρών συμβάντων, τη διεξαγωγή αξιολογήσεων δοκιμών και μοντέλων, καθώς και τις απαιτήσεις κυβερνοασφάλειας.

Απρόσκοπτη νομοθεσία για τις μελλοντικές εξελίξεις

Δεδομένου ότι η τεχνητή νοημοσύνη είναι μια ταχέως εξελισσόμενη τεχνολογία, η πρόταση έχει μια μακρόπνοη προσέγγιση, η οποία επιτρέπει στους κανόνες να προσαρμόζονται στις τεχνολογικές αλλαγές. Οι εφαρμογές ΤΝ θα πρέπει να παραμείνουν αξιόπιστες ακόμη και μετά τη διάθεσή τους στην αγορά. Αυτό απαιτεί συνεχή διαχείριση της ποιότητας και του κινδύνου από τους παρόχους.

Επιβολή και εφαρμογή

Η Ευρωπαϊκή Υπηρεσία ΤΝ, η οποία συστάθηκε τον Φεβρουάριο του 2024 στο πλαίσιο της Επιτροπής, επιβλέπει την επιβολή και την εφαρμογή του νόμου για την ΤΝ με τα κράτη μέλη. Στόχος του είναι να δημιουργήσει ένα περιβάλλον όπου οι τεχνολογίες τεχνητής νοημοσύνης σέβονται την ανθρώπινη αξιοπρέπεια, τα δικαιώματα και την εμπιστοσύνη. Προωθεί επίσης τη συνεργασία, την καινοτομία και την έρευνα στον τομέα της ΤΝ μεταξύ διαφόρων ενδιαφερόμενων μερών. Επιπλέον, συμμετέχει σε διεθνή διάλογο και συνεργασία σε θέματα ΤΝ, αναγνωρίζοντας την ανάγκη για παγκόσμια ευθυγράμμιση όσον αφορά τη διακυβέρνηση της ΤΝ. Μέσω αυτών των προσπαθειών, το Ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης προσπαθεί να τοποθετήσει την Ευρώπη ως ηγέτη στη δεοντολογική και βιώσιμη ανάπτυξη των τεχνολογιών τεχνητής νοημοσύνης.

Επόμενα βήματα

Τον Δεκέμβριο του 2023, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο της ΕΕ κατέληξαν σε πολιτική συμφωνία σχετικά με την πράξη για την ΤΝ. Το κείμενο βρίσκεται σε διαδικασία επίσημης έγκρισης και μετάφρασης. Ο νόμος για την ΤΝ θα τεθεί σε ισχύ 20 ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα και θα εφαρμοστεί πλήρως 2 έτη αργότερα, με ορισμένες εξαιρέσεις: οι απαγορεύσεις θα τεθούν σε ισχύ μετά από έξι μήνες, οι κανόνες διακυβέρνησης και οι υποχρεώσεις για τα μοντέλα ΤΝ γενικής χρήσης θα τεθούν σε ισχύ μετά από 12 μήνες και οι κανόνες για τα συστήματα ΤΝ — που ενσωματώνονται σε ρυθμιζόμενα προϊόντα — θα εφαρμοστούν μετά από 36 μήνες. Για να διευκολυνθεί η μετάβαση στο νέο κανονιστικό πλαίσιο, η Επιτροπή δρομολόγησε το σύμφωνο για την ΤΝ, μια εθελοντική πρωτοβουλία που επιδιώκει να στηρίξει τη μελλοντική εφαρμογή και καλεί τους προγραμματιστές ΤΝ από την Ευρώπη και πέραν αυτής να συμμορφωθούν εκ των προτέρων με τις βασικές υποχρεώσεις της πράξης για την ΤΝ.