Το Ευρωπαϊκό Κοινοβούλιο ψήφισε το A.I. Act

Με 499 ψήφους υπέρ, 28 ψήφους κατά και 93 αποχές ολοκληρώθηκε στις 14 Ιουνίου η ιστορική ψηφοφορία της Ολομέλειας του Ευρωκοινοβουλίου με τους Ευρωβουλευτές να υιοθετούν την Ευρωπαϊκή Πράξη για την Τεχνητή Νοημοσύνη (European AI Act). Η ψήφιση του AI Act καθιστά την Ε.Ε. την πρώτη ένωση κρατών (ή μεμονωμένο κράτος) που θέτει κανόνες για την ανάπτυξη, λειτουργία και ενσωμάτωση τεχνολογιών τεχνητής νοημοσύνης.

BREAKING: The European Parliament has adopted the #AI Act with an overwhelming majority. No last-minute amendment outside the text adopted at the committee level made it, including those from the European People’s Party on Remote Biometric Identification. pic.twitter.com/j9CY8loTqZ

— Luca Bertuzzi (@BertuzLuca) June 14, 2023

Βασικοί στόχοι του AI Act είναι:

• να διασφαλιστεί ότι τα συστήματα ΤΝ που θα διατίθενται και χρησιμοποιούνται στην ευρωπαϊκη αγορά θα είναι ασφαλή και θα τηρούν την ισχύουσα νομοθεσία για τα θεμελιώδη δικαιώματα και τις αξίες της Ένωσης
• να διασφαλιστεί η ασφάλεια δικαίου για τη διευκόλυνση των επενδύσεων και της καινοτομίας στον τομέα της ΤΝ
• να ενισχυθεί η διακυβέρνηση και η αποτελεσματική επιβολή της ισχύουσας νομοθεσίας για τα θεμελιώδη δικαιώματα και τις απαιτήσεις ασφάλειας που εφαρμόζονται στα συστήματα ΤΝ
• να διευκολυνθεί η ανάπτυξη ενιαίας αγοράς για νόμιμα, ασφαλή και αξιόπιστα συστήματα ΤΝ και να προληφθεί ο κατακερματισμός της αγοράς.

#AIAct just voted! ✅👏

The EU Parliament becomes the first House in the world voting on a comprehensive #AI regulation!

Today’s vote shows that we can reconcile trust and innovation 🇪🇺 pic.twitter.com/Gc3DhbIbbo

— Thierry Breton (@ThierryBreton) June 14, 2023

Σύμφωνα με το προσχέδιο του AI Act τα συστήματα τεχνητής νοημοσύνης θα χωρίζονται σε τρεις κατηγορίες ανάλογα με το επίπεδο κινδύνου που αντιπροσωπεύουν – α) χαμηλού ή ελάχιστου κινδύνου, β) υψηλού κινδύνου γ)μη αποδεκτού κινδύνο. Με βάση αυτή την κατηγοριοποίηση τα συστήματα “Μη αποδεκτού κινδύνου” θα απαγορεύονται στην Ε.Ε., ενώ τα “Yψηλού κινδύνου” θα επιτρέπονται με την επιφύλαξη της συμμόρφωσης με ορισμένες υποχρεωτικές απαιτήσεις και της εκ των προτέρων αξιολόγησης της συμμόρφωσης.

Ανάμεσα στις απαγορευμένες πρακτικές των συστημάτων Τεχνητής Νοημοσύνης ανήκουν:

• Η χρήση τεχνικών που απευθύνονται στο υποσυνείδητο ενός προσώπου, υπερκεράζοντας το συνειδητό του, με σκοπό την ουσιώδη στρέβλωση της συμπεριφοράς του κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη.
• Η χρήση τεχνικών που εκμεταλλεύονται τα τρωτά σημεία συγκεκριμένων ομάδων προσώπων βάσει ηλικίας, σωματικής ή διανοητικής αναπηρίας, με σκοπό την ουσιώδη στρέβλωση της συμπεριφοράς του κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη.
• Η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν υπάρχει νόμιμη άδεια από τις αρμόδιες αρχές και είναι απολύτως αναγκαία σε συνάρτηση με συγκεκριμένες εγκληματικές πράξεις.
• Η χρήση συστημάτων TN από τις δημόσιες αρχές ή εξ ονόματός τους για την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας φυσικών προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους, με κοινωνική βαθμολογία που να οδηγεί σε δυσμενή επιζήμια ή δυσμενή μεταχείριση του

Οι εταιρείες που δημιουργούν νέου τύπου εφαρμογές τεχνητής νοημοσύνης -τα γνωστά και ως “foundation models” όπως το GPT-4 – θα πρέπει να αξιολογούν και να μετριάζουν τους πιθανούς κινδύνους -για την υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, την δημοκρατία και το κράτος δικαίου- και να καταχωρούν τις εφαρμογές αυτές στη βάση δεδομένων της Ε.Ε., πριν τις διαθέσουν στην ευρωπαϊκή αγορά.

Παράλληλα, θα πρέπει να μεριμνούν ώστε όλες οι εφαρμογές παραγωγικής ΤΝ (Generative AI) που στηρίζονται σε τέτοια μοντέλα, όπως το ChatGPT, να συμμορφώνονται με τις απαιτήσεις διαφάνειας της Ε.Ε., γνωστοποιώντας στους χρήστες ότι περιεχόμενο που παράγουν δημιουργήθηκε με τη χρήση TN, καθώς και να παρέχουν λεπτομερή καταγραφή οποιουδήποτε υλικού προστατεύεται από δικαιώματα πνευματικής ιδιοκτησίας και χρησιμοποιήθηκε για την “εκπαίδευση” των συστημάτων τους.

Yesterday, EU lawmakers passed a draft of the EU AI Act which proposed transparency requirements for providers of foundation models like ChatGPT. Do they currently comply with the draft act? Researchers at @StanfordCRFM & HAI found that they often do not. pic.twitter.com/LrSy8TSOQd

— Stanford HAI (@StanfordHAI) June 15, 2023

Όσο για τα επόμενα βήματα, μετά την ψήφιση ανοίγει η διαδικασία διαλόγου μεταξύ των εκπροσώπων της Κομισιόν, του Κοινοβουλίου και του Συμβουλίου με στόχο να υπάρχει τελική συμφωνία πριν τις επόμενες Ευρωεκλογές (τον Ιούνιο του 2024).

Διαβάστε επίσης:

• Πανελλήνιες 2023: Βάλαμε στο ChatGPT τα θέματα που έπεσαν σε Αρχαία, Μαθηματικά και Βιολογία – Οι απαντήσεις που πήραμε
• ChatGPT: Επιλέγει πού θα πάτε διακοπές
• ChatGPT: Η τεχνητή νοημοσύνη θα φέρει επανάσταση στην εκπαίδευση