Αναγνωρίζοντας πως ο κλάδος της τεχνητής νοημοσύνης εξελίσσεται με ραγδαίους ρυθμούς και έχει πολλαπλά οφέλη, η Ευρωπαϊκή Ένωση θέλει να διασφαλίσει ότι η χρήση της θα συμβαίνει με σωστό τρόπο σε κάθε πτυχή της καθημερινότητας.
Στο πλαίσιο μιας ψηφιακής στρατηγικής, τον Απρίλιο του 2021 η Ευρωπαϊκή Επιτροπή κατέθεσε πρόταση για τον πρώτο νόμο Τεχνητής Νοημοσύνης, που καθιερώνει ένα (A.I.) σύστημα ταξινόμησης με γνώμονα το επίπεδο κινδύνου.
Πότε ψηφίστηκε και τι περιλαμβάνει η νέα νομοθεσία
Την περασμένη Τετάρτη, το Κοινοβούλιο ψήφισε τον νέο κανονισμό για την τεχνητή νοημοσύνη, ο οποίος διασφαλίζει την προστασία των χρηστών και τη διατήρηση των θεμελιωδών δικαιωμάτων, ενώ παράλληλα προωθεί την καινοτομία. Οι ευρωβουλευτές ανέπτυξαν το σχέδιο με το οποίο είχαν συμφωνήσει με τα κράτη μέλη τον Δεκέμβριο του 2023, καταγράφοντας 523 ψήφους υπέρ, 46 ψήφους κατά και 49 αποχές.
Η νομοθεσία στοχεύει στην προστασία των βασικών δικαιωμάτων, της δημοκρατίας, του κράτους δικαίου και της περιβαλλοντικής βιωσιμότητας από τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, ενώ ταυτόχρονα ενισχύει την καινοτομία και θέτει την Ευρώπη ως πρωτοπόρο στον τομέα αυτό. Για τον σκοπό αυτό, ο κανονισμός επιβάλλει διαφορετικές υποχρεώσεις ανάλογα με τον εκάστοτε κίνδυνο και τις πιθανές επιπτώσεις της χρήσης των συγκεκριμένων συστημάτων.
Καθολική απαγόρευση ορισμένων πρακτικών
- Απαγορεύονται εφαρμογές που θέτουν σε κίνδυνο τα δικαιώματα των πολιτών, όπως:
- Συστημάτων βιομετρικής κατηγοριοποίησης βάσει ευαίσθητων χαρακτηριστικών.
- Μη στοχοθετημένης συλλογής εικόνων προσώπων από το διαδίκτυο ή συστήματα παρακολούθησης για δημιουργία βάσεων δεδομένων αναγνώρισης.
- Επίσης, απαγορεύονται:
- Η αναγνώριση συναισθημάτων στον χώρο εργασίας και στο σχολείο.
- Η κοινωνική βαθμολόγηση.
- Η προληπτική αστυνόμευση που βασίζεται αποκλειστικά στο προφίλ ενός ατόμου.
- Εφαρμογές που χειραγωγούν την ανθρώπινη συμπεριφορά ή εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων.
Εξαιρέσεις για τις αρχές επιβολής του νόμου
- Η χρήση συστημάτων βιομετρικής ταυτοποίησης από τις αρχές επιβολής απαγορεύεται γενικά, με συγκεκριμένες εξαιρέσεις.
- Επιτρέπεται “σε πραγματικό χρόνο” μόνο υπό αυστηρές προϋποθέσεις (π.χ. περιορισμένη χρονικά και γεωγραφικά χρήση με ειδική άδεια).
- Η χρήση “σε ύστερο χρόνο” θεωρείται υψηλού κινδύνου και απαιτεί δικαστική έγκριση.
Υποχρεώσεις για τα συστήματα υψηλού κινδύνου
- Τα συστήματα που ενδέχεται να επηρεάσουν σημαντικά την υγεία, την ασφάλεια, τα δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου υπόκεινται σε αυστηρές απαιτήσεις:
- Αξιολόγηση και ελαχιστοποίηση κινδύνων.
- Τήρηση αρχείων χρήσης και διαφάνεια.
- Εποπτεία από ανθρώπους.
- Δικαίωμα των πολιτών για υποβολή καταγγελιών και εξηγήσεων σχετικά με αποφάσεις που επηρεάζουν τα δικαιώματά τους.
Απαιτήσεις για διαφάνεια
- Τα συστήματα γενικής χρήσης πρέπει να συμμορφώνονται με την ευρωπαϊκή νομοθεσία περί πνευματικής ιδιοκτησίας.
- Υποχρεούνται να δημοσιοποιούν περιλήψεις του εκπαιδευτικού υλικού τους.
- Για τα ισχυρότερα μοντέλα που ενδέχεται να προκαλέσουν συστημικούς κινδύνους, απαιτείται:
- Αξιολόγηση και περιορισμός των κινδύνων.
- Υποβολή εκθέσεων για περιστατικά και δυσλειτουργίες.
- Οποιοδήποτε τεχνητό ή παραποιημένο οπτικοακουστικό υλικό (deepfakes) πρέπει να επισημαίνεται σαφώς.
Μέτρα για στήριξη της καινοτομίας και των μικρών και μεσαίων επιχειρήσεων
- Οι εθνικές αρχές θα δημιουργήσουν ρυθμιστικά δοκιμαστήρια για τη δοκιμή των συστημάτων τεχνητής νοημοσύνης σε πραγματικές συνθήκες.
- Αυτά τα δοκιμαστήρια θα είναι προσβάσιμα στις μικρές και μεσαίες επιχειρήσεις καθώς και στις νεοφυείς επιχειρήσεις, υποστηρίζοντας την ανάπτυξη και εκπαίδευση καινοτόμων μοντέλων πριν από τη διάθεσή τους στην αγορά.
Με πληροφορίες από την ΕΕ.
