Με αιχμηρή παρέμβαση στην Αίθουσα Γερουσίας, κατά τη συνεδρίαση της Επιτροπής Δημόσιας Διοίκησης, Δημόσιας Τάξης και Δικαιοσύνης, η βουλευτής Β1 Βόρειου Τομέα Αθηνών της ΝΙΚΗΣ, Ασπασία Κουρουπάκη, τοποθετήθηκε επί των μέτρων εφαρμογής του Κανονισμού (ΕΕ) 2024/1689 για την τεχνητή νοημοσύνη, θέτοντας στο επίκεντρο τα ζητήματα της διαφάνειας, της λογοδοσίας και της προστασίας του πολίτη απέναντι στην αλγοριθμική εξουσία.
Η κ. Κουρουπάκη ανέδειξε με ιδιαίτερη ένταση τον κίνδυνο να περάσει η χώρα σε μια νέα εποχή διοίκησης, όπου οι αποφάσεις του κράτους θα επηρεάζονται από συστήματα τα οποία ο πολίτης δυσκολεύεται να κατανοήσει, να ελέγξει και να αμφισβητήσει. Από την αρχή της τοποθέτησής της έθεσε το πολιτικό και θεσμικό διακύβευμα με καθαρό τρόπο.
«Η τεχνητή νοημοσύνη μπαίνει πλέον στη δημόσια διοίκηση, στην ασφάλεια, στη δικαιοσύνη, στη μετανάστευση και στην καθημερινή σχέση του πολίτη με την εξουσία. Και ίσως μπαίνει γρηγορότερα από όσο θα έπρεπε», τόνισε η βουλευτής της ΝΙΚΗΣ.
Η κ. Κουρουπάκη υπογράμμισε ότι η κυβέρνηση παρουσιάζει το νομοσχέδιο ως απλή εφαρμογή ευρωπαϊκού κανονισμού, όμως η πολιτική ουσία βρίσκεται στις εθνικές επιλογές, στις αρχές εποπτείας, στις εγγυήσεις, στην ενημέρωση του πολίτη και στην ευθύνη όταν ένα σύστημα τεχνητής νοημοσύνης οδηγεί σε λάθος ή άδικη απόφαση.
«Ποιος ελέγχει την εξουσία όταν αυτή ασκείται μέσα από αλγόριθμους;», ανέφερε χαρακτηριστικά, ζητώντας από την κυβέρνηση να απαντήσει επί της ουσίας.
Η βουλευτής της ΝΙΚΗΣ στάθηκε στα άρθρα 1 και 2 του νομοσχεδίου, επισημαίνοντας ότι οι αναφορές στην προστασία της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων και της καινοτομίας παραμένουν κενές χωρίς ισχυρές θεσμικές εγγυήσεις. Όπως τόνισε, στα χαρτιά το σύστημα εμφανίζεται οργανωμένο, με αρχές, μητρώα, κυρώσεις και διαδικασίες, όμως η πραγματική δοκιμασία θα έρθει όταν ένας πολίτης βρεθεί απέναντι σε μια αδιαφανή ψηφιακή απόφαση.
Ιδιαίτερη αιχμή άφησε για τα άρθρα 3, 4, 7, 8 και 9, με τα οποία η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα αναλαμβάνει τεράστιο βάρος, ως αρμόδια αρχή εποπτείας, ενιαίο σημείο επαφής και φορέας διαχείρισης καταγγελιών. Η κ. Κουρουπάκη έκανε λόγο για υπερσυσσώρευση αρμοδιοτήτων χωρίς σαφή πρόβλεψη ουσιαστικής ενίσχυσης.
«Με πόσους εξειδικευμένους ελεγκτές θα ενισχυθεί η Αρχή; Με ποια τεχνική υποδομή; Με ποιους επιστήμονες; Ποιος θα ελέγχει τα δεδομένα εκπαίδευσης ενός συστήματος; Ποιος θα εντοπίζει τη μεροληψία; Ποιος θα βλέπει αν μια αυτοματοποιημένη διαδικασία αποκλείει ανθρώπους χωρίς αιτιολογία;», ρώτησε με έμφαση.
Η κ. Κουρουπάκη ξεκαθάρισε ότι η πρόβλεψη του άρθρου 25 για κινητικότητα προσωπικού διάρκειας δύο ετών δεν καλύπτει την ανάγκη μόνιμης, εξειδικευμένης και τεχνικά επαρκούς εποπτείας. «Η τεχνητή νοημοσύνη δεν είναι περαστική υπόθεση. Θα χρησιμοποιείται όλο και περισσότερο από το κράτος. Η εποπτεία της χρειάζεται μόνιμο κορμό ανθρώπων με ειδική γνώση και πραγματικά μέσα», σημείωσε.
Αναφερόμενη στο άρθρο 6 για το κέντρο συντονισμού και τεχνογνωσίας, έθεσε το ζήτημα αν θα πρόκειται για όργανο με πραγματική δυνατότητα τεχνικού ελέγχου ή για ακόμη έναν μηχανισμό συσκέψεων, γνωμοδοτήσεων και διαβίβασης εγγράφων. Η ίδια προειδοποίησε ότι τα συστήματα τεχνητής νοημοσύνης δεν εποπτεύονται με απλή γραφειοκρατία, καθώς απαιτούν ειδικούς, πρόσβαση σε τεχνικά δεδομένα, εμπειρογνώμονες και δυνατότητα ουσιαστικής παρέμβασης.
Ξεχωριστή αναφορά έκανε στο άρθρο 11, όπου η Αρχή Προστασίας Δεδομένων ορίζεται ως κοινοποιημένος οργανισμός για την αξιολόγηση συστημάτων υψηλού κινδύνου σε τομείς όπως η επιβολή του νόμου, η μετανάστευση και το άσυλο. Η βουλευτής της ΝΙΚΗΣ μίλησε για ένα εξαιρετικά ευαίσθητο πεδίο, όπου ο πολίτης ή ο αιτών άσυλο βρίσκεται συχνά σε αδύναμη θέση απέναντι στη διοίκηση.
«Ένας πολίτης, ένας αιτών άσυλο, ένας αλλοδαπός που έρχεται αντιμέτωπος με κρατική απόφαση πρέπει να γνωρίζει ποιος αποφασίζει, με ποια στοιχεία και με ποια διαδικασία», ανέφερε, ζητώντας εγγυήσεις για το δικαίωμα προηγούμενης ακρόασης, την ανθρώπινη κρίση και τη διοικητική ευθύνη.
Για το άρθρο 12 και το ρυθμιστικό δοκιμαστήριο τεχνητής νοημοσύνης, η κ. Κουρουπάκη τόνισε ότι η χώρα χρειάζεται τεχνογνωσία, πανεπιστημιακές ομάδες, ερευνητικά σχήματα, νεοφυείς επιχειρήσεις και ελληνικές εταιρείες που μπορούν να σταθούν στον διεθνή τεχνολογικό ανταγωνισμό. Υπογράμμισε, όμως, ότι τα κριτήρια πρόσβασης, τα τέλη συμμετοχής και η διαδικασία επιλογής δεν μπορούν να αφήνονται θολά, διότι έτσι ευνοούνται όσοι διαθέτουν ήδη ισχυρή οικονομική και νομική υποστήριξη.
Ακόμη πιο αιχμηρή ήταν για το άρθρο 13, που αφορά τις δοκιμές συστημάτων υψηλού κινδύνου σε πραγματικές συνθήκες. «Εδώ δεν μιλάμε για άσκηση επί χάρτου. Μιλάμε για πραγματικούς ανθρώπους, πραγματικές υπηρεσίες και πιθανές πραγματικές συνέπειες», είπε, ζητώντας ρητές εγγυήσεις για ενημέρωση, ανθρώπινη εποπτεία, καταγραφή ενεργειών, δυνατότητα άμεσης παύσης και προστασία ευάλωτων ομάδων.
Η κ. Κουρουπάκη έθεσε επίσης το ζήτημα των κυρώσεων στα άρθρα 16, 17 και 18. Επισήμανε ότι τα πρόστιμα πρέπει να έχουν πραγματικό αποτέλεσμα για τους ιδιωτικούς φορείς, ενώ για τους δημόσιους φορείς απαιτείται σχέδιο συμμόρφωσης, χρονοδιάγραμμα, διοικητική ευθύνη και ενημέρωση της Βουλής για σοβαρές παραβάσεις. «Η διοίκηση πρέπει να διορθώνει, όχι απλώς να μεταφέρει λογιστικά χρήματα από ένα δημόσιο ταμείο σε άλλο», υπογράμμισε.
Για το άρθρο 19 περί δικαστικής προστασίας, σημείωσε ότι η αίτηση ακύρωσης στο Συμβούλιο της Επικρατείας δεν επαρκεί για τον απλό πολίτη ή μια μικρή επιχείρηση που πλήττεται από ψηφιακή διαδικασία. Ζήτησε προηγούμενη διοικητική επανεξέταση, σαφή απάντηση, αιτιολογία και δικαίωμα ενημέρωσης για τον τρόπο με τον οποίο επηρεάστηκε η απόφαση.
Ιδιαίτερη βαρύτητα έδωσε στο άρθρο 21 για το μητρώο συστημάτων τεχνητής νοημοσύνης του Δημοσίου. Η κ. Κουρουπάκη ζήτησε να είναι δημόσιο, κατανοητό, πλήρες και διαρκώς ενημερωμένο. «Αν ένα υπουργείο, ένας δήμος ή ένας δημόσιος οργανισμός χρησιμοποιεί σύστημα τεχνητής νοημοσύνης, ο πολίτης έχει δικαίωμα να γνωρίζει τι χρησιμοποιείται, για ποιον σκοπό, από ποιον προμηθευτή, με ποια κατηγορία κινδύνου, με ποια ανθρώπινη εποπτεία και με ποια δυνατότητα ένστασης», ανέφερε.
Παράλληλα, ζήτησε απαντήσεις για την προθεσμία καταχώρησης έως την 31η Δεκεμβρίου 2026, θέτοντας το κρίσιμο ερώτημα τι ισχύει μέχρι τότε για τα συστήματα που ήδη λειτουργούν στο Δημόσιο, ποιοι φορείς τα χρησιμοποιούν, με ποιους αναδόχους, με ποια δεδομένα και με ποια εποπτεία.
Στο άρθρο 22 για το Παρατηρητήριο Τεχνητής Νοημοσύνης, πρότεινε ετήσια έκθεση στη Βουλή με όλα τα συστήματα, τους φορείς, τις κατηγορίες κινδύνου, τις καταγγελίες, τους ελέγχους, τις κυρώσεις και τα περιστατικά αναστολής ή διόρθωσης. Για το άρθρο 23 περί deepfakes, τόνισε ότι ο νόμος πρέπει να πλήττει την απάτη και την παραπλάνηση, προστατεύοντας ταυτόχρονα τη νόμιμη δημοσιογραφική, ερευνητική και δικαστική χρήση υλικού όταν υπηρετεί την αποκάλυψη και την απόδειξη.
Η βουλευτής της ΝΙΚΗΣ κατηγόρησε την κυβέρνηση ότι στο άρθρο 24 επαναφέρει τη γνωστή πρακτική των γενικών εξουσιοδοτήσεων, μεταφέροντας κρίσιμες λεπτομέρειες σε υπουργικές αποφάσεις, εγκυκλίους και διοικητικές πράξεις. Για το άρθρο 26 ζήτησε πλήρη αντιστοίχιση με τις καταργούμενες διατάξεις του ν. 4961/2022, ώστε να γνωρίζει η Βουλή ποιες εγγυήσεις διατηρούνται, ποιες τροποποιούνται και ποιες παύουν να ισχύουν.
Κλείνοντας, επέκρινε την ένταξη πολλών άσχετων ρυθμίσεων στο δεύτερο μέρος του νομοσχεδίου, από το Κτηματολόγιο και το support.gov έως τα κυβερνητικά νέφη, την Εθνική Αρχή Κυβερνοασφάλειας, τα Ληξιαρχεία, τα ΑμεΑ και την Κοινωνία της Πληροφορίας, τονίζοντας ότι με τέτοια πολυνομοθετήματα χάνονται τα ουσιώδη.
«Η τεχνητή νοημοσύνη στο Δημόσιο πρέπει να έχει κανόνες που προστατεύουν τον άνθρωπο. Η ταχύτητα της διοίκησης πρέπει να συνοδεύεται από δικαιοσύνη και η ψηφιοποίηση από ευθύνη απέναντι στον πολίτη. Δεν μπορούμε να δώσουμε λευκή επιταγή σε ένα κράτος που συγκεντρώνει δεδομένα, διαδικασίες και τεχνολογική ισχύ χωρίς ισχυρές εγγυήσεις ελευθερίας, διαφάνειας και ανθρώπινης ευθύνης», κατέληξε η κ. Κουρουπάκη.