Με σφοδρή κριτική προς την κυβέρνηση και με σαφείς αιχμές για τον κίνδυνο μιας ψηφιακής διοίκησης χωρίς ανθρώπινη ευθύνη, τοποθετήθηκε η βουλευτής Β1΄ Βόρειου Τομέα Αθηνών της ΝΙΚΗΣ, Ασπασία Κουρουπάκη, στη Διαρκή Επιτροπή Δημόσιας Διοίκησης, Δημόσιας Τάξης και Δικαιοσύνης, κατά τη συζήτηση του σχεδίου νόμου του Υπουργείου Ψηφιακής Διακυβέρνησης για την εφαρμογή του ευρωπαϊκού Κανονισμού για την τεχνητή νοημοσύνη.
Η κ. Κουρουπάκη εξ αρχής τόνισε πώς η τεχνητή νοημοσύνη μπαίνει πλέον σε πεδία όπου μέχρι σήμερα υπήρχε ανθρώπινη κρίση, διοικητική ευθύνη, υπογραφή και λογοδοσία. Όπως υπογράμμισε, «η συζήτηση αφορά τον τρόπο με τον οποίο το κράτος θα αξιοποιεί μια τεχνολογία που μπορεί να επηρεάζει άμεσα αποφάσεις για τη ζωή, τα δικαιώματα και την καθημερινότητα των πολιτών».
«Η τεχνητή νοημοσύνη μπορεί να είναι εργαλείο. Την ευθύνη όμως την έχει ο άνθρωπος και η διοίκηση που τη χρησιμοποιεί», τόνισε χαρακτηριστικά, ξεκαθαρίζοντας ότι η ΝΙΚΗ δεν αντιμετωπίζει την τεχνολογία με φοβικά αντανακλαστικά, αλλά με αυστηρό θεσμικό κριτήριο: αν προστατεύεται ο πολίτης ή αν οδηγείται σε ένα απρόσωπο ψηφιακό περιβάλλον όπου κανείς δεν απαντά και κανείς δεν αναλαμβάνει ευθύνη.
Η βουλευτής της ΝΙΚΗΣ ανέδειξε τον κίνδυνο ένα σύστημα τεχνητής νοημοσύνης να επηρεάζει αποφάσεις για κοινωνικές παροχές, πρόσβαση σε υπηρεσίες, εργασιακές διαδικασίες, δημόσια ασφάλεια, εκπαίδευση, υγεία και διοικητικά δικαιώματα, χωρίς ο πολίτης να γνωρίζει ποιος αποφάσισε, με ποια δεδομένα και με ποια δυνατότητα ελέγχου. «Η απάντηση “έτσι το έβγαλε το σύστημα” είναι απαράδεκτη για κράτος δικαίου», σημείωσε, δίνοντας το πολιτικό στίγμα της παρέμβασής της.
Ιδιαίτερα αιχμηρή ήταν η κριτική της για την πολυδιάσπαση αρμοδιοτήτων που προβλέπει το νομοσχέδιο. Η κυβέρνηση, όπως είπε, στήνει ένα σχήμα με πολλούς φορείς, την Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, την ΕΕΤΤ, αρχές εποπτείας αγοράς, υπουργεία, ειδική γραμματεία, παρατηρητήριο και κέντρο τεχνογνωσίας. Το αποτέλεσμα, κατά την κ. Κουρουπάκη, μπορεί να είναι ένας μηχανισμός όπου η ευθύνη θα μετακινείται από γραφείο σε γραφείο.
«Ποιος έχει την τελική ευθύνη; Ποιος ελέγχει; Ποιος παρεμβαίνει όταν υπάρξει πρόβλημα; Ποιος απαντά στον πολίτη; Ποιος λογοδοτεί στη Βουλή;», ανέφερε, επισημαίνοντας ότι στα ζητήματα υψηλού κινδύνου οι θολές αρμοδιότητες αποτελούν θεσμική νάρκη.
Η κ. Κουρουπάκη στάθηκε ιδιαίτερα στην ανάγκη ουσιαστικής ενίσχυσης της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, υπογραμμίζοντας ότι μια ανεξάρτητη αρχή δεν μπορεί να σηκώσει τέτοιο βάρος χωρίς προσωπικό, τεχνογνωσία, ελεγκτικά μέσα και οικονομική στήριξη. Σε αντίθετη περίπτωση, όπως είπε, η κυβέρνηση θα έχει απλώς μεταφέρει μια τεράστια ευθύνη σε έναν θεσμό χωρίς να του δώσει τα εργαλεία να την ασκήσει.
Στο επίκεντρο της παρέμβασής της βρέθηκαν τα συστήματα υψηλού κινδύνου καθώς η βουλευτής της ΝΙΚΗΣ ζήτησε ρητή πρόβλεψη ότι καμία κρίσιμη διοικητική απόφαση που αφορά πολίτη δεν θα λαμβάνεται αποκλειστικά από αυτοματοποιημένο σύστημα. «Ο πολίτης που χάνει μια παροχή, μια θέση, μια πρόσβαση, μια διοικητική διευκόλυνση ή ένα δικαίωμα πρέπει να έχει απέναντί του άνθρωπο με ευθύνη, υπηρεσία με υπογραφή και διαδικασία που ελέγχεται», υπογράμμισε.
Παράλληλα, ζήτησε δικαίωμα εξήγησης, ανθρώπινη επανεξέταση και απλή διοικητική προσφυγή πριν ο πολίτης αναγκαστεί να φτάσει στα δικαστήρια. Όπως σημείωσε, η διοίκηση οφείλει να εξηγεί σε απλή γλώσσα ποια δεδομένα χρησιμοποιήθηκαν, ποιος φορέας είχε την ευθύνη, ποιος έλεγξε το αποτέλεσμα και πώς μπορεί να προσβληθεί μια απόφαση.
Σημαντική ήταν επίσης και η αναφορά της στις δοκιμές συστημάτων τεχνητής νοημοσύνης σε πραγματικές συνθήκες. «Ο όρος ακούγεται τεχνικός, όμως στην πράξη σημαίνει πραγματικούς ανθρώπους, πραγματικά δεδομένα, πραγματικές υπηρεσίες και πραγματικές συνέπειες», ανέφερε, προειδοποιώντας ότι η Ελλάδα δεν μπορεί να μετατραπεί σε πεδίο πειραματισμού χωρίς αυστηρές ασφαλιστικές δικλείδες.
Η κ. Κουρουπάκη ζήτησε προηγούμενη έγκριση, εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα, ενημέρωση όσων επηρεάζονται, ανθρώπινη επίβλεψη, προστασία δεδομένων και δυνατότητα άμεσης διακοπής κάθε δοκιμής όταν διαπιστώνεται κίνδυνος. «Η τεχνολογική εξέλιξη πρέπει να υπηρετεί τον πολίτη και όχι να τον μετατρέπει σε αντικείμενο δοκιμής», είπε.
Ιδιαίτερη έμφαση έδωσε και στο ζήτημα των deepfakes, κάνοντας λόγο για πλαστές εικόνες, φωνές και βίντεο που μπορούν να διασύρουν ανθρώπους, να στοχοποιήσουν ανηλίκους, να πλήξουν οικογένειες και να επηρεάσουν εκλογικές διαδικασίες. Ζήτησε άμεση καταγγελία, άμεση αφαίρεση, ειδική προστασία ανηλίκων, αυστηρή ποινική και αστική ευθύνη, καθώς και ειδικές προβλέψεις για τις προεκλογικές περιόδους.
Αιχμές άφησε και για τη γνωστή κυβερνητική τακτική των πολυθεματικών νομοσχεδίων, σημειώνοντας ότι μέσα σε ένα σχέδιο νόμου για την τεχνητή νοημοσύνη παρεμβάλλονται ρυθμίσεις για το Κτηματολόγιο, το Ληξιαρχείο, την ΗΔΙΚΑ, τα κυβερνητικά νέφη (clouds), τις θέσεις στάθμευσης ΑμεΑ και άλλα ζητήματα. Κατά την ίδια, αυτή η μέθοδος υποβαθμίζει τον κοινοβουλευτικό έλεγχο, θολώνει τη συζήτηση και δυσκολεύει την ουσιαστική εξέταση των άρθρων.
Κλείνοντας, η Ασπασία Κουρουπάκη έθεσε τις βασικές προϋποθέσεις που ζητά η ΝΙΚΗ που είναι η σαφή κατανομή αρμοδιοτήτων, η ενίσχυση των εποπτικών αρχών, η απαγόρευση κρίσιμων αποφάσεων αποκλειστικά από μηχανές, η ανθρώπινη επανεξέταση, ένα ουσιαστικό μητρώο συστημάτων τεχνητής νοημοσύνης στο Δημόσιο, αυστηρό πλαίσιο για τα deepfakes και ειδική προστασία των παιδιών.
«Η Ελλάδα δεν έχει ανάγκη από ψηφιακό εντυπωσιασμό. Έχει ανάγκη από κράτος σοβαρό, με κανόνες, ευθύνη και σεβασμό στον πολίτη», τόνισε, στέλνοντας σαφές μήνυμα προς την κυβέρνηση.
«Η ΝΙΚΗ δεν πρόκειται να δώσει λευκή επιταγή σε ένα πλαίσιο που αφήνει κενά ευθύνης, αόριστες εξουσιοδοτήσεις και επικίνδυνες δυνατότητες χρήσης μιας τόσο ισχυρής τεχνολογίας. Η πρόοδος δεν μετριέται από το πόσο γρήγορα αποφασίζει ένα σύστημα. Μετριέται από το αν ο άνθρωπος παραμένει στο κέντρο της απόφασης, αν ο πολίτης προστατεύεται και αν η εξουσία ελέγχεται».