Οι πρόσφατες παρεμβάσεις της Ένωσης Πληροφορικών Ελλάδας (ΕΠΕ) είναι επαγγελματικές επισημάνσεις που δεν πρέπει να περάσουν επιδερμικά. Αντίθετα, χρειάζεται να διαβαστούν σε βάθος, διότι είναι καίριες, θεσμικές προειδοποιήσεις: η χώρα εισέρχεται σε μια ψηφιακή εποχή όπου η εφαρμογή της τεχνητής νοημοσύνης και η διοίκηση των δημόσιων λειτουργιών οργανώνονται με όρους πληροφορικής, χωρίς να υπάρχει η πολιτική και διοικητική ωριμότητα που απαιτείται.
Η Τεχνητή Νοημοσύνη (ΑΙ) παρουσιάζεται ως λύση για τα πάντα. Από τη διαχείριση δεδομένων μέχρι τη λήψη αποφάσεων, και αυτό, από μόνο του, είναι προβληματικό. Δεν είναι απλώς μία τεχνολογική παρεξήγηση αλλά είναι ένα σοβαρό πολιτικό ολίσθημα.
Τα δελτία τύπου της ΕΠΕ ουσιαστικά θυμίζουν ότι η τεχνητή νοημοσύνη δεν είναι διοίκηση, ούτε θεσμικός μηχανισμός. Ο αλγόριθμος δεν έχει νομιμοποίηση να ασκεί διακυβέρνηση, δεν έχει λογοδοσία, ούτε μπορεί να αναλάβει ευθύνη. Παρ’ όλα αυτά, παρατηρούμε μια βίαιη μετατόπιση της δημόσιας διοίκησης προς μια αντίληψη όπου ό,τι είναι τεχνικά υλοποιήσιμο θεωρείται αυτομάτως και θεσμικά ορθό. Κι αυτό γίνεται χωρίς διαφανείς κανόνες, χωρίς νομικές εγγυήσεις, χωρίς διακυβέρνηση και χωρίς συμμετοχή των πολιτών.
Η «ΑΙ» δεν είναι και δεν πρέπει να γίνει το νέο δόγμα άσκησης εξουσίας. Δεν μπορεί η λήψη αποφάσεων να μετατραπεί σε διαδικασία ηλεκτρονικής επιβεβαίωσης, χωρίς ανθρώπινη κρίση. Η δημόσια διοίκηση υπάρχει για να εφαρμόζει το Σύνταγμα, τους νόμους, τη δημοκρατική αρχή, την αρχή του δημοσίου συμφέροντος. Δεν υπάρχει για να ευθυγραμμίζεται με ό,τι είναι τεχνικά αποδοτικότερο ή εμπορικά ευκολότερο.
Υπάρχει σήμερα ένα πολύ επικίνδυνο φαινόμενο: η ανάπτυξη τεχνολογικών λύσεων γίνεται αυτοσκοπός. Αντί η τεχνολογία να υπηρετεί ένα θεσμικό στόχο, γίνεται η ίδια ο στόχος. Αντί η διοίκηση να αξιολογεί αν μια τεχνολογική εξέλιξη είναι κοινωνικά θεμιτή, νομικά συμβατή και ηθικά αποδεκτή, εξετάζει το αν «γίνεται». Αν γίνεται, τότε προχωρά. Αυτό είναι διοικητικός και πολιτικός εκφυλισμός.
Επιπλέον, η διοίκηση δεν μπορεί και δεν επιτρέπεται να λειτουργεί αποκλειστικά με όρους πληροφορικής. Η πληροφορική είναι εργαλείο, όχι δόγμα διοίκησης. Στη δημόσια διοίκηση δεν αρκεί να «τρέχει κάτι». Πρέπει να λογοδοτεί. Πρέπει να μπορεί να αμφισβητηθεί. Πρέπει να θεμελιώνει νομιμότητα. Η ύπαρξη δεδομένων υγείας, για παράδειγμα, δεν αρκεί για να αποφασίσει κανείς πώς θα χρησιμοποιηθούν.
Ποιος έχει πρόσβαση; Με ποια αιτιολόγηση; Με ποια δικαιώματα ελέγχου του πολίτη; Αυτά δεν είναι τεχνικά χαρακτηριστικά. Είναι θεσμικές προϋποθέσεις. Κάθε σύστημα, κάθε εφαρμογή, κάθε μοντέλο δεδομένων πρέπει να υπόκειται σε κανόνες νομιμότητας, ίσων δικαιωμάτων πρόσβασης, διαφάνειας και συνταγματικής αρχής της αναλογικότητας. Δεν είναι δυνατόν η αλγοριθμική λογική να υποκαθιστά τη δικαιοκρατική λογική
Η χώρα δεν διαθέτει ούτε ένα πραγματικά λειτουργικό σύστημα Ηλεκτρονικού Φακέλου Ασθενή με ενιαία εθνικά πρότυπα. Κάθε νοσοκομείο, κάθε εφαρμογή, κάθε προμηθευτής λειτουργεί με διαφορετικές τεχνικές απαιτήσεις, διαφορετικές διαδικασίες και ακόμη χειρότερα, διαφορετικούς κανόνες ασφαλείας. Έτσι εμφανίζεται μια εικόνα ψηφιακής «μετάβασης», ενώ πίσω της κρύβονται τεράστια κενά που κανείς δεν αγγίζει. Η κυβέρνηση επέλεξε να παρουσιάζει μια επίπλαστη πρόοδο αντί να θωρακίσει τα δεδομένα και τα δικαιώματα των πολιτών.
Το πιο ανησυχητικό στοιχείο είναι πως η απουσία ελέγχου δεν είναι αμέλεια. Είναι θεσμική επιλογή. Δεν έχει υιοθετηθεί ανεξάρτητος μηχανισμός ελέγχου κυβερνοασφάλειας, δεν υπάρχουν υποχρεωτικά πρωτόκολλα πιστοποίησης, δεν έχει θεσπιστεί διαδικασία αξιολόγησης λογισμικού πριν την παραγωγική λειτουργία.
Επιπλέον, το κράτος φαίνεται να προτιμά κατά κανόνα κλειστό λογισμικό έναντι του ανοιχτού, κάνοντας τις διαδικασίες ελέγχου ακόμη πιο δύσκολες και την διασύνδεση των συστημάτων έναν πονοκέφαλο για τους ειδικούς. Ένα δημόσιο σύστημα υγείας λειτουργεί σαν πειραματική πλατφόρμα, χωρίς εγγυήσεις, χωρίς λογοδοσία, χωρίς ακέραιους κανόνες προστασίας των πολιτών.
Η κυβέρνηση οφείλει να σταματήσει τώρα αυτή την επικίνδυνη πολιτική ολίσθηση. Δεν μπορεί ένα κράτος που μιλά για «ψηφιακό μετασχηματισμό» να αδυνατεί να εξασφαλίσει το στοιχειώδες: ότι κανείς δεν θα μπορεί να αλλοιώσει ιατρικά δεδομένα, ότι η πρόσβαση θα καταγράφεται και θα ελέγχεται, ότι τα δεδομένα υγείας δεν θα γίνουν πεδίο εκμετάλλευσης από ιδιωτικά συμφέροντα ή παράνομες δραστηριότητες.
Η ψηφιακή υγεία δεν είναι πεδίο επικοινωνιακής διαχείρισης. Δεν είναι προεκλογικό σύνθημα. Είναι ο σκληρός πυρήνας της αξιοπρέπειας του πολίτη: το ιστορικό της υγείας του, οι θεραπείες του, τα φαρμακευτικά του δεδομένα, η ίδια του η ζωή. Η απουσία προστασίας αυτών των δεδομένων αποτελεί προσβολή στο δημόσιο συμφέρον. Αποτελεί απειλή για το δικαίωμα στην ιδιωτικότητα και στην ασφάλεια. Και αποτελεί ξεκάθαρη πολιτική ανευθυνότητα.
Όσοι προωθούν την «ΑΙ» ως λύση για όλα, στην πραγματικότητα αποδομούν το νόημα της ίδιας της Δημόσιας Διοίκησης. Η Διοίκηση δεν είναι γραμμή παραγωγής. Η διοίκηση δεν ιδρύθηκε για να αυτοματοποιηθεί. Ιδρύθηκε για να υπηρετεί δικαιώματα. Αν σήμερα η «ΑΙ» μπαίνει στην υγεία, στη διοίκηση προσωπικών δεδομένων, στη χορήγηση επιδομάτων, στη αξιολόγηση αιτημάτων, αύριο θα μπει στην προτεραιοποίηση πολιτών, στην επιλογή ποιος εξυπηρετείται πρώτος, ποιος ελέγχεται, ποιος θεωρείται «υψηλού κινδύνου». Αυτές είναι πολιτικές αποφάσεις. Όχι τεχνολογικά́ προγράμματα.
Αν θέλουμε η «ΑΙ» να έχει θέση στη δημόσια διοίκηση, πρέπει να προηγηθούν όρια και κανόνες. Πρέπει να καθοριστεί τι επιτρέπεται να αυτοματοποιηθεί και τι όχι. Πρέπει να υπάρχουν διαδικασίες ελέγχου, δημοκρατικοί μηχανισμοί και θεσμική λογοδοσία. Η «ΑΙ» δεν είναι ούτε ουδέτερη ούτε αθώα. Είναι μηχανισμός αναπαραγωγής της πολιτικής βούλησης, της οικονομικής ισχύος και της διοικητικής αδράνειας.
Η ΕΠΕ αλλά και η ΝΙΚΗ έχουν θέσει κατ’ επανάληψη, μια ουσιώδη ερώτηση που πρέπει να απαντηθεί πολιτικά: θέλουμε τεχνολογία που υπηρετεί τη δημόσια διοίκηση ή μία δημόσια διοίκηση που υποτάσσεται στην τεχνολογία; Αν το δεύτερο καταστεί πραγματικότητα, δεν θα έχουμε αναβάθμιση του κράτους. Θα έχουμε απώλεια του νοήματος του κράτους.
Η ΝΙΚΗ επισημαίνει ότι, αν δεν απαντήσουμε τώρα, η τεχνητή νοημοσύνη θα γίνει μηχανισμός άσκησης εξουσίας χωρίς πολιτική νομιμοποίηση. Και τότε το πρόβλημα δεν θα είναι τεχνικό. Θα είναι βαθιά πολιτικό, θεσμικό και τελικά δημοκρατικό.
Θεματική Ομάδα Ψηφιακής Διακυβέρνησης