Ένα πρωινό που μοιάζει με όλα τα άλλα, κάποιος κατεβαίνει από το μετρό και περπατά προς τη δουλειά του. Δεν έχει κάνει τίποτα διαφορετικό από χθες ούτε από την προηγούμενη εβδομάδα. Κι όμως, σε εκείνη τη διαδρομή τον σταματούν για έλεγχο. Δεν υπάρχει καταγγελία ούτε εμφανής λόγος. Υπάρχει μόνο μια εκτίμηση ότι στο συγκεκριμένο σημείο και τη συγκεκριμένη ώρα κάτι θα μπορούσε να συμβεί. Εκείνη τη στιγμή γίνεται απτό τι σημαίνει προληπτική καταστολή, όχι ως θεωρία αλλά ως καθημερινή εμπειρία.
Η συζήτηση αυτή δεν ανοίγει τυχαία. Τα τελευταία χρόνια, τόσο στην Ελλάδα όσο και διεθνώς, ενισχύεται μια κατεύθυνση πολιτικής που παρουσιάζει την σύγχρονη τεχνολογία τεχνητής νοημοσύνης (ΤΝ) ως αυτονόητη απάντηση σε κάθε ζήτημα ασφάλειας. Καθώς οι επιλογές αυτές επεκτείνονται και παγιώνονται, γίνεται αναγκαίο να τεθεί το ερώτημα πριν η εξαίρεση μετατραπεί σε κανονικότητα.
Καθώς η χώρα προχωρά προς το 2030, η τεχνολογία ΤΝ προβάλλεται όλο και συχνότερα ως ουδέτερη λύση σε σύνθετα κοινωνικά προβλήματα. Όταν όμως η κρατική παρέμβαση αρχίζει να βασίζεται σε προβλέψεις αντί σε πράξεις, τότε μεταβάλλεται η θεμελιώδης σχέση κράτους και πολίτη. Εκεί όπου άλλοτε απαιτούνταν γεγονότα και αποδείξεις, τώρα αρκεί μια πιθανότητα. Όσο αυτή η μετατόπιση παρουσιάζεται ως αναβάθμιση, τόσο λιγότερο γίνεται αντιληπτό το πολιτικό της βάθος.
Σε αυτό το σημείο γίνεται κρίσιμη η διάκριση ανάμεσα στην πρόληψη και στην προληπτική καταστολή. Η πρόληψη επιδιώκει να μειώσει τη βλάβη χωρίς να κατασκευάζει υπόπτους. Η προληπτική καταστολή, αντίθετα, αντιμετωπίζει τον πολίτη ως εν δυνάμει απειλή πριν υπάρξει πράξη. Όταν αυτές οι έννοιες συγχέονται, τότε κάθε τεχνολογική επέκταση εμφανίζεται ως αναγκαία και κάθε επιφύλαξη ως εμπόδιο στην ασφάλεια.
Αυτό γίνεται ιδιαίτερα εμφανές όταν ολόκληρες περιοχές χαρακτηρίζονται επικίνδυνες λόγω παλαιότερων δεδομένων. Όσο αυξάνεται η επιτήρηση σε αυτές τις περιοχές, τόσο αυξάνονται και οι καταγραφές. Όταν οι καταγραφές πολλαπλασιάζονται, επιβεβαιώνουν τον αρχικό χαρακτηρισμό. Έτσι δημιουργείται ένας κύκλος που αυτοτροφοδοτείται και μετατρέπει την εξαίρεση σε μόνιμο καθεστώς. Οι κάτοικοι παύουν να αντιμετωπίζονται ως πρόσωπα με δικαιώματα και αρχίζουν να αντιμετωπίζονται ως μεταβλητές σε έναν υπολογισμό κινδύνου.
Η τεχνολογία μετατρέπει τον πολίτη σε ύποπτο
Απέναντι σε αυτή τη λογική, η ΝΙΚΗ υπερασπίζεται την αρχή ότι το κράτος υπάρχει για να υπηρετεί τον άνθρωπο και όχι για να τον προεξοφλεί. Ο πολίτης δεν είναι δεδομένο προς ανάλυση ούτε πρόβλημα προς διαχείριση, αλλά πρόσωπο με αξία που προηγείται κάθε συστήματος. Η κρατική παρέμβαση οφείλει να έπεται της πράξης και να στηρίζεται σε σαφή γεγονότα. Όταν η εξουσία λειτουργεί με βάση το τι μπορεί να συμβεί, τότε σταδιακά παύει να προστατεύει και αρχίζει να ελέγχει.
Την ίδια περίοδο, η επέκταση συστημάτων ταυτοποίησης στον δημόσιο χώρο αλλοιώνει αθόρυβα την έννοια της ελευθερίας. Όταν η παρουσία καταγράφεται και αναλύεται, τότε η ανωνυμία παύει να θεωρείται φυσικό στοιχείο της ζωής στην πόλη. Ακόμη κι αν αυτές οι πρακτικές εισάγονται ως περιορισμένες, με τον χρόνο γίνονται αόρατες και άρα μόνιμες. Η ΝΙΚΗ επιμένει ότι η ελευθερία στον δημόσιο χώρο και το τεκμήριο αθωότητας αποτελούν θεμέλια της δημοκρατικής ζωής και όχι τεχνικές λεπτομέρειες.
Ιδιαίτερη σημασία έχει και ο τρόπος με τον οποίο λαμβάνονται οι αποφάσεις. Όταν μια πράξη δικαιολογείται με αναφορά σε ένα σύστημα που δεν μπορεί να εξηγηθεί, τότε η ευθύνη μετατοπίζεται από τον άνθρωπο στις μηχανές. Ο πολίτης δεν γνωρίζει ποιο στοιχείο τον οδήγησε στον έλεγχο ούτε πώς μπορεί να το αμφισβητήσει. Η ΝΙΚΗ απορρίπτει τη μεταφορά ευθύνης σε αδιαφανείς διαδικασίες και υπερασπίζεται την ανάγκη ανθρώπινης κρίσης, σαφούς αιτιολόγησης και ουσιαστικού ελέγχου.
Παράλληλα, η συσσώρευση δεδομένων δημιουργεί μια κρατική μνήμη που δεν ξεχνά. Όταν παλαιές πληροφορίες παραμένουν ενεργές χωρίς σαφή λόγο, τότε το παρελθόν βαραίνει το παρόν και επηρεάζει το μέλλον. Σε μια ελεύθερη κοινωνία, η μνήμη της εξουσίας οφείλει να είναι περιορισμένη και αυστηρά αιτιολογημένη, ώστε να μην μετατρέπεται σε μηχανισμό διαρκούς αξιολόγησης.
Το όριο που δεν πρέπει να περάσει η Ελλάδα
Το ερώτημα, τελικά, δεν είναι αν η Ελλάδα θα χρησιμοποιήσει τεχνολογία, αλλά με ποια όρια και με ποια φιλοσοφία. Η ΝΙΚΗ υποστηρίζει ότι η τεχνολογία μπορεί να είναι εργαλείο βοήθειας μόνο όταν υπηρετεί τον άνθρωπο και παραμένει υπό δημοκρατικό έλεγχο. Όταν όμως προηγείται της δικαιοσύνης και υποκαθιστά την ευθύνη, τότε δεν ενισχύει την ασφάλεια αλλά τη διαβρώνει.
Αν η χώρα επιλέξει έναν δρόμο όπου η κρατική παρέμβαση προηγείται της πράξης, τότε θα έχει αλλάξει τον ίδιο τον χαρακτήρα της πολιτείας. Αν όμως επιμείνει στην αρχή ότι το κράτος παρεμβαίνει επειδή κάτι συνέβη και όχι επειδή κάτι μπορεί να συμβεί, τότε θα έχει προστατεύσει κάτι βαθύτερο από την ασφάλεια. Θα έχει προστατεύσει τη δημοκρατική ισορροπία που επιτρέπει στον πολίτη να ζει χωρίς να αποδεικνύει διαρκώς ότι δεν αποτελεί κίνδυνο.
Γεώργιος Νικολάκος
Υπεύθυνος ΘΟ Ψηφιακής Διακυβέρνησης