Η συζήτηση για την Τεχνητή Νοημοσύνη έχει ένα παράδοξο. Από τη μία ακούμε όλο και συχνότερα ότι γύρω της μπορεί να έχει δημιουργηθεί μια τεράστια επενδυτική φούσκα και από την άλλη σχεδόν κανείς δεν αμφισβητεί ότι η ίδια η τεχνολογία ήρθε για να μείνει. Για μια χώρα όπως η Ελλάδα, άλλωστε, η αποχή δεν είναι επιλογή. Αν η ΤΝ αυξήσει την παραγωγικότητα, επιταχύνει την έρευνα, αλλάξει την ιατρική και προσφέρει νέες δυνατότητες στην άμυνα, όποιος μείνει πίσω δεν θα γίνει περισσότερο ανεξάρτητος. Θα γίνει απλώς πιο αδύναμος.
Το ερώτημα επομένως δεν είναι αν θα μπούμε στην εποχή της ΤΝ. Έχουμε ήδη μπει. Το ερώτημα είναι τι θα παραδώσουμε μπαίνοντας και, κυρίως, από ποιους θα εξαρτηθούμε.
Εδώ βρίσκεται ίσως η μεγάλη διαφορά αυτής της τεχνολογικής επανάστασης. Η ισχύς που την κινεί είναι συγκεντρωμένη σε σχετικά λίγα χέρια. Τα μεγάλα μοντέλα, η υπολογιστική ισχύς, οι υποδομές cloud, οι μικροεπεξεργαστές και η τεχνογνωσία που απαιτείται για όλα αυτά δεν κατανέμονται ισότιμα ανάμεσα στα κράτη. Μπορεί λοιπόν μια χώρα να γίνει εντυπωσιακά σύγχρονη και ταυτόχρονα περισσότερο εξαρτημένη.
Και εδώ αρχίζει μια συζήτηση που στην Ελλάδα δεν έχουμε κάνει όσο θα έπρεπε.
Τι σημαίνει, για παράδειγμα, ένα ψηφιακά προηγμένο κράτος όταν για κρίσιμες λειτουργίες του εξαρτάται από τεχνολογίες που δεν ελέγχει και ίσως δεν μπορεί εύκολα να αντικαταστήσει; Η εθνική κυριαρχία δεν εξαντλείται στα σύνορα και στις σημαίες. Είναι και η πραγματική δυνατότητα ενός κράτους να αποφασίζει και να λειτουργεί, ακόμη και όταν οι επιλογές του δεν συμπίπτουν με τα συμφέροντα εκείνων από τους οποίους τεχνολογικά εξαρτάται.
Την ίδια στιγμή η συζήτηση για τη διεθνή διακυβέρνηση της ΤΝ έχει ήδη προχωρήσει. Το Global Digital Compact του ΟΗΕ μιλά ανοιχτά για διεθνή συνεργασία στη διακυβέρνηση της ΤΝ, για συμβατότητα διαφορετικών πλαισίων και για διαλειτουργικότητα ανάμεσα σε εθνικά, περιφερειακά και διεθνή συστήματα. Δεν σημαίνει αυτομάτως ότι τα κράτη παραιτούνται από την κυριαρχία τους. Δείχνει όμως προς ποια κατεύθυνση κινείται η συζήτηση και πόσο δύσκολο είναι πλέον να αντιμετωπίζεται η τεχνολογία αυτή ως μια καθαρά εθνική υπόθεση.
Και κάπου εδώ προκύπτει ένα ερώτημα που αξίζει τουλάχιστον να τεθεί.
Η Τεχνητή Νοημοσύνη διεθνοποιεί αναγκαστικά λειτουργίες που μέχρι σήμερα θεωρούσαμε εθνικές;
Το ζήτημα, βέβαια, δεν αφορά μόνο το κράτος. Αφορά και τον ίδιο τον άνθρωπο, γιατί όσο περισσότερο η ΤΝ περνά στην καθημερινότητά μας τόσο περισσότερο μετακινείται από την επεξεργασία πληροφοριών προς την εισήγηση και από την εισήγηση προς την απόφαση.
Στην υγεία αυτό μπορεί να γίνει πολύ γρήγορα αντιληπτό. Αν αύριο ένα σύστημα ΤΝ μπορεί να εντοπίζει μια ασθένεια με μεγαλύτερη ακρίβεια από έναν γιατρό, ασφαλώς και πρέπει να αξιοποιηθεί. Τι συμβαίνει όμως όταν ο γιατρός διαφωνεί με την εκτίμησή του; Θα έχει στην πράξη το δικαίωμα να την αγνοήσει; Και αν το κάνει και τελικά η μηχανή είχε δίκιο, ποιος αναλαμβάνει την ευθύνη;
Στις Ένοπλες Δυνάμεις τα πράγματα είναι ακόμη πιο δύσκολα. Ένα σύστημα μπορεί να αναγνωρίσει μια απειλή, να επεξεργαστεί έναν τεράστιο όγκο πληροφοριών και να εισηγηθεί αντίδραση μέσα σε χρόνο που κανένας άνθρωπος δεν μπορεί να ακολουθήσει. Μπορούμε ασφαλώς να προβλέψουμε ότι η τελική απόφαση θα παραμένει στον αξιωματικό. Αν όμως εκείνος διαθέτει ελάχιστα δευτερόλεπτα για να εγκρίνει μια εισήγηση που δεν έχει πραγματικά τη δυνατότητα να ελέγξει, τότε πρέπει να αναρωτηθούμε αν έχουμε ανθρώπινη απόφαση ή απλώς ανθρώπινη επικύρωση.
Κάτι αντίστοιχο μπορεί να συμβεί στη δημόσια διοίκηση, στη φορολογία, στις κοινωνικές παροχές, στις προσλήψεις. Ο πολίτης μπορεί κάποια στιγμή να βρεθεί απέναντι σε μια απόφαση στην οποία συμμετείχε καθοριστικά ένας αλγόριθμος, χωρίς ο ίδιος να γνωρίζει πώς ακριβώς προέκυψε.
Τότε όμως εμφανίζεται και η ευθύνη.
Ο υπάλληλος μπορεί να ισχυριστεί ότι ακολούθησε την εισήγηση του συστήματος. Ο προϊστάμενος ότι υπήρχε ανθρώπινη εποπτεία. Η εταιρεία που το κατασκεύασε ότι η τελική απόφαση ανήκε στον άνθρωπο. Έτσι μπορεί να φτάσουμε σε ένα παράδοξο σημείο όπου όλοι συμμετείχαν σε μια απόφαση και τελικά κανείς δεν αναλαμβάνει πραγματικά την ευθύνη της.
Ο ευρωπαϊκός AI Act επιχειρεί ήδη να αντιμετωπίσει μέρος αυτού του προβλήματος, ιδιαίτερα στα συστήματα υψηλού κινδύνου, προβλέποντας ανθρώπινη εποπτεία και δυνατότητα του ανθρώπου να αγνοήσει, να ανατρέψει ή να σταματήσει τη λειτουργία ενός συστήματος. Αναγνωρίζει μάλιστα τον κίνδυνο της υπερβολικής εμπιστοσύνης στην αλγοριθμική πρόταση, το λεγόμενο automation bias.
Ωστόσο, κανένας νόμος δεν μπορεί να απαντήσει μόνος του στο πολιτικό ερώτημα που έρχεται.
Γιατί το πραγματικό όριο μη υπερβάσεως δεν θα δοκιμαστεί όταν η ΤΝ κάνει λάθη. Τότε το «όχι» είναι σχετικά εύκολο. Θα δοκιμαστεί όταν αρχίσει να έχει συχνότερα δίκιο από εμάς.
Εκεί θα αρχίσει ο πραγματικός πειρασμός. Πρώτα θα της παραδώσουμε την επεξεργασία, έπειτα την εισήγηση και ίσως κάποτε, σχεδόν χωρίς να το αντιληφθούμε, την ίδια την κρίση. Όχι επειδή κάποιος θα μας υποχρεώσει, αλλά επειδή θα είναι γρηγορότερη, αποτελεσματικότερη και πιθανόν ακριβέστερη. Γι’ αυτό το όριο πρέπει να έχει συζητηθεί πριν φτάσουμε εκεί και όχι αφού το έχουμε ήδη ξεπεράσει.
Υπάρχει όμως και μια δεύτερη διάσταση, που για τη ΝΙΚΗ έχει ιδιαίτερη σημασία.
Η ΝΙΚΗ είναι ένα κίνημα απέναντι στην επιβολή της παγκοσμιοποίησης και σε όσα αυτή επιχειρεί να επιβάλει, αναδεικνύοντας απέναντί της την αξία και την κυριαρχία των εθνών-κρατών. Αυτό, στην περίπτωση της Τεχνητής Νοημοσύνης, δεν μπορεί να σημαίνει τεχνολογική απομόνωση. Το αντίθετο. Μια Ελλάδα που θα μείνει πίσω στην ΤΝ δεν θα γίνει περισσότερο κυρίαρχη. Θα γίνει περισσότερο εξαρτημένη.
Εδώ βρίσκεται ίσως και η μεγαλύτερη πρόκληση. Η απάντηση στην τεχνολογική παγκοσμιοποίηση δεν είναι λιγότερη τεχνολογία. Είναι η ικανότητα να συμμετέχεις χωρίς να παραδίδεσαι. Να έχεις γνώση, υποδομές και τεχνολογική ισχύ, ώστε να μη χρειάζεται να εκχωρείς κρίσιμες λειτουργίες του κράτους σε κέντρα που βρίσκονται αλλού και, παράλληλα, να μην αφήνεις τον πολίτη να μετατρέπεται σε εξάρτημα ενός συστήματος που δεν γνωρίζει και δεν μπορεί να ελέγξει.
Γι’ αυτό το ερώτημα που πρέπει να μας απασχολήσει δεν είναι αν είμαστε υπέρ ή κατά της Τεχνητής Νοημοσύνης. Αυτό θα ήταν μια μάλλον άγονη συζήτηση.
Το πραγματικό ερώτημα είναι πολύ πιο δύσκολο.
Πώς συμμετέχεις πλήρως στην τεχνολογική επανάσταση χωρίς να μετατρέψεις ούτε τον πολίτη σε εξάρτημα του συστήματος ούτε το κράτος σε απλό χρήστη τεχνολογικής ισχύος που βρίσκεται αλλού;
Γιατί στον κόσμο που διαμορφώνεται, η εθνική κυριαρχία δεν θα κρίνεται μόνο από το αν ένα κράτος έχει τυπικά το δικαίωμα να αποφασίζει. Θα κρίνεται όλο και περισσότερο από το αν διαθέτει ακόμη την πραγματική δυνατότητα να το κάνει.