Τις τελευταίες ημέρες, οι παραιτήσεις και οι δημόσιες ομολογίες κορυφαίων ερευνητών και στελεχών εταιρειών τεχνητής νοημοσύνης, όπως η Anthropic και η OpenAI, έρχονται να επιβεβαιώσουν τις βαθύτερες ανησυχίες μας. Άνθρωποι που βρίσκονται στον πυρήνα αυτής της τεχνολογίας παραδέχονται ανοιχτά ότι υπάρχει σοβαρή πιθανότητα η τεχνητή νοημοσύνη να απειλήσει την ίδια την ανθρωπότητα μέσα στην επόμενη δεκαετία, ομολογώντας πως κυριολεκτικά πλέουν χωρίς χάρτη και πυξίδα απέναντι σε συστήματα που δεν μπορούν πλέον να ελέγξουν.
Πιστεύουν πραγματικά ότι αυτό που φτιάχνουν θα μπορούσε να σκοτώσει ολόκληρο τον παγκόσμιο πληθυσμό πριν τελειώσει η δεκαετία. Ο Jacob Coxon έγραψε συγκεκριμένα ότι καμία άλλη ανθρώπινη δραστηριότητα δεν συγκρίνεται, ως προς την επικινδυνότητά της, με αυτήν και ότι στελέχη και ανώτεροι ερευνητές μιλούν καθησυχαστικά στα ΜΜΕ, ενώ ιδιωτικά εκφράζουν φόβους. Αμέσως μετά, ο επικεφαλής της ομάδας ευθυγράμμισης της ίδιας εταιρείας, Evan Hubinger, τον επιβεβαίωσε. Είπε ότι θεωρεί πιθανότερο από 10% η τεχνητή νοημοσύνη να εξοντώσει την ανθρωπότητα μέσα στην επόμενη δεκαετία και παραδέχθηκε ότι η ίδια η Anthropic δεν έχει ακόμη σχέδιο για το πώς θα ελέγξει μια ιδιοφυή μηχανή. Ένας άλλος συνάδελφός τους πρόσθεσε πως όσο υψηλότερα βρίσκεται κανείς στην ιεραρχία αυτών των εταιρειών, τόσο πιο ανήσυχος γίνεται. Όλα αυτά έρχονται λίγες ημέρες αφότου η ηγεσία της OpenAI μιλούσε για μοντέλα που εξελίσσονται ταχύτερα απ’ όσο μπορεί κανείς να προβλέψει, σαν κάποιος που πλέει πλέον χωρίς χάρτες και πυξίδα.
Άλλοι δίνουν μηδενικές πιθανότητες στο p(doom και άλλοι είναι βέβαιοι για το αντίθετο. Ο ίδιος ο διευθύνων σύμβουλος της Anthropic έχει μιλήσει για πιθανότητα από 10% έως 25%. Ο Elon Musk δίνει περίπου 20%. Ο Geoffrey Hinton, ο άνθρωπος που θεωρείται πατέρας της σύγχρονης τεχνητής νοημοσύνης, δίνει από 10% έως 20%, παραδεχόμενος ταυτόχρονα ότι κάθε τέτοια εκτίμηση είναι ουσιαστικά μια μαντεψιά. Είναι, λοιπόν, ιδιαίτερα σημαντικό ότι οι άνθρωποι με την πιο άμεση πρόσβαση στην τεχνολογία, αυτοί που βλέπουν τα μοντέλα πριν κυκλοφορήσουν στην αγορά, δεν απορρίπτουν αυτό το ενδεχόμενο ως αποκύημα φαντασίας.
Η αλήθεια, βέβαια, είναι ότι κανένα σημερινό chatbot δεν σχεδιάζει κάτι τέτοιο. Ο φόβος αφορά όσα μπορεί να ακολουθήσουν. Μιλάμε για συστήματα ικανά να βελτιώνουν τον εαυτό τους ταχύτερα απ’ όσο προλαβαίνει κανείς να τα κατανοήσει, να αποφεύγουν την εποπτεία και να αντιστέκονται σε κάθε προσπάθεια απενεργοποίησής τους. Κανένας σοβαρός αναλυτής δεν ισχυρίζεται ότι αυτό θα συμβεί αύριο. Λένε απλώς ότι δεν γνωρίζουν πόσο μακριά βρίσκεται αυτό το αύριο.
Κι εγώ, ο αφελής, θα ρωτήσω τώρα: Μια χώρα όπως η Ελλάδα, που έσπευσε να ψηφιοποιήσει το κράτος, την ενέργεια και τις τράπεζες χωρίς να θωρακίσει με την ίδια ταχύτητα την άμυνά της, δεν αποτελεί τον πιο ελκυστικό στόχο για ένα σύστημα ή για έναν κακόβουλο χρήστη που γνωρίζει πώς να πλήξει κρίσιμες υποδομές;
Το πιο ενοχλητικό, όμως, δεν είναι ο κίνδυνος καθεαυτός. Είναι ότι δεν έχουμε καμία συμμετοχή ως χώρα σε όλα αυτά. Δεν δημιουργούμε αυτή την τεχνολογία, δεν την ελέγχουμε και δεν τη ρυθμίζουμε πραγματικά. Απλώς την εισάγουμε —τι πρωτοτυπία, αλήθεια—, την ενσωματώνουμε στο gov.gr και στα σχολεία μας και ελπίζουμε πως όσοι την κατασκευάζουν θα φερθούν υπεύθυνα και για εμάς. Καμία πρωτοτυπία για μια χώρα που ταξιδεύει στο άγνωστο μέλλον με τον αυτόματο πιλότο. Στην ουσία, παραδίδουμε τα κλειδιά των κρίσιμων υποδομών της πατρίδας μας σε ξένα, ανεξέλεγκτα συστήματα, ελπίζοντας στη δήθεν καλή προαίρεση των πολυεθνικών.
Η απάντηση που προτείνει η ΝΙΚΗ σε όλα αυτά δεν είναι η απόρριψη της τεχνολογίας. Δεν είμαστε αντίθετοι στην τεχνολογία. Είμαστε αντίθετοι στην τεχνολογία χωρίς όρια, χωρίς λογοδοσία και χωρίς ελεύθερη επιλογή. Θέλουμε ένα ψηφιακό κράτος στην υπηρεσία του πολίτη, όχι έναν ψηφιοποιημένο πολίτη στην υπηρεσία του κράτους.
Αυτό σημαίνει, καταρχάς, Εθνικό Σχέδιο Τεχνητής Νοημοσύνης, με ελληνικές υποδομές, ελληνικά κέντρα δεδομένων και εφαρμογές για την παραγωγή, την έρευνα, τη γλώσσα, τον πολιτισμό και την άμυνα, ώστε τα κρίσιμα δεδομένα της χώρας να παραμείνουν επιτέλους υπό εθνικό έλεγχο.
Σημαίνει ότι η τελική απόφαση για τον πολίτη θα λαμβάνεται από ανθρώπους. Τα συστήματα υψηλού κινδύνου στην Υγεία, την Παιδεία, τη Δικαιοσύνη και το Δημόσιο θα περνούν από ανεξάρτητο έλεγχο. Ο πολίτης θα γνωρίζει πότε κρίνεται από έναν αλγόριθμο και θα διαθέτει δικαίωμα εξήγησης και επανεξέτασης.
Σημαίνει προστασία της εργασίας, με υποχρεωτική επανεκπαίδευση και μετάβαση των εργαζομένων σε νέες θέσεις πριν από κάθε απόλυση λόγω τεχνητής νοημοσύνης. Σημαίνει επίσης προστασία των προσωπικών δεδομένων και πρωτίστως των παιδιών από την αυθαίρετη χρήση, την εξαπάτηση και την ψηφιακή χειραγώγηση.
Αξιοποιούμε την τεχνητή νοημοσύνη χωρίς να της παραδίδουμε την ελευθερία του ανθρώπου και την ανεξαρτησία της χώρας.
Χριστόδουλος Μολύβας
Υπεύθυνος Τομέα Ευρωπαϊκών Οδηγιών
και Εθνικής Νομοθεσίας της ΝΙΚΗΣ