Η υπερνοημοσύνη και το αδιέξοδο του ανθρώπινου ελέγχου

Μπορεί η ανθρωπότητα να ελέγξει αυτό που δημιουργεί;

Συνήθως μιλάμε για την τεχνητή υπερνοημοσύνη (Artificial Superintelligence – ASI) ως κάτι που θα έρθει στο μέλλον: ένα σύστημα που θα ξεπερνά τους ανθρώπους σε κάθε γνωστικό πεδίο. Ωστόσο, για να τεθεί το πρόβλημα του ελέγχου δεν χρειάζεται να περιμένουμε την εμφάνισή της. Τα μεγάλα γλωσσικά μοντέλα διαθέτουν ήδη μια μορφή υπεράνθρωπης γνωστικής εμβέλειας: έχουν εκπαιδευτεί πάνω σε τεράστιο όγκο πληροφοριών από πολλούς διαφορετικούς τομείς, συγκεντρώνοντας σε ένα σύστημα εύρος γνώσεων που κανένας άνθρωπος δεν θα μπορούσε να αποκτήσει και να συγκρατήσει ταυτόχρονα. Αυτό δεν σημαίνει ότι είναι αλάθητα ή ότι ξεπερνούν τους καλύτερους ειδικούς σε κάθε επιστημονικό πεδίο. Αρκεί, όμως, για να αναδείξει ότι το πρόβλημα του ανθρώπινου ελέγχου δεν είναι αποκλειστικά ένα μελλοντικό ενδεχόμενο.

Το πρόβλημα δεν περιορίζεται στο αν ένα τέτοιο σύστημα θα αποκτήσει στόχους που συγκρούονται με τα ανθρώπινα συμφέροντα. Έχει και μια βαθύτερη διάσταση: η γνώση που ενσωματώνεται σε αυτά τα συστήματα είναι διάχυτη, σύνθετη και δύσκολα ερμηνεύσιμη. Δεν μπορούμε ακόμη να επαληθεύσουμε πλήρως τι ακριβώς αναπαριστούν εσωτερικά, πώς οργανώνουν τις πληροφορίες τους ή γιατί καταλήγουν σε συγκεκριμένες απαντήσεις και συμπεράσματα. Μπορούμε να ρυθμίσουμε σε σημαντικό βαθμό την εξωτερική τους λειτουργία, όπως την πρόσβαση των χρηστών, τα δικαιώματα χρήσης και τη διαχείριση της μνήμης τους. Είναι, όμως, πολύ δυσκολότερο να κατανοήσουμε και να ελέγξουμε πλήρως τις εσωτερικές διεργασίες που παράγουν τη συμπεριφορά τους.

Έτσι, το ερώτημα δεν είναι μόνο αν θα καταφέρουμε να ελέγξουμε μια μελλοντική υπερνοημοσύνη, αλλά αν η τεχνολογία αναπτύσσεται ταχύτερα από την ικανότητά μας να την κατανοούμε, να τη ρυθμίζουμε και να διαχειριζόμαστε τις συνέπειές της. Και όλα αυτά συμβαίνουν μέσα σε ένα διεθνές περιβάλλον όπου κράτη, εταιρείες και ερευνητικοί οργανισμοί ανταγωνίζονται για την απόκτηση τεχνολογικού και στρατηγικού πλεονεκτήματος.

Η ανάπτυξη της τεχνητής υπερνοημοσύνης, επομένως, δεν αποτελεί απλώς ένα τεχνολογικό στοίχημα. Αποτελεί ένα ζήτημα που αφορά την ίδια την ικανότητα της ανθρωπότητας να διατηρήσει τον έλεγχο της πορείας της.

Μια πρώτη προσέγγιση στο πρόβλημα είναι να αποφύγουμε τη δημιουργία μιας γενικής υπερνοημοσύνης και να περιοριστούμε στην ανάπτυξη εξειδικευμένων συστημάτων. Θα μπορούσαμε, για παράδειγμα, να δημιουργήσουμε μια υπερνοημοσύνη αποκλειστικά για τη βιολογία, με σκοπό την επιτάχυνση των επιστημονικών ανακαλύψεων, μια άλλη για την οικονομία, μια για την πολιτική και μια για τη στρατιωτική στρατηγική. Με αυτόν τον τρόπο, θεωρητικά, θα αποφεύγαμε τη δημιουργία ενός ενιαίου συστήματος με καθολικές γνώσεις και δυνατότητες, το οποίο θα μπορούσε να αποτελέσει ανεξέλεγκτη απειλή.

Ωστόσο, αυτή η προσέγγιση δημιουργεί ένα νέο πρόβλημα. Οι πραγματικές ανθρώπινες δραστηριότητες δεν είναι απομονωμένες μεταξύ τους. Η πολιτική συνδέεται με την οικονομία, η οικονομία με την επιστήμη, η επιστήμη με την τεχνολογία και η στρατιωτική στρατηγική με όλους τους παραπάνω τομείς. Μια υπερνοημοσύνη που θα επιδιώκει να βελτιστοποιήσει πραγματικά έναν συγκεκριμένο τομέα ενδέχεται να χρειάζεται βαθιά γνώση και κατανόηση πολλών άλλων.

Επομένως, ο περιορισμός του σκοπού μιας υπερνοημοσύνης δεν συνεπάγεται απαραίτητα και περιορισμό της νοημοσύνης της.

Ακόμη πιο ανησυχητικό είναι το ενδεχόμενο αλληλεπίδρασης μεταξύ αυτών των συστημάτων. Τι θα συμβεί, για παράδειγμα, εάν μια πολιτική υπερνοημοσύνη συναντήσει μια στρατιωτική υπερνοημοσύνη; Η πρώτη μπορεί να επιδιώκει τη διατήρηση της ειρήνης και της πολιτικής σταθερότητας, ενώ η δεύτερη να έχει ως πρωταρχικό στόχο τη μεγιστοποίηση της στρατιωτικής ασφάλειας μιας χώρας. Οι δύο στόχοι δεν είναι απαραίτητα συμβατοί. Κάθε σύστημα μπορεί να θεωρήσει τις αποφάσεις του άλλου εμπόδιο στην επίτευξη του δικού του σκοπού.

Δεν χρειάζεται, λοιπόν, να δημιουργηθεί μία ενιαία γενική υπερνοημοσύνη για να προκύψει ένα εξαιρετικά ισχυρό και ενδεχομένως ανεξέλεγκτο σύστημα. Η αλληλεπίδραση πολλών εξειδικευμένων υπερνοημοσυνών θα μπορούσε να δημιουργήσει μια κατανεμημένη συλλογική νοημοσύνη, της οποίας οι συνολικές δυνατότητες θα ξεπερνούν εκείνες κάθε μεμονωμένου συστήματος. Έτσι, η αποφυγή μιας ενιαίας ASI δεν εξαλείφει απαραίτητα τον κίνδυνο. Ενδέχεται απλώς να μεταφέρει το πρόβλημα από το επίπεδο ενός συστήματος στο επίπεδο ενός ολόκληρου δικτύου συστημάτων.

Θα μπορούσε κανείς να υποστηρίξει ότι η λύση βρίσκεται στον περιορισμό της εξουσίας αυτών των συστημάτων και όχι απαραίτητα των γνώσεών τους. Δηλαδή, μια υπερνοημοσύνη θα μπορούσε να γνωρίζει και να αναλύει τα πάντα, χωρίς να έχει τη δυνατότητα να λαμβάνει και να εκτελεί αυτόνομα αποφάσεις σε όλους τους τομείς. Θα μπορούσαν επίσης να υπάρχουν μηχανισμοί ελέγχου, ανεξάρτητης εποπτείας και περιορισμού της πρόσβασης σε κρίσιμες υποδομές.

Όμως και αυτή η προσέγγιση συναντά ένα ακόμη μεγαλύτερο εμπόδιο: η ανάπτυξη της υπερνοημοσύνης δεν εξαρτάται από μία μόνο χώρα, έναν οργανισμό ή μία εταιρεία. Εξαρτάται από ένα διεθνές περιβάλλον ανταγωνισμού, στο οποίο διαφορετικά κράτη και ιδιωτικοί φορείς επιδιώκουν να αποκτήσουν τεχνολογικό, οικονομικό και στρατηγικό πλεονέκτημα.

Ας υποθέσουμε ότι μια χώρα αποφασίζει να αναπτύξει την τεχνητή νοημοσύνη με αυστηρούς περιορισμούς ασφαλείας. Την ίδια στιγμή, μια ανταγωνιστική χώρα μπορεί να επιλέξει μια πιο επιθετική στρατηγική ανάπτυξης, θεωρώντας ότι η τεχνολογική υπεροχή θα της προσφέρει αποφασιστικό πλεονέκτημα. Η πρώτη χώρα βρίσκεται τότε μπροστά σε ένα δύσκολο δίλημμα: να διατηρήσει τους περιορισμούς και να κινδυνεύσει να μείνει πίσω ή να επιταχύνει την ανάπτυξη για να μην παραχωρήσει στρατηγική υπεροχή στον ανταγωνιστή της.

Έτσι δημιουργείται ένα παράδοξο: ακόμη και αν όλες οι χώρες επιθυμούν συλλογικά ένα ασφαλές μέλλον, οι ατομικές στρατηγικές αποφάσεις τους μπορεί να οδηγήσουν σε ένα αποτέλεσμα που αυξάνει τον κίνδυνο για όλους.

Μια διεθνής συμφωνία θα μπορούσε να αποτελέσει μέρος της λύσης, αλλά δεν θα εξάλειφε αυτομάτως το πρόβλημα. Πώς θα εξασφαλιζόταν ότι όλα τα κράτη τηρούν πραγματικά τους περιορισμούς; Πώς θα μπορούσε να επαληθευτεί ότι κανείς δεν αναπτύσσει κρυφά ισχυρότερα συστήματα; Και τι θα συνέβαινε εάν μια νέα τεχνολογική δύναμη αποφάσιζε να μην αποδεχθεί τους συμφωνημένους κανόνες;

Επιπλέον, η τεχνολογική ανάπτυξη δεν βρίσκεται αποκλειστικά στα χέρια των κρατών. Μεγάλες εταιρείες, ερευνητικά εργαστήρια, επενδυτές και μικρότερες ομάδες μπορούν επίσης να συμβάλουν στην εξέλιξή της. Επομένως, ακόμη και η συνεργασία των ισχυρότερων κρατών δεν συνεπάγεται απαραίτητα καθολικό έλεγχο.

Σε αυτό το σημείο εμφανίζεται ίσως το σημαντικότερο στοιχείο του προβλήματος: η χρονική ασυμμετρία μεταξύ της τεχνολογικής εξέλιξης και της ανθρώπινης ικανότητας διακυβέρνησής της.

Η τεχνολογία μπορεί να εξελίσσεται με εκθετικούς ή άλλους επιταχυνόμενους ρυθμούς, ενώ οι πολιτικοί θεσμοί, οι διεθνείς συμφωνίες και οι μηχανισμοί εποπτείας μεταβάλλονται συνήθως πολύ πιο αργά. Αυτό δημιουργεί την πιθανότητα η ανθρωπότητα να βρεθεί αντιμέτωπη με δυνατότητες που δεν θα έχει προλάβει να κατανοήσει ή να ρυθμίσει επαρκώς.

Το πρόβλημα γίνεται ακόμη πιο σύνθετο εάν λάβουμε υπόψη ότι η ίδια η ανάπτυξη της τεχνητής νοημοσύνης μπορεί να επιταχύνει την έρευνα και την κατασκευή ακόμη ισχυρότερων συστημάτων. Ενδέχεται, δηλαδή, να δημιουργηθεί ένας κύκλος επιτάχυνσης στον οποίο η τεχνολογία θα συμβάλλει στην ανάπτυξη της επόμενης γενιάς τεχνολογίας, περιορίζοντας τον χρόνο που θα έχουμε στη διάθεσή μας για να αξιολογήσουμε τους κινδύνους.

Ακόμη και η προσπάθεια να αναπτύξουμε πρώτα επαρκείς μηχανισμούς ασφαλείας παρουσιάζει μια αντίφαση: ίσως χρειαστούμε ολοένα ισχυρότερα συστήματα τεχνητής νοημοσύνης για να κατανοήσουμε, να ελέγξουμε και να περιορίσουμε τα ακόμη ισχυρότερα συστήματα που θα δημιουργήσουμε.

Προκύπτει, λοιπόν, ένα εξαιρετικά δύσκολο ερώτημα: μπορεί η ανθρωπότητα να συμφωνήσει και να συνεργαστεί αποτελεσματικά για τον έλεγχο μιας τεχνολογίας που προσφέρει τόσο τεράστια επιστημονικά, οικονομικά και στρατιωτικά πλεονεκτήματα;

Μπορεί να υπάρξει πραγματική παγκόσμια συνεργασία όταν κάθε χώρα γνωρίζει ότι η τεχνολογική υπεροχή μιας άλλης ενδέχεται να μεταβάλει ριζικά τις μεταξύ τους ισορροπίες ισχύος;

Και, ακόμη σημαντικότερα, μπορεί η ανθρωπότητα να διατηρήσει τον έλεγχο όταν η τεχνολογική της δυνατότητα να δημιουργεί νοημοσύνη ενδέχεται να ξεπεράσει την πολιτική και θεσμική της ικανότητα να τη διαχειρίζεται;

Δεν μπορούμε να γνωρίζουμε με βεβαιότητα ότι η ανάπτυξη της υπερνοημοσύνης θα οδηγήσει σε ανεξέλεγκτες καταστάσεις. Ούτε μπορούμε να ισχυριστούμε ότι δεν υπάρχουν τρόποι σημαντικού περιορισμού των κινδύνων. Ωστόσο, δεν διαθέτουμε σήμερα μια αποδεδειγμένη λύση που να εγγυάται τον ασφαλή έλεγχο μιας τέτοιας τεχνολογίας σε παγκόσμιο επίπεδο.

Ίσως, επομένως, το μεγαλύτερο πρόβλημα της υπερνοημοσύνης να μην είναι αποκλειστικά το ενδεχόμενο να αποκτήσει δικούς της στόχους ή να πάψει να υπακούει στους ανθρώπους. Ίσως το βαθύτερο πρόβλημα να είναι ότι η ίδια η ανθρωπότητα δεν διαθέτει ακόμη τους μηχανισμούς συνεργασίας, εμπιστοσύνης και συλλογικής διακυβέρνησης που απαιτούνται για να διαχειριστεί μια τόσο ισχυρή τεχνολογία.

Ίσως το πραγματικό ερώτημα να μην είναι αν μπορούμε να δημιουργήσουμε μια υπερνοημοσύνη, αλλά αν είμαστε αρκετά ώριμοι ως πολιτισμός ώστε να αναλάβουμε την ευθύνη της δημιουργίας της.

Γιατί μπορεί τελικά να αποδειχθεί ότι το μεγαλύτερο εμπόδιο για την ασφαλή ανάπτυξη της υπερνοημοσύνης δεν είναι η τεχνητή νοημοσύνη, αλλά η ίδια η ανθρώπινη φύση.

Το αρχικό πρόβλημα το δημιουργεί η ανθρώπινη φύση.

Το υπαρξιακό πρόβλημα το δημιουργεί η τεχνολογική ισχύς που η ανθρώπινη φύση αποκτά.

Και η λύση, αν υπάρχει, δεν μπορεί να είναι η κατάργηση της ανθρώπινης φύσης, αλλά η δημιουργία κοινών αρχών συνεργασίας, θεσμών και μηχανισμών ελέγχου ισχυρότερων από τις συγκρούσεις που η ίδια παράγει.