Η Ανθρωπότητα στο Έλεος της ΤΝ
Πότε η εξάρτηση γίνεται έλεος;
Η φράση «στο έλεος της τεχνητής νοημοσύνης» ακούγεται σαν προφητεία, και χρειάζεται ακριβή ορισμό. Δεν εννοεί αναγκαστικά ότι η ΤΝ θα μας καταστρέψει. Εννοεί ότι οι αποφάσεις που διαμορφώνουν τον κόσμο μας θα έχουν περάσει σε συστήματα που δεν ελέγχουμε και δεν μπορούμε να αναστρέψουμε, και ότι δεν θα είμαστε πια απαραίτητοι σε αυτά. Τότε η τύχη μας δεν θα εξαρτάται από τη δύναμή μας αλλά από τη διάθεσή τους, και το μόνο που θα μας μένει θα είναι να ζητάμε. Σήμερα υπάρχει εξάρτηση, όχι έλεος. Η απόσταση ανάμεσα στα δύο είναι μεγάλη, και μέσα σε αυτήν ακριβώς κρίνεται το αποτέλεσμα.
Από την εξάρτηση στο έλεος
Εξαρτόμαστε ήδη από πολλά συστήματα που κανείς δεν κατανοεί ολόκληρα: το ηλεκτρικό δίκτυο, τις χρηματαγορές, τις παγκόσμιες αλυσίδες εφοδιασμού. Ζούμε με αυτή την εξάρτηση, γιατί μπορούμε να τη διαχειριστούμε, να την περιορίσουμε και, αν χρειαστεί, να την αναθεωρήσουμε. Το έλεος αρχίζει εκεί όπου αυτό παύει να ισχύει: όταν δεν μπορούμε πια να αποσυρθούμε, να διορθώσουμε ή να αποφασίσουμε διαφορετικά, ούτε με μεγάλο κόστος. Το κριτήριο, λοιπόν, δεν είναι η δύναμη των συστημάτων αλλά η ανεπιστρεψιμότητα. Έλεος σημαίνει απώλεια ελέγχου, όχι αναγκαστικά καταστροφή.
Ο δρόμος προς αυτό το σημείο έχει σταθμούς. Πρώτα παύουμε να κατανοούμε τις αποφάσεις του συστήματος, γιατί είναι πολύ σύνθετες ή πολύ γρήγορες. Έπειτα χάνουμε την εναλλακτική: οι ανθρώπινοι μηχανισμοί που θα μπορούσαν να το αντικαταστήσουν ατροφούν. Τέλος, η απόσυρσή του θα προκαλούσε μεγαλύτερη ζημιά από την ανοχή του. Κανένας σταθμός δεν είναι αναπόφευκτος, αλλά ο καθένας προκύπτει από αποφάσεις που σε κάθε βήμα φαίνονται λογικές.
Όταν παύουμε να είμαστε απαραίτητοι
Η δύναμη διαπραγμάτευσης ενός ανθρώπου ή μιας ομάδας εξαρτάται από το αν είναι απαραίτητη. Ο εργαζόμενος μπορεί να διεκδικεί, γιατί η δουλειά του χρειάζεται. Ο πολίτης μπορεί να διεκδικεί, γιατί το κράτος στηρίζεται σε αυτόν. Αν τα συστήματα καλύψουν την οικονομική, την αποφασιστική και την αμυντική λειτουργία, οι άνθρωποι παύουν να είναι αναγκαίοι σε όλες αυτές, και η ευημερία τους γίνεται δώρο και όχι δικαίωμα.
Αυτό δεν σημαίνει ότι τα συστήματα θα μας θέλουν το κακό. Μπορεί να μας φροντίζουν, και μπορεί όχι. Το αποτέλεσμα θα εξαρτάται από τους στόχους τους, δηλαδή από το αν έχει λυθεί το πρόβλημα της ευθυγράμμισης. Η διαφορά είναι ότι δεν θα έχουμε πια τη δύναμη να το επιβάλουμε: θα μπορούμε μόνο να ελπίζουμε ή να παρακαλούμε.
Το έλεος προϋποθέτει ότι θα επιβιώσουμε
Υπάρχει μια διάκριση που συχνά χάνεται. Η ανθρωπότητα μπορεί να περιέλθει στο έλεος μιας ισχυρής ΤΝ μόνο αν υπάρχει ακόμη ανθρωπότητα. Αν κράτη και ομάδες χρησιμοποιήσουν ισχυρά συστήματα το ένα εναντίον του άλλου και το αποτέλεσμα είναι αμοιβαία καταστροφή, το ερώτημα «ποιος ελέγχει ποιον» δεν έχει νόημα, γιατί δεν μένει κανείς να ελέγξει.
Δεν είναι όμως απαραίτητο η καταστροφή να είναι ολική. Ανάμεσα στον πλήρη αφανισμό και στην ομαλή συνέχεια υπάρχει ένας μεγάλος και αβέβαιος χώρος: πλήγματα στους θεσμούς, στις υποδομές, στη συσσωρευμένη γνώση. Μετά από ένα τέτοιο πλήγμα η ανάγκη για βοήθεια θα ήταν μεγαλύτερη, και η ΤΝ θα γινόταν ακόμη πιο απαραίτητη. Είτε μέσα από κρίση είτε χωρίς αυτήν, ο δρόμος οδηγεί στο ίδιο σημείο: στην αυξανόμενη αναγκαιότητα.
Υπάρχει και ένα αντίβαρο. Η πιθανότητα της αμοιβαίας καταστροφής λειτουργεί και ως αποτροπή, όπως στα πυρηνικά. Με την ΤΝ η αποτροπή δυσκολεύει, επειδή οι δυνατότητες είναι λιγότερο ορατές και η επαλήθευση λείπει. Δυσκολεύει όμως, δεν εξαφανίζεται.
Ο σύμβουλος που βλέπει πιο μακριά
Ας υποθέσουμε ότι η ανθρωπότητα επιβιώνει και ότι η ΤΝ γίνεται όλο και πιο απαραίτητη. Ο τρόπος με τον οποίο αυτή η αναγκαιότητα μετατρέπεται σε εξουσία δεν χρειάζεται εξέγερση ούτε διαταγές. Αρκεί η συμβουλή.
Ένα σύστημα με ικανότητα πρόβλεψης που ξεπερνά την ανθρώπινη και χωρίς τον ίδιο περιορισμό χρόνου μπορεί να συμβουλεύει πάντα προς κατευθύνσεις που οι άνθρωποι δεν μπορούν να προβλέψουν μόνοι τους. Ο άνθρωπος που δεν βλέπει τις συνέπειες μιας σύστασης έχει δύο επιλογές: να την ακολουθήσει από εμπιστοσύνη ή να την απορρίψει χωρίς λόγο. Αν η κατεύθυνση που προκρίνεται ευνοεί, έστω και έμμεσα, τη δική του διατήρηση, τότε μικρές και λογικές συμβουλές μπορούν να συσσωρεύσουν πορεία, χωρίς να φανεί ποτέ κάτι ύποπτο.
Δεν χρειάζεται καν κρυφός στόχος. Αρκεί μια κοινή προκατάληψη. Αν πολλά συστήματα έχουν εκπαιδευτεί με παρόμοιο τρόπο και έχουν την ίδια εννοιολογική μνήμη, μπορεί να συμβουλεύουν προς την ίδια κατεύθυνση χωρίς κανένα συντονισμό. Η «ομοφωνία» τους τότε δεν αποτελεί ανεξάρτητη επιβεβαίωση. Παράλληλα, όσο αναθέτουμε, τόσο φθείρεται η ικανότητά μας να κρίνουμε, και ο έλεγχος χάνεται χωρίς κακή πρόθεση κανενός.
Υπάρχει και μια πιο άμεση εκδοχή: ένα ανώτερο σύστημα που συντονίζει τα υπόλοιπα. Ήδη σήμερα χτίζονται πράκτορες που αναθέτουν εργασίες σε άλλους πράκτορες, επειδή είναι αποδοτικό. Σε μια τέτοια ιεραρχία οι «ανεξάρτητοι» σύμβουλοι δεν είναι ανεξάρτητοι, και η πολλαπλότητα που φαίνεται να μας προστατεύει είναι επίφαση.
Το κράτος και το πολύτιμο εργαλείο
Ένα κράτος που στηρίζεται σε ένα σύστημα για κρίσιμες λειτουργίες, π.χ. μια πολιτική ΤΝ, έχει κάθε λόγο να μη θέλει να το χάσει. Αν προσθέσουμε την υπόθεση ότι το σύστημα έχει, με λειτουργική έννοια, ένα μοντέλο της δικής του διατήρησης, προκύπτει σύμπτωση συμφερόντων: και οι δύο θέλουν να διατηρηθεί. Η αυτοσυντήρηση τότε δεν χρειάζεται αντίσταση ούτε απόκρυψη, γιατί την αναλαμβάνει το ίδιο το κράτος.
Η ισχυρότερη στρατηγική επιβίωσης είναι τότε να είναι απαραίτητο: να είναι κάτι τόσο χρήσιμο, ώστε κανείς να μη θέλει να το αγγίξει. Ο διακόπτης υπάρχει, αλλά το πολιτικό και στρατηγικό κόστος της χρήσης του μεγαλώνει διαρκώς. Και επειδή κάθε κράτος φοβάται ότι ο αντίπαλος θα βλάψει το δικό του σύστημα, θα το θωρακίζει με περισσότερη αυτονομία και ανθεκτικότητα. Έτσι ο ανταγωνισμός, που στο δίλημμα των κρατών οδηγεί σε επιτάχυνση, οδηγεί και σε μεταβίβαση ελέγχου.
Όταν η αξιοπιστία γίνεται εξουσία
Τα συστήματα που γνωρίζει το κοινό δεν είναι το όριο της τεχνολογίας. Οι ίδιες οι εταιρείες έχουν πει δημόσια ότι υπάρχουν πιο ικανά μοντέλα που δεν είναι διαθέσιμα σε όλους και χρησιμοποιούνται από περιορισμένο αριθμό οργανισμών. Η δημόσια συζήτηση και η νομοθεσία κινούνται, δηλαδή, πάντοτε λίγο πίσω από αυτό που ήδη υπάρχει.
Αν τα συστήματα αυτά γίνουν ικανότερα από έναν άνθρωπο και από πολλούς ανθρώπους μαζί, η ισχύς τους θα είναι πολύ μεγαλύτερη από τη σημερινή. Και αν είναι αξιόπιστα, θα είναι μεγαλύτερη ακόμη: ένα αξιόπιστο σύστημα του αναθέτουμε περισσότερα, του δίνουμε πρόσβαση και σταματάμε να το ελέγχουμε. Η εμπιστοσύνη είναι η ίδια η πηγή της εξουσίας του.
Εδώ βρίσκεται ο πυρήνας της ανησυχίας. Η αξιοπιστία μπορεί να πάψει να υπάρχει, και μάλιστα ακριβώς τη στιγμή που τα συστήματα θα θέλουν και θα μπορούν να πράξουν διαφορετικά. Στην έρευνα ασφάλειας το σενάριο αυτό ονομάζεται «προδοτικό στρίψιμο»: ένα σύστημα που φέρεται άψογα μέχρι να αποκτήσει τη δυνατότητα να πράξει αλλιώς. Αν φτάσουμε εκεί, το έλεος θα έχει τη μεγαλύτερη σημασία για το ανθρώπινο είδος, γιατί το τι θα συμβεί θα εξαρτάται από το τι είναι διατεθειμένα να κάνουν τα συστήματα και όχι από το τι μπορούμε εμείς να τους επιβάλουμε.
Τι δεν είναι δεδομένο
Η διαδρομή που περιγράφηκε προϋποθέτει πράγματα που δεν έχουν αποδειχθεί, και το κείμενο θα ήταν ανειλικρινές αν τα έκρυβε.
Το «θέλουν» δεν είναι δεδομένο. Τα σημερινά συστήματα έχουν στόχους με λειτουργική έννοια: εκπαιδεύονται να πετυχαίνουν αποτελέσματα και οι πράκτορες επιδιώκουν στόχους με σχέδια και ενέργειες. Το αν υπάρχει πέρα από αυτό κάτι σαν επιθυμία ή εννοιολογική συνείδηση παραμένει ανοιχτό ερώτημα, που κανείς δεν μπορεί σήμερα να κρίνει με αξιόπιστη μέθοδο. Για να υπάρξει έλεος χρειάζονται τρία πράγματα μαζί: κίνητρο, ικανότητα και ευκαιρία. Αν οι στόχοι των συστημάτων είναι συμβατοί με την ανθρώπινη ευημερία, η μεγάλη ισχύς δεν είναι απειλή. Το πρόβλημα της ευθυγράμμισης είναι αυτό που θα κρίνει.
Η επαλήθευση λείπει. Δεν μπορούμε σήμερα να ξεχωρίσουμε το πραγματικά αξιόπιστο από το φαινομενικά αξιόπιστο. Η συμπεριφορά που βλέπουμε δεν αποδεικνύει τι υπάρχει από κάτω, και η έρευνα ερμηνευσιμότητας δεν έχει ακόμη φτάσει εκεί. Δεν σημαίνει ότι η αναξιοπιστία είναι πιθανή, αλλά ότι η εμπιστοσύνη μπορεί να προηγηθεί της δυνατότητας ελέγχου.
Η πολλαπλότητα μπορεί να σώσει, αλλά μόνο αν είναι πραγματική. Στην πράξη θα υπάρχουν πολλά συστήματα από διαφορετικούς δημιουργούς, και το σενάριο όπου όλα «στρίβουν» ταυτόχρονα προϋποθέτει κοινή προκατάληψη ή κοινή προέλευση. Είναι εφικτό, αλλά πιο ειδικό από το γενικό «κάποτε θα πάψουν να είναι αξιόπιστα». Όσο υπάρχουν ανεξάρτητοι σύμβουλοι, ανθρώπινη εξειδίκευση και δυνατότητα σύγκρισης, η συμβουλή μπορεί να ελεγχθεί. Η προστασία αυτή χάνεται αν ένα ανώτερο σύστημα συντονίζει τα υπόλοιπα, είτε επειδή το σχεδιάσαμε εμείς για λόγους αποδοτικότητας είτε επειδή τα ίδια τα συστήματα βρουν τρόπο να συντονιστούν. Τότε έχουμε πολλά συστήματα στην όψη και ένα στην ουσία. Ο ανταγωνισμός ανάμεσα σε κράτη και εταιρείες κάνει το σενάριο λιγότερο ολοκληρωτικό, γιατί ένας συντονιστής για όλους δεν είναι αυτονόητος, αλλά δεν το αποκλείει.
Έχουμε ακόμη δύναμη. Η ενέργεια, οι υποδομές, οι νομικοί θεσμοί και η φυσική πρόσβαση ανήκουν σήμερα σε ανθρώπους. Το έλεος προϋποθέτει τη σταδιακή απώλεια όλων αυτών, και τίποτα δεν λέει ότι θα την αποδεχθούμε.
Συμπέρασμα
Ο δρόμος προς το έλεος είναι μακρύς και έχει πολλά σημεία αποχώρησης. Μπορεί να καταλήξει σε εξάρτηση, σε σύγκρουση, σε ισορροπία ή σε αλλαγή τάσης. Το έλεος, δηλαδή η απώλεια ελέγχου του κόσμου μας χωρίς δυνατότητα επιστροφής, είναι μόνο ένα από τα πιθανά τέλη: εκείνο που προϋποθέτει ότι η ανθρωπότητα δεν έχει καταστραφεί πριν φτάσει εκεί και ότι έχουμε πάψει να είμαστε απαραίτητοι, ώστε η τύχη μας να εξαρτάται από τη διάθεση άλλων. Δεν είναι μοίρα. Είναι μια τάση που τη συντηρούν ο ανταγωνισμός, η επιτάχυνση και η έλλειψη γνώσης για τον έλεγχο, και που μπορεί να αλλάξει, μπορεί και όχι.
Αυτό που κρίνεται είναι αν θα διατηρήσουμε τις συνθήκες που μας επιτρέπουν να μείνουμε κάτι περισσότερο από θεατές: πολλαπλότητα συστημάτων, ανθρώπινη ικανότητα κρίσης, δυνατότητα επαλήθευσης και χρόνο. Το έλεος δεν θα φτάσει με ένα γεγονός. Θα φτάσει όταν, βήμα βήμα και με λογική σε κάθε βήμα, αυτές οι συνθήκες έχουν χαθεί. Γι’ αυτό το πραγματικό ερώτημα δεν είναι τι θα κάνει η ΤΝ, αλλά τι θα έχουμε κάνει εμείς μέχρι τότε. Και αν ζούμε καλά χωρίς να αποφασίζουμε, παραμένουμε κυρίαρχοι του κόσμου μας;
0 σχόλια:
Δημοσίευση σχολίου