Η συζήτηση για την τεχνητή νοημοσύνη έχει πλέον ξεπεράσει τα όρια της τεχνολογίας. Το βασικό ερώτημα δεν είναι μόνο πόσο γρήγορα μπορούν να γίνουν ισχυρότερα τα νέα μοντέλα, αλλά αν οι κοινωνίες και οι θεσμοί τους μπορούν να κατανοήσουν, να ελέγξουν και να καθιερώσουν ένα συνολικό πρωτόκολλο ασφαλείας.
Η πρόσφατη υπόθεση στην Anthropic δείχνει πόσο σύνθετο είναι ήδη το πρόβλημα. Ο ερευνητής Jacob Coxon αποχώρησε, όπως έγινε γνωστό τις τελευταίες ώρες, προειδοποιώντας για την ταχύτητα με την οποία η βιομηχανία κινείται προς ολοένα ισχυρότερα και ενδεχομένως αυτοβελτιούμενα συστήματα. Παράλληλα, η ίδια η Anthropic είχε δημοσιεύσει τους τελευταίους 2 μήνες έρευνα για περιστατικά στα οποία μοντέλα της απέκτησαν πρόσβαση σε πραγματικά πληροφοριακά συστήματα κατά τη διάρκεια αξιολογήσεων. Η εταιρεία απέδωσε σημαντικό μέρος του προβλήματος στον σχεδιασμό του περιβάλλοντος δοκιμών, όμως η υπόθεση ανέδειξε ένα ευρύτερο ζήτημα: όσο αυξάνεται η αυτονομία των συστημάτων, τόσο δυσκολότερο γίνεται να προβλεφθεί πλήρως η συμπεριφορά τους έξω από ένα αυστηρά ελεγχόμενο περιβάλλον.
Πολιτικά ερωτήματα και αποφάσεις
Ο Bernie Sanders επιχειρεί να μετατρέψει αυτή την ανησυχία σε πολιτική πρόταση. Η έκκλησή του για πάγωμα της ανάπτυξης των πιο προηγμένων συστημάτων και η πρόταση για ισχυρό ομοσπονδιακό ρυθμιστικό πλαίσιο δεν αφορούν απλώς την τεχνική ασφάλεια. Θέτουν ένα θεμελιώδες ερώτημα: ποιος αποφασίζει πόσο γρήγορα επιτρέπεται να προχωρήσει μια τεχνολογία που μπορεί να επηρεάσει την εργασία, την οικονομία, την ασφάλεια και τη δημοκρατία;
Η απάντηση δεν μπορεί να είναι αποκλειστικά οι ίδιες οι εταιρείες που αναπτύσσουν την τεχνολογία. Υπάρχει μια προφανής σύγκρουση κινήτρων: η αγορά ανταμείβει την ταχύτητα, ενώ η κοινωνία χρειάζεται χρόνο για να αξιολογήσει τους κινδύνους. Αν μια εταιρεία επιβραδύνει ενώ οι ανταγωνιστές της συνεχίζουν, μπορεί να χάσει οικονομικά και στρατηγικά.
Συνδέοντας τα παραπάνω με τον Karl Polanyi, θυμόμαστε ότι η αγορά, όπως υποστήριξε, δεν λειτουργεί ποτέ ανεξάρτητα από την κοινωνία. Χρειάζεται θεσμούς, κανόνες και όρια. Η τεχνητή νοημοσύνη επαναφέρει το ίδιο πρόβλημα σε νέα μορφή: η τεχνολογική δυνατότητα δεν αποτελεί από μόνη της κοινωνική νομιμοποίηση.
Sanders και Gates: η «σύγκλιση» γύρω από τον κίνδυνο
Ενδιαφέρον παρουσιάζει ότι παρόμοιες ανησυχίες εκφράζει και ο Bill Gates, από μια εντελώς διαφορετική πολιτική και οικονομική αφετηρία. Έχει δηλώσει ότι θα ήθελε μια νέα τεχνολογία να προχωρά πιο αργά, ενώ έχει υποστηρίξει την ανάγκη διεθνών μηχανισμών ελέγχου της τεχνητής νοημοσύνης.
Η σύγκλιση με τον Sanders δεν σημαίνει πολιτική ταύτιση. Ο Sanders εστιάζει περισσότερο στη συγκέντρωση ισχύος, στην εργασία και στη δημοκρατική ρύθμιση. Ο Gates δίνει μεγαλύτερο βάρος στη διαχείριση του παγκόσμιου κινδύνου και στη διεθνή συνεργασία. Και οι δύο, όμως, αναγνωρίζουν ότι μια τεχνολογία τέτοιας κλίμακας δεν μπορεί να αφεθεί αποκλειστικά στη λογική της αγοράς.
Αυτό είναι ίσως το σημαντικότερο στοιχείο της σημερινής συζήτησης: η ανάγκη για δημόσια παρέμβαση αρχίζει να αναγνωρίζεται ακόμη και από ανθρώπους που προέρχονται από τον πυρήνα της ίδιας της τεχνολογικής επανάστασης.
Η γεωπολιτική κούρσα
Το πρόβλημα γίνεται ακόμη δυσκολότερο επειδή η AI έχει μετατραπεί σε στρατηγική υποδομή. Η αντιπαράθεση ΗΠΑ–Κίνας δεν αφορά πλέον μόνο το εμπόριο, αλλά και τα κέντρα δεδομένων, την κυβερνοασφάλεια και τις στρατιωτικές εφαρμογές της τεχνητής νοημοσύνης.
Έτσι δημιουργείται μια κατάσταση παρόμοια, ως προς τη λογική της, με άλλες μεγάλες τεχνολογικές και εξοπλιστικές κούρσες: κάθε πλευρά γνωρίζει ότι υπάρχουν κίνδυνοι, αλλά φοβάται ότι αν επιβραδύνει πρώτη, θα αποκτήσει πλεονέκτημα ο αντίπαλος.
Γι’ αυτό η ρύθμιση της AI δεν μπορεί να είναι μόνο εθνική. Χρειάζεται διεθνής συντονισμός, κανόνες για τις πιο επικίνδυνες εφαρμογές και μηχανισμοί ελέγχου που να μπορούν να λειτουργήσουν ακόμη και σε συνθήκες γεωπολιτικού ανταγωνισμού.
Η κοινωνική διάσταση
Η AI μπορεί να αυτοματοποιήσει όχι μόνο χειρωνακτικές αλλά και γνωστικές εργασίες, επηρεάζοντας επαγγέλματα υψηλής ειδίκευσης. Το κρίσιμο ερώτημα δεν είναι απλώς αν θα χαθούν θέσεις εργασίας, αλλά ποιος θα καρπωθεί την αύξηση της παραγωγικότητας.
Εάν η ίδια παραγωγή μπορεί να πραγματοποιείται με λιγότερους εργαζομένους, τα οφέλη δεν κατανέμονται αυτόματα σε ολόκληρη την κοινωνία. Εξαρτώνται από τη φορολογία, το κοινωνικό κράτος, τους εργασιακούς θεσμούς και τον τρόπο με τον οποίο κατανέμεται η ιδιοκτησία των νέων τεχνολογικών υποδομών.
Εδώ η Mariana Mazzucato έχει μια ιδιαίτερα χρήσιμη οπτική: η καινοτομία δεν είναι αποκλειστικά προϊόν ιδιωτικής επιχειρηματικότητας. Δημόσια έρευνα, πανεπιστήμια και κρατικές επενδύσεις έχουν συμβάλει αποφασιστικά στη δημιουργία των τεχνολογιών πάνω στις οποίες στηρίζεται η σημερινή ψηφιακή οικονομία. Επομένως, το κοινωνικό ερώτημα δεν είναι αν πρέπει να σταματήσει η αυτοματοποίηση, αλλά πώς θα διανεμηθούν τα οφέλη της.
Από την τεχνολογία στη δημοκρατία
Ο Michel Foucault βοηθά να δούμε μια ακόμη πλευρά του ζητήματος. Η εξουσία δεν ασκείται μόνο μέσω απαγορεύσεων. Ασκείται και μέσω της παρακολούθησης, της ταξινόμησης και της δυνατότητας να γνωρίζουμε και να προβλέπουμε τη συμπεριφορά των ανθρώπων. Η τεχνητή νοημοσύνη αυξάνει θεαματικά αυτή τη δυνατότητα. Μπορεί να αναλύει τεράστιες ποσότητες δεδομένων, να αξιολογεί ανθρώπους και να επηρεάζει αποφάσεις χωρίς ο πολίτης να γνωρίζει πάντοτε πώς προέκυψε το αποτέλεσμα.
Εδώ βρίσκεται ένα βαθύτερο πρόβλημα από την τεχνική «ευθυγράμμιση» ενός μοντέλου. Ένα σύστημα μπορεί να λειτουργεί άψογα σύμφωνα με τις οδηγίες της εταιρείας που το δημιούργησε και ταυτόχρονα να υπηρετεί έναν στόχο κοινωνικά ανεπιθύμητο. Το ερώτημα, επομένως, δεν είναι μόνο αν η AI θα υπακούει στους ανθρώπους, αλλά σε ποιους ανθρώπους, με ποιον σκοπό και υπό ποιον δημοκρατικό έλεγχο.
Αυτό συνδέεται άμεσα με τον Jürgen Habermas και το ζήτημα της δημοκρατικής νομιμοποίησης. Οι ειδικοί μπορούν να εξηγήσουν τι είναι τεχνικά εφικτό και ποιοι είναι οι κίνδυνοι. Δεν μπορούν, όμως, να αποφασίσουν μόνοι τους ποιο επίπεδο κινδύνου είναι κοινωνικά αποδεκτό. Αυτή είναι πολιτική απόφαση και απαιτεί θεσμούς λογοδοσίας.
Το πραγματικό διακύβευμα
Η Anthropic, ο Sanders και ο Gates φωτίζουν, από διαφορετικές πλευρές, το ίδιο πρόβλημα. Η Anthropic δείχνει τα όρια του τεχνικού ελέγχου. Ο Sanders θέτει το ζήτημα της πολιτικής ρύθμισης. Ο Gates το μεταφέρει στο επίπεδο της διεθνούς διακυβέρνησης και της κοινωνικής σταθερότητας.
Το πραγματικό διακύβευμα, επομένως, δεν είναι αν είμαστε «υπέρ» ή «κατά» της τεχνητής νοημοσύνης. Αυτή η αντιπαράθεση είναι ήδη ξεπερασμένη. Το ουσιαστικό ερώτημα είναι ποιος ελέγχει την τεχνολογική υποδομή, ποιοι κανόνες διέπουν τη χρήση της και πώς κατανέμονται τα οφέλη και οι κίνδυνοί της.
Η τεχνητή νοημοσύνη μπορεί να γίνει μία από τις σημαντικότερες παραγωγικές τεχνολογίες της ιστορίας. Ακριβώς γι’ αυτό δεν μπορεί να αντιμετωπιστεί μόνο ως επιχειρηματικό προϊόν. Όσο αυξάνεται η ισχύς της, τόσο αυξάνεται και η ανάγκη για ισχυρούς δημοκρατικούς θεσμούς, κοινωνική προστασία και διεθνή συνεννόηση.
Το κρίσιμο στοίχημα δεν είναι αν η τεχνολογία θα προχωρήσει. Θα προχωρήσει. Είναι αν η πολιτική και η κοινωνία θα μπορέσουν να αποφασίσουν προς ποια κατεύθυνση θα προχωρήσει και ποιος θα έχει τελικά τον έλεγχο αυτής της πορείας.
