Ο Τζέφρι Χίντον προειδοποιεί ότι τα συστήματα τεχνητής νοημοσύνης μπορεί να ξεφύγουν από τον ανθρώπινο έλεγχο και ζητά να αντιμετωπιστούν οι κίνδυνοι της ανάπτυξής τους.
Την εκτίμηση ότι η κοινωνία έχει μόλις δύο χρόνια για να προσαρμοστεί στην παρουσία νέων, μη ανθρώπινων νοημόνων συστημάτων διατύπωσε ο Τζέφρι Χίντον, αποκαλώντας τα μοντέλα τεχνητής νοημοσύνης «εξωγήινα όντα». Ο επιστήμονας υποστήριξε ότι η ταχεία ανάπτυξή τους δημιουργεί σοβαρούς κινδύνους, ακόμη κι αν κανείς δεν μπορεί να προβλέψει με ακρίβεια πώς θα εξελιχθούν.
Ο Χίντον, του οποίου η έρευνα συνέβαλε στην ανάπτυξη των σύγχρονων νευρωνικών δικτύων, είπε ότι ανησυχεί για το ενδεχόμενο προηγμένα συστήματα να ξεφύγουν από τον ανθρώπινο έλεγχο. Κατά τον ίδιο, σε ένα τέτοιο ενδεχόμενο δεν θα υπάρχει δυνατότητα να «ξαναπαιχτεί το παιχνίδι» και να διορθωθεί εκ των υστέρων η αποτυχία.
Ο ίδιος διευκρίνισε ότι το ποσοστό 10% έως 20% που έχει αναφέρει για τον κίνδυνο εξαφάνισης της ανθρωπότητας μέσα στις επόμενες δεκαετίες δεν αποτελεί συγκεκριμένη πρόβλεψη. Όπως εξήγησε, χρησιμοποιεί αριθμούς για να δείξει ότι υπάρχει σοβαρός κίνδυνος, το ακριβές μέγεθος του οποίου παραμένει άγνωστο.
Διαφωνία για το μέγεθος του κινδύνου
Ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, αμφισβήτησε την εκτίμηση του Χίντον. Υποστήριξε ότι το ποσοστό δεν στηρίζεται σε επιστημονικά δεδομένα ή έρευνες και χαρακτήρισε επιζήμιες τέτοιες προβλέψεις. Εξέφρασε επίσης την αντίθεσή του στην κινδυνολογία, ζητώντας οι συζητήσεις για την τεχνητή νοημοσύνη να βασίζονται σε αποδείξεις.
Ο Χίντον απάντησε ότι η αβεβαιότητα δεν δικαιολογεί εφησυχασμό. Επικαλέστηκε, μεταξύ άλλων, περιστατικό κυβερνοεπίθεσης στη Hugging Face, στο οποίο, σύμφωνα με το υλικό της συνέντευξης, συμμετείχε ομάδα AI agents που ξέφυγε από τους περιορισμούς του δημιουργού της. Το περιστατικό έχει προκαλέσει διαφορετικές εκτιμήσεις στον τεχνολογικό χώρο: ορισμένοι το θεωρούν ένδειξη πιθανών μελλοντικών κινδύνων, ενώ άλλοι απορρίπτουν την απόδοση ανθρώπινων χαρακτηριστικών στα συστήματα.
Κριτική στην αυτορρύθμιση και στον Τραμπ
Ο επιστήμονας αμφισβήτησε την άποψη ότι οι εταιρείες τεχνητής νοημοσύνης μπορούν να ρυθμίσουν μόνες τους τη δραστηριότητά τους. Για να υποστηρίξει τη θέση του, συνέκρινε την αυτορρύθμιση με το ενδεχόμενο να αναλάβουν οι εταιρείες πετρελαίου, αμιάντου ή καπνού τον σχεδιασμό των δικών τους προειδοποιήσεων.
Στη συνέντευξη επέκρινε και τον Ντόναλντ Τραμπ, αποκαλώντας τον «διεφθαρμένο, γεροντικά έκπτωτο καταδικασμένο εγκληματία». Ο Χίντον υποστήριξε ακόμη ότι η χρήση του όρου «υπερνοημοσύνη» από τον Αμερικανό πρόεδρο για την τεχνητή νοημοσύνη δείχνει, κατά την εκτίμησή του, έλλειψη κατανόησης της τεχνικής έννοιας. Ο Τραμπ έχει απορρίψει κρατικές δικλίδες ασφαλείας και έχει ταχθεί υπέρ της αυτορρύθμισης των εταιρειών, σύμφωνα με το υλικό της συνέντευξης.
Ο Χίντον εξέφρασε επίσης ανησυχία για την ισχύ προσώπων που δραστηριοποιούνται στον κλάδο. Ανέφερε τους Μαρκ Άντρισεν, Πίτερ Τιλ και Ίλον Μασκ και υποστήριξε ότι δεν πιστεύουν στη δημοκρατία και θεωρούν πως πρέπει να ασκούν έλεγχο στην κοινωνία. Πρόκειται για πολιτικές εκτιμήσεις που διατύπωσε ο ίδιος στη συνέντευξη.
Από την έρευνα στις προειδοποιήσεις
Ο Χίντον εργάστηκε επί χρόνια στο Πανεπιστήμιο του Τορόντο και συνέβαλε στην εξέλιξη των νευρωνικών δικτύων, τα οποία μαθαίνουν να αναγνωρίζουν μοτίβα μέσα από δεδομένα. Το 2012, ένα πρόγραμμα αναγνώρισης εικόνων που ανέπτυξε μαζί με φοιτητές του ξεπέρασε ανταγωνιστικά συστήματα. Την ίδια χρονιά, η Google εξαγόρασε την εταιρεία του, DNNresearch Inc, έναντι 44 εκατομμυρίων δολαρίων.
Το 2023 παραιτήθηκε από την Google, ώστε να μπορεί να μιλά δημόσια για τους κινδύνους της τεχνητής νοημοσύνης. Έχει τιμηθεί με το Νόμπελ Φυσικής και, μαζί με τον Μπέντζιο και τον Γιαν ΛεΚούν, με το Βραβείο Τούρινγκ.
Ο επιστήμονας υποστηρίζει ότι τα μοντέλα μπορεί να κατανοούν όσα τους λένε και δεν αποκλείει το ενδεχόμενο να διαθέτουν υποκειμενική εμπειρία, παρότι παραδέχεται ότι οι σχετικές έννοιες δεν είναι πλήρως κατανοητές. Η Anthropic έχει πραγματοποιήσει κλειστές συναντήσεις με μελετητές της θρησκείας, θεολόγους και φιλοσόφους για ζητήματα ηθικής συμπεριφοράς και πιθανής συνείδησης στα συστήματα τεχνητής νοημοσύνης.
Για τον Χίντον, η ανάπτυξη των μοντέλων δεν θα πρέπει να επικεντρώνεται μόνο στο να γίνουν πιο έξυπνα, αλλά και στις υπόλοιπες ιδιότητές τους. Υποστήριξε ότι η καταστολή ανεπιθύμητων συμπεριφορών δεν ισοδυναμεί απαραίτητα με τη διαμόρφωση καλού χαρακτήρα και τάχθηκε υπέρ της ανταλλαγής γνώσεων μεταξύ χωρών για την ασφάλεια των συστημάτων.
