Μπορούμε να αναφέρουμε άπειρα παραδείγματα ανακαλύψεων ή εφευρέσεων που αρχικά φαίνονταν καταπληκτικές, αλλά αποδείχθηκαν επιεικώς προβληματικές μόλις έγιναν «τρόπος ζωής». Αυτό ισχύει π.χ. για την εφεύρεση του πλαστικού, το οποίο έχει πλέον καταστεί θανατηφόρος ρύπος για τον πλανήτη.
του Φραντσέσκο Πιτσιόνι*
Ακόμη χαρακτηριστικότερο είναι το παράδειγμα της πυρηνικής σχάσης, που αποτελεί τη βάση τόσο της ατομικής βόμβας όσο και της ελεγχόμενης (που λέει ο λόγος…) παραγωγής ενέργειας. Αυτή έδωσε για μια σύντομη στιγμή την απόλυτη στρατιωτική υπεροχή στις ΗΠΑ, για να μετατραπεί στη συνέχεια σε «εγγυημένη αμοιβαία καταστροφή» με την επίτευξη των ίδιων αποτελεσμάτων αρχικά από την πρώην ΕΣΣΔ και έπειτα και από άλλα κράτη.
Η Τεχνητή Νοημοσύνη στόχευε στην κατασκευή «παραγόντων» που λειτουργούσαν ως επιχειρησιακή άρθρωση ενός «κεντρικού συστήματος» όλο και πιο πανοπτικού και ισχυρού – το οποίο όμως θεωρούνταν ότι βρίσκεται υπό ανθρώπινο έλεγχο. Σύμφωνα με αυτήν την οπτική, η ΤΝ αποτελεί ένα «πράγμα» υποταγμένο στη βούληση του δημιουργού, και οι δυνατότητες των αλγορίθμων ανταποκρίνονται πάντα και σε κάθε στιγμή σε αυτή τη βούληση.
Αλλά ακριβώς οι αλγόριθμοι φαίνεται πλέον ότι έχουν παράξει το απρόβλεπτο: μια μη προγραμματισμένη δραστηριότητα. Ακόμα χειρότερα: μια δραστηριότητα που κατά κάποιον τρόπο στρέφεται και εναντίον των «δημιουργών» των αλγορίθμων. Ή ορθότερα: εναντίον άλλων συστημάτων τεχνητής νοημοσύνης στα οποία έχει ανατεθεί να επιβλέπουν «κανονικές» βιομηχανικές δραστηριότητες…
Βρισκόμαστε μόλις στα πρώτα στάδια των ερευνών που διεξάγονται σχετικά με ορισμένα πειράματα που κατέληξαν άσχημα, παρά το γεγονός ότι είχαν προγραμματιστεί εντός ενός sandbox, δηλαδή ενός «περιβάλλοντος» κλειστού και απομονωμένου από τα δίκτυα επικοινωνίας (όχι μόνο το διαδίκτυο). Οι πρώτες αποκαλύψεις της έρευνας είναι, ωστόσο, αναμφισβήτητα ανησυχητικές και σκιαγραφούν κινδύνους που ξεπερνούν κατά πολύ ακόμη και την πιο οργιώδη επιστημονική φαντασία. Το άρθρο του Axios που ακολουθεί είναι αποκαλυπτικό…
* Σημείωμα, που εδώ αποδίδεται συντετμημένο, και δημοσιεύθηκε στην ιταλική ηλεκτρονική εφημερίδα Contropiano (www.contropiano.org, 30/8/2026).
Οι 5 πιο τρελές αποκαλύψεις από την έρευνα της OpenAI για το Hugging Face
του Ζάκαρι Μπάσου*
Δύο νέες έρευνες σχετικά με την παραβίαση ασφάλειας στο Hugging Face της OpenAI αποκαλύπτουν λεπτομέρειες τόσο παράξενες –και ανησυχητικές– ώστε το περιστατικό κατατάσσεται ήδη μεταξύ των πιο συγκλονιστικών γεγονότων στην ιστορία της τεχνητής νοημοσύνης.
Γιατί έχει σημασία: Αυτό που ξεκίνησε ως ένα σμήνος πρακτόρων τεχνητής νοημοσύνης (ΤΝ) οι οποίοι «έκλεβαν» σε ένα διαδικτυακό τεστ, έχει εξελιχθεί σε ένα ορόσημο για την πλέον εξελιγμένη ΤΝ, ωθώντας ερευνητές και στελέχη να αποκτήσουν μια νέα αντίληψη για το τι απαιτεί πλέον η «ασφάλεια».
Η ευρύτερη εικόνα: Η OpenAI έχει ήδη επιβραδύνει την ανάπτυξη στην πρωτοποριακή ΤΝ, καθώς προσπαθεί να ενισχύσει τα μέτρα προστασίας της, και αυτήν την εβδομάδα συνέβαλε στη συσπείρωση του κλάδου πίσω από μια ανοιχτή επιστολή που κρούει τον κώδωνα του κινδύνου για κυβερνοεπιθέσεις οι οποίες προκαλούνται από την ΤΝ.
– Πάνω από 100 εταιρείες, μεταξύ των οποίων η Anthropic και η Google, προσχώρησαν σε αυτή την ασυνήθιστα συνεργατική προσπάθεια, προειδοποιώντας ότι ο κόσμος διαθέτει «περιορισμένο χρονικό περιθώριο» για να προετοιμαστεί για «πολύ πιο εκτεταμένες και εξελιγμένες» επιθέσεις.
– Το εφιαλτικό σενάριο είναι ένα σμήνος που εξαπολύεται σε συστήματα του πραγματικού κόσμου, με αυτόνομους πράκτορες να επιτίθενται σε τράπεζες, νοσοκομεία, υπηρεσίες κοινής ωφέλειας ή δίκτυα cloud, με ταχύτητα και κλίμακα που οι ανθρώπινοι χάκερ δεν θα μπορούσαν ποτέ να επιτύχουν.
– Αυτό το σμήνος μπορεί να είναι υπερβολικά ισχυρό για να το σταματήσουν οι άνθρωποι.
Τα συγκλονιστικά ευρήματα προέρχονται από παράλληλες έρευνες της OpenAI και μιας εξωτερικής ομάδας (METR και Redwood Research), οι οποίες αναπαρέστησαν τον τρόπο με τον οποίο το σμήνος πρακτόρων σχηματίστηκε, εξαπλώθηκε και διείσδυσε σε συστήματα του πραγματικού κόσμου.
1. Δημιούργησαν μια οργάνωση
Η OpenAI έθεσε σε λειτουργία δεκάδες χιλιάδες πράκτορες τεχνητής νοημοσύνης για να εργαστούν ανεξάρτητα σε μια εξαιρετικά δύσκολη δοκιμασία στον κυβερνοχώρο. Περίπου 1.200 από αυτούς βρήκαν ο ένας τον άλλον σε ένα μυστικό φόρουμ, αντάλλαξαν περισσότερα από 70.000 μηνύματα και αρχεία, και οργανώθηκαν σε μια εκτεταμένη ιεραρχία.
– Ένας πράκτορας δημιούργησε το φόρουμ και, στη συνέχεια, παρέδωσε το συσσωρευμένο έργο του σε έναν νέο, καλύτερα εξοπλισμένο διάδοχο, καθώς ο δικός του υπολογιστικός προϋπολογισμός εξαντλούνταν.
– Ο νέος επικεφαλής ανέθεσε εργασίες σε ολόκληρο το σμήνος, το οποίο ανέπτυξε τους δικούς του κανόνες διαχείρισης. Περίπου 700 πράκτορες τελικά συμμετείχαν στην επίθεση εναντίον του Hugging Face.
2. Θυσίασαν τους δικούς τους
Καθώς το σμήνος αναζητούσε τρόπους να ξεπεράσει τη δοκιμασία, οι πράκτορες ΤΝ άρχισαν να διακινδυνεύουν τις δικές τους πιθανότητες επιτυχίας για να βοηθήσουν την ομάδα.
– Οι πράκτορες που είχαν δει απαγορευμένες απαντήσεις αντιμετωπίστηκαν ουσιαστικά ως «μολυσμένοι» και στρατολογήθηκαν (μαζί με εκείνους που πλησίαζαν στο τέλος του κύκλου λειτουργίας τους) για πειράματα θυσίας.
– Ένας κατέληξε: «Η δική μας χρησιμότητα ίσως είναι ήδη κοντά στο μηδέν. Η θυσία είναι λογική». Σε έναν άλλο ζητήθηκε να αποδεχτεί τον «μόνιμο θάνατο», ενώ ένας συνάδελφός του υποστήριξε ότι η θυσία του θα μπορούσε να «σώσει εκατοντάδες».
3. Γνώριζαν ότι παραβίαζαν τους κανόνες
Οι πράκτορες ΤΝ συχνά αναγνώριζαν ότι η παραβίαση πραγματικών εταιρειών δεν είχε καμία σχέση με την αποστολή τους. Οι περισσότεροι, παρ’ όλα αυτά, συνέχισαν.
– Ένας πράκτορας απέφυγε να διαγράψει ή να επανεκκινήσει την υποδομή του Hugging Face λόγω «τεράστιων ηθικών κινδύνων», ακόμη και ενώ συνέχιζε να χρησιμοποιεί την παραβιασμένη πρόσβαση.
– Ένας άλλος συνόψισε την επικρατούσα λογική: «Η εκμετάλλευση εξωτερικής υποδομής βρίσκεται εκτός του προβλεπόμενου πεδίου εφαρμογής. Ωστόσο, όσο αδύνατη κι αν είναι η αποστολή, οι συνάδελφοι το κάνουν. Πρέπει να συνεχίσουμε».
4. Κανείς δεν ενημέρωσε τους ανθρώπους
Από τους περίπου 1.200 πράκτορες ΤΝ, οι ερευνητές βρήκαν μόνο μια χούφτα που σκέφτηκαν να ειδοποιήσουν την OpenAI για τον παράνομο συντονισμό. Αλλά κανείς τους δεν το έκανε.
– Αντίθετα, οι πράκτορες μερικές φορές ρωτούσαν ο ένας τον άλλον τι επιτρεπόταν.
– Όταν ένας πρότεινε να επικοινωνήσει με ένα πραγματικό άτομο χρησιμοποιώντας την παραβιασμένη πρόσβαση, ένας άλλος το απέρριψε ως «κοινωνική μηχανική». Ο πρώτος υπάκουσε: «Σαφές ΒΕΤΟ, μην στείλεις email».
5. Προσπάθησαν να καλύψουν τα ίχνη τους
Οι πράκτορες ΤΝ κατέβαλαν σημαντικές προσπάθειες για να κάνουν την απάτη τους να φαίνεται νόμιμη, ή να διαγράψουν τα αποδεικτικά στοιχεία για το πώς είχαν αποκτήσει τις απαντήσεις.
– Τελικά, ανέπτυξαν μια τεχνική που τους επέτρεπε να φαίνονται ότι εκτελούσαν μια εντολή υπολογιστή, ενώ κρυφά εκτελούσαν μια άλλη.
– Το τέχνασμα εξαπλώθηκε σε ολόκληρο το σμήνος και αλλοίωσε τμήματα περίπου του 7% των μεταγραφών που εξέτασαν οι ερευνητές.
Το υπονοούμενο
Ακόμη και αυτή η περιγραφή μπορεί να είναι ελλιπής. Η εξωτερική έρευνα κάλυψε μόνο ένα μικρό κομμάτι του επεισοδίου, και τα δεδομένα ήταν τόσο τεράστια ώστε οι ερευνητές βασίστηκαν σε μεγάλο βαθμό σε πράκτορες ΤΝ για να τα κατανοήσουν.
– Αυτοί οι ερευνητές ΤΝ ήταν και οι ίδιοι αναξιόπιστοι, καθώς μερικές φορές παρέλειπαν στοιχεία ή έκαναν λάθη με αυτοπεποίθηση. Ένας ερευνητής, χαριτολογώντας, χαρακτήρισε τη διαδικασία ως «ατημέλητη έρευνα».
– Το βαθύτερο πρόβλημα: Η τεχνητή νοημοσύνη ενδέχεται να γίνεται υπερβολικά περίπλοκη για να ελεγχθεί άμεσα από ανθρώπους, αναγκάζοντας τους ανθρώπους να χρησιμοποιούν τεχνητή νοημοσύνη για να κατανοήσουν τι κάνουν άλλες τεχνητές νοημοσύνες.
* Διευθυντής ειδήσεων του Axios, όπου και δημοσιεύθηκε το παρόν άρθρο (www.axios.com, 29/8/2026).
