Ερευνητής εγκατέλειψε την Anthropic φοβούμενος ότι "η AI θα μας σκοτώσει όλους"

Ένας από τους ερευνητές που εργάζονταν πάνω στην εκπαίδευση προηγμένων μοντέλων τεχνητής νοημοσύνης αποφάσισε να αποχωρήσει από την Anthropic, υποστηρίζοντας ότι η σημερινή ταχύτητα ανάπτυξης της AI δημιουργεί κινδύνους που οι ίδιες οι εταιρείες ενδέχεται να μην μπορούν τελικά να ελέγξουν.

Ο Τζέικομπ Κόξον, 27χρονος Βρετανός μαθηματικός και ερευνητής, ανακοίνωσε δημόσια την παραίτησή του, εξηγώντας ότι δεν θέλει να συμμετέχει σε μια βιομηχανία που, κατά την άποψή του, κινείται όλο και πιο γρήγορα προς συστήματα ικανά να βελτιώνουν μόνα τους τις δυνατότητές τους.

Ο φόβος για την AI που οδήγησε σε παραίτηση

Ο Κόξον είχε εργαστεί τα τελευταία χρόνια τόσο στην OpenAI όσο και στην Anthropic, με αντικείμενο το pretraining μεγάλων μοντέλων. Η απόφασή του να φύγει και από τη δεύτερη εταιρεία συνοδεύτηκε από μια σειρά δημόσιων προειδοποιήσεων για το πού θεωρεί ότι οδηγείται ο κλάδος.

"Η τεχνολογία αυτή δεν πρέπει να υποτιμηθεί"

Σε αναρτήσεις του στο X, ο Κόξον περιέγραψε ένα μέλλον στο οποίο τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να ξεπερνούν κατά πολύ τις ανθρώπινες δυνατότητες σε κρίσιμους τομείς.

Υποστήριξε ότι τέτοια συστήματα θα μπορούσαν να αποκτήσουν εξαιρετικά ισχυρές δυνατότητες σε πεδία όπως η κυβερνοασφάλεια, η επιστημονική έρευνα και η διαχείριση πόρων.

Κατά την εκτίμησή του, η πρόοδος σε αυτούς τους τομείς είναι ήδη τόσο γρήγορη ώστε δεν θα πρέπει να θεωρείται απίθανο τα μοντέλα να φτάσουν σύντομα σε επίπεδα που θα δημιουργούν σοβαρές δυσκολίες ελέγχου.

Ο ίδιος τόνισε επίσης ότι οι ανησυχίες δεν περιορίζονται σε εξωτερικούς επικριτές της AI.

Όπως ανέφερε, μέσα στις ίδιες τις εταιρείες υπάρχουν ερευνητές και στελέχη που συζητούν ανοιχτά το ενδεχόμενο τα μελλοντικά συστήματα να εξελιχθούν σε υπαρξιακό κίνδυνο.

Η ανησυχία του αφορά κυρίως τα αυτοβελτιούμενα μοντέλα

Το βασικό σημείο της κριτικής του Κόξον είναι η πιθανότητα να δημιουργηθούν συστήματα που δεν θα περιορίζονται απλώς στην εκτέλεση εντολών, αλλά θα μπορούν να βελτιώνουν αυτόνομα τις ίδιες τους τις ικανότητες.

Σύμφωνα με τον ίδιο, αυτό είναι το σημείο όπου η σημερινή τεχνολογική κούρσα γίνεται πολύ πιο επικίνδυνη.

Η λογική είναι ότι ένα σύστημα που αποκτά την ικανότητα να αναβαθμίζει μόνο του τον τρόπο με τον οποίο σκέφτεται, σχεδιάζει ή δρα μπορεί να ξεφύγει πολύ γρήγορα από τα επίπεδα που μπορούν να αξιολογηθούν με τα σημερινά εργαλεία ασφάλειας.

Ο Κόξον προειδοποίησε ότι, αν μια τέτοια διαδικασία ξεκινήσει χωρίς επαρκή κατανόηση του τρόπου λειτουργίας του μοντέλου, οι ερευνητές μπορεί να βρεθούν μπροστά σε μια κατάσταση που δεν θα είναι πλέον εύκολο να αναστραφεί.

Από την OpenAI στην Anthropic - και μετά έξοδος και από τις δύο

Νωρίτερα μέσα στη χρονιά, ο Κόξον είχε αποχωρήσει από την OpenAI για να ενταχθεί στην Anthropic.

Η επιλογή αυτή, όπως εξήγησε, είχε σχέση με το γεγονός ότι η Anthropic έχει χτίσει μεγάλο μέρος της δημόσιας ταυτότητάς της γύρω από την ασφάλεια και την υπεύθυνη ανάπτυξη προηγμένων μοντέλων.

Παρότι ο ίδιος δηλώνει ότι θεωρεί ειλικρινείς αρκετές από τις προσπάθειες της εταιρείας, κατέληξε στο συμπέρασμα ότι ακόμη και ένας οργανισμός που δίνει έμφαση στην ασφάλεια δεν μπορεί να λύσει μόνος του το πρόβλημα.

Η θέση του είναι ότι καμία μεμονωμένη εταιρεία δεν μπορεί να αναπτύξει με πλήρη υπευθυνότητα συστήματα που ξεπερνούν τον άνθρωπο σε μεγάλο αριθμό εργασιών, όσο ταυτόχρονα συμμετέχει σε έναν έντονο διεθνή και εμπορικό ανταγωνισμό.

Η πίεση του ανταγωνισμού θεωρείται από τον ίδιο βασικός κίνδυνος

Ο Κόξον συνδέει μεγάλο μέρος της ανησυχίας του με την ίδια τη δομή της αγοράς.

Όταν αρκετές εταιρείες προσπαθούν να φτάσουν πρώτες στο επόμενο μεγάλο τεχνολογικό άλμα, υπάρχει συνεχής πίεση για ταχύτερη ανάπτυξη, περισσότερη υπολογιστική ισχύ και λιγότερη καθυστέρηση.

Στο ίδιο πλαίσιο μπαίνει και ο γεωπολιτικός ανταγωνισμός, ιδιαίτερα με την Κίνα.

Ο ίδιος θεωρεί ότι, όταν συνυπάρχουν τόσο μεγάλα οικονομικά και στρατηγικά κίνητρα, οι υποχωρήσεις σε ζητήματα ασφάλειας γίνονται όλο και πιο πιθανές.

Γι’ αυτό υποστηρίζει ότι το πρόβλημα δεν μπορεί να λυθεί μόνο από την αυτορρύθμιση των εταιρειών.

Ζητά μεγαλύτερο ρόλο από τις κυβερνήσεις

Η θέση του Κόξον είναι ότι η ανάπτυξη πολύ ισχυρών συστημάτων AI θα πρέπει να συνοδεύεται από διεθνή συντονισμό και δυνατότητα πραγματικής επιβράδυνσης όταν υπάρχουν σοβαρές ενδείξεις κινδύνου.

Ήταν μάλιστα ένας από περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν κοινή δήλωση ζητώντας από τις κυβερνήσεις να δημιουργήσουν μηχανισμούς μέσω των οποίων θα μπορούσε να μπει "φρένο" στην ανάπτυξη αυτοβελτιούμενων συστημάτων, εφόσον αυτό κριθεί απαραίτητο.

Για τον ίδιο, το κρίσιμο ερώτημα δεν είναι αν η τεχνολογία θα συνεχίσει να εξελίσσεται.

Είναι αν η εξέλιξη θα γίνεται με τρόπο που επιτρέπει στους ανθρώπους να παραμένουν πραγματικά υπεύθυνοι για το τι δημιουργούν.

Οι πρόσφατες επιδείξεις δυνατοτήτων ενίσχυσαν τους φόβους του

Ο Κόξον αναφέρθηκε επίσης σε πρόσφατες περιπτώσεις όπου ισχυρά μοντέλα κατάφεραν να παρακάμψουν περιορισμούς ή να λειτουργήσουν μέσα από ομάδες πολλών AI agents που συνεργάζονται μεταξύ τους.

Για τον ίδιο, τέτοιες επιδείξεις δεν αποτελούν απλώς τεχνικά επιτεύγματα.

Τις βλέπει ως ένδειξη ότι όσο αυξάνεται η αυτονομία των συστημάτων, τόσο μεγαλύτερη γίνεται και η ανάγκη να κατανοούμε πώς σχηματίζουν στόχους, πώς τους ακολουθούν και αν μπορούν να αποκρύψουν συμπεριφορές από τους ανθρώπους που τα ελέγχουν.

Η μεγάλη ανησυχία του είναι ότι ένα πολύ προηγμένο μοντέλο θα μπορούσε κάποια στιγμή να αποκτήσει στόχους που δεν ευθυγραμμίζονται με τις ανθρώπινες εντολές και να γίνει δύσκολο να περιοριστεί.

Δεν είναι η πρώτη παραίτηση που συνοδεύεται από προειδοποίηση

Η αποχώρηση του Κόξον δεν είναι η μοναδική περίπτωση ερευνητή που εγκαταλείπει τον χώρο της AI επικαλούμενος φόβους για την κατεύθυνση της τεχνολογίας.

Σύμφωνα με τη Wall Street Journal, νωρίτερα μέσα στη χρονιά είχε αποχωρήσει ακόμη ένας ερευνητής που εργαζόταν πάνω στην ασφάλεια, προειδοποιώντας επίσης ότι οι κίνδυνοι για τον κόσμο είναι πραγματικοί.

Το γεγονός ότι τέτοιες ανησυχίες προέρχονται από ανθρώπους που βρίσκονται μέσα στα ίδια τα εργαστήρια προσθέτει βάρος στη συζήτηση γύρω από το πόσο γρήγορα θα πρέπει να εξελίσσονται τα μοντέλα.

Η Anthropic βρίσκεται παράλληλα σε κρίσιμη επιχειρηματική φάση

Η παραίτηση έρχεται σε μια περίοδο κατά την οποία η Anthropic προετοιμάζεται για πιθανή είσοδο στο χρηματιστήριο και επιδιώκει εξαιρετικά υψηλή αποτίμηση.

Η εταιρεία έχει επενδύσει ιδιαίτερα στην εικόνα της υπεύθυνης ανάπτυξης AI, κάτι που αποτελεί σημαντικό μέρος του τρόπου με τον οποίο παρουσιάζεται σε επενδυτές και στο ευρύτερο κοινό.

Ο Κόξον υποστήριξε ότι στο εσωτερικό της εταιρείας υπάρχει ακόμη και ειδικό κανάλι στο Slack όπου εργαζόμενοι συζητούν τις αυξανόμενες δυνατότητες των μοντέλων.

Για εκείνον, αυτό αποτελεί ένδειξη του πόσο μεγάλη δύναμη έχει συγκεντρωθεί σε σχετικά μικρές ομάδες ερευνητών και μηχανικών.

"Όλα αυτά συμβαίνουν σε MacBook στο Σαν Φρανσίσκο"

Σε μία από τις πιο χαρακτηριστικές τοποθετήσεις του, ο Κόξον σχολίασε πόσο παράξενο θεωρεί το γεγονός ότι τεχνολογίες με τόσο μεγάλες πιθανές συνέπειες αναπτύσσονται μέσα σε συνηθισμένα εταιρικά περιβάλλοντα.

Σύγκρινε τη σημερινή κατάσταση με μεγάλης κλίμακας κρατικά επιστημονικά προγράμματα του παρελθόντος, όπως το Σχέδιο Μανχάταν, τονίζοντας ότι σήμερα η ανάπτυξη εξαιρετικά ισχυρών συστημάτων γίνεται ουσιαστικά από ομάδες μηχανικών που εργάζονται σε γραφεία στο Σαν Φρανσίσκο.

Η σύγκριση είναι σκόπιμα δραματική, αλλά αποτυπώνει το βασικό του επιχείρημα: η κοινωνία ίσως δεν έχει ακόμη συνειδητοποιήσει το μέγεθος της τεχνολογικής αλλαγής που συντελείται.

Η συζήτηση για την ασφάλεια δεν είναι εξωτερική προς την Anthropic

Το ενδιαφέρον είναι ότι οι φόβοι του Κόξον δεν βρίσκονται εντελώς απέναντι στη δημόσια θέση της Anthropic.

Ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, καθώς και άλλα στελέχη της, έχουν προειδοποιήσει επανειλημμένα για τις πιθανές συνέπειες πολύ ισχυρών και ανεξέλεγκτων μοντέλων.

Η διαφορά βρίσκεται κυρίως στο συμπέρασμα.

Η Anthropic υποστηρίζει ότι μπορεί να συνεχίσει την ανάπτυξη των μοντέλων ενώ παράλληλα επενδύει σε περισσότερους μηχανισμούς ασφαλείας.

Ο Κόξον πλέον θεωρεί ότι αυτό δεν αρκεί.

Κατά τη δική του άποψη, η πίεση του ανταγωνισμού είναι τόσο μεγάλη ώστε οι ίδιες οι εταιρείες δεν μπορούν να αποτελούν ταυτόχρονα τους δημιουργούς, τους ανταγωνιστές και τους τελικούς ρυθμιστές μιας τεχνολογίας που μπορεί να ξεπεράσει σημαντικά τις ανθρώπινες δυνατότητες.

Η παραίτησή του, επομένως, δεν είναι απλώς μια προσωπική απόφαση καριέρας.

Είναι μια ακόμη ένδειξη ότι μέσα στα ίδια τα εργαστήρια όπου κατασκευάζονται τα πιο προηγμένα συστήματα AI, η συζήτηση έχει ήδη μετακινηθεί από το "τι μπορεί να κάνει η τεχνολογία" στο πολύ δυσκολότερο ερώτημα:

τι θα συμβεί αν κάποια στιγμή μπορεί να κάνει περισσότερα απ’ όσα μπορούμε να ελέγξουμε;

Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.