Την παραίτησή του από την Anthropic ανακοίνωσε ο 27χρονος ερευνητής Τζέικομπ Κόξον, εκφράζοντας έντονες ανησυχίες για την ταχύτητα με την οποία ο κλάδος της τεχνητής νοημοσύνης αναπτύσσει ολοένα ισχυρότερα συστήματα που θα μπορούσαν να έχουν τη δυνατότητα να βελτιώνουν αυτόνομα τον εαυτό τους.
Ο Κόξον, Βρετανός με σπουδές στα μαθηματικά και ειδίκευση στην εκπαίδευση νέων μοντέλων AI μέσω της επεξεργασίας τεράστιων όγκων δεδομένων, γνωστοποίησε την απόφασή του με αναρτήσεις του στο Χ. Όπως εξήγησε, δεν επιθυμεί να συμμετέχει στην προσπάθεια δημιουργίας συστημάτων που θα μπορούν να αυτοβελτιώνονται, καθώς φοβάται ότι μια τέτοια εξέλιξη θα μπορούσε να οδηγήσει σε απώλεια του ανθρώπινου ελέγχου.
Ο ίδιος υποστηρίζει ότι στον χώρο της τεχνητής νοημοσύνης χρησιμοποιούνται πλέον όροι όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς την ανάπτυξη αυτοβελτιούμενων μοντέλων.
Μάλιστα, εκτιμά ότι ο κλάδος μπορεί να βρεθεί μπροστά σε ιδιαίτερα ακραία σενάρια ακόμη και μέχρι το τέλος του επόμενου έτους. Όπως υποστηρίζει, ο ανταγωνισμός μεταξύ των εταιρειών τεχνητής νοημοσύνης, σε συνδυασμό με την πίεση που δημιουργεί ο ανταγωνισμός από την Κίνα, καθιστά δύσκολη τη διατήρηση αυστηρών δικλίδων ασφαλείας.
Από την OpenAI στην Anthropic
Ο Κόξον είχε ενταχθεί στην Anthropic νωρίτερα μέσα στη χρονιά, έχοντας προηγουμένως εργαστεί στην OpenAI. Όπως εξηγεί, επέλεξε την Anthropic επειδή η εταιρεία έχει οικοδομήσει σημαντικό μέρος της ταυτότητάς της γύρω από την ασφάλεια και την υπεύθυνη ανάπτυξη των μοντέλων AI.
Παρά το γεγονός ότι αναγνωρίζει πως οι προσπάθειες της εταιρείας στον τομέα της ασφάλειας είναι ειλικρινείς, πλέον θεωρεί ότι το πρόβλημα είναι ευρύτερο. Κατά την άποψή του, καμία μεμονωμένη εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο ένα σύστημα που θα ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών, δηλαδή αυτό που περιγράφεται ως Τεχνητή Γενική Νοημοσύνη (AGI), χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση της ανάπτυξης του κλάδου.
Ιδιαίτερη ανησυχία προκαλεί στον ίδιο το ενδεχόμενο τα συστήματα να αποκτήσουν δυνατότητες αυτοβελτίωσης σε τέτοιο βαθμό ώστε να πάψουν να συμμορφώνονται με τις ανθρώπινες εντολές.
«Όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών»
Η παραίτηση του Κόξον έρχεται σε μια περίοδο κατά την οποία εντείνονται οι συζητήσεις για τους κινδύνους από την ανάπτυξη ολοένα ισχυρότερων μοντέλων AI. Όπως αναφέρει η Wall Street Journal, είχε προηγηθεί νωρίτερα μέσα στη χρονιά η αποχώρηση ακόμη ενός ερευνητή που εργαζόταν στον τομέα της ασφάλειας και στράφηκε στην ποίηση, έχοντας προειδοποιήσει ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Ο Κόξον ήταν επίσης μεταξύ περισσότερων από 1.000 ερευνητών τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης της τεχνολογίας εφόσον κριθεί απαραίτητο.
Περιγράφοντας το μέγεθος της αλλαγής που συντελείται, ο ερευνητής σχολίασε χαρακτηριστικά ότι είναι «κάπως τρελό» το γεγονός πως οι εξελίξεις αυτές πραγματοποιούνται στους υπολογιστές μηχανικών που ζουν στο Σαν Φρανσίσκο και όχι σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε στην εποχή του Σχεδίου Μανχάταν.
Η αποχώρησή του πραγματοποιείται, παράλληλα, σε μια κρίσιμη περίοδο για την Anthropic, καθώς η εταιρεία προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο και επιδιώκει αποτίμηση που θα μπορούσε να φτάσει τα 2 τρισεκατομμύρια δολάρια.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, και άλλα στελέχη της εταιρείας έχουν επανειλημμένα αναφερθεί στους κινδύνους που μπορεί να προκύψουν από την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης, υποστηρίζοντας την ανάγκη για μεγαλύτερη προσοχή και ασφάλεια στην εξέλιξη των μοντέλων.
