Ο Τζέικομπ Κόξον, ένας 27χρονος βρετανός ανώτερος ερευνητής τεχνητής νοημοσύνης, υπέβαλε παραίτηση από την Anthropic και προειδοποίησε δημόσια για τον κίνδυνο της τεχνητής νοημοσύνης. Με σειρά αναρτήσεων στο X, ο νεαρός ερευνητής κατηγόρησε τις δύο μεγαλύτερες εταιρείες του κλάδου, την Anthropic και την OpenAI, ότι δεν ενεργούν υπεύθυνα απέναντι στην ανάπτυξη ολοένα ισχυρότερων συστημάτων. Οι δηλώσεις του έγιναν γνωστές μέσω δημοσιεύματος της Wall Street Journal και προκάλεσαν αντιδράσεις από στελέχη και των δύο εταιρειών.
Διαβάστε επίσης: Η Google φέρνει επένδυση 13 δισ. ευρώ στη Φινλανδία
Η παραίτηση και οι καταγγελίες του Κόξον
Ο Κόξον εργάστηκε τα τελευταία τρία χρόνια στην έρευνα για την προεκπαίδευση μοντέλων τεχνητής νοημοσύνης, τόσο στην OpenAI όσο και στην Anthropic, πριν αποφασίσει να αποχωρήσει και να μιλήσει ανοιχτά. Στις αναρτήσεις του υποστήριξε ότι «καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα» και ότι «τρέχουν ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας τις ζωές μας στα ζάρια». Σύμφωνα με τον ίδιο, «οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας».
Ο Κόξον ανέφερε ότι μέσα στην Anthropic οι συνάδελφοί του χρησιμοποιούν όρους όπως «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν την πορεία της τεχνολογίας. Παρότι, όπως είπε, η εταιρεία «κατανοεί πολύ καλά το διακύβευμα», έχει παρασυρθεί σε έναν αγώνα δρόμου χωρίς ρυθμιστικό πλαίσιο. Χαρακτηριστικά δήλωσε στη Wall Street Journal ότι «μέχρι το τέλος του επόμενου έτους τα πράγματα θα μπορούσαν ήδη να είναι εκτός ελέγχου».
Οι αντιδράσεις στελεχών της Anthropic
Οι προειδοποιήσεις του Κόξον βρήκαν σύμφωνους στελέχη της ίδιας της Anthropic. Ο Εβαν Χούμπινγκερ, επικεφαλής του τμήματος Alignment Science της εταιρείας, σχολίασε στο X ότι «ο Τζέικομπ έχει δίκιο» και ότι προσωπικά εκτιμά την πιθανότητα η τεχνητή νοημοσύνη να σκοτώσει όλους τους ανθρώπους σε πάνω από 10% μέσα στην επόμενη δεκαετία. Το έργο του Χούμπινγκερ επικεντρώνεται στο να διασφαλίσει ότι τα μελλοντικά συστήματα υπερνοημοσύνης θα παραμείνουν ασφαλή και ευθυγραμμισμένα με τις ανθρώπινες αξίες, ωστόσο παραδέχθηκε ανοιχτά πως στην Anthropic «δεν έχουμε ακόμη σχέδιο» για το πώς θα διασφαλιστεί ότι ένα σύστημα που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς του.
Ο Χούμπινγκερ διευκρίνισε ότι οι ανησυχίες του δεν αφορούν τα τρέχοντα μοντέλα, τα οποία παρουσιάζουν κατά τα λεγόμενά του «χαμηλό» κίνδυνο, αλλά την πιθανή εμφάνιση υπερ-ευφυών συστημάτων μέσω επαναλαμβανόμενης αυτοβελτίωσης. «Συμβαίνει γρηγορότερα απ’ όσο περιμέναμε», τόνισε. Στο ίδιο μήκος κύματος κινήθηκε και ο Σάμιουελ Μαρκς, επικεφαλής του τμήματος Κλιμακούμενης Εποπτείας στην Anthropic, ο οποίος συμπλήρωσε ότι «οι προγραμματιστές AI πιστεύουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει τον αφανισμό της ανθρωπότητας ή παρόμοια καταστροφικά αποτελέσματα» και πως αυτό «θα μπορούσε να συμβεί μέσα στα επόμενα λίγα χρόνια».
Παρόμοιες προειδοποιήσεις και από την OpenAI
Οι δηλώσεις του Κόξον και των συναδέλφων του στην Anthropic ήρθαν λίγα εικοσιτετράωρα αφότου κορυφαία στελέχη της OpenAI, συμπεριλαμβανομένου του διευθύνοντος συμβούλου Σαμ Αλτμαν, δήλωσαν ότι η τεχνητή νοημοσύνη εισέρχεται σε μια «τρομακτική, ανεξέλεγκτη φάση». Την προηγούμενη Κυριακή, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι, είχε δημοσιεύσει σχετικό κείμενο στον ιστότοπο της εταιρείας, εντείνοντας τον δημόσιο διάλογο γύρω από τον κίνδυνο της τεχνητής νοημοσύνης που θέτει ο ανταγωνισμός ανάμεσα στις δύο κορυφαίες εταιρείες του κλάδου.
