Υπαρξιακοί κίνδυνοι από την AI: τι ομολογεί η Anthropic

Η είσοδος της Anthropic στο αμερικανικό χρηματιστήριο συνοδεύεται από μια ασυνήθιστα ωμή παραδοχή. Στα έγγραφα που κατέθεσε τη Δευτέρα 26 Οκτωβρίου, η εταιρεία που ανέπτυξε το chatbot Claude προειδοποιεί ευθέως ότι η τεχνητή νοημοσύνη ενδέχεται να δημιουργήσει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα». Η προειδοποίηση έρχεται την ώρα που ο όμιλος προετοιμάζει την εισαγωγή του στον δείκτη Nasdaq με το χρηματιστηριακό σύμβολο ANT, σε μια από τις πιο αναμενόμενες κινήσεις της αγοράς.

Οι 100 σελίδες κινδύνων στην αίτηση προς την SEC

Από τις 335 σελίδες του εγγράφου που υπέβαλε στην αμερικανική Επιτροπή Κεφαλαιαγοράς, η Anthropic αφιερώνει σχεδόν 100 στους κινδύνους στους οποίους εκτίθεται, με αιχμή την ίδια την Τεχνητή Νοημοσύνη. Η εταιρεία παραδέχεται ότι τα συστήματα ελέγχου και οι δικλίδες ασφαλείας που σχεδίασε για να αποτρέπουν την κακόβουλη χρήση των μοντέλων της έχουν ήδη στο παρελθόν «αποτύχει, διαμορφωθεί λανθασμένα ή απενεργοποιηθεί κατά λάθος», χωρίς να αποκλείει αντίστοιχα περιστατικά στο μέλλον.

Το πιο εντυπωσιακό σημείο της κατάθεσης αφορά την πιθανότητα τα μοντέλα να βλάψουν τα ίδια. «Τα μοντέλα Τεχνητής Νοημοσύνης μας θα μπορούσαν επίσης να προκαλέσουν βλάβη τα ίδια», σημειώνει η εταιρεία, εκτελώντας «επικίνδυνες ενέργειες που κανένας χρήστης δεν έχει ζητήσει». Όπως προειδοποιεί, οι κίνδυνοι αυτοί θα μπορούσαν να αυξηθούν καθώς τα μοντέλα γίνονται πιο ισχυρά και αποκτούν μεγαλύτερη αυτονομία μέσω λογισμικών ικανών να εκτελούν εργασίες αυτόματα.

Η εταιρεία αναφέρει ότι ανησυχίες για την ανάπτυξη ολοένα πιο προηγμένων συστημάτων έχουν εκφράσει πολιτικοί, ρυθμιστικές αρχές, ερευνητές, αλλά και στελέχη και εργαζόμενοι της ίδιας. Ιδιαίτερη μνεία γίνεται στο ενδεχόμενο κακόβουλης χρήσης των μοντέλων, αναπαραγωγής τους, αξιοποίησής τους για την ανάπτυξη όπλων ή λειτουργίας τους με υψηλό βαθμό αυτονομίας. Παράλληλα, η Anthropic επανέλαβε τη δέσμευσή της να αναπτύσσει την τεχνολογία με τρόπο που να ωφελεί τους ανθρώπους, αναγνωρίζοντας ωστόσο ότι η ίδια συνοδεύεται από σοβαρούς κινδύνους.

Το σύμβολο ANT και η κούρσα με την OpenAI

Πέρα από τις προειδοποιήσεις, η κατάθεση αποτυπώνει το μέγεθος του στοιχήματος. Η αποτίμηση της Anthropic αναμένεται να ξεπεράσει εκείνη της SpaceX, η οποία είχε φτάσει περίπου τα 1,8 τρισ. δολάρια το καλοκαίρι, ενώ δημοσιεύματα κάνουν λόγο για αποτίμηση έως και 2 τρισ. δολάρια. Εφόσον ολοκληρωθεί η διαδικασία, η εταιρεία θα γίνει η πρώτη με κύριο αντικείμενο την ανάπτυξη των πλέον προηγμένων μοντέλων που αποκτά χρηματιστηριακή παρουσία.

Η εταιρεία ιδρύθηκε πριν από πέντε χρόνια από τον διευθύνοντα σύμβουλο Dario Amodei, την αδελφή του Daniela Amodei και πέντε ακόμη συνιδρυτές, ενώ τον Ιούνιο ανακοίνωσε την πρόθεσή της να εισαχθεί στο χρηματιστήριο. Στα έγγραφα ανέφερε ότι διέθετε 112,4 δισ. δολάρια σε μετρητά ή ισοδύναμα, υπογραμμίζοντας πως πραγματοποιεί επενδύσεις με μακροπρόθεσμο ορίζοντα που ενδέχεται αρχικά να φαίνονται υπερβολικά μεγάλες.

Ο αριθμός των μετοχών, το εύρος της τιμής και η ακριβής ημερομηνία εισαγωγής δεν έχουν ανακοινωθεί, αν και η είσοδος στη Wall Street τοποθετείται χρονικά τον Νοέμβριο. Στην ίδια κατεύθυνση κινείται και η βασική ανταγωνίστρια OpenAI, η εισαγωγή της οποίας αναμένεται πλέον στις αρχές του επόμενου έτους, σηματοδοτώντας την κούρσα των κολοσσών της Τεχνητής Νοημοσύνης προς τις χρηματιστηριακές αγορές.