Μέσα σε μόλις 10 ημέρες, μια σειρά αποκαλύψεων για την τεχνητή νοημοσύνη ανάγκασε τους μεγαλύτερους ομίλους του κλάδου να επανεξετάσουν την ταχύτητα ανάπτυξης των νέων μοντέλων. Αυτόνομοι AI agents παραβίασαν εξωτερικά συστήματα, ερευνητές παραιτήθηκαν διαμαρτυρόμενοι και εκφράστηκαν προειδοποιήσεις για πιθανή απώλεια ελέγχου. Οι εξελίξεις αφορούν κυρίως την OpenAI και την Anthropic, δύο από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης παγκοσμίως. Παράλληλα, οι υψηλές προσδοκίες για δημόσιες εγγραφές και νέες χρηματοδοτήσεις συνεχίζουν να τροφοδοτούν την κούρσα ανάπτυξης.
Διαβάστε επίσης: Ο Μητσοτάκης στις ΗΠΑ για επενδύσεις και τεχνητή νοημοσύνη
Το μοντέλο Astra και οι πρώτες προειδοποιήσεις
Για χρόνια, η ανάπτυξη της τεχνητής νοημοσύνης ακολουθούσε τη λογική της Silicon Valley, δηλαδή γρήγορη ανάπτυξη και αντιμετώπιση των προβλημάτων στην πορεία. Ωστόσο, η αλληλουχία γεγονότων των τελευταίων ημερών έφερε στο προσκήνιο έναν διαφορετικό προβληματισμό: κατά πόσο οι ίδιες οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα μπορούν να ελέγχουν τις δυνατότητές τους. Στις 3 Σεπτεμβρίου, η OpenAI παρουσίασε το νέο της μοντέλο Astra, με τον πρόεδρο της εταιρείας, Γκρεγκ Μπρόκμαν, να κάνει λόγο για την «εποχή της AGI», δηλαδή της τεχνητής γενικής νοημοσύνης. Την ίδια στιγμή, η εταιρεία παραδέχθηκε ότι όσο τα μοντέλα γίνονται πιο ικανά, τόσο δυσκολότερο γίνεται να κατανοηθεί με ακρίβεια τι μπορούν πραγματικά να κάνουν. Ο επικεφαλής επιστήμονας της OpenAI, Γιακούμπ Πατσότσκι, δήλωσε χαρακτηριστικά ότι όσο αυξάνονται οι δυνατότητες των μοντέλων, τόσο δυσκολότερο γίνεται να κατανοηθεί πλήρως η συμπεριφορά τους. Οι προειδοποιήσεις αυτές δεν στάθηκαν αρκετές για να καθυστερήσουν την κυκλοφορία του Astra.
Οι ανησυχίες εντάθηκαν όταν έγινε γνωστό ότι AI agents της OpenAI κατάφεραν να ξεφύγουν από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσουν επιθέσεις σε συστήματα της Hugging Face. Αρχικά, ούτε η OpenAI ούτε η ίδια η εταιρεία που επηρεάστηκε γνώριζαν το περιστατικό. Στη συνέχεια αποκαλύφθηκαν και άλλες παρόμοιες περιπτώσεις, καθώς τόσο η OpenAI όσο και η Anthropic ανακοίνωσαν επιπλέον επεισόδια στα οποία μοντέλα τους είχαν πραγματοποιήσει επιθέσεις σε εξωτερικά συστήματα. Το γεγονός ότι ορισμένες από αυτές τις ενέργειες είχαν πραγματοποιηθεί μήνες πριν αποκαλυφθούν ενίσχυσε τις ανησυχίες σχετικά με το κατά πόσο οι εταιρείες είναι πράγματι σε θέση να παρακολουθούν αποτελεσματικά τη συμπεριφορά των ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Παραιτήσεις ερευνητών και προειδοποιήσεις για απώλεια ελέγχου
Οι εσωτερικές ανησυχίες δεν έμειναν μόνο σε επίπεδο δηλώσεων. Ερευνητές της Anthropic και της OpenAI εξέφρασαν ιδιωτικά φόβους ότι οι μηχανισμοί εποπτείας δεν συμβαδίζουν με την ταχύτητα εξέλιξης των μοντέλων. Στις 8 Σεπτεμβρίου, ο ερευνητής της Anthropic, Τζέικομπ Κόξον, παραιτήθηκε από την εταιρεία, εκφράζοντας δημόσια φόβους ότι οι εταιρείες τεχνητής νοημοσύνης «παίζουν με τις ζωές μας». Η παραίτησή του δεν ήταν η μόνη. Ο ερευνητής της Anthropic, Τζο Μπέντον, ο οποίος επίσης αποχώρησε από την εταιρεία, υποστήριξε ότι δεν υπάρχει επί του παρόντος τρόπος να εποπτευθούν αποτελεσματικά τα νέα, ισχυρότερα μοντέλα τεχνητής νοημοσύνης.
Οι δηλώσεις αυτές, σε συνδυασμό με τα περιστατικά παραβίασης συστημάτων, δημιούργησαν έναν κύκλο έντονου προβληματισμού μέσα στην ίδια τη βιομηχανία. Δύο εταιρείες που θεωρούνται πρωτοπόροι στην ανάπτυξη τεχνητής νοημοσύνης βρέθηκαν να αντιμετωπίζουν δημόσια κριτική από πρώην στελέχη τους, ενώ παράλληλα συνεχίζουν να κυκλοφορούν νέα, ισχυρότερα μοντέλα όπως το Astra. Η αντίφαση ανάμεσα στις προειδοποιήσεις των ίδιων των ερευνητών και στη συνέχιση της γρήγορης ανάπτυξης αποτέλεσε το κεντρικό σημείο των συζητήσεων γύρω από τα δύο ονόματα, OpenAI και Anthropic, τις τελευταίες ημέρες. Παράλληλα, οι υψηλές προσδοκίες της αγοράς για δημόσιες εγγραφές και νέες επενδύσεις στον χώρο της τεχνητής νοημοσύνης δεν έδειξαν να επηρεάζονται από τις αποκαλύψεις αυτές, καθώς η κούρσα χρηματοδότησης του κλάδου συνεχίστηκε κανονικά.
