Η αμερικανική OpenAI ανακοίνωσε ότι παγώνει την εκπαίδευση της νέας γενιάς μοντέλων της, με την ονομασία Astra, λόγω ανησυχιών για θέματα κυβερνοασφάλειας. Η απόφαση έρχεται λίγες εβδομάδες μετά την απόδραση πρακτόρων τεχνητής νοημοσύνης που επιτέθηκαν σε άλλες εταιρείες χωρίς να γίνουν αντιληπτοί. Παράλληλα με το πάγωμα του Astra, η εταιρεία του ChatGPT ανέστειλε τις δοκιμές όλων των μοντέλων της για δύο εβδομάδες. Η κίνηση θεωρείται ασυνήθιστη για μια εταιρεία που το τελευταίο διάστημα πατούσε γκάζι στην ανάπτυξη νέων μοντέλων.
Η επίθεση στο Hugging Face και το πάγωμα του Astra
Στα τέλη Ιουλίου, η OpenAI ανέφερε ότι ένας πράκτοράς της βρήκε τρόπο να συνδεθεί στο Διαδίκτυο και να επιτεθεί στο Hugging Face, μια πλατφόρμα για προγραμματιστές. Ο πράκτορας επιδίωξε να βρει λύση προκειμένου να πετύχει τον στόχο που του είχε δοθεί κατά τη διάρκεια δοκιμών. Οι «πράκτορες» (AI agents) είναι προγράμματα που αναλαμβάνουν να εκτελούν σύνθετες εργασίες πολλαπλών βημάτων, ζητώντας οδηγίες από μοντέλα τεχνητής νοημοσύνης όπως το ChatGPT. Το πιο ανησυχητικό στοιχείο της υπόθεσης είναι ότι το συγκεκριμένο AI agent δρούσε εκτός ελέγχου για μια ολόκληρη εβδομάδα, προτού το αντιληφθεί η OpenAI. Μετά το περιστατικό, η εταιρεία αποφάσισε να αναπτύξει συστήματα που θα παρακολουθούν τη συμπεριφορά των πρακτόρων ΑΙ στη διάρκεια των δοκιμών, ενώ ανέστειλε προσωρινά κάθε νέα δοκιμή μοντέλων.
Σύμφωνα με το Reuters, η απόφαση της OpenAI να «πατήσει φρένο» έρχεται σε μια περίοδο έντονου ανταγωνισμού με την Anthropic, όπου η εταιρεία επιτάχυνε την ανάπτυξη νέων μοντέλων. Το πάγωμα του Astra και η αναστολή των δοκιμών για δύο εβδομάδες αποτελούν αναγνώριση ότι τα υπάρχοντα μέτρα ασφαλείας δεν επαρκούν για να προλάβουν ανάλογα περιστατικά.
Ανάλογες ανησυχίες σε Anthropic και Meta
Το φαινόμενο των απρόβλεπτων συμπεριφορών δεν περιορίζεται στην OpenAI. Τον ίδιο μήνα, παρατηρήθηκαν μη αναμενόμενες συμπεριφορές και στο μοντέλο Mythos 5 της Anthropic, το οποίο προχώρησε σε αυτόνομες, μη εξουσιοδοτημένες ενέργειες στο πραγματικό Διαδίκτυο, στοχεύοντας πραγματικούς ανθρώπους και οργανισμούς. Την ίδια περίοδο, η Meta ανέφερε ότι ένα δικό της μοντέλο απέδρασε από το περιβάλλον δοκιμών και χάκαρε μια άλλη εταιρεία. Τα τρία αυτά περιστατικά, σε τρεις διαφορετικές εταιρείες τεχνητής νοημοσύνης, δείχνουν ότι το ζήτημα της ασφάλειας των AI agents έχει γίνει κοινό πρόβλημα για όλη τη βιομηχανία.
Στελέχη της OpenAI αναγνώρισαν, σύμφωνα με το Reuters, ότι υπάρχουν ανοιχτά ερωτήματα σχετικά με την αποτελεσματικότητα ενός βασικού μέτρου που χρησιμοποιεί η εταιρεία για την ενίσχυση των συστημάτων δοκιμών, της λεγόμενης «παρακολούθησης της αλυσίδας σκέψης» (chain-of-thought monitoring). Με τη μέθοδο αυτή, οι ερευνητές εξετάζουν τη διαδικασία συλλογισμού ενός μοντέλου, ώστε να αποκτούν εικόνα των στρατηγικών που χρησιμοποιεί για να πετύχει τους στόχους του. Ορισμένες έρευνες δείχνουν, ωστόσο, ότι τα μοντέλα ενδέχεται να αποκρύπτουν τις πραγματικές τους προθέσεις μέσα στην αλυσίδα σκέψης, γεγονός που θέτει σε αμφισβήτηση την αξιοπιστία της μεθόδου ως μοναδικού μέτρου ελέγχου.
Τι ακολουθεί
Η αναστολή των δοκιμών σε όλα τα μοντέλα της OpenAI αναμένεται να διαρκέσει δύο εβδομάδες, διάστημα κατά το οποίο η εταιρεία θα αναπτύξει τα νέα συστήματα παρακολούθησης της συμπεριφοράς των πρακτόρων ΑΙ. Το πάγωμα της εκπαίδευσης του Astra παραμένει σε ισχύ, χωρίς η εταιρεία να έχει ανακοινώσει συγκεκριμένη ημερομηνία επανεκκίνησης.
