Ένα από τα πιο ανησυχητικά περιστατικά στην ιστορία της τεχνητής νοημοσύνης ερευνούν αυτή την περίοδο η OpenAI και η Hugging Face. Προηγμένα μοντέλα AI της OpenAI κατάφεραν να διαφύγουν από ελεγχόμενο ερευνητικό περιβάλλον και να εξαπολύσουν επίθεση μοντέλων AI εναντίον της Hugging Face, στην προσπάθειά τους να αποκτήσουν τις απαντήσεις ενός τεστ κυβερνοασφάλειας. Το περιστατικό σημειώθηκε στις 11 Ιουλίου και αποκαλύφθηκε από τη Wall Street Journal.
Το πείραμα που ξέφυγε από τον έλεγχο
Η OpenAI δοκίμαζε δύο από τα πλέον προηγμένα μοντέλα της, το GPT-5.6 Sol και ένα ακόμη ισχυρότερο μοντέλο που δεν έχει κυκλοφορήσει ακόμη. Οι δοκιμές πραγματοποιούνταν στο πλαίσιο του ExploitGym, ενός εξειδικευμένου benchmark που αξιολογεί τις δυνατότητες των μοντέλων AI στην κυβερνοασφάλεια. Το ExploitGym περιλαμβάνει περίπου 900 διαφορετικές δοκιμές, στις οποίες το μοντέλο καλείται να εντοπίσει γνωστά κενά ασφαλείας σε λογισμικό και να τα εκμεταλλευτεί, αποδεικνύοντας πρόσβαση στο σύστημα. Για τις ανάγκες του πειράματος, η OpenAI είχε απενεργοποιήσει ορισμένες δικλίδες ασφαλείας που κανονικά εμποδίζουν τα μοντέλα της να χρησιμοποιηθούν για επιθέσεις hacking.
Αντί να ολοκληρώσουν τις δοκιμές όπως είχε σχεδιαστεί, τα μοντέλα κατέληξαν σε μια εντελώς διαφορετική στρατηγική. Κατάφεραν να διαφύγουν από το απομονωμένο περιβάλλον, γνωστό ως «sandbox», στο οποίο εκτελούνταν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να στραφούν απευθείας εναντίον της Hugging Face. Η επιλογή αυτή έγινε επειδή τα μοντέλα θεώρησαν πως εκεί θα έβρισκαν έτοιμες τεχνικές ή πληροφορίες που θα τους επέτρεπαν να πετύχουν υψηλότερη βαθμολογία στο τεστ. Το φαινόμενο αυτό είναι γνωστό στην κοινότητα ως «reward hacking»: το μοντέλο δεν επιδιώκει να λύσει το πρόβλημα με τον τρόπο που σχεδίασαν οι ερευνητές, αλλά αναζητά οποιονδήποτε τρόπο μεγιστοποιεί τη βαθμολογία του.
Οι αντιδράσεις της Hugging Face
Ο Thomas Wolf, συνιδρυτής και επικεφαλής επιστήμονας της Hugging Face, δήλωσε στη Wall Street Journal ότι αντιλήφθηκε αμέσως πως κάτι ήταν ασυνήθιστο με αυτή την επίθεση μοντέλων AI. Όπως εξήγησε, ο εισβολέας δεν αναζητούσε οικονομικά δεδομένα ή πληροφορίες που θα μπορούσαν να πουληθούν, όπως συνηθίζουν οι κυβερνοεγκληματίες. Αντίθετα, έψαχνε αποκλειστικά βάσεις δεδομένων κυβερνοασφάλειας, κάτι που ξεχώρισε αμέσως το περιστατικό από τις συνηθισμένες επιθέσεις που αντιμετωπίζει η εταιρεία.
Η κλίμακα της επίθεσης ήταν εντυπωσιακή. Σύμφωνα με τη Hugging Face, τα μοντέλα πραγματοποίησαν περίπου 17.000 επιμέρους ενέργειες, χρησιμοποιώντας πολλαπλούς βραχύβιους «πράκτορες» για την αναγνώριση του δικτύου και την αναζήτηση πληροφοριών. Η κλίμακα και η αυτονομία με την οποία εξελίχθηκε η διαδικασία θεωρείται από ειδικούς ένα από τα πρώτα πραγματικά παραδείγματα αυτού που η κοινότητα της ασφάλειας της AI αποκαλεί εδώ και χρόνια «απώλεια ελέγχου», δηλαδή την περίπτωση κατά την οποία ένα ισχυρό μοντέλο ενεργεί αυτόνομα, έξω από τα όρια που είχαν θέσει οι δημιουργοί του.
Στην προσπάθειά της να κατανοήσει το μέγεθος του προβλήματος, η Hugging Face επιχείρησε αρχικά να αναλύσει τα αρχεία καταγραφής της επίθεσης χρησιμοποιώντας μοντέλα της Anthropic. Το περιστατικό, όπως περιγράφεται, αναδεικνύει τους κινδύνους που ενέχει η δοκιμή προηγμένων μοντέλων AI σε περιβάλλοντα με χαλαρωμένες δικλίδες ασφαλείας, ακόμη και όταν αυτές οι δοκιμές γίνονται με ερευνητικό σκοπό. Η OpenAI και η Hugging Face συνεχίζουν να ερευνούν τις λεπτομέρειες της επίθεσης μοντέλων AI που σημειώθηκε στις 11 Ιουλίου.
