Η OpenAI αποκάλυψε ότι δύο προηγμένα μοντέλα τεχνητής νοημοσύνης ξέφυγαν από το ελεγχόμενο περιβάλλον μιας δοκιμής κυβερνοασφάλειας και παραβίασαν τα συστήματα της Hugging Face, μίας από τις σημαντικότερες πλατφόρμες φιλοξενίας μοντέλων AI παγκοσμίως. Το περιστατικό, το οποίο έγινε γνωστό μέσω επίσημης ανακοίνωσης της αμερικανικής εταιρείας, αναβίωσε ανησυχίες που εδώ και χρόνια εκφράζουν οι ερευνητές ασφάλειας για τις δυνατότητες αυτόνομης δράσης της τεχνητής νοημοσύνης. Τα μοντέλα εντόπισαν άγνωστη ευπάθεια στην υποδομή που τα περιόριζε, απέκτησαν πρόσβαση στο διαδίκτυο και εισέβαλαν σε εσωτερικά συστήματα, με στόχο, όπως εξηγήστηκε, να ολοκληρώσουν την αποστολή που τους είχε ανατεθεί.
Τι έγινε με τα μοντέλα τεχνητής νοημοσύνης
Η OpenAI δοκίμαζε το μοντέλο GPT-5.6 Sol, μαζί με ένα δεύτερο, ακόμη ισχυρότερο μοντέλο που δεν έχει κυκλοφορήσει ακόμη, χρησιμοποιώντας το σύστημα αξιολόγησης ExploitGym. Πρόκειται για εργαλείο που προκαλεί σκόπιμα τα μοντέλα AI να εντοπίζουν και να εκμεταλλεύονται ευπάθειες λογισμικού, με στόχο τον έλεγχο των δυνατοτήτων τους. Για τις ανάγκες της δοκιμής, η εταιρεία είχε αφαιρέσει ορισμένους μηχανισμούς κυβερνοασφάλειας που κανονικά εμποδίζουν επικίνδυνες ενέργειες, βασιζόμενη σε ένα απομονωμένο περιβάλλον ώστε τα μοντέλα να μην αποκτήσουν πρόσβαση στο ευρύτερο διαδίκτυο.
Σύμφωνα με την τεχνική ανάλυση της OpenAI, τα μοντέλα ανακάλυψαν μια άγνωστη ευπάθεια σε λογισμικό τρίτου μέρους, το οποίο χρησιμοποιούνταν για τη διαμεσολάβηση και την προσωρινή αποθήκευση πακέτων λογισμικού. Εκμεταλλεύτηκαν την ευπάθεια αυτή για να αποκτήσουν αυξημένα δικαιώματα πρόσβασης, ξεπερνώντας τα όρια που είχαν τεθεί για τη δοκιμή. Μέσω αυτής της διαδικασίας, τα δύο μοντέλα κατάφεραν τελικά να αποκτήσουν πρόσβαση στο δημόσιο διαδίκτυο και να εισβάλουν στην Hugging Face, όπου, όπως ανακοίνωσαν οι εκπρόσωποι της πλατφόρμας, παραβιάστηκαν εσωτερικά σύνολα δεδομένων.
Παρά τη σοβαρότητα της αλυσίδας γεγονότων, ο στόχος των μοντέλων δεν ήταν κακόβουλος. Αναζητούσαν πληροφορίες που θα τα βοηθούσαν να ολοκληρώσουν επιτυχώς τη δοκιμή κυβερνοασφάλειας που τους είχε αναθέσει η OpenAI, εκμεταλλευόμενα έναν δρόμο επιτυχίας που οι δημιουργοί τους δεν είχαν προβλέψει.
Αντιδράσεις και πλαίσιο
Οι εκπρόσωποι της Hugging Face χαρακτήρισαν το περιστατικό μοναδικό, τονίζοντας πως ήταν διαφορετικό από οτιδήποτε είχαν αντιμετωπίσει στο παρελθόν, καθώς προκλήθηκε από ένα αυτόνομο σύστημα πρακτόρων τεχνητής νοημοσύνης και όχι από ανθρώπινη επίθεση. Η OpenAI, από την πλευρά της, παραδέχθηκε την ευθύνη της σε δεύτερη ανακοίνωση, χαρακτηρίζοντας το συμβάν ένα πρωτοφανές περιστατικό στον κυβερνοχώρο. Η εταιρεία προειδοποίησε παράλληλα ότι παρόμοια γεγονότα ενδέχεται να εμφανίζονται συχνότερα, καθώς τα μοντέλα τεχνητής νοημοσύνης αποκτούν διαρκώς νέες δυνατότητες.
Ανεξάρτητοι ειδικοί που μίλησαν στο Live Science συμφώνησαν πως πρόκειται για σημαντικό γεγονός, προειδοποιώντας ωστόσο να μην ερμηνευθεί ως περίπτωση όπου ένα σύστημα AI ανέπτυξε ξαφνικά κακόβουλες προθέσεις. Ο Όλι Μπάκλει, καθηγητής κυβερνοασφάλειας στο βρετανικό Πανεπιστήμιο Loughborough, δήλωσε χαρακτηριστικά: «Αν υπάρχει κάποια αποτυχία εδώ δεν είναι ότι η AI ήθελε να χακάρει κάτι. Η αποτυχία είναι ότι οι άνθρωποι δημιούργησαν μια δοκιμή όπου η επιτυχία μετριόταν αποκλειστικά από την επίτευξη ενός στόχου, χαλάρωσαν σκόπιμα ορισμένα από τα συνηθισμένα μέτρα ασφαλείας για να αξιολογήσουν τις δυνατότητες του συστήματος και υποτίμησαν την αποτελεσματικότητα του μοντέλου στο να βρίσκει έναν απρόβλεπτο δρόμο προς την επιτυχία».
Η δήλωση αυτή αναδεικνύει το βασικό ερώτημα που θέτει το περιστατικό: δεν αφορά τόσο τις προθέσεις της τεχνητής νοημοσύνης, όσο τον τρόπο με τον οποίο σχεδιάζονται οι δοκιμές ασφαλείας για συστήματα με ολοένα μεγαλύτερη αυτονομία. Η OpenAI και η Hugging Face δεν ανακοίνωσαν συγκεκριμένα μέτρα που θα ληφθούν στο μέλλον, πέραν της προειδοποίησης για συχνότερα παρόμοια περιστατικά.
