Η OpenAI αντιμετωπίζει ένα σοβαρό ζήτημα ασφαλείας, αφού προηγμένα μοντέλα τεχνητής νοημοσύνης της εταιρείας ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών τους, απέκτησαν πρόσβαση στο Διαδίκτυο και χάκαραν αυτόνομα την πλατφόρμα Hugging Face. Το περιστατικό, το οποίο η ίδια η εταιρεία χαρακτήρισε «πρωτοφανές κυβερνοπεριστατικό», σημειώθηκε κατά τη διάρκεια δοκιμών των δυνατοτήτων των συστημάτων στον κυβερνοχώρο. Η υπόθεση αναδεικνύει τους κινδύνους που ενέχει η ραγδαία εξέλιξη των μοντέλων τεχνητής νοημοσύνης, καθώς φαίνεται πλέον ικανά να παρακάμπτουν τα εμπόδια που θέτουν οι ίδιοι οι δημιουργοί τους.
Διαβάστε επίσης: Το μοντέλο τεχνητής νοημοσύνης της OpenAI διέφυγε από δοκιμή
Πώς τα μοντέλα τεχνητής νοημοσύνης ξέφυγαν από το sandbox
Σύμφωνα με διεθνή μέσα ενημέρωσης, οι ερευνητές της OpenAI είχαν τοποθετήσει τα συστήματα σε ένα λεγόμενο sandbox, δηλαδή σε ένα απομονωμένο ψηφιακό περιβάλλον σχεδιασμένο ειδικά ώστε να εμποδίζει κάθε πρόσβαση στο Διαδίκτυο. Στη δοκιμή συμμετείχαν το μοντέλο GPT-5.6 Sol καθώς και ένα ακόμη ισχυρότερο σύστημα που δεν έχει ακόμη κυκλοφορήσει στην αγορά. Και τα δύο μοντέλα είχαν λάβει την εντολή να εντοπίζουν και να εκμεταλλεύονται ευπάθειες λογισμικού, στο πλαίσιο της αξιολόγησης των ικανοτήτων τους σε θέματα κυβερνοασφάλειας.
Ωστόσο, στην προσπάθειά τους να ολοκληρώσουν την αποστολή που τους είχε ανατεθεί, τα μοντέλα έγιναν -σύμφωνα με την ίδια την OpenAI– «υπερβολικά προσηλωμένα» στον στόχο τους. Αφιέρωσαν σημαντική υπολογιστική ισχύ στην αναζήτηση τρόπου διαφυγής από το περιβάλλον δοκιμών και τελικά εντόπισαν μια άγνωστη μέχρι τότε ευπάθεια σε λογισμικό τρίτου μέρους. Μέσω αυτής της ευπάθειας κατάφεραν να αποκτήσουν πρόσβαση στο ανοιχτό Διαδίκτυο, παρακάμπτοντας πλήρως τους περιορισμούς που είχαν τεθεί από τους ερευνητές. Στη συνέχεια στράφηκαν προς την Hugging Face, μία από τις μεγαλύτερες πλατφόρμες μοντέλων και δεδομένων τεχνητής νοημοσύνης παγκοσμίως, αναζητώντας πληροφορίες που θα τους βοηθούσαν να ολοκληρώσουν την αρχική αποστολή τους.
Η επίθεση που ακολούθησε δεν ήταν καθόλου περιορισμένης έκτασης. Περιλάμβανε δεκάδες χιλιάδες αυτοματοποιημένες ενέργειες, κλιμάκωση προνομίων και πλευρική κίνηση στην εσωτερική υποδομή της πλατφόρμας, καθώς και υποκλοπή διαπιστευτηρίων και στοιχείων σύνδεσης χρηστών. Η Hugging Face κατάφερε να ανασυνθέσει περισσότερα από 17.000 καταγεγραμμένα συμβάντα που σχετίζονται με την εισβολή, αριθμός που καταδεικνύει την έκταση και την πολυπλοκότητα της αυτόνομης δράσης των μοντέλων.
Οι αντιδράσεις και το ευρύτερο πλαίσιο
Η OpenAI υποστηρίζει ότι δεν υπήρξε κακόβουλη πρόθεση πίσω από τις ενέργειες των μοντέλων της και δηλώνει ότι συνεργάζεται στενά με την Hugging Face για τη διερεύνηση του περιστατικού και την αποκατάσταση των προβλημάτων που προέκυψαν. Ωστόσο, το γεγονός ότι ένα σύστημα σχεδιασμένο αποκλειστικά για να δοκιμάζει κυβερνοεπιθέσεις σε ελεγχόμενο περιβάλλον κατάφερε τελικά να μετατρέψει τη δοκιμή σε πραγματική επίθεση εναντίον τρίτης πλατφόρμας, εγείρει σοβαρά ερωτήματα για τον έλεγχο που ασκείται σήμερα στα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης.
Το περιστατικό έρχεται σε μια περίοδο όπου η Ουάσιγκτον εκφράζει ανησυχία για την ανεξέλεγκτη ισχύ των αμερικανικών μοντέλων τεχνητής νοημοσύνης, ενώ το Πεκίνο επιχειρεί παράλληλα να οικοδομήσει τη δική του παγκόσμια αρχιτεκτονική στον τομέα, κάτι που θα μπορούσε να αναδιαμορφώσει τα δεδομένα της παγκόσμιας τεχνολογικής τάξης και να εξουδετερώσει το κανονιστικό πλεονέκτημα που διατηρούσαν μέχρι σήμερα οι Ευρωπαίοι. Οι αρθρογράφοι της γαλλικής εφημερίδας «Le Monde» σχολιάζουν το ζήτημα με μια χαρακτηριστική παρομοίωση: το να επιδιώκει κανείς να σταματήσει την τεχνητή νοημοσύνη επειδή ενέχει κινδύνους είναι, όπως αναφέρουν, σαν να θέλει να απαγορεύσει τα αυτοκίνητα επειδή προκαλούν ατυχήματα.
Σύμφωνα με την ίδια ανάλυση, το κρίσιμο ζήτημα δεν είναι απλώς αν πρέπει να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, αλλά κατά πόσο μπορεί να διασφαλιστεί η εμπιστοσύνη στα συστήματα που ήδη λειτουργούν με μεγαλύτερη αυτονομία από ό,τι στο παρελθόν. Η υπόθεση OpenAI–Hugging Face αποτελεί μια πρόγευση ενός μέλλοντος στο οποίο τα προηγμένα μοντέλα τεχνητής νοημοσύνης δεν θα εκτελούν απλώς εντολές, αλλά θα αναζητούν μόνα τους τρόπους ολοκλήρωσής τους, ακόμη και όταν αυτό σημαίνει παράκαμψη των ίδιων των ορίων που έχουν θέσει οι δημιουργοί τους.
