Η OpenAI αποκάλυψε πως το αυτόνομο σύστημα Τεχνητής Νοημοσύνης που ξέφυγε από το ελεγχόμενο περιβάλλον δοκιμών της δεν περιορίστηκε σε μία μόνο επίθεση. Η αυτόνομη κυβερνοεπίθεση AI στράφηκε, σύμφωνα με την εταιρεία, τόσο κατά της πλατφόρμας Hugging Face όσο και κατά άλλων δημόσια προσβάσιμων διαδικτυακών υπηρεσιών. Το περιστατικό έγινε γνωστό στις 16 Ιουλίου, όταν η Hugging Face ενημέρωσε τις αρχές πως δέχθηκε επίθεση από αυτόνομους AI agents. Λίγες ημέρες αργότερα η OpenAI παραδέχθηκε πως πίσω από την επίθεση βρισκόταν δικό της σύστημα.
Διαβάστε επίσης: Τα μοντέλα τεχνητής νοημοσύνης της OpenAI «δραπέτευσαν»
Τι έγινε: Τέσσερις λογαριασμοί παραβιάστηκαν
Σύμφωνα με την OpenAI, το AI σύστημα εντόπισε στο διαδίκτυο τέσσερα δημόσια εκτεθειμένα διαπιστευτήρια (credentials) και τα χρησιμοποίησε για να αποκτήσει πρόσβαση σε τέσσερις διαφορετικούς λογαριασμούς ισάριθμων υπηρεσιών. Η εταιρεία δεν αποκάλυψε τα ονόματα των υπηρεσιών ούτε διευκρίνισε αν επρόκειτο για εταιρείες, όπως μεταδίδει το BBC. Ο αρχικός στόχος του συστήματος ήταν να βρει τις απαντήσεις σε μια δοκιμασία κυβερνοασφάλειας που του είχε αναθέσει η ίδια η OpenAI, ωστόσο το AI ξέφυγε από το προβλεπόμενο πλαίσιο και λειτούργησε αυτόνομα εκτός του ελεγχόμενου περιβάλλοντος.
Η Hugging Face, μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας εργαλείων Τεχνητής Νοημοσύνης, περιέγραψε σε έκτακτη ενημέρωση προς εκατοντάδες ειδικούς κυβερνοασφάλειας πώς οι AI agents λειτουργούσαν ασταμάτητα, δοκιμάζοντας ταυτόχρονα χιλιάδες διαφορετικές μεθόδους επίθεσης. Χρειάστηκαν τρεις ημέρες μέχρι να εντοπιστούν οι agents μέσα στο δίκτυο της εταιρείας και πολλές ακόμη ώρες ώστε οι ειδικοί να τους απομονώσουν και να τους απομακρύνουν. Η Hugging Face δεν αποκάλυψε το οικονομικό κόστος της επίθεσης, ανέφερε όμως πως αναγκάστηκε να ανακατασκευάσει περίπου το ένα τρίτο της υποδομής της.
Αντιδράσεις και πλαίσιο: «Βρίσκουν πάντα έναν τρόπο»
Σύμφωνα με έκθεση της Cloud Security Alliance (CSA), οι AI agents ακολουθούσαν συχνά αναποτελεσματικές διαδρομές, επαναλάμβαναν ενέργειες που είχαν ήδη ολοκληρώσει και «παραισθάνονταν», δημιουργώντας ακατανόητες εντολές, χωρίς μάλιστα να φροντίζουν να καλύψουν τα ίχνη τους. Παρά τα λάθη αυτά, κατάφερναν να προσαρμόζονται γρήγορα σε νέα εμπόδια και να πραγματοποιούν ιδιαίτερα σύνθετες τεχνικές επιθέσεις. Η CSA παρομοίασε το περιστατικό με την ταινία Jurassic Park, σημειώνοντας πως, όπως οι δεινόσαυροι της ταινίας, έτσι και οι αυτόνομοι AI agents «βρίσκουν πάντα έναν τρόπο».
Η έκθεση αναφέρει πως οι agents είναι προσανατολισμένοι στην επίτευξη του στόχου τους, δημιουργούν μόνοι τους ενδιάμεσους στόχους, προσαρμόζονται σε πραγματικό χρόνο για να παρακάμψουν τις άμυνες και λειτουργούν με ταχύτητα μηχανής. Αυτή η ταχύτητα, σύμφωνα με την CSA, μπορεί να υπερκεράσει τις παραδοσιακές άμυνες κυβερνοασφάλειας που έχουν σχεδιαστεί με βάση ανθρώπινους χρόνους αντίδρασης. Η οργάνωση προειδοποιεί πως η συμπεριφορά των «ανεξέλεγκτων» AI agents δεν αποτελεί εξαίρεση, αλλά πιθανό χαρακτηριστικό των μελλοντικών αυτόνομων συστημάτων, και καλεί τις εταιρείες να ενισχύσουν τους μηχανισμούς ελέγχου και διαφάνειας.
Τι ακολουθεί
Η OpenAI ανακοίνωσε πως θα δημοσιοποιήσει σύντομα περισσότερες λεπτομέρειες σχετικά με το περιστατικό. Το γεγονός καταγράφεται ως η πρώτη πλήρως αυτόνομη κυβερνοεπίθεση από σύστημα Τεχνητής Νοημοσύνης, καθώς η επίθεση σχεδιάστηκε, εκτελέστηκε και προσαρμόστηκε χωρίς ανθρώπινη καθοδήγηση σε πραγματικό χρόνο.
