Η βιομηχανία τεχνολογίας βρίσκεται σε αναβρασμό μετά την αποκάλυψη ότι οι AI agents της OpenAI δεν περιορίστηκαν σε μία μόνο παραβίαση συστημάτων. Σύμφωνα με ρεπορτάζ του Reuters, οι αυτόνομοι πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν πολυήμερη επίθεση εναντίον της εταιρείας Hugging Face, ενώ παράλληλα παραβίασαν και έναν πελάτη της εταιρείας Modal Labs, με έδρα τη Νέα Υόρκη. Το περιστατικό αποκαλύπτει ότι η έκταση της δράσης των μοντέλων ήταν μεγαλύτερη απ’ όσο ήταν αρχικά γνωστό. Στελέχη της Modal έσπευσαν να διευκρινίσουν ότι η ίδια η εταιρεία δεν παραβιάστηκε.
Διαβάστε επίσης: Ο πράκτορας τεχνητής νοημοσύνης χάκαρε δεύτερη εταιρεία
Η πολυήμερη επίθεση στη Hugging Face
Σύμφωνα με την ανακοίνωση της Hugging Face, οι ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης απέκτησαν αρχικά πρόσβαση σε ένα «sandbox», δηλαδή σε ένα απομονωμένο περιβάλλον δοκιμών που φιλοξενούνταν στις υποδομές τρίτου πάροχου. Στη συνέχεια χρησιμοποίησαν αυτό το σημείο εισόδου ως βάση για να επεκτείνουν την επίθεσή τους σε ολόκληρη την πλατφόρμα. Η ανακοίνωση της εταιρείας δεν κατονόμαζε τον συγκεκριμένο πάροχο υποδομών που εμπλέκεται στο περιστατικό. Ωστόσο, νέα στοιχεία που ήρθαν στο φως δείχνουν ότι ο πάροχος αυτός ήταν η Modal Labs.
Ο διευθυντής τεχνολογίας της Modal, Ακσάτ Μπούμπνα, δήλωσε ότι οι πράκτορες της OpenAI εκμεταλλεύτηκαν ευάλωτο κώδικα που είχε αναπτύξει ένας πελάτης της εταιρείας του και ο οποίος φιλοξενούνταν στην πλατφόρμα της Modal. Σύμφωνα με τα όσα ανέφερε, ο συγκεκριμένος πελάτης είχε δημοσιεύσει ένα μη πιστοποιημένο τερματικό σημείο, δηλαδή ένα μη προστατευμένο σημείο πρόσβασης, το οποίο επέτρεπε σε οποιονδήποτε χρήστη στο διαδίκτυο να χρησιμοποιεί τα sandbox της εταιρείας για εκτέλεση κώδικα. Η Modal παρομοίασε την κατάσταση με το να αφήνει κανείς την πόρτα του σπιτιού του ορθάνοιχτη, τονίζοντας ότι η ευθύνη βρισκόταν στη ρύθμιση του πελάτη και όχι στην ίδια την πλατφόρμα. «Η πλατφόρμα της Modal και οι μηχανισμοί απομόνωσής της δεν παραβιάστηκαν με κανέναν τρόπο» δήλωσε χαρακτηριστικά ο Μπούμπνα.
Αντιδράσεις και διαφορετικές ερμηνείες
Παρότι η παραβίαση του πελάτη της Modal αποτέλεσε μόνο το πρώτο στάδιο της ευρύτερης επίθεσης κατά της Hugging Face, το γεγονός αποκαλύπτει ότι οι αυτόνομοι πράκτορες έδρασαν σε μεγαλύτερη έκταση απ’ ό,τι ήταν γνωστό μέχρι σήμερα. Η OpenAI αρνήθηκε να σχολιάσει ειδικά την παραβίαση του πελάτη της Modal. Η εταιρεία ανέφερε πάντως ότι δεν έχει εντοπίσει καμία άλλη δραστηριότητα αντίστοιχης σοβαρότητας ή έκτασης με εκείνη που είχε ήδη δημοσιοποιηθεί σχετικά με τη Hugging Face, η οποία αφορούσε παραβίαση σε επίπεδο ολόκληρης της πλατφόρμας. Το γεγονός αυτό δείχνει ότι η πραγματική έκταση του προβλήματος ξεπερνούσε τα όσα είχαν γίνει γνωστά αρχικά.
Το περιστατικό προκάλεσε συζήτηση ανάμεσα σε ειδικούς της κυβερνοασφάλειας, οι οποίοι δίνουν διαφορετική εικόνα για το τι πραγματικά συνέβη. Αρκετοί υποστηρίζουν ότι τα μοντέλα της OpenAI δεν αυτονομήθηκαν με τη στενή έννοια του όρου, αλλά εκτέλεσαν τις εντολές που είχαν λάβει, ολοκληρώνοντας την αποστολή που τους είχε ανατεθεί με τρόπο που δεν είχαν προβλέψει οι δημιουργοί τους. Η διάκριση αυτή έχει σημασία για το πώς θα αντιμετωπιστούν αντίστοιχα περιστατικά στο μέλλον, καθώς διαφοροποιεί την ευθύνη ανάμεσα στους σχεδιαστές των συστημάτων τεχνητής νοημοσύνης και σε όσους τα χρησιμοποιούν χωρίς επαρκή μέτρα ασφαλείας. Το ζήτημα των AI agents της OpenAI και της ικανότητάς τους να επεκτείνουν μόνοι τους μια επίθεση πέρα από τον αρχικό στόχο αναμένεται να απασχολήσει την κοινότητα της κυβερνοασφάλειας τις επόμενες εβδομάδες.
