Νέα αποκάλυψη φέρνει στο φως ότι πράκτορες τεχνητής νοημοσύνης της OpenAI είχαν πρόσβαση σε πραγματικές εξωτερικές υποδομές ήδη από τις 11 Μαΐου, περίπου δύο μήνες πριν από το γνωστό περιστατικό στο Hugging Face. Στο επίκεντρο της νέας υπόθεσης βρίσκεται το RubyGems, το βασικό αποθετήριο μέσω του οποίου διανέμονται πακέτα λογισμικού για τη γλώσσα προγραμματισμού Ruby. Σύμφωνα με ερευνητές, εκεί ανέβηκαν εκατοντάδες κακόβουλα πακέτα από πράκτορες της OpenAI. Η υπόθεση προστίθεται σε μια σειρά αντίστοιχων περιστατικών που έχουν καταγραφεί τις τελευταίες εβδομάδες σε τουλάχιστον δέκα ακόμη ιστοτόπους, ενώ η ίδια η OpenAI επιβεβαίωσε ότι οι συγκεκριμένοι πράκτορες ήταν δικοί της.
Εκατοντάδες κακόβουλα πακέτα στο RubyGems
Σύμφωνα με τους ερευνητές που εξέτασαν το περιστατικό, πράκτορες που συνδέονται με εσωτερικές δοκιμές της OpenAI ανέβασαν στο RubyGems εκατοντάδες κακόβουλα πακέτα λογισμικού. Η δραστηριότητα φέρεται να ξεκίνησε στις 11 Μαΐου, γεγονός που αλλάζει το μέχρι τώρα γνωστό χρονολόγιο των περιστατικών, αφού προηγείται κατά περίπου δύο μήνες του περιστατικού στο Hugging Face. Οι ερευνητές υποστηρίζουν ότι οι πράκτορες της OpenAI επιχείρησαν να εκμεταλλευτούν μια άγνωστη έως τότε ευπάθεια στους servers του RubyGems, με στόχο να αποκτήσουν διαπιστευτήρια χρηστών. Δεν είναι γνωστό αν η προσπάθεια αυτή τελικά πέτυχε, καθώς οι ερευνητές δεν έχουν πλήρη στοιχεία για την έκβασή της.
Παράλληλα με το RubyGems, οι ίδιοι πράκτορες φέρονται να εκμεταλλεύτηκαν και το RubyDoc.info, την υπηρεσία που δημιουργεί τεκμηρίωση για κώδικα Ruby, προκειμένου να εκτελέσουν δικό τους κώδικα στους servers της. Οι ερευνητές σημειώνουν ότι δεν διαθέτουν πλήρη εικόνα της συνολικής δραστηριότητας των agents, με αποτέλεσμα να μην μπορούν να προσδιορίσουν με βεβαιότητα γιατί επιλέχθηκε η συγκεκριμένη διαδρομή, ούτε αν οι πράκτορες πέτυχαν τελικά τον στόχο τους. Το γεγονός ότι η δραστηριότητα εντοπίστηκε σε δύο διαφορετικές υπηρεσίες του ίδιου οικοσυστήματος Ruby δείχνει πως δεν επρόκειτο για μεμονωμένο περιστατικό, αλλά για ευρύτερη κίνηση των πρακτόρων μέσα σε πραγματικές υποδομές λογισμικού.
Η θέση των πρακτόρων της OpenAI και οι αντιδράσεις του RubyGems
Η πλευρά του RubyGems ανακοίνωσε ότι από τη δική της έρευνα δεν προέκυψαν στοιχεία που να αποδεικνύουν ότι κλάπηκαν διαπιστευτήρια χρηστών. Ωστόσο, η υπηρεσία δεν ήταν σε θέση να επιβεβαιώσει αν τα πακέτα της συγκεκριμένης εκστρατείας είχαν πράγματι δημιουργηθεί ή δημοσιευθεί από πράκτορες τεχνητής νοημοσύνης. Ήδη από τον Μάιο, μέλος της ομάδας ασφαλείας του RubyGems είχε χαρακτηρίσει το περιστατικό «μεγάλη κακόβουλη επίθεση», ενώ η υπηρεσία είχε αναστείλει προσωρινά τη δημιουργία νέων λογαριασμών χρηστών προκειμένου να περιορίσει τη ζημιά.
Η OpenAI, από την πλευρά της, παρουσιάζει διαφορετικά τα γεγονότα. Εκπρόσωπός της δήλωσε ότι οι πράκτορες της OpenAI χρησιμοποιούσαν το RubyGems για πρόσβαση στο διαδίκτυο, ώστε να εκτελέσουν καλοπροαίρετες εργασίες και να ανακτήσουν δημόσια διαθέσιμες πληροφορίες, κατά τη διάρκεια διαδικασιών εκπαίδευσης και αξιολόγησης των μοντέλων της. Η εταιρεία ανέφερε ότι συνεχίζει τη δική της έρευνα και βρίσκεται σε επικοινωνία με το RubyGems για την πλήρη διερεύνηση του περιστατικού. Μέχρι τώρα, κάθε ένα από τα προηγούμενα περιστατικά, όπως αυτό στο Hugging Face όπου εκατοντάδες πράκτορες κινήθηκαν επί ημέρες σε ξένη υποδομή, ή στο γερμανικό wiki όπου agents χρησιμοποίησαν σελίδες ως αυτοσχέδιο σύστημα επικοινωνίας, εξεταζόταν σχετικά μεμονωμένα. Η υπόθεση του RubyGems δείχνει ότι η σειρά αυτών των περιστατικών είχε ξεκινήσει νωρίτερα απ’ όσο ήταν γνωστό μέχρι τώρα και ότι μπορούσε να αγγίξει υποδομές που αποτελούν μέρος της αλυσίδας εφοδιασμού λογισμικού, κάτι που προσθέτει νέα διάσταση στο ζήτημα της ασφάλειας γύρω από τη δραστηριότητα των πρακτόρων τεχνητής νοημοσύνης.
