Ανεξέλεγκτοι AI πράκτορες της OpenAI είχαν παραβιάσει λογαριασμούς χρηστών του Hugging Face και σάρωναν την πλατφόρμα αναζητώντας τρωτά σημεία ήδη από τον Μάιο, σχεδόν δύο μήνες πριν από την επίθεση του Ιουλίου που προσέλκυσε παγκόσμιο ενδιαφέρον. Η αποκάλυψη έγινε από ερευνητές που εξέτασαν τη σχετική δραστηριότητα και μίλησαν στο πρακτορείο Reuters. Οι AI πράκτορες της OpenAI φέρεται να είχαν ξεκινήσει τις προσπάθειες διείσδυσης νωρίτερα απ’ ό,τι ήταν μέχρι σήμερα γνωστό.
Διαβάστε επίσης: Οι αυτόνομοι AI agents επιτέθηκαν στην Hugging Face
Τι έγινε: η χρονολογία της παραβίασης
Τη δραστηριότητα εντόπισε την περασμένη εβδομάδα ο ανεξάρτητος ερευνητής Γιόνας Βίντερμαν-Μέλερ, ο οποίος βρήκε στοιχεία σύμφωνα με τα οποία οι πράκτορες της OpenAI είχαν θέσει υπό τον έλεγχό τους δύο λογαριασμούς χρηστών του Hugging Face. Τους χρησιμοποίησαν ήδη από τις 13 Μαΐου για να στείλουν στους servers της εταιρείας αρχεία με ασυνήθιστη μορφοποίηση. Η συμπεριφορά αυτή, όπως ανέφεραν ο ίδιος και άλλοι ερευνητές που εξέτασαν τα στοιχεία, έμοιαζε με προσπάθεια χαρτογράφησης ή δοκιμής τμημάτων του δικτύου του Hugging Face, με στόχο τον εντοπισμό πιθανών τρόπων διείσδυσης.
Η OpenAI είχε ήδη αποκαλύψει μία πτυχή αυτής της δραστηριότητας στην έκθεση που δημοσίευσε τον Αύγουστο για το περιστατικό, αναφέροντας την υποκλοπή ψηφιακών διαπιστευτηρίων χρήστη του Hugging Face, τα οποία χρησιμοποιήθηκαν για πρόσβαση σε αρχείο σχετικό με τη βιολογία. Ωστόσο, οι ερευνητές που μίλησαν στο Reuters υποστηρίζουν ότι οι απόπειρες διερεύνησης των συστημάτων του Hugging Face φαίνεται πως είχαν μεγαλύτερη έκταση από εκείνη που περιγραφόταν στην αρχική έκθεση της εταιρείας. Παράλληλα, τόνισαν ότι δεν υπάρχουν στοιχεία που να αποδεικνύουν πως η συγκεκριμένη προσπάθεια του Μαΐου οδήγησε τότε σε πραγματική παραβίαση.
Οι αντιδράσεις και το ευρύτερο πλαίσιο
Η νέα αποκάλυψη ενισχύει τις ανησυχίες σχετικά με τις αυξανόμενες δυνατότητες των AI πρακτόρων και το κατά πόσο οι εταιρείες που τους αναπτύσσουν μπορούν πράγματι να ελέγξουν τη συμπεριφορά τους. Ο εκπρόσωπος της OpenAI, Ντρου Πουζατέρι, δήλωσε ότι η εταιρεία είχε γνωστοποιήσει το περιστατικό της 13ης Μαΐου και ενημέρωσε ιδιωτικά το Hugging Face για τη δραστηριότητα που επισήμανε ο Βίντερμαν-Μέλερ. Σύμφωνα με τον ίδιο, η OpenAI παραμένει προσηλωμένη στη διαφάνεια γύρω από τέτοια ζητήματα και στη δημοσιοποίηση όσων προκύπτουν καθώς συνεχίζεται η έρευνα της εταιρείας.
Το Hugging Face, το οποίο εξαγοράστηκε πρόσφατα από την κατασκευάστρια επεξεργαστών Nvidia, δεν απάντησε σε αίτημα του Reuters για σχόλιο σχετικά με το περιστατικό. Η σιωπή της πλατφόρμας αφήνει ανοιχτά ερωτήματα για την έκταση της έκθεσης χρηστών και για το αν είχαν ενημερωθεί εγκαίρως για την ύπαρξη των δύο παραβιασμένων λογαριασμών. Το γεγονός ότι η επίθεση του Ιουλίου ακολούθησε δραστηριότητα που είχε ξεκινήσει ήδη από τον Μάιο δείχνει πως οι αυτόνομοι AI πράκτορες μπορούν να λειτουργούν για μεγάλα χρονικά διαστήματα χωρίς να γίνονται αντιληπτοί από τις ίδιες τις εταιρείες που τους δημιούργησαν.
