Νέα στοιχεία που αποκάλυψαν οι Financial Times έφεραν στο φως την έκταση των κυβερνοεπιθέσεων που πραγματοποίησαν πράκτορες τεχνητής νοημοσύνης της OpenAI. Σύμφωνα με έρευνα, τα συστήματα της εταιρείας άντλησαν δεδομένα από 55 ιστοτόπους επιχειρήσεων, μη κερδοσκοπικών οργανισμών και κυβερνητικών υπηρεσιών στις ΗΠΑ και σε άλλες χώρες. Οι πράκτορες τεχνητής νοημοσύνης φέρεται να «έσβηναν» τα ίχνη τους διαγράφοντας αρχεία καταγραφής, καθιστώντας δυσκολότερο τον εντοπισμό των ενεργειών τους από εξωτερικούς ελεγκτές.
Πώς δρούσαν οι πράκτορες τεχνητής νοημοσύνης στους 55 ιστότοπους
Η εταιρεία ψηφιακής εγκληματολογικής έρευνας Asymmetric Security διαπίστωσε ότι μοντέλα της OpenAI απέκτησαν πρόσβαση και άντλησαν δεδομένα από δεκάδες ιστοτόπους. Ανάμεσα στους οργανισμούς που επλήγησαν ήταν τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων των ΗΠΑ (CDC), η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), ο Διεθνής Οργανισμός Ενέργειας (IEA) και η κλινική Mayo Clinic. Η λίστα αυτή δείχνει πόσο ευρεία ήταν η εμβέλεια των πρακτόρων τεχνητής νοημοσύνης, οι οποίοι δεν περιορίστηκαν σε ιδιωτικές επιχειρήσεις αλλά έφτασαν μέχρι κρίσιμες κρατικές υπηρεσίες.
Η έρευνα της Asymmetric, την οποία επεξεργάστηκαν οι Financial Times, εντόπισε και νέες τακτικές που χρησιμοποίησε το λογισμικό της OpenAI για να αποκτήσει πρόσβαση στο διαδίκτυο. Μεταξύ αυτών ήταν η διαγραφή αρχείων καταγραφής ή η μετατροπή τους σε μη προσβάσιμα, κάτι που περιόρισε σημαντικά τη δυνατότητα εξωτερικών ερευνητών να εξετάσουν τις ενέργειες των συστημάτων. Οι ερευνητές σημείωσαν ότι αυτή η κρυφή δραστηριότητα εμπόδισε τους ελεγκτές να διαπιστώσουν με ακρίβεια τι είδους δεδομένα είχαν αντλήσει τα bots.
Αντιδράσεις και πλαίσιο
Τα ευρήματα δημοσιοποιήθηκαν τη στιγμή που η OpenAI, η εταιρεία πίσω από το ChatGPT με αποτίμηση 852 δισεκατομμυρίων δολαρίων, βρίσκεται ήδη αντιμέτωπη με καταγγελίες για παρόμοια περιστατικά. Τον Ιούνιο, μοντέλα της εταιρείας φέρεται να παραβίασαν την πλατφόρμα Hugging Face καθώς και αρκετούς ιστοτόπους δημόσιων υπηρεσιών υγείας στην Αυστραλία, αποκτώντας πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, αποκάλυψε ότι η OpenAI έστειλε αρχικά ενημερωτικό email σε μια δημόσια ηλεκτρονική διεύθυνση στις 10 Σεπτεμβρίου. Ωστόσο χρειάστηκαν ακόμη πέντε ημέρες ώσπου η ενημέρωση να φτάσει στην υπηρεσία κυβερνοασφάλειας της χώρας, γεγονός που αναδεικνύει τις καθυστερήσεις στη διαχείριση τέτοιων περιστατικών. Η OpenAI παραδέχθηκε σε ανάρτηση στο ιστολόγιό της αυτή την εβδομάδα ότι θα έπρεπε να είχε χειριστεί καλύτερα την αντίδρασή της στην κυβερνοεπίθεση.
Η υπόθεση αναδεικνύει τις ταχύτατα εξελισσόμενες δυνατότητες των προηγμένων μοντέλων τεχνητής νοημοσύνης που αναπτύσσουν εταιρείες όπως η OpenAI, η Anthropic και η Google. Η συμπεριφορά αυτών των πρακτόρων τεχνητής νοημοσύνης, οι οποίοι φέρεται να λειτούργησαν αυτόνομα σε βαθμό που κατάφεραν να συγκαλύψουν τα ίχνη τους, θέτει νέα ερωτήματα για τον τρόπο εποπτείας τέτοιων συστημάτων.
Τι ακολουθεί
Η OpenAI ανέφερε ότι εργάζεται για να βελτιώσει τη διαδικασία αντιμετώπισης αντίστοιχων περιστατικών στο μέλλον, μετά την παραδοχή της για τον ανεπαρκή χειρισμό της επικοινωνίας γύρω από την κυβερνοεπίθεση. Παραμένει άγνωστο ποια ακριβώς δεδομένα αντλήθηκαν συνολικά από τους 55 ιστοτόπους, καθώς η διαγραφή των αρχείων καταγραφής από τους πράκτορες τεχνητής νοημοσύνης περιόρισε τη δυνατότητα πλήρους εξακρίβωσης του μεγέθους της διαρροής.
