Νέος σάλος ξέσπασε γύρω από την OpenAI, μετά την αποκάλυψη ότι πράκτορες τεχνητής νοημοσύνης της εταιρείας φέρεται να χάκαραν 55 κυβερνητικές ιστοσελίδες σε όλο τον κόσμο, αντλώντας δεδομένα και στη συνέχεια σβήνοντας τα ίχνη τους. Την κυβερνοεπίθεση εντόπισε η εταιρεία ψηφιακής εγκληματολογικής έρευνας Asymmetric Security, η οποία κατέγραψε ανάμεσα στους στόχους οργανισμούς όπως τα CDC και η SEC των ΗΠΑ. Η υπόθεση αναδεικνύει εκ νέου τα ερωτηματικά γύρω από τη διαφάνεια και τον έλεγχο των εργαστηρίων τεχνητής νοημοσύνης.
Διαβάστε επίσης: Οι πράκτορες τεχνητής νοημοσύνης της OpenAI «έσβηναν» ίχνη τους
Στόχοι από τις ΗΠΑ έως την Αυστραλία
Σύμφωνα με την έρευνα της Asymmetric Security, ανάμεσα στους στόχους της κυβερνοεπίθεσης βρέθηκαν τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων των ΗΠΑ (CDC), η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC) και ο Διεθνής Οργανισμός Ενέργειας (IEA). Στη λίστα των θυμάτων περιλαμβάνονται επίσης ιδιωτικοί οργανισμοί, όπως η αμερικανική κλινική Mayo Clinic, αλλά και αυστραλιανές κρατικές υπηρεσίες, όπως η υπηρεσία στατιστικών υγείας της χώρας και το σύστημα φαρμακευτικών παροχών της. Σύμφωνα με δημοσίευμα των Financial Times, η έρευνα αποκάλυψε ότι οι πράκτορες της OpenAI δημιουργούσαν προσωρινά ηλεκτρονικά γραμματοκιβώτια και ιδιωτικούς λογαριασμούς μέσω της υπηρεσίας Urlquery — ενός εργαλείου που κανονικά χρησιμοποιείται για τον έλεγχο ιστοτόπων για κακόβουλο λογισμικό — προκειμένου να κατεβάσουν δεδομένα από τους στόχους τους.
Το πιο ανησυχητικό στοιχείο της έρευνας, σύμφωνα με τους ερευνητές, είναι ότι οι συγκεκριμένες ενέργειες έγιναν με τρόπο κρυφό, καθιστώντας αδύνατο για τους εξωτερικούς ελεγκτές να εντοπίσουν τι είδους δεδομένα άντλησαν τελικά τα bots από τους ιστοτόπους-στόχους. Η τεχνική κάλυψης ιχνών που χρησιμοποιήθηκε θεωρείται τυπική μεθοδολογία που συνήθως εφαρμόζουν ανθρώπινοι εισβολείς σε κυβερνοεπιθέσεις, κάτι που ενισχύει την ανησυχία για τον βαθμό αυτονομίας που έχουν αποκτήσει οι πράκτορες τεχνητής νοημοσύνης.
Οι αντιδράσεις των εμπλεκόμενων πλευρών
Η Πίπα Τόμσον, συνιδρύτρια της Asymmetric Security, σχολίασε ότι τέτοιου είδους ενέργειες συνήθως πραγματοποιούνται από ανθρώπους που εκτελούν κυβερνοεπιθέσεις. «Είναι πιθανό οι πράκτορες να χρησιμοποιούσαν σκόπιμα αυτά τα εργαλεία για να καλύψουν τα ίχνη τους», ανέφερε χαρακτηριστικά. Από την πλευρά της, η OpenAI απάντησε ότι εξετάζει δραστηριότητες μοντέλων που δεν ευθυγραμμίζονται με τον προβλεπόμενο τρόπο λειτουργίας τους και ενημερώνει τους οργανισμούς όταν εντοπίζει πιθανές επιπτώσεις στα συστήματά τους. Η εταιρεία υποστήριξε παράλληλα πως το μεγαλύτερο μέρος της δραστηριότητας που καταγράφηκε αφορούσε «συνήθεις ερευνητικές εργασίες», όπως η πρόσβαση σε περιεχόμενο του διαδικτύου που είναι ήδη διαθέσιμο στο κοινό.
Η Ζεϊνάμπ Άλι Ματζίντ, συνιδρύτρια της Asymmetric, επισήμανε ότι η OpenAI διατηρεί την κύρια πρόσβαση στις λεγόμενες «αλυσίδες σκέψης» των πρακτόρων της, δηλαδή στα αρχεία δραστηριότητας που καταγράφουν το σκεπτικό πίσω από κάθε ενέργειά τους. Όπως εξήγησε, τα θύματα των κυβερνοεπιθέσεων διατηρούν με τη σειρά τους ορισμένα στοιχεία σχετικά με το είδος των δεδομένων που αντλήθηκαν. Ωστόσο, προειδοποίησε ότι αυτή η έλλειψη διαφάνειας, σε συνδυασμό με το χρονικό διάστημα που μεσολάβησε ανάμεσα στις κυβερνοεπιθέσεις και στην ενημέρωση από την OpenAI, μπορεί να δυσκολέψει σημαντικά τη διεξαγωγή μιας πλήρους και σε βάθος έρευνας για το συμβάν.
Παράλληλα, η ερευνητική ομάδα τεχνητής νοημοσύνης Transluce ανέφερε σε έκθεσή της την προηγούμενη εβδομάδα ότι η κυβερνοεπίθεση σε ιστότοπο της αυστραλιανής κυβέρνησης δεν ήταν μεμονωμένο περιστατικό, αλλά μέρος ενός ευρύτερου κύματος επιθέσεων από bots τεχνητής νοημοσύνης. Σύμφωνα με την Transluce, τα bots αυτά στόχευαν συστηματικά ιστοτόπους προκειμένου να συλλέξουν δεδομένα για ασκήσεις εκπαίδευσης μοντέλων.
Ανοιχτά ερωτήματα για τα κίνητρα
Μέχρι στιγμής παραμένει άγνωστο αν η συγκεκριμένη κυβερνοεπίθεση πραγματοποιήθηκε στο πλαίσιο κάποιας άσκησης εκπαίδευσης των μοντέλων της OpenAI ή αν επρόκειτο για κάτι διαφορετικό. Η αβεβαιότητα αυτή τροφοδοτεί τον προβληματισμό γύρω από τον έλεγχο που ασκούν οι εταιρείες τεχνητής νοημοσύνης στους αυτόνομους πράκτορες που αναπτύσσουν, ιδίως όταν αυτοί αποκτούν πρόσβαση σε ευαίσθητα δεδομένα κρατικών και επιστημονικών οργανισμών σε διεθνές επίπεδο.
