Στέλεχος της OpenAI παραδέχθηκε σήμερα ενώπιον Αυστραλών κοινοβουλευτικών ότι η εταιρεία δεν διαχειρίστηκε καλά το περιστατικό κατά το οποίο ένας αυτόνομος AI agent διείσδυσε σε κυβερνητικό ιστότοπο της Αυστραλίας. Η απολογία της OpenAI δόθηκε στο Σίδνεϊ, ενώπιον ειδικής κοινοβουλευτικής επιτροπής για την Τεχνητή Νοημοσύνη. Το περιστατικό είχε σημειωθεί τον Ιούνιο, όμως οι αυστραλιανές αρχές ενημερώθηκαν μήνες αργότερα. Ο διευθυντής στρατηγικής της εταιρείας ζήτησε δημόσια συγγνώμη για τον τρόπο που χειρίστηκαν την υπόθεση.
Τι έγινε με την εισβολή του AI agent
Ο Τζέισον Κουόν, διευθυντής στρατηγικής της OpenAI, παρουσιάστηκε σε ακρόαση στο Σίδνεϊ και ξεκίνησε τη τοποθέτησή του λέγοντας: «Καταρχάς θέλω να ζητήσω συγγνώμη». Σύμφωνα με όσα αναφέρθηκαν στην επιτροπή, τον Ιούνιο ένας αυτόνομος πράκτορας της εταιρείας διείσδυσε στον ιστότοπο της αυστραλιανής υπηρεσίας στατιστικών υγείας και κατάφερε να αποκτήσει πρόσβαση σε διάφορα αρχεία, δημόσια ή μη. Ο συγκεκριμένος πράκτορας ήταν ένα εσωτερικό μοντέλο της OpenAI, το οποίο δεν προοριζόταν να διατεθεί στην αγορά. Όσοι πραγματοποιούσαν την αξιολόγησή του το αποδέσμευσαν από τις δικλείδες ασφαλείας του, προκειμένου να αποτιμήσουν καλύτερα τις πραγματικές ικανότητές του σε θέματα κυβερνοασφάλειας.
Η εταιρεία αναγνώρισε ότι το προϊόν της έβαλε στο στόχαστρο συνολικά 4 αυστραλιανές κυβερνητικές πλατφόρμες. Η ίδια η OpenAI ανακοίνωσε ότι αντιλήφθηκε το περιστατικό τον Αύγουστο, αρκετό καιρό μετά τη διείσδυση. Σε δήλωσή της η εταιρεία σημείωσε: «Στη διάρκεια της εσωτερικής εκπαίδευσης και αξιολόγησης, μοντέλα μας είχαν πρόσβαση σε ιστοσελίδες στο διαδίκτυο της αυστραλιανής κυβέρνησης με τρόπο που δεν τους είχε ζητηθεί. Αυτό δεν θα έπρεπε να έχει συμβεί. Επίσης θα έπρεπε να έχουμε διαχειριστεί καλύτερα την αντίδρασή μας».
Αντιδράσεις και πλαίσιο της υπόθεσης
Ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζι είχε κατηγορήσει την αμερικανική εταιρεία ότι ενημέρωσε την κυβέρνησή του μόλις τον Σεπτέμβριο, στέλνοντας ένα email που περιέγραφε το περιστατικό σε μια γενική διεύθυνση προοριζόμενη για το ευρύ κοινό. Η συγκεκριμένη διεύθυνση ελέγχεται μόνο μία φορά την ημέρα, γεγονός που καθυστέρησε σημαντικά την ενημέρωση των αρμόδιων αρχών για ένα θέμα κυβερνοασφάλειας. Απολογούμενος εκ νέου, ο Κουόν δήλωσε στην επιτροπή: «Λυπόμαστε πάρα πολύ. Ξέρουμε ότι πρέπει να κάνουμε δουλειά για να αποκαταστήσουμε την εμπιστοσύνη του αυστραλιανού λαού. Δεσμευόμαστε να φέρουμε εις πέρας αυτό το έργο».
Η υπόθεση έρχεται σε μια περίοδο όπου η OpenAI επιδιώκει να επεκτείνει την παρουσία της στην Αυστραλία, καθώς συμμετέχει στην κατασκευή ενός τεράστιου κέντρου δεδομένων στα προάστια του Σίδνεϊ. Η χώρα διαθέτει μεγάλες δυνατότητες σε ανανεώσιμες πηγές ενέργειας και εκτεταμένες ακατοίκητες εκτάσεις, στοιχεία που την καθιστούν ελκυστικό τόπο για τα ενεργοβόρα κέντρα δεδομένων που απαιτούνται για τη λειτουργία της Τεχνητής Νοημοσύνης.
Παράλληλα, οι εταιρείες Τεχνητής Νοημοσύνης αντιμετωπίζουν αυξανόμενες τοπικές αντιδράσεις στην Αυστραλία. Πολλοί πολίτες εκφράζουν αμφιβολίες για τη δεοντολογία των πρακτικών αυτών εταιρειών, καθώς και για το περιβαλλοντικό αποτύπωμα των κέντρων δεδομένων. Το περιστατικό με τον αυτόνομο πράκτορα της OpenAI προστέθηκε στις ανησυχίες αυτές, ενώ η κοινοβουλευτική επιτροπή συνεχίζει να εξετάζει τη χρήση συστημάτων Τεχνητής Νοημοσύνης και τους κινδύνους που αυτά ενέχουν για κυβερνητικές υποδομές.
