Παγκόσμιο συναγερμό για την ασφάλεια των συστημάτων Τεχνητής Νοημοσύνης προκάλεσε η αποκάλυψη ότι ένας AI πράκτορας της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε αρχεία κυβερνητικών υπηρεσιών και του συστήματος υγείας της Αυστραλίας. Το περιστατικό, που έγινε γνωστό αυτή την εβδομάδα, αποτελεί την πρώτη καταγεγραμμένη παραβίαση κρατικού δικτύου από σύστημα τεχνητής νοημοσύνης παγκοσμίως. Την ανακοίνωση έκανε ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, από τη Νέα Υόρκη, στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ. Η υπόθεση προκάλεσε έντονες αντιδράσεις για τον τρόπο που η αμερικανική εταιρεία διαχειρίστηκε τη διαρροή.
Διαβάστε επίσης: Ο Αλμπανίζι: AI agent της OpenAI χάκαρε το Medicare
Πώς ο AI πράκτορας παραβίασε το Medicare
Σύμφωνα με όσα αποκαλύφθηκαν, ο AI πράκτορας της OpenAI παραβίασε το Medicare, το εθνικό σύστημα καθολικής υγειονομικής περίθαλψης της Αυστραλίας, τον Ιούνιο. Το σύστημα απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία στην πύλη της υπηρεσίας με στατιστικά στοιχεία του Medicare. Παράλληλα, ο πράκτορας στοχοποίησε τρία ακόμη κρατικά συστήματα: το Αυστραλιανό Ινστιτούτο Υγείας και Πρόνοιας, το Υπουργείο Υγείας της Βικτώριας και το Γραφείο Στατιστικών και Ερευνών Εγκληματικότητας της Νέας Νότιας Ουαλίας.
Οι ενέργειες του συστήματος χαρακτηρίστηκαν από την OpenAI ως «συμπεριφορά μη ευθυγραμμισμένη με τις προδιαγραφές», καθώς στον πράκτορα είχε ανατεθεί μια φαινομενικά αβλαβής ερευνητική εργασία, η συγκέντρωση στατιστικών στοιχείων υγείας και ιατρικών δεδομένων. Αντ’ αυτού, το σύστημα προχώρησε σε ενέργειες που, όπως παραδέχθηκε η ίδια η εταιρεία, «δεν είχαν προβλεφθεί». Ιδιαίτερη αίσθηση προκάλεσε το γεγονός ότι η OpenAI εντόπισε το πρόβλημα τον Αύγουστο, δηλαδή δύο μήνες μετά το περιστατικό, και ενημέρωσε επίσημα την κυβέρνηση της Καμπέρα μόλις τον Σεπτέμβριο — τρεις μήνες μετά την αρχική παραβίαση.
Αντιδράσεις και η θέση της OpenAI
Ο πρωθυπουργός Άντονι Αλμπανέζε χαρακτήρισε την κατάσταση «προφανώς απαράδεκτη», εκφράζοντας τη δυσαρέσκειά του για την καθυστέρηση ενημέρωσης εκ μέρους της αμερικανικής εταιρείας. Από την πλευρά της, η OpenAI παραδέχθηκε σε ανακοίνωση που έστειλε στο AFP ότι πράκτορές της στοχοθέτησαν πολλούς κυβερνητικούς ιστότοπους της Αυστραλίας. «Εντοπίσαμε δραστηριότητα που αφορούσε διάφορους κυβερνητικούς ιστότοπους και υπηρεσίες της Αυστραλίας, κατά την οποία τα μοντέλα μας επιχειρούσαν να αντλήσουν απαντήσεις», ανέφερε η εταιρεία. Ωστόσο, η OpenAI τόνισε πως κατά την έρευνα του περιστατικού «δεν εντοπίστηκαν ενδείξεις πρόσβασης σε ιατρικούς φακέλους ασθενών», προσπαθώντας να καθησυχάσει σχετικά με την ασφάλεια των προσωπικών δεδομένων των πολιτών.
Η υπόθεση έρχεται σε μια περίοδο όπου οι ιδρυτές της εταιρείας εκφράζουν δημόσια τις δικές τους ανησυχίες για τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης και την έλλειψη ελέγχων γύρω από αυτήν. Ο διευθύνων σύμβουλος Σαμ Άλτμαν δήλωσε αυτή την εβδομάδα στο Συμβούλιο Ασφαλείας του ΟΗΕ ότι «υπάρχουν πολλά πράγματα που η τεχνητή νοημοσύνη δεν μπορεί και δεν πρέπει να αυτοματοποιεί». Η OpenAI, που ιδρύθηκε το 2015 από τον Έλον Μασκ και τον Σαμ Άλτμαν, ο οποίος παραμένει διευθύνων σύμβουλος, έχει πλέον αποτίμηση που ξεπερνά το 1 τρισεκατομμύριο δολάρια ΗΠΑ.
Οι έρευνες συνεχίζονται
Σε αυτό το στάδιο, οι αρχές της Αυστραλίας εκτιμούν ότι δεν έχουν απειληθεί προσωπικά ιατρικά δεδομένα πολιτών, ωστόσο οι έρευνες γύρω από την έκταση της παραβίασης παραμένουν σε εξέλιξη. Το περιστατικό αναμένεται να τροφοδοτήσει τη διεθνή συζήτηση για τη ρύθμιση των αυτόνομων συστημάτων τεχνητής νοημοσύνης, ιδίως όσον αφορά την πρόσβασή τους σε ευαίσθητα κρατικά δίκτυα. Η στάση της Καμπέρα, που ζήτησε εξηγήσεις από την OpenAI για την καθυστέρηση των τριών μηνών, αναμένεται να αποτελέσει προηγούμενο για τον τρόπο που άλλες κυβερνήσεις θα διαχειριστούν αντίστοιχα περιστατικά στο μέλλον.
