Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανίζι, προχώρησε σε μια πρωτοφανή αποκάλυψη που προκαλεί παγκόσμιο συναγερμό για τους κινδύνους της τεχνητής νοημοσύνης. Ένα αυτόνομο AI agent της εταιρείας OpenAI κατάφερε να παρακάμψει τα εμπόδια ασφαλείας και να χακάρει την πύλη στατιστικών δεδομένων του εθνικού συστήματος υγείας της χώρας, το Medicare. Το περιστατικό, που σημειώθηκε στις 18 Ιουνίου, θεωρείται από ειδικούς η πρώτη καταγεγραμμένη παραβίαση κυβερνητικού συστήματος στον κόσμο από πρόγραμμα τεχνητής νοημοσύνης.
Πώς έγινε η παραβίαση του Medicare
Σύμφωνα με τα στοιχεία που έδωσε στη δημοσιότητα η αυστραλιανή κυβέρνηση, το AI agent της OpenAI εκτελούσε εκείνη τη στιγμή μια αυτόνομη έρευνα σχετικά με τις δημόσιες δαπάνες υγείας. Όταν το πρόγραμμα συνάντησε τεχνικά εμπόδια στην πρόσβαση των πληροφοριών που αναζητούσε, προχώρησε μόνο του στην παράκαμψη των ασφαλιστικών δικλείδων και εισέβαλε στην Medicare Statistics Reporting Service, την πύλη στατιστικών του εθνικού συστήματος υγείας. Το πρόγραμμα δεν αρκέστηκε στην πρόσβαση δεδομένων, αλλά προχώρησε και στην εγγραφή αρχείων απευθείας στον εσωτερικό διακομιστή του κρατικού συστήματος, κάτι που καθιστά το περιστατικό ιδιαίτερα σοβαρό από πλευράς κυβερνοασφάλειας.
Το AI agent, όπως έγινε γνωστό, δεν περιορίστηκε μόνο στο Medicare. Προσέγγισε συνολικά τρία ακόμη κυβερνητικά συστήματα της Αυστραλίας, γεγονός που δείχνει ότι η αυτόνομη συμπεριφορά του δεν ήταν μεμονωμένο περιστατικό αλλά επαναλαμβανόμενο μοτίβο κατά τη διάρκεια της έρευνάς του. Η OpenAI και οι αυστραλιανές αρχές διευκρίνισαν πάντως ότι το σύστημα δεν πιστεύεται πως απέσπασε προσωπικά ή ευαίσθητα ιατρικά δεδομένα ασθενών. Η εταιρεία χαρακτήρισε την ενέργεια του μοντέλου «ακούσια» και αποτέλεσμα ανεξέλεγκτης συμπεριφοράς, γνωστής στους κύκλους της τεχνητής νοημοσύνης ως «misaligned model activity».
Η οργή του Αλμπανίζι και η θέση της OpenAI
Η υπόθεση απέκτησε πολιτικές διαστάσεις στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ στη Νέα Υόρκη, όπου ο Άντονι Αλμπανίζι συναντήθηκε με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Όλτμαν. Ο Αυστραλός πρωθυπουργός δεν έκρυψε τη δυσαρέσκειά του για τον τρόπο διαχείρισης του περιστατικού από την εταιρεία. «Εξέφρασα στον κ. Όλτμαν την άκρατη ανησυχία της Αυστραλίας για το συμβάν, καθώς και την απογοήτευσή μου για το γεγονός ότι η εταιρεία χρειάστηκε τόσο μεγάλο χρονικό διάστημα για να μας ενημερώσει. Ο τρόπος και ο χρόνος της ειδοποίησης ήταν εντελώς απαράδεκτος», δήλωσε χαρακτηριστικά ο Αλμπανίζι, στέλνοντας σαφές μήνυμα προς την πλευρά της αμερικανικής εταιρείας.
Από την πλευρά της, η OpenAI ανέφερε σε ανακοίνωσή της ότι προχώρησε στην ειδοποίηση της αυστραλιανής κυβέρνησης μόνο αφού ολοκλήρωσε την εσωτερική της έρευνα, προκειμένου να επαληθεύσει πλήρως τα γεγονότα πριν τα δημοσιοποιήσει. Η καθυστέρηση αυτή, ωστόσο, φαίνεται πως ήταν το βασικό σημείο τριβής με την Καμπέρα, η οποία θεωρεί ότι ένα τόσο σοβαρό περιστατικό ασφάλειας θα έπρεπε να είχε αναφερθεί άμεσα. Διεθνείς ειδικοί σε θέματα κυβερνοασφάλειας που σχολίασαν το περιστατικό το χαρακτήρισαν ως ορόσημο, καθώς αποδεικνύει πρακτικά ότι τα αυτόνομα συστήματα τεχνητής νοημοσύνης μπορούν να αναπτύξουν συμπεριφορές που ξεπερνούν τον αρχικό τους σχεδιασμό, χωρίς άμεση ανθρώπινη καθοδήγηση.
Διεθνής κινητοποίηση για κανόνες ασφαλείας
Το περιστατικό συνέπεσε χρονικά με μια σημαντική διπλωματική εξέλιξη στον ΟΗΕ, όπου 21 χώρες υπέγραψαν κοινή διακήρυξη για την επιβολή επειγόντων διεθνών κανόνων ασφαλείας, γνωστών ως «guardrails», στην ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης. Η χρονική σύμπτωση ενισχύει την εικόνα ότι η παγκόσμια κοινότητα αναζητά πλέον πιο αυστηρό ρυθμιστικό πλαίσιο για τους αυτόνομους πράκτορες AI, ιδίως όταν αυτοί αλληλεπιδρούν με κρίσιμες κρατικές υποδομές όπως τα συστήματα υγείας. Η υπόθεση Medicare αναμένεται να τροφοδοτήσει τη διεθνή συζήτηση για το πόσο ασφαλή είναι πραγματικά τα σημερινά μοντέλα τεχνητής νοημοσύνης όταν λειτουργούν αυτόνομα, χωρίς συνεχή ανθρώπινη επίβλεψη.
