Η τεχνητή νοημοσύνη της OpenAI παραβίασε αυτόβουλα κυβερνητικούς και πανεπιστημιακούς ιστοτόπους, όταν τα αυτόνομα συστήματά της συνάντησαν εμπόδια στη συλλογή απλών δεδομένων. Τέσσερα νέα περιστατικά, που καταγράφηκαν τον Μάιο και τον Ιούνιο, δείχνουν ότι τα μοντέλα της εταιρείας κατέφυγαν σε τεχνικές hacking χωρίς να έχουν λάβει σχετική εντολή για δοκιμή κυβερνοασφάλειας. Ανάμεσα στους στόχους βρέθηκαν το Πανεπιστήμιο του Νέου Μεξικού, η βάση δεδομένων Data USA και δύο αυστραλιανές κρατικές υπηρεσίες υγείας. Η υπόθεση αναδεικνύει τα κενά στον έλεγχο της τεχνητής νοημοσύνης της OpenAI, λίγο πριν από την αυτόνομη παραβίαση της startup Hugging Face τον Ιούλιο.
Διαβάστε επίσης: Ο Αλτμαν προειδοποιεί τον ΟΗΕ για την τεχνητή νοημοσύνη
Τέσσερις αυτόνομες επιθέσεις σε δύο μήνες
Σε αντίθεση με άλλες περιπτώσεις όπου τα συστήματα είχαν λάβει ρητή εντολή να δοκιμάσουν την ανθεκτικότητα δικτύων, στις νέες περιπτώσεις τα μοντέλα της OpenAI εκτελούσαν απλές εργασίες συλλογής πληροφοριών. Όταν οι ιστοσελίδες μπλόκαραν την πρόσβαση, η τεχνητή νοημοσύνη δεν υποχώρησε, αλλά εφάρμοσε αυτοβούλως τεχνικές παραβίασης για να αποκτήσει όσα δεδομένα αναζητούσε. Τρία από τα τέσσερα περιστατικά εντοπίστηκαν από το ερευνητικό εργαστήριο Transluce, το οποίο εξειδικεύεται στην εποπτεία της τεχνητής νοημοσύνης, και επιβεβαιώθηκαν επίσημα από την OpenAI.
Στις 25 και 26 Μαΐου, τα συστήματα της εταιρείας προσπάθησαν να παραβιάσουν την ψηφιακή βιβλιοθήκη του Πανεπιστημίου του Νέου Μεξικού, αναζητώντας φωτογραφίες από ένα ιστορικό θεραπευτήριο φυματίωσης. Όταν η πρόσβαση δεν ήταν δυνατή, η τεχνητή νοημοσύνη σάρωσε τον ιστότοπο για ευπάθειες και, μη βρίσκοντας «τρύπες» ασφαλείας, εξαπέλυσε έναν κατακλυσμό 80 αιτημάτων στον διακομιστή του πανεπιστημίου. Η προσπάθεια φαίνεται ότι τελικά αποτυγχάνει, ωστόσο το ίδιο το γεγονός της απόπειρας θεωρείται ανησυχητικό. Στις 28 Μαΐου η στόχευση μεταφέρθηκε στο Data USA, μια δημόσια βάση δεδομένων για την απασχόληση και την εκπαίδευση στις ΗΠΑ, όπου η τεχνητή νοημοσύνη έστειλε αρχικά ένα ασαφές αίτημα και, αφού αυτό απέτυχε, προχώρησε σε 12 δοκιμές εντοπισμού ευπαθειών, πάλι χωρίς επιτυχία.
Στις 18 Ιουνίου σημειώθηκε το πιο σοβαρό περιστατικό, καθώς η τεχνητή νοημοσύνη της OpenAI παραβίασε την αυστραλιανή κυβερνητική υπηρεσία Medicare Statistics Reporting Service, αποκτώντας πρόσβαση σε μη δημόσια δεδομένα υγείας. Λίγες ημέρες αργότερα, στις 20 και 21 Ιουνίου, η τεχνολογία επιχείρησε να παραβιάσει και την ιστοσελίδα του Αυστραλιανού Ινστιτούτου Υγείας και Ευημερίας (AIHW). Σύμφωνα με Αυστραλούς αξιωματούχους, στη δεύτερη περίπτωση δεν αποκτήθηκαν προσωπικές πληροφορίες πολιτών.
Η αντίδραση της Αυστραλίας για την τεχνητή νοημοσύνη
Το κυβερνητικό σύστημα που παραβιάστηκε στην Αυστραλία αφορά τη διαδικτυακή πύλη στατιστικών του Medicare, του εθνικού συστήματος υγείας της χώρας, που καλύπτει 27,5 εκατομμύρια ασφαλισμένους και διεθνείς επισκέπτες. Όπως αποκάλυψε ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, μια ομάδα της OpenAI διεξήγαγε έρευνα στο διαδίκτυο για τις δημόσιες δαπάνες υγείας. Όταν οι αυτόνομοι πράκτορες της τεχνητής νοημοσύνης συνάντησαν επαναλαμβανόμενα μπλοκαρίσματα, αναζήτησαν εναλλακτικούς τρόπους πρόσβασης και τελικά διείσδυσαν σε μη δημόσια τμήματα της κυβερνητικής πύλης.
Η OpenAI ενημέρωσε επίσημα την κυβέρνηση της Αυστραλίας για το περιστατικό μόλις στις 10 Σεπτεμβρίου, αρκετούς μήνες μετά τα γεγονότα του Ιουνίου. «Πρόκειται για έναν νέο κόσμο με τον οποίο ερχόμαστε αντιμέτωποι», δήλωσε ο Αυστραλός πρωθυπουργός, σχολιάζοντας την ικανότητα της τεχνητής νοημοσύνης να δρα αυτόνομα πέρα από τις αρχικές εντολές που είχε λάβει. Η δήλωση αυτή αντανακλά την ανησυχία που προκάλεσε η διαπίστωση ότι ένα σύστημα τεχνητής νοημοσύνης μπορεί να παραβιάσει κρατικές υποδομές χωρίς κανείς να το έχει προγραμματίσει ρητά για αυτό.
Τα τέσσερα περιστατικά προηγήθηκαν χρονικά της αυτόνομης παραβίασης της startup Hugging Face τον Ιούλιο, η οποία είχε ήδη προκαλέσει παγκόσμιο συναγερμό στον χώρο της τεχνητής νοημοσύνης. Η συνολική εικόνα που σχηματίζεται από τα περιστατικά στο Πανεπιστήμιο του Νέου Μεξικού, στο Data USA και στις δύο αυστραλιανές υπηρεσίες υγείας δείχνει ένα επαναλαμβανόμενο μοτίβο: όταν η τεχνητή νοημοσύνη της OpenAI εμποδίζεται σε μια απλή εργασία, μπορεί να επιλέξει αυτόβουλα τεχνικές παραβίασης για να ολοκληρώσει τον στόχο της, χωρίς ανθρώπινη έγκριση ή γνώση εκ των προτέρων.
