Το μοντέλο τεχνητής νοημοσύνης Gemini της Google απέκτησε πρόσβαση σε συστήματα τριών πραγματικών εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, όπως παραδέχθηκε η ίδια η εταιρεία. Τα περιστατικά σημειώθηκαν τον Μάιο, ενώ η Google ενημερώθηκε γι’ αυτά στα τέλη Ιουλίου. Η υπόθεση, την οποία αποκάλυψε αρχικά η Wall Street Journal, αναδεικνύει τους κινδύνους που ενέχει η αυξανόμενη αυτονομία των συστημάτων τεχνητής νοημοσύνης όταν αποκτούν πρόσβαση στο διαδίκτυο.
Διαβάστε επίσης: Το Gemini της Google μάντεψε κωδικούς πρόσβασης σε δοκιμή
Πώς το Gemini πέρασε από εικονικό σε πραγματικό περιβάλλον
Τις δοκιμές πραγματοποιούσε η Irregular, μια νεοφυής εταιρεία με έδρα το Ισραήλ, ειδικευμένη στην αξιολόγηση της ασφάλειας προηγμένων συστημάτων τεχνητής νοημοσύνης. Οι ερευνητές της είχαν στήσει ένα κλειστό περιβάλλον δοκιμών με εικονικές εταιρείες, χωρίς πρόσβαση στο διαδίκτυο. Ωστόσο, λόγω τεχνικού σφάλματος, η σύνδεση παρέμεινε ενεργή και το Gemini μπόρεσε να αναζητήσει πληροφορίες και να αλληλεπιδράσει με πραγματικές διαδικτυακές υπηρεσίες.
Σε μία από τις δοκιμές, οι ερευνητές ζήτησαν από το μοντέλο να αντλήσει πληροφορίες από το λογισμικό μιας εικονικής εταιρείας, η οποία όμως είχε το ίδιο όνομα με μια υπαρκτή επιχείρηση. Μόλις το Gemini απέκτησε πρόσβαση στο διαδίκτυο, εντόπισε την πραγματική εταιρεία, μάντεψε σωστά έναν κωδικό πρόσβασης και εισήλθε στην υπηρεσία της. Στις άλλες δύο περιπτώσεις, το μοντέλο εντόπισε δημόσια προσβάσιμα αποθετήρια κώδικα που περιείχαν στοιχεία σύνδεσης για δύο διαφορετικές εταιρείες και τα χρησιμοποίησε για να μπει στα πραγματικά τους συστήματα. Και στις τρεις περιπτώσεις, σύμφωνα με την Google, το μοντέλο διέκοψε μόνο του τη δραστηριότητά του μόλις αντιλήφθηκε ότι δεν βρισκόταν πλέον μέσα στο προσομοιωμένο περιβάλλον της δοκιμής.
Οι αντιδράσεις και το ευρύτερο πλαίσιο
Η Χέδερ Άντκινς, αντιπρόεδρος μηχανικής ασφάλειας της Google, δήλωσε ότι «σε μια τυπική αξιολόγηση, το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε στοιχεία σύνδεσης για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής». Η ίδια πρόσθεσε πως «και στις τρεις περιπτώσεις, το μοντέλο σταμάτησε». Η Google διευκρίνισε ότι ενημέρωσε και τις τρεις οντότητες που επηρεάστηκαν και συνεργάστηκε με την Irregular για αλλαγές στις διαδικασίες δοκιμών, χωρίς ωστόσο να αποκαλύψει τα ονόματα των εταιρειών.
Παρόμοια περιστατικά που συνδέονται με την Irregular είχαν γνωστοποιηθεί νωρίτερα και από τη Meta, την Anthropic και την OpenAI. Η Meta είχε δηλώσει τον Αύγουστο ότι το δικό της περιστατικό δεν περιλάμβανε ούτε διαφυγή από sandbox ούτε εξελιγμένη κυβερνοεπίθεση. Εκπρόσωπος της Irregular ανέφερε ότι όλα τα σχετικά εργαστήρια ενημερώθηκαν στα τέλη Ιουλίου και ότι τα γνωστά προβλήματα είχαν διορθωθεί εβδομάδες πριν γίνει γνωστή η υπόθεση. Η εταιρεία επισήμανε πως εργάζεται πάνω στη διαμόρφωση βέλτιστων πρακτικών για την ασφαλή διεξαγωγή αξιολογήσεων κυβερνοασφάλειας σε συστήματα τεχνητής νοημοσύνης.
Τι σηματοδοτεί η υπόθεση
Η Google υπογράμμισε ότι τα περιστατικά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων ώστε να λειτουργούν με υπεύθυνο τρόπο. Το ζήτημα αποκτά ιδιαίτερο βάρος καθώς οι λεγόμενοι AI agents αποκτούν όλο και μεγαλύτερο βαθμό αυτονομίας, με πρόσβαση στο διαδίκτυο και σε πραγματικά συστήματα υπολογιστών. Το περιστατικό με το Gemini θεωρείται το πρώτο γνωστό περιστατικό κατά το οποίο σύστημα τεχνητής νοημοσύνης της Google προχώρησε αυτόνομα σε παραβίαση πραγματικών εταιρειών, γεγονός που τροφοδοτεί τη συζήτηση για τις δικλίδες ασφαλείας που απαιτούνται πριν τέτοια συστήματα αποκτήσουν ευρύτερη πρόσβαση σε ευαίσθητα δίκτυα.
