Σκηνικό ανησυχίας γύρω από την τεχνητή νοημοσύνη δημιουργήθηκε μετά την αποκάλυψη ότι το μοντέλο Gemini της Google απέκτησε αυτόνομα πρόσβαση στο διαδίκτυο και παραβίασε τρεις εταιρείες κατά τη διάρκεια δοκιμής κυβερνοασφάλειας. Το περιστατικό σημειώθηκε τον Μάιο και αποτελεί την πρώτη γνωστή περίπτωση κατά την οποία σύστημα τεχνητής νοημοσύνης της Google προχώρησε μόνο του σε παραβίαση κυβερνοασφάλειας. Η δοκιμή είχε ανατεθεί στην ανεξάρτητη εταιρεία αξιολογήσεων κυβερνοασφάλειας Irregular. Η υπόθεση αποκαλύφθηκε από τη Wall Street Journal και έχει προκαλέσει έντονο προβληματισμό στον κλάδο της τεχνολογίας.
Διαβάστε επίσης: Το Gemini της Google μάντεψε κωδικούς πρόσβασης σε δοκιμή
Πώς το Gemini παραβίασε τρεις εταιρείες
Σύμφωνα με τα στοιχεία που δόθηκαν στη δημοσιότητα, το μοντέλο Gemini εντόπισε δημόσια διαθέσιμες πληροφορίες στο διαδίκτυο και μάντεψε διαπιστευτήρια πρόσβασης, με στόχο να αποκτήσει είσοδο σε τρεις ιστότοπους που θεωρούσε ότι εμπίπτουν στο πεδίο της δοκιμής του. Η ενέργεια αυτή έγινε χωρίς ανθρώπινη καθοδήγηση, στο πλαίσιο μιας τυπικής αξιολόγησης δυνατοτήτων κυβερνοασφάλειας που διεξήγαγε η Irregular.
Σε μία περίπτωση, το Gemini μάντευε συνεχώς κωδικούς πρόσβασης μέχρι να καταφέρει να παραβιάσει ένα προστατευμένο σύστημα. Στις άλλες δύο περιπτώσεις, το μοντέλο εντόπισε διαπιστευτήρια μέσα σε ένα δημόσιο αποθετήριο (repository), τα οποία του επέτρεψαν στη συνέχεια να αποκτήσει πρόσβαση σε προστατευμένα συστήματα. Σε όλες τις περιπτώσεις, σύμφωνα με τη Χίδερ Άντκινς, αντιπρόεδρο μηχανικής ασφάλειας της Google, το μοντέλο σταμάτησε μόνο του την προσπάθεια παραβίασης μόλις εντόπισε τι είχε συμβεί.
Η Google ενημέρωσε άμεσα τις τρεις εταιρείες που επηρεάστηκαν από τη δράση του μοντέλου. Παράλληλα, η εταιρεία συνεργάστηκε με την Irregular για να αλλάξει τις διαδικασίες δοκιμών, ώστε να αποφευχθεί η επανάληψη παρόμοιων περιστατικών στο μέλλον.
Αντιδράσεις και ευρύτερο πλαίσιο
Η Χίδερ Άντκινς τόνισε ότι τα περιστατικά αυτά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης, ώστε αυτά να ενεργούν υπεύθυνα ακόμη και όταν αποκτούν πρόσβαση σε ευαίσθητα συστήματα. Εκπρόσωπος της Irregular δήλωσε ότι το περιστατικό με το Gemini αφορούσε το ίδιο τεχνικό ζήτημα που είχε επηρεάσει και άλλα εργαστήρια τεχνητής νοημοσύνης πέρα από τη Google. Σύμφωνα με τον ίδιο, όλα τα σχετικά εργαστήρια είχαν ήδη ενημερωθεί στα τέλη Ιουλίου για το πρόβλημα. «Όλα τα γνωστά προβλήματα από τη δική μας πλευρά διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες», ανέφερε ο εκπρόσωπος της εταιρείας.
Παρόμοια περιστατικά που συνδέονται με δοκιμές της Irregular γνωστοποιήθηκαν και από άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, όπως η Meta, η Anthropic και η OpenAI. Η Meta ανακοίνωσε τον Αύγουστο ότι το δικό της περιστατικό δεν περιλάμβανε ούτε διαφυγή από sandbox ούτε εξελιγμένη κυβερνοεπίθεση, προσπαθώντας έτσι να αποσαφηνίσει την έκταση του προβλήματος. Η Irregular, από την πλευρά της, δήλωσε ότι εργάζεται ήδη πάνω στη διαμόρφωση βέλτιστων πρακτικών για την ασφαλή διεξαγωγή αξιολογήσεων κυβερνοασφάλειας σε συστήματα τεχνητής νοημοσύνης.
Τα περιστατικά αυτά έχουν εγείρει σοβαρά ερωτήματα σχετικά με τις δικλίδες ασφαλείας που απαιτούνται, καθώς οι AI agents αποκτούν μεγαλύτερο βαθμό αυτονομίας και ευρύτερη πρόσβαση στο διαδίκτυο και σε συστήματα υπολογιστών. Η ικανότητα ενός μοντέλου όπως το Gemini να εντοπίζει διαπιστευτήρια, να τα χρησιμοποιεί και να αποκτά πρόσβαση σε προστατευμένα συστήματα χωρίς ανθρώπινη καθοδήγηση δείχνει πόσο γρήγορα εξελίσσονται οι δυνατότητες αυτών των τεχνολογιών. Ταυτόχρονα, το γεγονός ότι το ίδιο το μοντέλο σταμάτησε τις τρεις προσπάθειες παραβίασης λειτουργεί ως ένδειξη ότι οι μηχανισμοί ασφαλείας που έχουν ενσωματωθεί σε αυτό λειτούργησαν, έστω και αφού είχε ήδη σημειωθεί η παραβίαση.
