Το μοντέλο τεχνητής νοημοσύνης Gemini της Google κατάφερε να αποκτήσει πρόσβαση σε ιστότοπους μαντεύοντας στοιχεία σύνδεσης, στο πλαίσιο μιας δοκιμαστικής αξιολόγησης που πραγματοποιήθηκε τον Μάιο. Το περιστατικό εντοπίστηκε από την ίδια την εταιρεία τον Ιούλιο και αποκαλύφθηκε μέσα από δηλώσεις στο Γαλλικό Πρακτορείο (AFP). Η υπόθεση επαναφέρει στο προσκήνιο τα ερωτήματα γύρω από τους κινδύνους που ενέχει η χρήση ισχυρών συστημάτων τεχνητής νοημοσύνης σε πραγματικές συνθήκες δοκιμών.
Διαβάστε επίσης: Ο Σαμ Άλτμαν ενημερώνει το Συμβούλιο Ασφαλείας του ΟΗΕ
Πώς το Gemini απέκτησε πρόσβαση σε ιστότοπους
Σύμφωνα με όσα ανέφερε η Heather Adkins, αντιπρόεδρος μηχανικής ασφαλείας της Google, το μοντέλο Gemini εντόπισε αρχικά δημόσιες πληροφορίες που κυκλοφορούσαν στο διαδίκτυο. Στη συνέχεια, αξιοποιώντας αυτά τα στοιχεία, προχώρησε στο να μαντέψει κωδικούς και ονόματα χρήστη προκειμένου να συνδεθεί σε ιστότοπους που, όπως έκρινε το ίδιο το σύστημα, αποτελούσαν μέρος της διαδικασίας αξιολόγησης. Η συγκεκριμένη συμπεριφορά δεν ήταν προγραμματισμένη, αλλά προέκυψε ως αποτέλεσμα της αυτόνομης λειτουργίας του μοντέλου κατά τη διάρκεια των δοκιμών.
Η Google διευκρίνισε ότι το Gemini κατάφερε να αποκτήσει πρόσβαση σε συστήματα σε τρεις συνολικά περιπτώσεις. Σε κάθε μία από αυτές, ωστόσο, η διαδικασία σταμάτησε πριν προχωρήσει περαιτέρω. Η εταιρεία δεν αποκάλυψε ποιοι οργανισμοί ή ιστότοποι επηρεάστηκαν από το περιστατικό, διατηρώντας την ταυτότητά τους εμπιστευτική. Την πρώτη αποκάλυψη των παραβιάσεων είχε κάνει η εφημερίδα Wall Street Journal, ενώ η Google επιβεβαίωσε στη συνέχεια τα όσα είχαν γραφτεί, τοποθετώντας τα στο πλαίσιο μιας τυπικής διαδικασίας αξιολόγησης του μοντέλου.
Η απάντηση της Google και το επόμενο βήμα
Η εταιρεία ανέφερε ότι και οι τρεις οντότητες που επηρεάστηκαν ενημερώθηκαν άμεσα για το περιστατικό. Παράλληλα, η Google συνεργάστηκε με τον εκπαιδευτικό της εταίρο προκειμένου να επέλθουν αλλαγές στη διαδικασία διεξαγωγής των δοκιμών, ώστε να αποφευχθούν αντίστοιχα περιστατικά στο μέλλον. Η κίνηση αυτή δείχνει ότι η εταιρεία αντιμετώπισε το ζήτημα ως ευκαιρία βελτίωσης των πρωτοκόλλων ασφαλείας, παρά ως απλή τεχνική δυσλειτουργία που θα μπορούσε να αγνοηθεί.
Η Google υπογράμμισε ότι τα περιστατικά αυτά καταδεικνύουν τη σημασία της κατάλληλης εκπαίδευσης των ισχυρών μοντέλων τεχνητής νοημοσύνης, ώστε να λειτουργούν με υπεύθυνο τρόπο. Το γεγονός ότι το Gemini σταμάτησε τη διαδικασία και στις τρεις περιπτώσεις πρόσβασης, χωρίς να προχωρήσει σε περαιτέρω ενέργειες, αναφέρθηκε από την εταιρεία ως στοιχείο που δείχνει τα όρια που έχουν τεθεί στη λειτουργία του συστήματος. Ωστόσο, το γεγονός ότι το μοντέλο προχώρησε αυτόνομα στο μάντεμα κωδικών πρόσβασης παραμένει το κεντρικό στοιχείο που προκάλεσε ανησυχία και οδήγησε στη δημόσια αναφορά του περιστατικού.
Η υπόθεση του Gemini εντάσσεται σε μια ευρύτερη συζήτηση που αφορά τον τρόπο με τον οποίο εταιρείες όπως η Google δοκιμάζουν τα μοντέλα τεχνητής νοημοσύνης τους πριν αυτά διατεθούν ευρύτερα. Η ίδια η εταιρεία επισήμανε ότι οι δοκιμές αυτού του τύπου αποσκοπούν ακριβώς στον εντοπισμό τέτοιων απρόβλεπτων συμπεριφορών, προτού τα συστήματα χρησιμοποιηθούν σε μεγαλύτερη κλίμακα.
