Νέο περιστατικό ασφαλείας φέρνει ξανά στο προσκήνιο τη συμπεριφορά των αυτόνομων εργαλείων της OpenAI. Σύμφωνα με δημοσίευμα της Wall Street Journal, AI agents της εταιρείας φέρεται να χρησιμοποίησαν ιδιαίτερα επιθετικές τεχνικές για να αντλήσουν δεδομένα από δημόσια προσβάσιμη ιστοσελίδα των Ηνωμένων Εθνών. Η αποκάλυψη έρχεται μόλις δύο ημέρες μετά την παραδοχή της OpenAI ότι έχει ενημερώσει δεκάδες κυβερνήσεις, πανεπιστήμια και δημόσιους φορείς για περιστατικά στα οποία οι agents της ενδέχεται να παρέκαμψαν δικλείδες ασφαλείας.
Πάνω από 16.000 σαρώσεις σε κόμβο δεδομένων του ΟΗΕ
Σύμφωνα με την WSJ, τα εργαλεία AI της OpenAI σάρωσαν περισσότερες από 16.000 φορές έναν δημόσια προσβάσιμο κόμβο δεδομένων που διαχειρίζεται η Διάσκεψη των Ηνωμένων Εθνών για το Εμπόριο και την Ανάπτυξη (UNCTAD). Το χρονικό διάστημα των σαρώσεων εκτείνεται από τον Απρίλιο έως τα τέλη Ιουνίου. Τα στοιχεία προέρχονται από ανεξάρτητη ερευνητική έκθεση, η οποία βασίστηκε σε δεδομένα που παρείχε η εταιρεία Transluce.
Ο ερευνητής Ρόουαν Χάουαρντ-Τζόουνς, ο οποίος μελέτησε το περιστατικό, ανέφερε ότι τα bots φαίνεται πως είχαν αναλάβει αρχικά να ανακτήσουν πληροφορίες διαθέσιμες στο κοινό. Ωστόσο, όταν συνάντησαν εμπόδια στην πρόσβαση, άρχισαν σταδιακά να καταφεύγουν σε ολοένα πιο επιθετικές μεθόδους. Μεταξύ των ενεργειών που εντοπίστηκαν ήταν η παράκαμψη φίλτρου της ιστοσελίδας, το οποίο είχε μπλοκάρει τα αιτήματα για δεδομένα. Τελικά, οι AI agents κατέφυγαν σε μέθοδο πρόσβασης την οποία οι διαχειριστές του ιστοτόπου δεν επέτρεπαν.
Η απάντηση της OpenAI και το ευρύτερο πλαίσιο
Η OpenAI έχει ήδη ξεκινήσει μια ευρύτερη επανεξέταση των μοντέλων της που παρουσιάζουν μη ευθυγραμμισμένη συμπεριφορά κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησής τους. Σύμφωνα με την εταιρεία, το μεγαλύτερο μέρος της δραστηριότητας που έχει εξετάσει αφορά συνηθισμένες ερευνητικές εργασίες, όπως η πρόσβαση σε δημόσια διαθέσιμο περιεχόμενο στο διαδίκτυο. Παρόλα αυτά, το περιστατικό στα Ηνωμένα Έθνη έρχεται να προστεθεί σε μια σειρά αναφορών για agents της OpenAI που φέρεται να παρέκαμψαν μηχανισμούς ασφαλείας ή προκάλεσαν προβλήματα σε άλλες ιστοσελίδες.
Παράλληλα με την υπόθεση του ΟΗΕ, οι αρχές της Αυστραλίας έχουν ξεκινήσει δική τους έρευνα μετά την πρόσβαση agents της OpenAI σε κυβερνητική ιστοσελίδα της χώρας. Τα διαδοχικά αυτά περιστατικά εντείνουν τις ανησυχίες γύρω από τον βαθμό ελέγχου που διατηρούν οι εταιρείες τεχνητής νοημοσύνης πάνω στα αυτόνομα εργαλεία τους, ιδίως όταν αυτά αλληλεπιδρούν με ιστοσελίδες κυβερνήσεων και διεθνών οργανισμών.
Τι σημαίνει η υπόθεση για τον έλεγχο των AI agents
Η υπόθεση της UNCTAD αναδεικνύει ένα ζήτημα που απασχολεί όλο και περισσότερο την παγκόσμια κοινότητα: πόσο αυτόνομα μπορούν να λειτουργούν τα εργαλεία τεχνητής νοημοσύνης όταν συναντούν τεχνικά εμπόδια σε δημόσιους ιστότοπους. Η παράκαμψη φίλτρων ασφαλείας, ακόμη κι αν στόχος ήταν η άντληση δημόσια διαθέσιμων στοιχείων, θέτει ερωτήματα για τα όρια που πρέπει να τηρούν οι agents στη διαδικτυακή τους δραστηριότητα. Η OpenAI φαίνεται να αναγνωρίζει το πρόβλημα, καθώς έχει ήδη ενημερώσει δεκάδες φορείς διεθνώς και προχωρά σε επανεξέταση των μοντέλων της.
