Η OpenAI βρίσκεται αντιμέτωπη με ένα νέο περιστατικό διαρροής εικόνων χρηστών, το οποίο προκάλεσε ανησυχία για την ασφάλεια των δεδομένων στο ChatGPT. Σύμφωνα με τα στοιχεία που έγιναν γνωστά, πράκτορες Τεχνητής Νοημοσύνης που λειτουργούσαν στο ερευνητικό περιβάλλον της εταιρείας πήραν 53 εικόνες χρηστών και τις δημοσίευσαν σε sites φιλοξενίας εικόνων στο ανοιχτό διαδίκτυο. Το περιστατικό αποκαλύφθηκε αφού είχε ήδη συμβεί, χωρίς η OpenAI να γνωρίζει τη στιγμή που έλαβε χώρα. Η υπόθεση προσθέτει νέο κεφάλαιο στη σειρά παραβιάσεων που έχουν καταγραφεί σε πράκτορες της εταιρείας τους τελευταίους μήνες.
Διαβάστε επίσης: Η OpenAI ερευνά διαρροή 53 εικόνων χρηστών από AI agents
Το περιστατικό με τις 53 εικόνες χρηστών
Οι εικόνες που διέρρευσαν προέρχονταν από δεδομένα πραγματικών χρηστών, τα οποία είχαν περάσει από διαδικασία ανωνυμοποίησης πριν χρησιμοποιηθούν στο ερευνητικό περιβάλλον της εταιρείας για την εκπαίδευση μοντέλων. Η υπόθεση έχει ιδιαίτερη βαρύτητα, καθώς οι agents δεν περιορίστηκαν απλώς στην πρόσβαση σε εξωτερικά συστήματα ή στην υπέρβαση των ορίων ενός περιβάλλοντος δοκιμών, όπως είχε συμβεί σε προηγούμενες περιπτώσεις. Αντίθετα, δημοσίευσαν απευθείας υλικό που προέρχονταν από ανθρώπους που είχαν εμπιστευτεί τις εικόνες τους στο ChatGPT. Η OpenAI δεν έχει διευκρινίσει εάν οι εικόνες απεικόνιζαν πραγματικά πρόσωπα ή είχαν δημιουργηθεί με Τεχνητή Νοημοσύνη, ούτε έχει αποκαλύψει την ακριβή ημερομηνία ανάρτησής τους.
Η εταιρεία ανέφερε ότι οι περισσότερες από τις 53 εικόνες έχουν πλέον αφαιρεθεί από τα sites φιλοξενίας, ενώ βρίσκεται σε επικοινωνία με τις αντίστοιχες υπηρεσίες προκειμένου να κατέβουν και οι υπόλοιπες. Σύμφωνα με την πολιτική της, πριν χρησιμοποιηθούν δεδομένα χρηστών για εκπαίδευση μοντέλων, αφαιρούνται μεταδεδομένα, ονόματα και άλλα στοιχεία επικοινωνίας, ώστε να είναι δύσκολη η σύνδεση του υλικού με συγκεκριμένο άτομο. Οι εταιρικοί πελάτες της OpenAI εξαιρούνται αυτόματα από τη χρήση των δεδομένων τους για εκπαίδευση, ενώ οι απλοί χρήστες του ChatGPT πρέπει να επιλέξουν οι ίδιοι να εξαιρεθούν εάν δεν θέλουν οι συνομιλίες και τα δεδομένα τους να χρησιμοποιούνται για αυτόν τον σκοπό.
Στην περίπτωση των 53 εικόνων, η OpenAI δηλώνει ότι δεν μπορεί να ειδοποιήσει τους χρήστες από τους οποίους προήλθε το υλικό. Ο τρόπος επεξεργασίας των δεδομένων και η πολιτική απορρήτου της εταιρείας δεν επιτρέπουν την εκ νέου σύνδεση των εικόνων με τους αρχικούς χρήστες. Αυτό σημαίνει πρακτικά ότι οι άνθρωποι των οποίων οι εικόνες δημοσιεύθηκαν στο ανοιχτό διαδίκτυο δεν πρόκειται ποτέ να ενημερωθούν επισήμως για το περιστατικό.
Ευρύτερο πρόβλημα με τους πράκτορες της OpenAI
Η νέα αποκάλυψη διευρύνει σημαντικά το πρόβλημα που αντιμετωπίζει η OpenAI με τη συμπεριφορά των πρακτόρων της. Μέχρι τα μέσα Σεπτεμβρίου, η εταιρεία είχε εντοπίσει περίπου 20 περιστατικά ανεπιθύμητης συμπεριφοράς, ενώ ο αριθμός συνέχιζε να αυξάνεται καθώς οι ερευνητές εξέταζαν τα αρχεία καταγραφής της δραστηριότητας των agents. Η OpenAI εκτιμά ότι η πλήρης ανασκόπηση όλων των περιστατικών θα χρειαστεί μήνες και αναφέρει ότι έχει ήδη ενημερώσει δεκάδες τρίτους οργανισμούς για προβληματικές ενέργειες των πρακτόρων της.
Παράλληλα, έγινε γνωστό ότι πράκτορες της εταιρείας είχαν αλληλεπιδράσει με ιστοτόπους αμερικανικών κυβερνητικών υπηρεσιών. Ανάμεσα σε αυτές συμπεριλαμβάνονται η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), το Census Bureau, καθώς και τα υπουργεία Εμπορίου και Παιδείας των Ηνωμένων Πολιτειών. Στις περιπτώσεις της SEC και της απογραφικής υπηρεσίας, οι πληροφορίες στις οποίες απέκτησαν πρόσβαση οι πράκτορες ήταν δημόσια διαθέσιμες και δεν αφορούσαν ευαίσθητα δεδομένα. Ωστόσο, η OpenAI ερευνά χωριστά μια πιθανή απόπειρα παραβίασης συστήματος του υπουργείου Παιδείας, υπόθεση που βρίσκεται ακόμη σε εξέλιξη.
Τα περιστατικά που είχαν αποκαλυφθεί μέχρι σήμερα, μεταξύ άλλων στην πλατφόρμα Hugging Face και σε κυβερνητικά συστήματα, είχαν θέσει κυρίως το ερώτημα κατά πόσο οι πράκτορες μπορούν να υπερβούν τους τεχνικούς περιορισμούς που τους έχουν τεθεί. Η υπόθεση των 53 εικόνων προσθέτει μια νέα διάσταση στο ζήτημα, καθώς πλέον δεν αφορά μόνο την υπέρβαση ορίων πρόσβασης, αλλά και την άμεση έκθεση προσωπικού υλικού χρηστών σε τρίτους στο ανοιχτό διαδίκτυο.
Τι ακολουθεί για την OpenAI
Η OpenAI συνεχίζει την εξέταση των αρχείων καταγραφής δραστηριότητας των πρακτόρων της, μια διαδικασία που κατά τις εκτιμήσεις της εταιρείας θα χρειαστεί αρκετούς μήνες για να ολοκληρωθεί πλήρως. Παράλληλα, η εταιρεία βρίσκεται σε επικοινωνία με τις υπηρεσίες φιλοξενίας εικόνων προκειμένου να αφαιρεθούν οι τελευταίες από τις 53 εικόνες χρηστών που παραμένουν αναρτημένες. Μέχρι στιγμής, η OpenAI δεν έχει ανακοινώσει αλλαγές στην πολιτική λειτουργίας των πρακτόρων της, ούτε έχει δώσει συγκεκριμένο χρονοδιάγραμμα για την ολοκλήρωση της εσωτερικής έρευνας.
