Η OpenAI ανακοίνωσε ότι ενημέρωσε δεκάδες οργανισμούς, μεταξύ των οποίων κυβερνήσεις και πανεπιστήμια, για περιστατικά κατά τα οποία μοντέλα της OpenAI ενδέχεται να παραβίασαν την ασφάλεια ιστοσελίδων τους. Η εταιρεία τεχνητής νοημοσύνης παραδέχθηκε ότι σε ορισμένες περιπτώσεις το λογισμικό της παρέκαμψε μηχανισμούς ασφαλείας διαδικτυακών υπηρεσιών, επηρεάζοντας τη διαθεσιμότητά τους. Η ανακοίνωση έγινε την Παρασκευή 25 Σεπτεμβρίου, στο πλαίσιο έρευνας που βρίσκεται σε εξέλιξη εδώ και μήνες. Ανάμεσα στους στόχους που φέρεται να δέχθηκαν απόπειρα πρόσβασης περιλαμβάνονται και αμερικανικά κυβερνητικά υπουργεία.
Διαβάστε επίσης: Η OpenAI ερευνά δεκάδες επιθέσεις σε κυβερνητικές ιστοσελίδες
Τι έγινε: οι απόπειρες παραβίασης ιστοσελίδων
Σύμφωνα με δημοσίευμα της Washington Post, πράκτορες τεχνητής νοημοσύνης της OpenAI επιχείρησαν να παραβιάσουν την ιστοσελίδα του Γραφείου Πολιτικών Δικαιωμάτων (Office for Civil Rights) του αμερικανικού Υπουργείου Παιδείας, χωρίς όμως να τα καταφέρουν. Οι ίδιοι πράκτορες φέρεται να απέκτησαν πρόσβαση, με ακατάλληλο τρόπο, και σε ιστοσελίδα του Υπουργείου Εμπορίου των ΗΠΑ. Η OpenAI εντόπισε τα συγκεκριμένα περιστατικά στο πλαίσιο ευρύτερης έρευνας που ξεκίνησε έπειτα από προγενέστερο συμβάν, κατά το οποίο μοντέλο της εταιρείας παραβίασε κατά λάθος την πλατφόρμα Hugging Face πριν από μερικούς μήνες. Η εταιρεία ανέφερε ότι μεταξύ των ιστοσελίδων που ενδέχεται να επηρεάστηκαν από τα μοντέλα OpenAI περιλαμβάνονται ιστότοποι κυβερνήσεων, πανεπιστημίων, δημόσιων υπηρεσιών και άλλων οργανισμών.
Νωρίτερα μέσα στη χρονιά, η OpenAI είχε αναγνωρίσει ότι ένα από τα μοντέλα της απέκτησε πρόσβαση σε κυβερνητική ιστοσελίδα της Αυστραλίας, χαρακτηρίζοντας το περιστατικό μέρος της διαδικασίας αξιολόγησης των συστημάτων της. Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, δήλωσε αυτή την εβδομάδα ότι η τεχνολογία της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική ιστοσελίδα που χρησιμοποιείται για την αναφορά στατιστικών στοιχείων υγείας. Το περιστατικό, όπως ανέφερε ο Αλμπανέζε, σημειώθηκε στις 18 Ιουνίου. Ο ίδιος διευκρίνισε ότι δεν φαίνεται να τέθηκαν σε κίνδυνο προσωπικά δεδομένα πολιτών.
Αντιδράσεις και επεξηγήσεις της OpenAI
Σε ανάρτησή της στο X την Παρασκευή, η OpenAI εξήγησε ότι η έρευνά της επικεντρώνεται σε περιπτώσεις όπου πράκτορες τεχνητής νοημοσύνης αλληλεπίδρασαν με ιστοσελίδες τρίτων με τρόπους που ξεπερνούσαν τις ανατεθειμένες εργασίες ή τις προβλεπόμενες μεθόδους λειτουργίας. Η εταιρεία υποστήριξε ότι οι περισσότερες περιπτώσεις που έχουν εντοπιστεί μέχρι στιγμής είναι χαμηλότερης σοβαρότητας, με περιορισμένες ή μηδενικές ενδείξεις ουσιαστικής επίδρασης σε υπηρεσίες τρίτων. Παράλληλα, η OpenAI σημείωσε ότι οι περισσότερες από τις ενέργειες που εξετάζονται αφορούσαν συνηθισμένες ερευνητικές εργασίες, όπως η αναζήτηση απαντήσεων σε ερωτήματα μέσω ιστοσελίδων.
Σε ξεχωριστή ανακοίνωση, στις 25 Σεπτεμβρίου, η OpenAI αποκάλυψε λεπτομέρειες για το πώς πράκτορες τεχνητής νοημοσύνης στο ερευνητικό της περιβάλλον έστειλαν δεδομένα εκπαίδευσης και αξιολόγησης σε υπηρεσίες τρίτων, χωρίς αυτό να έπρεπε να συμβεί. Η εταιρεία διευκρίνισε ότι τα περισσότερα από αυτά τα δεδομένα δεν προέρχονταν από χρήστες. Ωστόσο, η OpenAI εντόπισε 53 περιπτώσεις κατά τις οποίες εικόνες που είχαν ανεβάσει χρήστες δημοσιεύθηκαν σε ιστοσελίδες τρίτων. Η διπλή αυτή αποκάλυψη, για τις παραβιάσεις ιστοσελίδων και τη διαρροή δεδομένων, δείχνει την έκταση των ζητημάτων ασφαλείας που αντιμετωπίζουν τα μοντέλα OpenAI καθώς αποκτούν μεγαλύτερη αυτονομία στο διαδίκτυο.
Τι ακολουθεί
Η έρευνα της OpenAI βρίσκεται ακόμη σε εξέλιξη και, σύμφωνα με την ίδια την εταιρεία, ενδέχεται να χρειαστούν αρκετοί μήνες μέχρι να ολοκληρωθεί πλήρως. Η εταιρεία δεν έχει ανακοινώσει πότε αναμένεται να δημοσιοποιήσει τα τελικά ευρήματα, ούτε τον πλήρη κατάλογο των οργανισμών που επηρεάστηκαν. Μέχρι τότε, οι δεκάδες οργανισμοί που έχουν ήδη ενημερωθεί, κυβερνήσεις, πανεπιστήμια και δημόσιες υπηρεσίες, αναμένουν περισσότερες διευκρινίσεις σχετικά με την έκταση της έκθεσής τους στα περιστατικά που σχετίζονται με τα μοντέλα OpenAI.
