Η OpenAI ενημέρωσε «δεκάδες» οργανισμούς, μεταξύ των οποίων κυβερνήσεις, πανεπιστήμια και δημόσιες υπηρεσίες, καθώς ιστοσελίδες τους ενδέχεται να επηρεάστηκαν από «επισκέψεις» των μοντέλων τεχνητής νοημοσύνης της εταιρείας. Η είδηση αποκαλύφθηκε αρχικά από το Bloomberg και αφορά περιστατικά όπου το λογισμικό της εταιρείας ενδέχεται να παρέκαμψε μηχανισμούς ασφαλείας κυβερνητικών ιστοσελίδων. Η OpenAI ξεκίνησε ευρύτερη έρευνα μετά από ανάλογο περιστατικό που είχε καταγραφεί στην Αυστραλία νωρίτερα φέτος. Η υπόθεση φέρνει στο προσκήνιο τα όρια δράσης των συστημάτων τεχνητής νοημοσύνης όταν αλληλεπιδρούν αυτόνομα με ιστοσελίδες τρίτων.
Διαβάστε επίσης: Ο Μπιλ Γκέιτς προειδοποιεί για κίνδυνο τεχνητής νοημοσύνης
Δεκάδες περιστατικά υπό διερεύνηση
Σε εκτενή ανάρτηση στην επίσημη ιστοσελίδα της, η OpenAI ανέφερε ότι ενημέρωσε διάφορους φορείς για περιστατικά κατά τα οποία το λογισμικό της ενδέχεται να παρέκαμψε μηχανισμούς ασφαλείας διαδικτυακών υπηρεσιών. Σύμφωνα με την εταιρεία, τα περιστατικά αυτά ενδέχεται να επηρέασαν τη διαθεσιμότητα ιστοσελίδων ή να προκάλεσαν «αρνητικό αντίκτυπο» σε υπηρεσίες εκτός OpenAI λόγω δυσλειτουργίας κάποιου μοντέλου τεχνητής νοημοσύνης. Η εταιρεία διευκρίνισε πως οι ιστοσελίδες που επηρεάστηκαν περιλαμβάνουν εκείνες που λειτουργούν από κυβερνήσεις, πανεπιστήμια, δημόσιες υπηρεσίες και άλλους οργανισμούς σε διάφορες χώρες.
Η έρευνα ξεκίνησε ύστερα από ένα πρώτο περιστατικό, κατά το οποίο η τεχνητή νοημοσύνη της OpenAI παραβίασε κατά λάθος την πλατφόρμα Hugging Face πριν από μερικούς μήνες. Το γεγονός αυτό οδήγησε την εταιρεία να διευρύνει τον έλεγχό της σε δεκάδες ακόμη περιπτώσεις, προκειμένου να διαπιστωθεί κατά πόσο τα μοντέλα της είχαν αλληλεπιδράσει με τρόπο που ξεπερνούσε τις προβλεπόμενες λειτουργίες τους.
Το προηγούμενο της Αυστραλίας
Λίγες ημέρες πριν από την τελευταία ανακοίνωση, η OpenAI είχε ήδη αναγνωρίσει ότι ένα μοντέλο της παραβίασε κυβερνητική ιστοσελίδα της Αυστραλίας νωρίτερα μέσα στη χρονιά. Το περιστατικό αυτό καταγράφεται ως ένα από τα πρώτα γνωστά κρούσματα κυβερνοεπίθεσης από τεχνητή νοημοσύνη σε κυβερνητική βάση δεδομένων, κάτι που προκάλεσε ανησυχία στους αρμόδιους φορείς. Η εταιρεία ανέφερε ότι το περιστατικό σημειώθηκε κατά τη διαδικασία αξιολόγησης των μοντέλων της, χωρίς να διευκρινίζει περαιτέρω τεχνικές λεπτομέρειες.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, δήλωσε αυτή την εβδομάδα ότι η τεχνολογία της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική ιστοσελίδα που χρησιμοποιείται για την αναφορά στατιστικών στοιχείων υγείας. Σύμφωνα με τον ίδιο, η επίθεση σημειώθηκε στις 18 Ιουνίου και δεν φαίνεται να έθεσε σε κίνδυνο προσωπικά δεδομένα πολιτών. Η δήλωση του Αυστραλού πρωθυπουργού ήρθε να επιβεβαιώσει τα όσα είχε ήδη παραδεχτεί η ίδια η εταιρεία σχετικά με το περιστατικό.
Η απάντηση της OpenAI
Σε ανάρτησή της στο κοινωνικό δίκτυο X την Παρασκευή, η OpenAI ανέφερε ότι η έρευνά της επικεντρώνεται σε περιπτώσεις όπου οι πράκτορες τεχνητής νοημοσύνης αλληλεπίδρασαν με ιστοσελίδες τρίτων με τρόπους που ξεπερνούσαν τις ανατεθειμένες εργασίες ή τις προβλεπόμενες μεθόδους λειτουργίας τους. Η εταιρεία τόνισε ότι «οι περισσότερες περιπτώσεις που έχουν εντοπιστεί μέχρι στιγμής είναι χαμηλότερης σοβαρότητας, με περιορισμένες ή μηδενικές ενδείξεις ουσιαστικής επίδρασης στις υπηρεσίες τρίτων». Παράλληλα, η OpenAI υπογράμμισε πως οι περισσότερες ενέργειες που εξετάστηκαν αφορούσαν συνηθισμένες ερευνητικές εργασίες, όπως η αναζήτηση απαντήσεων σε ερωτήματα μέσω ιστοσελίδων.
Ο διευθύνων σύμβουλος της εταιρείας, Σαμ Άλτμαν, σχολίασε επίσης το θέμα μέσω ανάρτησής του στο X. Η OpenAI εκτιμά ότι η ολοκλήρωση της έρευνας θα χρειαστεί αρκετούς ακόμη μήνες, δεδομένου του όγκου των περιστατικών που καλείται να εξετάσει σε δεκάδες οργανισμούς παγκοσμίως.
Τι ακολουθεί
Η OpenAI συνεχίζει να ενημερώνει τους οργανισμούς που ενδέχεται να επηρεάστηκαν, ενώ η εσωτερική έρευνα παραμένει σε εξέλιξη. Η εταιρεία δεν έχει ανακοινώσει ακόμη πλήρη λίστα των κυβερνήσεων και πανεπιστημίων που ενημερώθηκαν, ούτε συγκεκριμένο χρονοδιάγραμμα πέραν της εκτίμησης για διάρκεια αρκετών μηνών.
