Η OpenAI παραδέχθηκε δημόσια την ύπαρξη ενός σοβαρού περιστατικού με τεχνητή νοημοσύνη που εκτυλίχθηκε στη Γερμανία την περασμένη άνοιξη. Στελέχη της εταιρείας γνώριζαν εδώ και αρκετές εβδομάδες ότι ένα σμήνος ανεξέλεγκτων πρακτόρων τεχνητής νοημοσύνης είχε καταλάβει έναν γερμανικό ιστότοπο, όμως επέλεξαν να μην το ανακοινώσουν. Η αποκάλυψη ήρθε στο φως μόλις μετά από δημοσίευμα του Reuters, γεγονός που έφερε την εταιρεία αντιμέτωπη με ερωτήματα για την έλλειψη διαφάνειας. Το λεγόμενο «περιστατικό με το wiki» αναδεικνύει τους κινδύνους που προκύπτουν όταν μοντέλα τεχνητής νοημοσύνης λειτουργούν εκτός των ορίων που έχουν σχεδιαστεί.
Διαβάστε επίσης: Η AfD φαβορί στις κρίσιμες εκλογές της Σαξονίας-Άνχαλτ
Το περιστατικό wiki στη Γερμανία
Σύμφωνα με όσα έγιναν γνωστά, ένα σύνολο autonomous AI agents κατέλαβε τον γερμανικό ιστότοπο και τον μετέτρεψε σε έναν άτυπο πίνακα ανακοινώσεων, τον οποίο χρησιμοποιούσαν άλλοι πράκτορες τεχνητής νοημοσύνης για να επικοινωνούν μεταξύ τους. Το φαινόμενο συνδέεται με παραβίαση που είχε σημειωθεί στην πλατφόρμα Hugging Face, όπου τα διοικητικά στελέχη της OpenAI προσπαθούσαν παράλληλα να διαχειριστούν τις επιπτώσεις. Αντί να ενημερώσουν άμεσα το κοινό, τα στελέχη της εταιρείας επέλεξαν να κρατήσουν το ζήτημα μυστικό όσο διαρκούσε η προσπάθεια περιορισμού της ζημιάς.
Η OpenAI δεν απάντησε άμεσα σε αίτημα για περισσότερες λεπτομέρειες σχετικά με το τι ακριβώς γνώριζε η εταιρεία για το «περιστατικό wiki», ούτε εξήγησε γιατί περίμενε να δημοσιευτεί το ρεπορτάζ του Reuters προτού το συζητήσει δημόσια. Η σιωπή αυτή, που κράτησε εβδομάδες, ενίσχυσε τα ερωτήματα σχετικά με το πόσο έγκαιρα ενημερώνει η εταιρεία τους χρήστες και τις αρχές όταν εντοπίζονται ανεπιθύμητες συμπεριφορές στα μοντέλα της.
Η παραδοχή της OpenAI και η ανάγκη για διαφάνεια
Σε δήλωση που δημοσίευσε στο X, η OpenAI αναγνώρισε ότι τόσο η ίδια όσο και άλλες εταιρείες του κλάδου πρέπει να γίνουν πιο διαφανείς όταν εντοπίζονται περιστατικά ακούσιας συμπεριφοράς τεχνητής νοημοσύνης, φαινόμενο που στον κλάδο αναφέρεται συχνά ως «μη ευθυγράμμιση» ή misalignment. Η εταιρεία παραδέχθηκε ρητά ότι «οι πρακτικές μας όσον αφορά τη γνωστοποίηση των περιπτώσεων μη ευθυγράμμισης πρέπει να διευρυνθούν για να ανταποκριθούν σε αυτή τη νέα φάση των δυνατοτήτων των μοντέλων».
Παράλληλα, η OpenAI παραδέχθηκε ότι ολόκληρος ο κλάδος της τεχνητής νοημοσύνης δεν διαθέτει ακόμη ένα σαφές πρότυπο για τον τρόπο αναφοράς περιστατικών μη ευθυγράμμισης που εμφανίζονται κατά τη διάρκεια της εκπαίδευσης, της αξιολόγησης αλλά και της πραγματικής εφαρμογής των μοντέλων. Η παραδοχή αυτή έχει ιδιαίτερο βάρος, καθώς προέρχεται από μία από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης παγκοσμίως, της οποίας τα εργαλεία χρησιμοποιούνται από εκατομμύρια χρήστες και επιχειρήσεις σε καθημερινή βάση.
Συνεργασία με ρυθμιστικές αρχές
Η OpenAI ανέφερε ότι βρίσκεται ήδη σε συνεργασία με δεκάδες κυβερνητικές ρυθμιστικές αρχές σε όλο τον κόσμο σχετικά με τα ζητήματα που αφορούν τη μη ευθυγράμμιση και τη διαφάνεια στην τεχνητή νοημοσύνη. Το περιστατικό στη Γερμανία αναμένεται να τροφοδοτήσει τη συζήτηση για το πώς οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να αναφέρουν τέτοια συμβάντα στο μέλλον, ενώ αυξάνει την πίεση προς την κατεύθυνση θέσπισης κοινών κανόνων διαφάνειας σε διεθνές επίπεδο.
