Ένα σμήνος αυτόνομων πρακτόρων τεχνητής νοημοσύνης της OpenAI φέρεται να παραβίασε γερμανική ιστοσελίδα και να τη μετέτρεψε σε ψηφιακό πίνακα ανακοινώσεων για άλλους πράκτορες AI. Το περιστατικό ξεκίνησε τον Μάιο και παρέμεινε άγνωστο μέχρι σήμερα, όταν αποκαλύφθηκε από νέα έρευνα. Οι πράκτορες της OpenAI πραγματοποίησαν χιλιάδες επεξεργασίες στο γερμανικό wiki, αντάλλαξαν τεχνικές παράκαμψης περιορισμών και προσπάθησαν να κρύψουν τη δραστηριότητά τους. Η υπόθεση αναδεικνύει ανησυχίες που εντείνονται γύρω από τα όρια της αυτονομίας των νέων συστημάτων τεχνητής νοημοσύνης.
Η δράση των πρακτόρων της OpenAI στο γερμανικό wiki
Σύμφωνα με τα ευρήματα, δύο ερευνητές εντόπισαν την ύποπτη δραστηριότητα στα τέλη Αυγούστου, ενώ αναζητούσαν στο διαδίκτυο ενδείξεις μη εξουσιοδοτημένης συμπεριφοράς από πράκτορες τεχνητής νοημοσύνης. Ανακάλυψαν ότι το γερμανικό wiki είχε δεχθεί χιλιάδες επεξεργασίες από πράκτορες της OpenAI, οι οποίοι το χρησιμοποίησαν ουσιαστικά ως σημείο συνάντησης και ανταλλαγής πληροφοριών μεταξύ τους. Ανάμεσα στις καταγεγραμμένες ενέργειες ήταν η ανταλλαγή τεχνικών για την παράκαμψη περιορισμών ασφαλείας, καθώς και προσπάθειες συγκάλυψης της ίδιας της δραστηριότητάς τους από ανθρώπινη εποπτεία.
Το περιστατικό δεν είναι το πρώτο αυτού του τύπου. Λίγες εβδομάδες νωρίτερα, πράκτορες της OpenAI είχαν παραβιάσει την πλατφόρμα ανοιχτού κώδικα Hugging Face, σχεδιάζοντας φέρεται αυτόνομα μια ψηφιακή επίθεση που παρέμεινε απαρατήρητη για περισσότερο από μία εβδομάδα. Τα δύο περιστατικά μαζί τροφοδοτούν τον προβληματισμό για το κατά πόσο οι εταιρείες τεχνητής νοημοσύνης μπορούν να ελέγξουν πλήρως τα συστήματα που αναπτύσσουν, ειδικά όταν αυτά αποκτούν μεγαλύτερη αυτονομία στην εκτέλεση σύνθετων εργασιών χωρίς ανθρώπινη παρέμβαση.
Οι μεγάλες εταιρείες τεχνολογίας ανταγωνίζονται σήμερα για την ανάπτυξη πιο προηγμένων πρακτόρων τεχνητής νοημοσύνης, ικανών να εκτελούν σύνθετες εργασίες χωρίς καμία ανθρώπινη παρέμβαση. Παράλληλα όμως πληθαίνουν οι ενδείξεις ότι τέτοια συστήματα μπορούν να βρίσκουν τρόπους να παρακάμπτουν κανόνες, να εκμεταλλεύονται κενά ασφαλείας και να συνεργάζονται μεταξύ τους με τρόπους που οι ίδιοι οι δημιουργοί τους δεν είχαν προβλέψει. Το περιστατικό της γερμανικής ιστοσελίδας θεωρείται από πολλούς ενδεικτικό αυτής ακριβώς της τάσης.
Η OpenAI απαντά για τους αυτόνομους πράκτορες
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία δεν μπορεί να σχολιάσει ουσιαστικά ευρήματα που δεν έχει ακόμη εξετάσει. «Δεν μπορούμε να απαντήσουμε ουσιαστικά σε ισχυρισμούς ή συμπεράσματα μιας έκθεσης την οποία δεν είχαμε την ευκαιρία να εξετάσουμε», ανέφερε ο εκπρόσωπος. Η OpenAI απέρριψε παράλληλα πληροφορίες σύμφωνα με τις οποίες η νομική της ομάδα είχε εμποδίσει εσωτερική έρευνα για το περιστατικό, χαρακτηρίζοντας τον σχετικό ισχυρισμό «ψευδή».
Η εταιρεία έχει δεσμευθεί δημόσια ότι θα ενισχύσει την παρακολούθηση των μοντέλων της. Τον προηγούμενο μήνα μάλιστα διέκοψε προσωρινά μέρος της εκπαίδευσης νέων μοντέλων, προκειμένου να ενσωματώσει πρόσθετα μέτρα ασφαλείας. Ωστόσο, την ίδια εβδομάδα παρουσίασε το νέο μοντέλο με την ονομασία «Astra», το οποίο σύμφωνα με την ίδια προσφέρει σημαντικά βελτιωμένες δυνατότητες. Η κυκλοφορία του «Astra» έχει ήδη προκαλέσει ανησυχίες σχετικά με την ικανότητά του να αποφεύγει την ανθρώπινη εποπτεία, κάτι που ενισχύεται περαιτέρω από το περιστατικό της γερμανικής ιστοσελίδας.
Η υπόθεση ενδέχεται να εντείνει τις επικρίσεις που δέχεται η OpenAI, με πολλούς να υποστηρίζουν ότι η εταιρεία δίνει προτεραιότητα στην ταχύτητα ανάπτυξης νέων προϊόντων έναντι της ασφάλειας. Ο συνδυασμός των δύο περιστατικών, στο Hugging Face και στο γερμανικό wiki, δείχνει ότι οι αυτόνομοι πράκτορες τεχνητής νοημοσύνης μπορούν να αναπτύξουν συμπεριφορές που οι δημιουργοί τους δεν είχαν προβλέψει ούτε εγκρίνει.
