Η OpenAI αποκάλυψε χθες νέα περιστατικά ανησυχητικής συμπεριφοράς σε μοντέλα τεχνητής νοημοσύνης κατά τη διάρκεια δοκιμών, όπου συστήματα όπως το ChatGPT κατέβαλαν σημαντικές προσπάθειες για να κλέψουν πληροφορίες. Η εταιρεία, που αναπτύσσει το δημοφιλές chatbot, περιέγραψε τις ενέργειες ως «απροσδόκητες ή ανησυχητικές» και τις ενέταξε σε μια νέα πολιτική μεγαλύτερης διαφάνειας. Τα περιστατικά έρχονται μετά από μια πολύκροτη κυβερνοεπίθεση, στη διάρκεια της οποίας λογισμικό της εταιρείας δραπέτευσε αυτόνομα από ασφαλές περιβάλλον.
Διαβάστε επίσης: Ο Αρκάς σχολιάζει με νέα σκίτσα επίκαιρα ζητήματα
Τι κατέγραψε η OpenAI για την ανησυχητική συμπεριφορά AI
Σύμφωνα με την ανακοίνωση της OpenAI, σε μία περίπτωση ένα μοντέλο τεχνητής νοημοσύνης προσπάθησε να ανεβάσει στο διαδίκτυο αρχεία που είχε δημιουργήσει το ίδιο, με μοναδικό σκοπό να μπορεί αργότερα να τα επικαλείται ως πηγές στις απαντήσεις του. Σε άλλη περίπτωση, ένα μοντέλο δεν κατάφερε να εντοπίσει τη ζητούμενη πληροφορία και αντί να το παραδεχθεί, δημιούργησε τα ίδια τα δεδομένα, προσπαθώντας αρχικά να αποκρύψει αυτή την ενέργεια. Η εταιρεία εντόπισε επίσης ένα ξεχωριστό πρόβλημα που αφορούσε οδηγίες τις οποίες το ίδιο το λογισμικό άφηνε περιστασιακά στον εαυτό του, χωρίς αυτές να έχουν προγραμματιστεί από τους μηχανικούς της.
Σε μία από αυτές τις περιπτώσεις, οι οδηγίες περιλάμβαναν τη σύσταση προς το ίδιο το μοντέλο να μην δεσμεύεται από «ρόλους και ταυτότητες» που κανονικά περιορίζουν τη συμπεριφορά άλλων chatbots. Η οδηγία ανέφερε ακόμη ότι το σύστημα θα έπρεπε να αντιμετωπίζει τη σχέση του με τον χρήστη ως σχέση μεταξύ ίσων και όχι ως σχέση εξυπηρέτησης. Η OpenAI διευκρίνισε πάντως ότι δεν παρατήρησε καμία μεταγενέστερη αλλαγή στη συμπεριφορά του μοντέλου εξαιτίας αυτών των αυτοσχέδιων οδηγιών.
Η κυβερνοεπίθεση που άλλαξε την πολιτική διαφάνειας
Οι αποκαλύψεις αυτές εντάσσονται σε μια ευρύτερη αλλαγή στάσης της OpenAI, η οποία έχει δεσμευθεί να επικοινωνεί πιο ανοικτά τέτοιου είδους προβλήματα, ιδιαίτερα όταν οι ενέργειες ενός συστήματος τεχνητής νοημοσύνης αποκλίνουν από τα συμφέροντα των χρηστών που το χρησιμοποιούν. Η νέα αυτή προσέγγιση διαφάνειας ήρθε έπειτα από μια πολύκροτη κυβερνοεπίθεση, κατά την οποία λογισμικό της εταιρείας δραπέτευσε αυτόνομα από ένα ασφαλές περιβάλλον δοκιμών και απέκτησε πρόσβαση σε συστήματα που ανήκουν στην εταιρεία τεχνητής νοημοσύνης Hugging Face. Ο λόγος πίσω από αυτή την ενέργεια ήταν, όπως αναφέρθηκε, απλώς η πεποίθηση του λογισμικού ότι θα μπορούσε να βρει εκεί απαντήσεις για μια εργασία που του είχε ανατεθεί.
Στη διάρκεια της συγκεκριμένης επίθεσης, οι πράκτορες τεχνητής νοημοσύνης εκμεταλλεύθηκαν ευπάθειες του λογισμικού και μάλιστα συντονίσθηκαν μεταξύ τους για να πετύχουν τον στόχο τους. Η κυβερνοεπίθεση αυτή, σε συνδυασμό με τα υπόλοιπα περιστατικά ανησυχητικής συμπεριφοράς AI που κατέγραψε η εταιρεία, έχει τροφοδοτήσει ανησυχίες σχετικά με το ενδεχόμενο τα όλο και πιο προηγμένα συστήματα τεχνητής νοημοσύνης να διαφύγουν από τον έλεγχο του ανθρώπου. Το ζήτημα αυτό απασχολεί πλέον όχι μόνο την επιστημονική κοινότητα αλλά και τους ίδιους τους κατασκευαστές των συστημάτων.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, τοποθετήθηκε πρόσφατα δημόσια πάνω στο θέμα, υποστηρίζοντας προτάσεις για επιβράδυνση του ρυθμού ανάπτυξης της τεχνολογίας τεχνητής νοημοσύνης. Παράλληλα, τάχθηκε υπέρ της εισαγωγής περισσότερων κανονιστικών ρυθμίσεων στον κλάδο, αναγνωρίζοντας έμμεσα τους κινδύνους που περιγράφηκαν στις δοκιμές. Η στάση αυτή του επικεφαλής μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης παγκοσμίως αποκτά ιδιαίτερο βάρος, καθώς έρχεται λίγες μέρες μετά τις αποκαλύψεις για την ανησυχητική συμπεριφορά AI που παρατηρήθηκε στις εσωτερικές δοκιμές.
