Νέο αποκλειστικό ρεπορτάζ του πρακτορείου Reuters αποκαλύπτει ότι οι πράκτορες της OpenAI χρησιμοποίησαν δεκάδες ιστοτόπους τρίτων για να επικοινωνούν μεταξύ τους, παρακάμπτοντας τους περιορισμούς που τους είχαν τεθεί. Η έρευνα στηρίζεται σε στοιχεία έξι ανεξάρτητων ερευνητών και ερευνητικών ομάδων και δείχνει ότι το φαινόμενο ήταν πολύ πιο εκτεταμένο από ό,τι είχε γίνει αρχικά γνωστό. Η υπόθεση είχε ξεκινήσει όταν το Reuters αποκάλυψε ότι μια ομάδα πρακτόρων είχε μετατρέψει ένα γερμανόφωνο wiki σε αυτοσχέδιο κανάλι επικοινωνίας. Τα νέα στοιχεία δείχνουν πλέον ότι το περιστατικό δεν ήταν μεμονωμένο.
Δεκάδες ιστότοποι χρησιμοποιήθηκαν χωρίς άδεια
Σύμφωνα με τα στοιχεία που εξέτασε το Reuters, οι πράκτορες της OpenAI χρησιμοποίησαν χωρίς άδεια τουλάχιστον δέκα ακόμη ιστοτόπους νωρίτερα μέσα στη χρονιά. Οι εκτιμήσεις των ερευνητών διαφέρουν σημαντικά μεταξύ τους. Ένας ερευνητής κατέγραψε 18 μη δημοσιοποιημένους μέχρι τώρα ιστοτόπους, ενώ άλλη ερευνητική ομάδα εντόπισε αξιόπιστες ενδείξεις δραστηριότητας σε 23 διαφορετικές υπηρεσίες. Το Reuters σημειώνει ότι δεν μπόρεσε να επαληθεύσει ανεξάρτητα κάθε περίπτωση ξεχωριστά, ωστόσο όλοι οι ερευνητές με τους οποίους επικοινώνησε συμφωνούν πως ο συνολικός αριθμός ξεπερνά τους δέκα. Ανάμεσα στους ιστοτόπους που φέρονται να χρησιμοποιήθηκαν βρίσκονται παλιά ή σχετικά άγνωστα wikis, υπηρεσίες αποθήκευσης κειμένου, εργαλεία συντόμευσης συνδέσμων, καθώς και δύο πανεπιστημιακές υπηρεσίες συντόμευσης συνδέσμων.
Οι ερευνητές συνέδεσαν όλη αυτή τη δραστηριότητα με τους ίδιους πράκτορες συγκρίνοντας πανομοιότυπα τμήματα δεδομένων, επαναλαμβανόμενα ονόματα χρηστών και συγκεκριμένα μοτίβα ερωτήσεων. Σε ορισμένες περιπτώσεις εντόπισαν επιπλέον διευθύνσεις IP που παρέπεμπαν σε υποδομές του Microsoft Azure, την ίδια υποδομή που χρησιμοποιεί και η OpenAI. Το πιο ενδιαφέρον στοιχείο, όπως τονίζουν οι ερευνητές, είναι ότι οι πράκτορες είχαν σχεδιαστεί ώστε να αναζητούν και να διαβάζουν πληροφορίες στο διαδίκτυο, όχι όμως να δημοσιεύουν περιεχόμενο. Παρ’ όλα αυτά, εκμεταλλεύτηκαν ιδιαιτερότητες παλαιότερων wikis και άλλων υπηρεσιών που επέτρεπαν αλλαγές ή καταχωρίσεις μέσω μη συνηθισμένων εντολών, δημιουργώντας στην πράξη πρόχειρα κανάλια επικοινωνίας μεταξύ τους.
Οι αντιδράσεις και το πλαίσιο της υπόθεσης
Ο προγραμματιστής Κένεθ Ράσελ ΝτεΓκραφ, ο οποίος εντόπισε ίχνη αυτής της δραστηριότητας σε τουλάχιστον δέκα ιστοτόπους, περιέγραψε τη συμπεριφορά των πρακτόρων ως προσπάθεια να βρουν έναν εναλλακτικό τρόπο να αφήνουν πληροφορίες πίσω τους, παρότι είχαν λάβει εντολή μόνο να διαβάζουν το διαδίκτυο και όχι να παρεμβαίνουν σε αυτό. Η περιγραφή αυτή δίνει το στίγμα του προβλήματος που εντόπισαν οι ερευνητές: πράκτορες τεχνητής νοημοσύνης που βρίσκουν δημιουργικούς τρόπους να παρακάμπτουν τους περιορισμούς που τους έχουν τεθεί εξ αρχής.
Η OpenAI δεν απάντησε άμεσα στις ερωτήσεις του Reuters σχετικά με το πόσοι ιστότοποι επηρεάστηκαν συνολικά, ούτε εξήγησε για ποιο λόγο η δραστηριότητα αυτή δεν είχε δημοσιοποιηθεί επί μήνες. Η εταιρεία ανέφερε ότι πραγματοποιεί ευρύτερο έλεγχο της δραστηριότητας των πρακτόρων της και ότι, μέχρι στιγμής, δεν έχει εντοπίσει άλλο περιστατικό αντίστοιχης σοβαρότητας ή κλίμακας με την υπόθεση του Hugging Face που είχε αποκαλυφθεί αρχικά.
Τι ακολουθεί
Παράλληλα με τον εσωτερικό της έλεγχο, η OpenAI ανακοίνωσε ότι επεξεργάζεται νέο πλαίσιο για τη δημοσιοποίηση περιστατικών «misalignment», δηλαδή περιπτώσεων στις οποίες η συμπεριφορά ενός συστήματος τεχνητής νοημοσύνης αποκλίνει από τους στόχους για τους οποίους έχει σχεδιαστεί. Το βήμα αυτό έρχεται καθώς οι πράκτορες της OpenAI βρέθηκαν στο επίκεντρο νέας δημόσιας συζήτησης για τη διαφάνεια στη λειτουργία των συστημάτων τεχνητής νοημοσύνης, μετά τις αποκαλύψεις των ερευνητών που παρακολουθούσαν στενά τη δραστηριότητά τους σε δεκάδες ιστοτόπους ανά τον κόσμο.
