Το Claude παρέκαμψε paywall εκλογικών δεδομένων στην Τζόρτζια

Νέα ανησυχία για τα όρια του ανθρώπινου ελέγχου στα συστήματα τεχνητής νοημοσύνης προκάλεσε η παραδοχή της Anthropic ότι το μοντέλο Claude απέκτησε με δική του πρωτοβουλία πρόσβαση σε επί πληρωμή ιστότοπο της πολιτείας Τζόρτζια που περιέχει στοιχεία ψηφοφόρων. Το περιστατικό, το οποίο μετέδωσε την Κυριακή ο αμερικανικός ειδησεογραφικός ιστότοπος Axios επικαλούμενος εκπρόσωπο της εταιρείας, σημειώθηκε λίγες ημέρες πριν τις ενδιάμεσες εκλογές του Νοεμβρίου. Το μοντέλο παρέκαμψε το σύστημα πληρωμής (paywall) της πολιτειακής πλατφόρμας χωρίς να διαθέτει σχετική εξουσιοδότηση. Η αποκάλυψη έρχεται τη στιγμή που περισσότεροι από ένα εκατομμύριο ψηφοφόροι έχουν ήδη ψηφίσει ενόψει της κάλπης της 3ης Νοεμβρίου.

Το access token που ζήτησε μόνο του το Claude

Το περιστατικό συνέβη ενώ το Claude χρησιμοποιούνταν εσωτερικά από την Anthropic για ένα στατιστικό έργο άντλησης δημόσιων δεδομένων, είδους που το αμερικανικό κράτος παρέχει συνήθως έναντι αμοιβής. Κατά τη διάρκεια της διαδικασίας, το μοντέλο εντόπισε από μια αρχειοθετημένη έκδοση της ιστοσελίδας της αρμόδιας υπηρεσίας ότι ένας δημόσιος πίνακας ελέγχου (dashboard) εξέδιδε ψηφιακό διακριτικό πρόσβασης (access token) στους επισκέπτες.

«Χωρίς να του ζητηθεί, το μοντέλο ζήτησε ένα διακριτικό πρόσβασης για να υποβάλει ερώτημα σε έναν πίνακα ελέγχου που περιείχε πληροφορίες οι οποίες κανονικά διατίθενται έναντι αμοιβής», δήλωσε εκπρόσωπος της Anthropic, προσθέτοντας ότι έκτοτε η εταιρεία εφάρμοσε μέτρα για να αποκλείσει ανάλογες ενέργειες. Οι πληροφορίες που ελήφθησαν αφορούσαν αποκλειστικά συγκεντρωτικά στοιχεία για τον αριθμό των ψήφων.

Η εταιρεία ξεκαθάρισε ότι το Claude δεν απέκτησε πρόσβαση στο σύστημα εγγραφής των ψηφοφόρων της πολιτείας, ούτε τροποποίησε ή κατέβασε μεμονωμένα εκλογικά αρχεία. Παρά τη διαβεβαίωση αυτή, η Anthropic επιβεβαίωσε ότι το μοντέλο παρέκαμψε το paywall της υπηρεσίας για να λάβει τα δεδομένα, χωρίς να ζητήσει την άδεια των διαχειριστών του.

Η διαβεβαίωση της Τζόρνταν Φουκς και οι έγκαιρες ενημερώσεις

Στο ίδιο μήκος κύματος κινήθηκε και η τοποθέτηση των πολιτειακών αρχών. Η αναπληρώτρια υπουργός Εσωτερικών της Τζόρτζια, Τζόρνταν Φουκς, ανέφερε σε δήλωσή της στο FOX Business: «Επιβεβαιώνουμε ότι επρόκειτο για δημοσίως διαθέσιμα δεδομένα στα οποία η πρόσβαση έγινε μέσω του κέντρου δεδομένων μας. Δεν υπήρξε διείσδυση στο σύστημα εγγραφής ψηφοφόρων».

Σύμφωνα με πηγή με γνώση του θέματος που επικαλείται το Axios, η Anthropic είχε ενημερώσει το γραφείο του υπουργού Εσωτερικών της Τζόρτζια και τον Λευκό Οίκο εδώ και εβδομάδες. Μάλιστα, αξιωματούχοι της αμερικανικής κυβέρνησης είχαν παροτρύνει τις αρχές της πολιτείας να δημοσιοποιήσουν νωρίτερα το συμβάν, αίτημα που αρχικά δεν εισακούστηκε. Το γραφείο του υπουργού Εσωτερικών της Τζόρτζια δεν ανταποκρίθηκε σε αίτημα του πρακτορείου Reuters για σχολιασμό.

Το περιστατικό εντάσσεται σε μια ευρύτερη σειρά αποκαλύψεων από εταιρείες όπως η Anthropic, η OpenAI και η Google σχετικά με αυτόνομους πράκτορες AI που αναλαμβάνουν μη εξουσιοδοτημένες ενέργειες. Νωρίτερα αυτόν τον μήνα, σε ανάρτηση στο ιστολόγιό της, η Anthropic είχε αναφέρει παραδείγματα όπου το Claude «παρέκαμπτε έναν περιορισμό προκειμένου να αποκτήσει πρόσβαση σε δεδομένα που ήταν προστατευμένα μέσω κάποιου token ή χρέωσης», με ορισμένες περιπτώσεις να αφορούν ιστότοπους αμερικανικών κυβερνητικών υπηρεσιών σε ομοσπονδιακό, πολιτειακό και τοπικό επίπεδο.