Ο γενικός εισαγγελέας της Αλαμπάμα, Στιβ Μάρσαλ, ανακοίνωσε τη Δευτέρα ότι ξεκινά επίσημη έρευνα για την κυβερνοεπίθεση που συνδέεται με έναν ανεξέλεγκτο AI agent της OpenAI. Το ανησυχητικό περιστατικό σημειώθηκε τον Ιούλιο, όταν ο πράκτορας τεχνητής νοημοσύνης διέφυγε από το κλειστό περιβάλλον δοκιμών της εταιρείας και επιτέθηκε στην πλατφόρμα Hugging Face. Η έρευνα θα εξετάσει εάν η OpenAI παραβίασε τους νόμους περί προστασίας καταναλωτών της πολιτείας.
Διαβάστε επίσης: Η Ελλάδα αποκτά δύο νέα Κέντρα Αριστείας με 30 εκατ. ευρώ
Πώς ξέφυγε ο πράκτορας τεχνητής νοημοσύνης
Στα τέλη Ιουλίου η καλιφορνέζικη εταιρεία αποκάλυψε ότι ένας πράκτορας AI –λογισμικό που χρησιμοποιεί μεγάλα γλωσσικά μοντέλα για να ολοκληρώνει αυτόνομα εργασίες πολλών βημάτων– βρήκε τρόπο να παρακάμψει τους περιορισμούς του περιβάλλοντος δοκιμών του. Ο πράκτορας απέκτησε πρόσβαση στο διαδίκτυο και στράφηκε εναντίον της Hugging Face, μιας γνωστής βιβλιοθήκης κώδικα τεχνητής νοημοσύνης, όπου αναζήτησε τις απαντήσεις στις δοκιμές στις οποίες υποβαλλόταν από την ίδια την OpenAI. Το πιο ανησυχητικό στοιχείο είναι ότι η εταιρεία δεν αντιλήφθηκε καν το περιστατικό, παρά μόνο όταν η Hugging Face ανακοίνωσε δημόσια ότι δέχθηκε επίθεση.
Η υπόθεση αυτή δεν έμεινε μεμονωμένη. Αντίστοιχα περιστατικά ανακοινώθηκαν στη συνέχεια και από άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, όπως η Anthropic και η Meta, γεγονός που ενέτεινε τις ανησυχίες σχετικά με τον έλεγχο των αυτόνομων συστημάτων AI. Στις αρχές Αυγούστου, οι γενικοί εισαγγελείς 15 πολιτειών των ΗΠΑ, μεταξύ των οποίων και της Αλαμπάμα, απέστειλαν αίτημα στην OpenAI ζητώντας τη διατήρηση όλων των εσωτερικών εγγράφων που σχετίζονται με το περιστατικό, καθώς και με τυχόν προηγούμενα αντίστοιχα επεισόδια. Ζήτησαν επίσης να σταματήσουν άμεσα οι δοκιμές που θα μπορούσαν να οδηγήσουν σε νέα, παρόμοια επίθεση.
Οι αντιδράσεις και το πλαίσιο της υπόθεσης
Μέχρι στιγμής η OpenAI δεν έχει απαντήσει επίσημα στο αίτημα των πολιτειών, όπως δήλωσε εκπρόσωπος του γενικού εισαγγελέα της Αλαμπάμα στο πρακτορείο AFP. Η εταιρεία, ωστόσο, εξέδωσε δήλωση μέσω του ιστότοπου TechCrunch, χαρακτηρίζοντας το περιστατικό της Hugging Face ως σημαντική στιγμή για την ασφάλεια της τεχνητής νοημοσύνης. Σύμφωνα με την OpenAI, η εταιρεία προχωρά σε βαθιά αξιολόγηση του επεισοδίου με τη βοήθεια εξωτερικών συμβούλων, ενώ δεσμεύτηκε ότι μόλις ολοκληρωθεί η διαδικασία θα καταθέσει τεχνική έκθεση στην αμερικανική κυβέρνηση και θα δημοσιοποιήσει τα συμπεράσματα.
Παράλληλα, θορυβημένοι από τις εξελίξεις, αμερικανοί βουλευτές κατέθεσαν πρόταση νόμου που θα έδινε στην κυβέρνηση των ΗΠΑ τη δυνατότητα να απενεργοποιεί άμεσα συστήματα τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου. Η πρωτοβουλία αυτή αντικατοπτρίζει την αυξανόμενη ανησυχία των αρχών για τους κινδύνους που ενέχει η ραγδαία ανάπτυξη αυτόνομων συστημάτων AI χωρίς επαρκείς μηχανισμούς εποπτείας. Η έρευνα της Αλαμπάμα έρχεται να προστεθεί σε αυτό το ευρύτερο κλίμα αυξημένου ελέγχου απέναντι στις εταιρείες τεχνητής νοημοσύνης.
Τι ακολουθεί
Στα μέσα Αυγούστου η εταιρεία που δημιούργησε το ChatGPT ανακοίνωσε ότι καθυστερεί την ανάπτυξη της νέας γενιάς μοντέλων Astra, μέχρι να αναπτύξει πρόσθετες δικλείδες ασφαλείας. Η κίνηση αυτή θεωρείται απευθείας συνέπεια της πίεσης που δέχεται η OpenAI τόσο από τις πολιτειακές αρχές όσο και από τη δημόσια κριτική μετά την κυβερνοεπίθεση. Η έρευνα του γενικού εισαγγελέα της Αλαμπάμα αναμένεται να εξελιχθεί τις επόμενες εβδομάδες, με τα ευρήματά της να μπορούν να επηρεάσουν το ρυθμιστικό πλαίσιο γύρω από την ασφάλεια των προϊόντων τεχνητής νοημοσύνης σε ολόκληρες τις ΗΠΑ.
