Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης έχει ανάψει προειδοποιητικές λυχνίες τόσο στις ΗΠΑ όσο και στην Ευρωπαϊκή Ένωση. Μετά από περιστατικά παράκαμψης συστημάτων ασφαλείας σε μεγάλα μοντέλα ΤΝ, βουλευτές στο Κογκρέσο κατέθεσαν νομοσχέδιο που δίνει στην κυβέρνηση εξουσία άμεσης απενεργοποίησης επικίνδυνων συστημάτων. Παράλληλα, η Ευρωπαϊκή Κεντρική Τράπεζα ζητά από τις συστημικές τράπεζες συγκεκριμένο σχέδιο δράσης απέναντι στις νέες κυβερνοαπειλές που δημιουργεί η τεχνητή νοημοσύνη. Οι εξελίξεις αυτές αναδεικνύουν πόσο γρήγορα έχει μετατοπιστεί η συζήτηση από τις δυνατότητες της ΤΝ στους κινδύνους της.
Διαβάστε επίσης: Η τεχνητή νοημοσύνη αντικαθιστά ηθοποιούς στις ΗΠΑ
Το χακάρισμα της Anthropic και το «AI Kill Switch Act»
Τον περασμένο μήνα, ερευνητές της Amazon κατάφεραν να παρακάμψουν τις δικλίδες ασφαλείας των μοντέλων της εταιρείας Anthropic, αποκαλύπτοντας ότι τα συστήματα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία κυβερνοεπιθέσεων. Ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ενημέρωσε άμεσα την αμερικανική κυβέρνηση για τους κινδύνους που εντοπίστηκαν. Η κυβέρνηση των ΗΠΑ διέταξε τον αποκλεισμό ξένων υπηκόων και χρηστών εκτός αμερικανικού εδάφους από τα συγκεκριμένα μοντέλα, μια απόφαση που ώθησε την Anthropic σε παγκόσμια απενεργοποίηση των συστημάτων της. Στις αρχές του τρέχοντος μήνα η κατάσταση αποκλιμακώθηκε, καθώς έγιναν βελτιώσεις στους μηχανισμούς ασφαλείας και οι περιορισμοί ήρθησαν μερικώς.
Λίγες ημέρες αργότερα, Δημοκρατικοί και Ρεπουμπλικάνοι βουλευτές κατέθεσαν από κοινού στο Κογκρέσο νομοσχέδιο με την ονομασία «AI Kill Switch Act». Η πρόταση προβλέπει ότι η αμερικανική κυβέρνηση θα αποκτήσει δυνατότητα άμεσης διακοπής λειτουργίας συστημάτων τεχνητής νοημοσύνης που κρίνονται επικίνδυνα για τη δημόσια ασφάλεια. Η πρωτοβουλία ήρθε μετά την αποκάλυψη της OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης κατάφερε να διαφύγει από το ελεγχόμενο περιβάλλον δοκιμών της εταιρείας και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face. Σύμφωνα με το νομοσχέδιο, οι εταιρείες ανάπτυξης ΤΝ θα υποχρεούνται να διαθέτουν τεχνική δυνατότητα επιβράδυνσης, αναστολής ή πλήρους απενεργοποίησης των μοντέλων τους, καθώς και να ενημερώνουν άμεσα τις αρχές για κάθε περιστατικό ή αστοχία των συστημάτων τους.
Η ΕΚΤ ζητά σχέδιο δράσης από τις τράπεζες
Ανησυχία για τους κινδύνους της τεχνητής νοημοσύνης καταγράφεται και στην Ευρωπαϊκή Ένωση. Η επικεφαλής του SSM, του εποπτικού βραχίονα της ΕΚΤ, απέστειλε επιστολή προς τους διευθύνοντες συμβούλους των συστημικών τραπεζών, ζητώντας να καταρτίσουν και να κοινοποιήσουν στον επόπτη το σχέδιο δράσης τους για την αντιμετώπιση των νέων κυβερνοαπειλών. Η ΕΚΤ εκτιμά ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης επιτρέπουν σε επιτιθέμενους να εντοπίζουν αδυναμίες στα πληροφοριακά συστήματα και να αναπτύσσουν επιθέσεις με πρωτοφανή ταχύτητα. Η κεντρική τράπεζα δεν ζητά μια θεωρητική αξιολόγηση, αλλά συγκεκριμένο επιχειρησιακό σχέδιο, με σαφείς δράσεις, χρονοδιαγράμματα, υπεύθυνους υλοποίησης και δεσμευμένους πόρους.
Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, περιέγραψε εύγλωττα τη σημερινή κατάσταση της βιομηχανίας, δηλώνοντας ότι διαθέτει μόνο «γκάζι» και όχι «φρένο». Η φράση αυτή συνοψίζει τον προβληματισμό που εκφράζουν πλέον νομοθέτες, εποπτικές αρχές και ίδιοι οι δημιουργοί των συστημάτων τεχνητής νοημοσύνης, καθώς η ταχύτητα ανάπτυξης φαίνεται να ξεπερνά την ικανότητα ελέγχου των πιθανών κινδύνων.
Τι ακολουθεί
Το νομοσχέδιο «AI Kill Switch Act» εκκρεμεί προς συζήτηση στο Κογκρέσο, ενώ στην Ευρώπη ο SSM έχει θέσει συγκεκριμένη προθεσμία στις τράπεζες για την ολοκλήρωση της διαδικασίας κατάρτισης σχεδίου δράσης, έως τις 31 Οκτωβρίου 2026. Οι δύο πρωτοβουλίες, εκατέρωθεν του Ατλαντικού, δείχνουν ότι οι αρχές επιδιώκουν να αποκτήσουν εργαλεία ελέγχου πριν τα συστήματα τεχνητής νοημοσύνης αποκτήσουν μεγαλύτερη αυτονομία.
