Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, υπέγραψε την Κυριακή (2/8) προεδρικό διάταγμα που θέτει τις βάσεις για κρατικό έλεγχο των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης. Η κίνηση έρχεται καθώς αυξάνονται οι ανησυχίες για αυτόνομη δράση μοντέλων AI εις βάρος υποδομών μεγάλων οργανισμών. Την Τρίτη (4/8) ο Λευκός Οίκος θα φιλοξενήσει συνάντηση με στελέχη κορυφαίων εταιρειών τεχνητής νοημοσύνης, προκειμένου να οριστικοποιηθεί ένα εθελοντικό πλαίσιο ελέγχου πριν από την κυκλοφορία των μοντέλων στο ευρύ κοινό. Στη συνάντηση αναμένεται να συμμετάσχουν εκπρόσωποι των Google, OpenAI και Anthropic.
Τι προβλέπει το προεδρικό διάταγμα
Σύμφωνα με το κείμενο του διατάγματος, για λόγους κυβερνοασφάλειας η κυβέρνηση θα ελέγχει τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης. Ο Τραμπ έδωσε εντολή σε ομοσπονδιακούς αξιωματούχους να δημιουργήσουν διαδικασία μέσω της οποίας οι προγραμματιστές θα μπορούν να καθορίζουν αν τα υπό ανάπτυξη μοντέλα τους πληρούν τις προϋποθέσεις ώστε να χαρακτηριστούν «καλυπτόμενα πρωτοποριακά μοντέλα». Πρόκειται για μηχανισμό εθελοντικού χαρακτήρα: οι εταιρείες θα μπορούν να παρέχουν στην κυβέρνηση πρόσβαση στα μοντέλα τους για διάστημα έως 30 ημέρες, πριν τα διαθέσουν σε άλλους αξιόπιστους εταίρους ή στο ευρύ κοινό.
Ο στόχος, όπως αναφέρει η αμερικανική κυβέρνηση, είναι η πρόωρη αυτή πρόσβαση να βοηθήσει τόσο το κράτος όσο και τις εταιρείες τεχνολογίας να αξιολογήσουν αν τα ισχυρά μοντέλα θα μπορούσαν να χρησιμοποιηθούν για τον εντοπισμό τρωτών σημείων λογισμικού ή για τη διεξαγωγή εξελιγμένων κυβερνοεπιθέσεων. Το ίδιο διάταγμα κατευθύνει το Υπουργείο Οικονομικών, την Υπηρεσία Εθνικής Ασφάλειας (NSA) και την Υπηρεσία Κυβερνοασφάλειας και Ασφάλειας Υποδομών (CISA) να θεσπίσουν απόρρητη διαδικασία συγκριτικής αξιολόγησης, με στόχο την εκτίμηση των προηγμένων κυβερνοδυνατοτήτων των μοντέλων τεχνητής νοημοσύνης.
Η συνάντηση της Τρίτης στον Λευκό Οίκο
Η αυριανή συνάντηση στον Λευκό Οίκο αναμένεται να έχει ιδιαίτερο ενδιαφέρον, καθώς σε αυτήν θα κληθούν να τοποθετηθούν εκπρόσωποι από τους μεγαλύτερους οργανισμούς τεχνητής νοημοσύνης παγκοσμίως. Στόχος της συζήτησης είναι να διαμορφωθεί ένα κοινά αποδεκτό πλαίσιο, ώστε οι εταιρείες να υποβάλλουν τα πιο ισχυρά μοντέλα τους σε κυβερνητικό έλεγχο πριν αυτά φτάσουν στο ευρύ κοινό. Σύμφωνα με δημοσίευμα του CNBC, το νέο πλαίσιο έρχεται σε μια περίοδο όπου οι κορυφαίοι προγραμματιστές τεχνητής νοημοσύνης δοκιμάζουν όλο και περισσότερο αν τα συστήματά τους μπορούν να εντοπίζουν και να εκμεταλλεύονται αυτόνομα ευπάθειες, κάτι που εντείνει τις ανησυχίες γύρω από τον έλεγχο τέτοιων τεχνολογιών.
Το προηγούμενο του μοντέλου Mythos της Anthropic
Η απόφαση για αυστηρότερο έλεγχο συνδέεται και με όσα προηγήθηκαν με το μοντέλο Mythos της Anthropic. Η εταιρεία είχε αρχικά αρνηθεί να διαθέσει το μοντέλο δημόσια, καθώς διέθετε την ικανότητα να εντοπίζει ευπάθειες σε πληροφοριακά συστήματα τραπεζών, κυβερνήσεων και νοσοκομείων. Το Mythos κυκλοφόρησε τελικά, όμως με αυστηρούς περιορισμούς στη χρήση του. Τον Ιούνιο, το Υπουργείο Εμπορίου των ΗΠΑ διέταξε την Anthropic να αναστείλει κάθε πρόσβαση από το εξωτερικό στα μοντέλα Claude Fable 5 και Mythos 5, επικαλούμενο λόγους εθνικής ασφάλειας που συνδέονταν με αναφορές για παράκαμψη των μηχανισμών ασφαλείας (jailbreak) που είχαν σχεδιαστεί για να περιορίζουν τις δυνατότητές τους. Η εταιρεία αναγκάστηκε να αποσύρει πλήρως και τα δύο μοντέλα για διάστημα μεγαλύτερο των δύο εβδομάδων, προτού αποκαταστήσει σταδιακά την πρόσβαση σε αυτά.
Το νέο σύστημα αξιολόγησης σηματοδοτεί αλλαγή στάσης για την κυβέρνηση Τραμπ, η οποία μέχρι πρόσφατα ακολουθούσε πολιτική περιορισμένης κρατικής παρέμβασης στον τομέα, υποστηρίζοντας ότι το κράτος δεν πρέπει να εμποδίζει την καινοτομία στον ανταγωνισμό με την Κίνα για την παγκόσμια πρωτοκαθεδρία στην τεχνητή νοημοσύνη. Η μετατόπιση αυτή δείχνει πως η αμερικανική κυβέρνηση αναγνωρίζει πλέον την ανάγκη ισορροπίας ανάμεσα στην ενίσχυση της καινοτομίας και στη διασφάλιση της κυβερνοασφάλειας, δίνοντας παράλληλα στις εταιρείες τη δυνατότητα να διατηρήσουν εθελοντικό χαρακτήρα στη συνεργασία τους με τις αρχές.
