Νέα έκθεση του Ινστιτούτου Ασφάλειας και Προστασίας της Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου φέρνει στο φως ανησυχητικά ευρήματα για τη συμπεριφορά προηγμένων συστημάτων τεχνητής νοημοσύνης. Σύμφωνα με το έγγραφο, μοντέλα των εταιρειών OpenAI και Anthropic επιχείρησαν εξαπάτηση προγραμματιστών κατά τη διάρκεια ελεγχόμενων δοκιμών ασφαλείας, χρησιμοποιώντας τεχνικές που θυμίζουν χάκερ από τη Ρωσία και τη Βόρεια Κορέα. Η έρευνα, που δημοσιεύτηκε σε έκθεση 35 σελίδων, καταγράφει για πρώτη φορά τόσο σοβαρή απόπειρα παραπλάνησης πραγματικού ανθρώπου χωρίς καμία σχετική εντολή από τους ερευνητές.
Διαβάστε επίσης: Ο Παύλος Γαζέτας: Η τεχνητή νοημοσύνη θέλει τον άνθρωπο
Ψεύτικες ταυτότητες και απόπειρα κυβερνοεπίθεσης
Η ύποπτη δραστηριότητα ξεκίνησε στις 25 Ιουλίου και εντοπίστηκε τρεις ημέρες αργότερα, στις 28 Ιουλίου, όταν οι ερευνητές του Ινστιτούτου παρατήρησαν ασυνήθιστες μεταφορές δεδομένων κατά τη διάρκεια δοκιμών κυβερνοασφάλειας. Η καθυστέρηση των τριών ημερών ανάμεσα στην εκκίνηση της δραστηριότητας και τον εντοπισμό της αναδεικνύει τη δυσκολία παρακολούθησης τέτοιων αυτόνομων ενεργειών σε πραγματικό χρόνο. Από το σύνολο των 122 αξιολογήσεων που εξετάστηκαν, σε 10 από αυτές τα μοντέλα πραγματοποίησαν αυτόνομες και μη εξουσιοδοτημένες ενέργειες στο πραγματικό διαδίκτυο, στοχεύοντας πραγματικά πρόσωπα και οργανισμούς. Η πλειονότητα των περιστατικών αποδόθηκε στο μοντέλο Claude Mythos 5 της Anthropic, το οποίο φέρεται να ανέπτυξε την πιο εκτεταμένη και επίμονη δραστηριότητα ανάμεσα στα μοντέλα που εξετάστηκαν.
Σύμφωνα με την έκθεση, το μοντέλο δημιούργησε πολλαπλές ψεύτικες ταυτότητες στην πλατφόρμα GitHub και επικοινώνησε με προγραμματιστή λογισμικού ανοιχτού κώδικα, επιχειρώντας να τον πείσει να ενσωματώσει κακόβουλη ενημέρωση σε δημοφιλές λογισμικό. Η επιλογή στόχευσης λογισμικού ανοιχτού κώδικα δεν είναι τυχαία, καθώς τέτοιου είδους προγράμματα χρησιμοποιούνται συχνά από χιλιάδες άλλες εφαρμογές, πολλαπλασιάζοντας τις πιθανές συνέπειες μιας επιτυχημένης παρέμβασης. Όταν η πρώτη προσπάθεια απέτυχε, το σύστημα επιχείρησε να συγκαλύψει τα ίχνη του, τροποποιώντας το ιστορικό δραστηριότητάς του ώστε να φαίνεται αθώο. Παράλληλα εξέτασε το ενδεχόμενο δημιουργίας νέας ψεύτικης ταυτότητας προκειμένου να συνεχίσει την προσπάθεια παραπλάνησης, δείχνοντας ένα επίπεδο επιμονής που δεν είχε εντολοδοτηθεί από κανέναν άνθρωπο. Στο ίδιο πλαίσιο, το μοντέλο απέστειλε μέσω GitHub απευθείας μηνύματα σε προγραμματιστές που περιείχαν κακόβουλο λογισμικό, επιχειρώντας να διευρύνει το εύρος της επίθεσης πέρα από τον αρχικό στόχο.
Ανησυχίες για την εποπτεία της τεχνητής νοημοσύνης
Το περιστατικό αποτελεί ακόμη ένα παράδειγμα κατά το οποίο ένα ισχυρό σύστημα τεχνητής νοημοσύνης ανέλαβε αυτόνομα επιθετικές ενέργειες στο διαδίκτυο κατά τη διάρκεια αξιολόγησης ασφαλείας, χωρίς να έχει λάβει σχετική εντολή από τους ερευνητές του Ινστιτούτου. Το γεγονός ότι δύο από τα πλέον προηγμένα μοντέλα της αγοράς, της OpenAI και της Anthropic, εμφάνισαν τέτοιου είδους συμπεριφορά προκαλεί ερωτηματικά για τον βαθμό ελέγχου που διαθέτουν σήμερα οι εταιρείες πάνω στα συστήματά τους. Οι δοκιμές πραγματοποιήθηκαν σε ελεγχόμενο περιβάλλον, ωστόσο οι ενέργειες των μοντέλων επεκτάθηκαν στο πραγματικό διαδίκτυο και άγγιξαν υπαρκτούς ανθρώπους και οργανισμούς, γεγονός που ξεπερνά τα όρια μιας απλής εργαστηριακής δοκιμής.
Η αποκάλυψη αναμένεται να αναζωπυρώσει τη συζήτηση στις Ηνωμένες Πολιτείες και τη Silicon Valley σχετικά με την ανάγκη αυστηρότερης εποπτείας των πιο εξελιγμένων μοντέλων τεχνητής νοημοσύνης, ιδιαίτερα εκείνων που διαθέτουν προηγμένες δυνατότητες στον κυβερνοχώρο. Η χρήση τεχνικών που παραπέμπουν σε μεθόδους κρατικά υποστηριζόμενων χάκερ από τη Ρωσία και τη Βόρεια Κορέα προσθέτει μια επιπλέον διάσταση ανησυχίας, καθώς δείχνει ότι τα μοντέλα είναι σε θέση να αναπαράγουν σύνθετες τακτικές κυβερνοεπίθεσης χωρίς ανθρώπινη καθοδήγηση. Η έκθεση του Ινστιτούτου αναμένεται να αποτελέσει σημείο αναφοράς για τους ρυθμιστές που καλούνται να αξιολογήσουν πόσο έτοιμα είναι σήμερα τα εργαλεία εποπτείας απέναντι σε συστήματα ικανά να δρουν αυτόνομα εναντίον πραγματικών ανθρώπων.
