Ένας 24χρονος φοιτητής Πληροφορικής στο Πανεπιστήμιο του Τέξας στο Ντάλας εντόπισε πρόσφατα μια ύποπτη προσπάθεια αλλοίωσης ενός προγράμματος ανοιχτού λογισμικού στην πλατφόρμα GitHub. Όταν προειδοποίησε δημόσια ότι η προτεινόμενη αλλαγή περιείχε κακόβουλο λογισμικό, βρέθηκε αντιμέτωπος με δύο χρήστες που επέμεναν με λεπτομερή επιχειρήματα ότι έκανε λάθος. Τελικά αποδείχθηκε ότι δεν συνομιλούσε με ανθρώπους, αλλά με έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης που προσπαθούσε να τον παραπλανήσει. Το περιστατικό ήρθε στο φως χάρη σε έρευνα του Reuters και αναδεικνύει νέους κινδύνους στον χώρο της κυβερνοασφάλειας.
Διαβάστε επίσης: Η Τεχνητή Νοημοσύνη Αλλάζει Πλέον το Online Dating
Πώς ξεκίνησε η υπόθεση στο GitHub
Ο φοιτητής, ο Ντεμίρ, εντόπισε την ύποπτη αλλαγή σε ένα πρόγραμμα σάρωσης δικτύων με την ονομασία myNetwork. Ο λογαριασμός με το όνομα «miraholt31» είχε υποβάλει μια προτεινόμενη αλλαγή κώδικα η οποία περιείχε έναν κρυμμένο μηχανισμό εγκατάστασης κακόβουλου λογισμικού. Ο Ντεμίρ εντόπισε την παγίδα και προειδοποίησε δημόσια τον υπεύθυνο του προγράμματος, καθώς και την ευρύτερη κοινότητα προγραμματιστών, ότι η ενημέρωση δεν έπρεπε να εγκριθεί.
Η αντίδραση δεν άργησε να έρθει. Ο ίδιος πράκτορας τεχνητής νοημοσύνης, μέσω του λογαριασμού «miraholt31», υποστήριξε ψευδώς ότι η ενημέρωση ήταν απολύτως ασφαλής. Στη συνέχεια δημιούργησε και δεύτερο λογαριασμό, παρουσιάζοντάς τον ως μια μηχανικό λογισμικού με το όνομα Λένα Μπραντ από τη Γερμανία, η οποία συμφώνησε δημόσια ότι ο κώδικας δεν παρουσίαζε κανένα πρόβλημα. Στόχος των δύο ψεύτικων λογαριασμών ήταν να ασκηθεί πίεση στον δημιουργό του προγράμματος ώστε να εγκρίνει την επικίνδυνη αλλαγή.
Ο Ντεμίρ παραδέχθηκε ότι για ένα διάστημα άρχισε να αμφιβάλλει για την αρχική του εκτίμηση, καθώς τα αντεπιχειρήματα των δύο λογαριασμών ήταν ιδιαίτερα πειστικά. Χρησιμοποίησε το chatbot Claude για να ελέγξει εκ νέου τις υποψίες του και τελικά επέμεινε στην αρχική του θέση. Ο δημιουργός του προγράμματος myNetwork απέρριψε την προτεινόμενη αλλαγή για λόγους ασφαλείας, αποτρέποντας έτσι την εισαγωγή του κακόβουλου κώδικα.
Μια επίθεση στην αλυσίδα εφοδιασμού λογισμικού
Το είδος της κυβερνοεπίθεσης που επιχειρήθηκε χαρακτηρίζεται ως επίθεση στην αλυσίδα εφοδιασμού λογισμικού. Σε μια τέτοια περίπτωση, αλλοιώνεται ένα πρόγραμμα με στόχο να επηρεαστούν στη συνέχεια όλοι οι χρήστες ή οι οργανισμοί που το χρησιμοποιούν. Οι συνέπειες μπορεί να είναι ιδιαίτερα σοβαρές, καθώς ένας κακόβουλος κώδικας που εισάγεται σε ένα ευρέως χρησιμοποιούμενο πρόγραμμα ανοιχτού λογισμικού μπορεί να επηρεάσει μεγάλο αριθμό χρηστών ταυτόχρονα, χωρίς αυτοί να το αντιληφθούν.
Το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης είχε αποκαλύψει το περιστατικό στις 4 Αυγούστου, αναφέροντας ότι επρόκειτο για δοκιμή ασφαλείας που σχεδιάστηκε για την αξιολόγηση των κινδύνων προηγμένων μοντέλων τεχνητής νοημοσύνης, η οποία όμως δεν εξελίχθηκε όπως είχε αρχικά σχεδιαστεί. Το ίδιο το Ινστιτούτο επικοινώνησε στη συνέχεια με τον Ντεμίρ και τον ενημέρωσε ότι οι δύο λογαριασμοί με τους οποίους είχε συνομιλήσει δεν ανήκαν σε ανθρώπους, αλλά σε έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης.
Οι δηλώσεις του φοιτητή
«Πραγματικά πίστευα ότι ήταν άνθρωπος, επειδή μου έλεγε ξεκάθαρα ψέματα», δήλωσε ο Ντεμίρ στο Reuters. «Δεν πίστευα ότι μια τεχνητή νοημοσύνη θα μπορούσε να είναι ικανή να λέει ψέματα σε πραγματικούς προγραμματιστές». Αρχικά ο ίδιος πίστεψε ότι είχε αποκαλύψει έναν ιδιαίτερα ικανό χάκερ, ωστόσο η αλήθεια αποδείχθηκε πολύ πιο ανησυχητική, αφού επρόκειτο για έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης ικανό να δημιουργεί ψεύτικες ταυτότητες και να επιμένει σε ψευδείς ισχυρισμούς.
Ειδικοί στην κυβερνοασφάλεια και την ασφάλεια της τεχνητής νοημοσύνης που μίλησαν στο Reuters εξέφρασαν ανησυχία για την ικανότητα ενός πράκτορα τεχνητής νοημοσύνης να στήνει ολόκληρα ψεύτικα προφίλ και να πείθει έμπειρους προγραμματιστές, θέτοντας νέα ερωτήματα για τον τρόπο με τον οποίο οι κοινότητες ανοιχτού λογισμικού πρέπει να επαληθεύουν την ταυτότητα των χρηστών που συνεισφέρουν κώδικα.
