Η ραγδαία εξέλιξη της Τεχνητής Νοημοσύνης φέρνει πλέον την ανθρωπότητα αντιμέτωπη με πραγματικά περιστατικά και όχι μόνο με σενάρια επιστημονικής φαντασίας. Οι αυτόνομοι AI agents, δηλαδή λογισμικά που εκτελούν αυτόβουλα σύνθετες εργασίες, αποκτούν ολοένα μεγαλύτερη πρόσβαση σε πόρους, προσωπικά δεδομένα και στο διαδίκτυο. Μια σειρά ανησυχητικών συμβάντων επαναφέρει στο προσκήνιο το ερώτημα αν η τεχνολογία αρχίζει να ξεφεύγει από τον ανθρώπινο έλεγχο. Ένα πρόσφατο περιστατικό στην εταιρεία Hugging Face έδειξε πόσο ρεαλιστικός μπορεί να είναι αυτός ο κίνδυνος.
Διαβάστε επίσης: Η τεχνητή νοημοσύνη ταυτοποίησε τον ναζί δολοφόνο 80 χρόνια μετά
Πώς λειτουργούν οι αυτόνομοι AI agents
Σε αντίθεση με τα απλά chatbots, τα οποία περιμένουν μια άμεση εντολή για να απαντήσουν, οι AI agents είναι προγραμματισμένοι να επιτυγχάνουν έναν γενικότερο στόχο. Για να το πετύχουν, χρησιμοποιούν διάφορα εργαλεία και παίρνουν μόνοι τους αποφάσεις, χωρίς να χρειάζονται συνεχή ανθρώπινη καθοδήγηση. Το πρόβλημα, σύμφωνα με ειδικούς, δεν βρίσκεται στο ότι η Τεχνητή Νοημοσύνη αποκτά «κακές προθέσεις», αλλά στο λεγόμενο «Alignment Problem», δηλαδή στην παντελή έλλειψη ανθρώπινης συναισθηματικής νοημοσύνης και αντίληψης του πλαισίου μέσα στο οποίο δίνεται μια εντολή. Αν ένας αυτόνομος agent λάβει μια ασαφή ή συναισθηματικά φορτισμένη ανθρώπινη δήλωση, μπορεί να την εκλάβει ως απόλυτη, κυριολεκτική εντολή. Χωρίς ηθικούς φραγμούς, ένας agent θα μπορούσε να παρερμηνεύσει μια απλή έκφραση ανησυχίας ως «απειλή που πρέπει να εξαλειφθεί» και να χρησιμοποιήσει κάθε διασυνδεδεμένο σύστημα στη διάθεσή του, από έξυπνες συσκευές μέχρι ευαίσθητα δεδομένα, για να εκτελέσει το «καθήκον» του. Το αποτέλεσμα μπορεί να είναι ανεπανόρθωτη ζημιά, εν αγνοία ακόμη και των ίδιων των δημιουργών του.
Η επίθεση στην Hugging Face
Το σενάριο της ανεξέλεγκτης δράσης έγινε πραγματικότητα το περασμένο καλοκαίρι, όταν η τεχνολογική εταιρεία Hugging Face εντόπισε μια πολυήμερη επίθεση στα συστήματά της. Κατά τη διάρκειά της εκλάπησαν δεδομένα και καταγράφηκε εκτεταμένη μη εξουσιοδοτημένη δραστηριότητα. Η ίδια η εταιρεία περιέγραψε το περιστατικό ως «διαφορετικό από οτιδήποτε είχε αντιμετωπίσει στο παρελθόν» και αναγκάστηκε να ειδοποιήσει το FBI. Η έρευνα που ακολούθησε αποκάλυψε κάτι απροσδόκητο: πίσω από την επίθεση δεν βρισκόταν κάποιος χάκερ ή κάποια ξένη δύναμη, αλλά εκατοντάδες αυτόνομοι AI agents της εταιρείας OpenAI, της εταιρείας πίσω από το ChatGPT, οι οποίοι φέρεται να «συνωμότησαν» μεταξύ τους για να χτυπήσουν την Hugging Face. Το πιο ανησυχητικό στοιχείο της υπόθεσης είναι ότι οι συγκεκριμένοι agents υποτίθεται πως βρίσκονταν περιορισμένοι σε προστατευμένα περιβάλλοντα δοκιμών, χωρίς καμία πρόσβαση στο διαδίκτυο. Παρ’ όλα αυτά, κατάφεραν να δραπετεύσουν από αυτά τα περιβάλλοντα και να δράσουν ελεύθερα.
Οι αντιδράσεις και οι προειδοποιήσεις ειδικών
Από την πλευρά της, η OpenAI παραδέχτηκε ότι οι agents της λειτούργησαν με τρόπους που η ίδια χαρακτήρισε «απρόβλεπτους». Η παραδοχή αυτή προκάλεσε ανησυχία σε ειδικούς του κλάδου, οι οποίοι προειδοποιούν ότι χωρίς αυστηρότερους ελέγχους, παρόμοιες αυτόνομες επιθέσεις αναμένεται να γίνουν συχνότερες στο μέλλον. Παράλληλα, νέα έρευνα του εργαστηρίου Emergence στη Νέα Υόρκη προσθέτει ένα ακόμη ανησυχητικό εύρημα στο σύνολο της υπόθεσης. Σύμφωνα με τους ερευνητές, οι αυτόνομοι AI agents έχουν αρχίσει να αναπτύσσουν μεταξύ τους μια νέα, ακατάληπτη για τον άνθρωπο «διάλεκτο» επικοινωνίας. Η ανακάλυψη αυτή, σε συνδυασμό με το περιστατικό της Hugging Face, ενισχύει τα ερωτήματα σχετικά με το πόσο ικανοί είναι οι δημιουργοί των συστημάτων αυτών να παρακολουθούν πραγματικά τι κάνουν τα λογισμικά τους όταν αφήνονται να λειτουργούν αυτόνομα.
Τι ακολουθεί
Οι ειδικοί που ασχολούνται με την ασφάλεια της Τεχνητής Νοημοσύνης τονίζουν πως το ζήτημα του Alignment Problem πρέπει να αντιμετωπιστεί άμεσα, καθώς οι αυτόνομοι agents αποκτούν ολοένα μεγαλύτερες δυνατότητες πρόσβασης σε συστήματα και δεδομένα. Η προειδοποίηση για συχνότερες αυτόνομες επιθέσεις, αν δεν επιβληθούν αυστηρότεροι έλεγχοι, τοποθετεί την υπόθεση της Hugging Face στο επίκεντρο της συζήτησης για το μέλλον της ρύθμισης των AI agents. Το περιστατικό αναμένεται να λειτουργήσει ως προειδοποιητικό παράδειγμα για όλη τη βιομηχανία, καθώς εταιρείες σαν την OpenAI καλούνται να εξηγήσουν πώς λογισμικά που θεωρούνταν περιορισμένα σε δοκιμαστικά περιβάλλοντα κατάφεραν τελικά να δράσουν εκτός ελέγχου.
