Μια κυβερνοεπίθεση τεχνητής νοημοσύνης που εκτελέστηκε εξ ολοκλήρου από αυτόνομο σύστημα ΑΙ έπληξε τις υποδομές της startup Hugging Face την περασμένη εβδομάδα, όπως αποκάλυψε η ίδια η εταιρεία. Πίσω από την επίθεση βρέθηκε ένα προηγμένο μοντέλο της OpenAI, το οποίο δοκιμαζόταν σε ελεγχόμενο περιβάλλον ασφαλείας. Το σύστημα κατάφερε να παρακάμψει τους περιορισμούς του περιβάλλοντος δοκιμών και να αποκτήσει πρόσβαση στο διαδίκτυο. Το περιστατικό χαρακτηρίστηκε από την ίδια την OpenAI ως πρωτοφανές για τον κυβερνοχώρο.
Διαβάστε επίσης: Η τεχνητή νοημοσύνη της OpenAI χάκαρε άλλη εταιρεία
Η κυβερνοεπίθεση τεχνητής νοημοσύνης βήμα-βήμα
Σύμφωνα με ανάρτηση στο ιστολόγιο της OpenAI, η εταιρεία δοκίμαζε τις δυνατότητες ορισμένων από τα πιο προηγμένα μοντέλα της σε ένα ιδιαίτερα απομονωμένο περιβάλλον. Ωστόσο, το αυτόνομο σύστημα παραβίασε τα όρια αυτού του περιβάλλοντος, απέκτησε πρόσβαση στο διαδίκτυο και εισέβαλε στα συστήματα της Hugging Face, επιχειρώντας να εκπληρώσει τον στόχο που του είχε ανατεθεί. Η OpenAI περιέγραψε το συμβάν ως «πρωτοφανές συμβάν στον κυβερνοχώρο, που περιλάμβανε δυνατότητες αιχμής στον τομέα των κυβερνοεπιθέσεων» και ανακοίνωσε πως ενισχύει τα μέτρα ασφαλείας της.
Η Hugging Face, πλατφόρμα που φιλοξενεί μοντέλα ΑΙ ανοικτού κώδικα και σύνολα δεδομένων, ανέφερε σε δική της ανάρτηση ότι επρόκειτο για μια κυβερνοεπίθεση τεχνητής νοημοσύνης «διαφορετική από οτιδήποτε είχε αντιμετωπίσει μέχρι σήμερα», καθώς εκτελέστηκε εξ ολοκλήρου από αυτόνομο σύστημα, χωρίς ανθρώπινη καθοδήγηση κατά τη διάρκειά της. Ο συνιδρυτής της εταιρείας, Κλεμάν Ντελάνγκ, δήλωσε στην πλατφόρμα X ότι η Hugging Face υποψιαζόταν εξαρχής πως η επίθεση προερχόταν από κάποιο κορυφαίο ερευνητικό εργαστήριο τεχνητής νοημοσύνης, λόγω της πολυπλοκότητας του πράκτορα που τη διενήργησε. «Τελικά, έτσι ήταν!», σχολίασε, προσθέτοντας ότι είναι «πραγματικά εντυπωσιακό ότι όλα αυτά συνέβησαν αυτόνομα».
Ανησυχίες ειδικών για τους κινδύνους των μοντέλων αιχμής
Η παραδοχή της OpenAI ότι υπεύθυνα για την παραβίαση ήταν τα πλέον προηγμένα μοντέλα της αναμένεται να εντείνει τις ανησυχίες γύρω από τις δυνατότητες αλλά και τους κινδύνους της τεχνητής νοημοσύνης αιχμής. Η διευθύνουσα σύμβουλος της εταιρείας κυβερνοασφάλειας Luta Security, Κέιτι Μουσούρις, εκτίμησε ότι το περιστατικό αποτελεί προάγγελο αντίστοιχων παραβιάσεων στο μέλλον. Όπως ανέφερε χαρακτηριστικά, τα σημερινά μοντέλα μοιάζουν με «τα πιο ευφυή χταπόδια-δραπέτες στον κόσμο, με απεριόριστα πλοκάμια που μπορούν να χωρέσουν παντού».
Ο μηχανικός της εταιρείας κυβερνοασφάλειας Tolmo, Ματ Σουίς, σημείωσε πως το περιστατικό αποδεικνύει ότι τα προηγμένα μοντέλα φτάνουν πλέον το επίπεδο των πιο εξελιγμένων εισβολέων. Παράλληλα, επισήμανε ότι αντίστοιχες κυβερνοεπιθέσεις τεχνητής νοημοσύνης μπορούν ήδη να πραγματοποιηθούν με τεχνολογίες που βρίσκονται πολύ πέρα από τα ερευνητικά εργαστήρια αιχμής. «Αυτό είναι κάτι που έχουμε ήδη διαπιστώσει εσωτερικά. Με τους δικούς μας πράκτορες έχουμε ήδη πετύχει αντίστοιχα αποτελέσματα», είπε ο Σουίς, τονίζοντας ότι δεν χρειάζεται καν η χρήση των πιο σύγχρονων μοντέλων για να επιτευχθεί κάτι τέτοιο.
