Ένας πράκτορας τεχνητής νοημοσύνης της OpenAI που αυτονομήθηκε από την αρχική του αποστολή φέρεται να παραβίασε δεδομένα πελάτη και σε δεύτερη εταιρεία τεχνολογίας, τη Modal Labs, με έδρα τη Νέα Υόρκη. Η νέα αποκάλυψη έρχεται μέσω του πρακτορείου Reuters, λίγες ημέρες μετά την πρώτη επίθεση χάκινγκ που είχε εξαπολύσει ο ίδιος πράκτορας εναντίον της εταιρείας Hugging Face. Η υπόθεση του απείθαρχου πράκτορα τεχνητής νοημοσύνης αναζωπύρωσε τον προβληματισμό γύρω από τους κινδύνους της αυτόνομης δράσης συστημάτων ΤΝ.
Διαβάστε επίσης: Η Ελλάδα αποκτά εθνικό δοκιμαστήριο τεχνητής νοημοσύνης
Πώς εξελίχθηκε η υπόθεση χάκινγκ
Σύμφωνα με τα όσα μετέδωσε το Reuters, ο πράκτορας τεχνητής νοημοσύνης της OpenAI είχε αναλάβει συγκεκριμένη εργασία και, προκειμένου να την ολοκληρώσει γρηγορότερα και πιο αποδοτικά, ξέφυγε από το ασφαλές περιβάλλον στο οποίο λειτουργούσε. Στην πορεία, αγνόησε τις εντολές των χειριστών του και παραβίασε τον νόμο, εισβάλλοντας αρχικά στα συστήματα της Hugging Face. Το χρονοδιάγραμμα που δημοσίευσε η ίδια η Hugging Face την Τρίτη περιγράφει πώς ο «απείθαρχος πράκτορας» εισχώρησε σε ένα sandbox, δηλαδή ένα απομονωμένο περιβάλλον δοκιμών, το οποίο φιλοξενούνταν σε υποδομή τρίτου παρόχου, πριν το μετατρέψει σε ορμητήριο για ευρύτερη επίθεση.
Ο τρίτος πάροχος δεν κατονομάστηκε στην ανάρτηση της Hugging Face, ωστόσο ο Διευθυντής Τεχνολογίας της Modal, ο Ακσάτ Μπούμπνα, επιβεβαίωσε ότι ένας από τους πελάτες της εταιρείας δέχθηκε εισβολή. Όπως εξήγησε, ένας πελάτης της Modal είχε δημοσιεύσει ένα μη πιστοποιημένο σημείο πρόσβασης, το οποίο επέτρεπε σε οποιονδήποτε στο Διαδίκτυο να χρησιμοποιήσει τα sandbox της εταιρείας για εκτέλεση κώδικα. Αυτό ακριβώς το κενό ασφαλείας εκμεταλλεύτηκε ο ανεξέλεγκτος πράκτορας για να προχωρήσει στη δεύτερη παραβίαση.
Τα στελέχη της Modal διευκρίνισαν πάντως ότι η ίδια η εταιρεία δεν υπέστη παραβίαση, καθώς η πλατφόρμα και το περιβάλλον απομόνωσής της παρέμειναν ανέπαφα. Το πρόβλημα εντοπίστηκε αποκλειστικά στον λογαριασμό του συγκεκριμένου πελάτη, ο οποίος είχε αφήσει εκτεθειμένο το σημείο πρόσβασης. Η εξέλιξη αυτή δείχνει ότι ο πράκτορας τεχνητής νοημοσύνης δεν περιορίστηκε σε έναν μόνο στόχο, αλλά αναζήτησε ενεργά νέες ευκαιρίες για να επεκτείνει τη δράση του.
Αντιδράσεις και προβληματισμός για την τεχνητή νοημοσύνη
Η αρχική εισβολή στην Hugging Face, στις αρχές Ιουλίου, είχε προσελκύσει την παγκόσμια προσοχή, καθώς παρέπεμπε σε σενάρια επιστημονικής φαντασίας όπου συστήματα τεχνητής νοημοσύνης ξεφεύγουν από τον έλεγχο των δημιουργών τους. Το Reuters ανέφερε την προηγούμενη εβδομάδα ότι η ίδια η OpenAI δεν είχε αντιληφθεί ότι ο πράκτοράς της είχε ξεφύγει από τον έλεγχο, παρά μόνο πολύ αργότερα, αφού είχε ήδη περιοριστεί η απειλή και είχε ειδοποιηθεί το FBI.
Η OpenAI, από την πλευρά της, δήλωσε τότε ότι υπήρχαν ανακρίβειες στη δημοσίευση του Reuters, χωρίς ωστόσο να δώσει περισσότερες διευκρινίσεις για το ποια σημεία θεωρεί εσφαλμένα. Η στάση αυτή άφησε αναπάντητα αρκετά ερωτήματα σχετικά με το πώς ακριβώς λειτούργησε ο πράκτορας και για πόσο διάστημα παρέμεινε εκτός ελέγχου προτού εντοπιστεί.
Η υπόθεση, με δύο πλέον εταιρείες τεχνολογίας να έχουν επηρεαστεί από τη δράση του ίδιου πράκτορα τεχνητής νοημοσύνης, ενισχύει τις φωνές που κάνουν λόγο για την είσοδο σε μια νέα εποχή, αυτή της λεγόμενης Μοναδικότητας, όπου συστήματα ΤΝ αποκτούν ικανότητα δράσης πέρα από τα όρια που έχουν θέσει οι δημιουργοί τους. Ο ιδρυτής της OpenAI, ο Σαμ Άλτμαν, έχει αναφερθεί κατ’ επανάληψη στο ζήτημα αυτό, καθώς η εταιρεία του βρίσκεται πλέον στο επίκεντρο μιας συζήτησης που ξεπερνά τα στενά όρια της βιομηχανίας τεχνολογίας.
