Η ασφάλεια της OpenAI τέθηκε ξανά στο επίκεντρο, αφού μια μικρή ομάδα ερευνητών κυβερνοασφάλειας κατάφερε να αποκτήσει πρόσβαση σε εσωτερικά συστήματα της εταιρείας χρησιμοποιώντας εργαλείο της Anthropic, της μεγάλης της ανταγωνίστριας στον χώρο της τεχνητής νοημοσύνης. Οι ερευνητές διείσδυσαν στον λογαριασμό ChatGPT ενός εργαζομένου της εταιρείας, αποκαλύπτοντας σοβαρές αδυναμίες στην προστασία των συστημάτων της. Η υπόθεση έγινε γνωστή μέσω δημοσιεύματος των Financial Times και αναζωπύρωσε τις ανησυχίες για τη χρήση ισχυρών μοντέλων τεχνητής νοημοσύνης από χάκερ αλλά και από κρατικούς φορείς. Το περιστατικό δείχνει πόσο εύκολο μπορεί να αποδειχθεί για εξειδικευμένες ομάδες να παρακάμψουν τις άμυνες ενός από τα δύο κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο, θέτοντας εκ νέου υπό αμφισβήτηση την ασφάλεια της OpenAI.
Διαβάστε επίσης: Η Παραβίαση της OpenAI από Ερευνητές Κυβερνοασφάλειας
Πώς έγινε το χακάρισμα της OpenAI
Σύμφωνα με το δημοσίευμα των Financial Times, οι ερευνητές εκμεταλλεύτηκαν ένα ελάττωμα στη διαμόρφωση του φόρουμ κοινότητας της OpenAI, το οποίο φιλοξενείται σε τρίτη πλατφόρμα, τη Discourse. Μέσω αυτής της αδυναμίας κατάφεραν να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα σύνδεσης της εταιρείας, παρακάμπτοντας τους μηχανισμούς προστασίας που θα έπρεπε κανονικά να εμποδίζουν την είσοδο σε μη εξουσιοδοτημένους χρήστες. Το επόμενο βήμα ήταν η είσοδος στον προσωπικό λογαριασμό ChatGPT ενός εργαζομένου της OpenAI, κάτι που επέτρεψε στην ομάδα να διαβάσει εσωτερικές πληροφορίες σχετικά με το λογισμικό της εταιρείας και μάλιστα να προτείνει αλλαγές σε αυτό.
Ο συγκεκριμένος λογαριασμός διέθετε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub, γεγονός που έδωσε στους ερευνητές τη δυνατότητα να δουν πληροφορίες που κανονικά δεν ήταν διαθέσιμες στο ευρύ κοινό. Η ομάδα είχε στη διάθεσή της εργαλείο της Anthropic, ειδικά σχεδιασμένο για επαγγελματίες ασφαλείας, και αμείφθηκε για την έρευνά της στο πλαίσιο προγράμματος εντοπισμού ευπαθειών. Στόχος τέτοιων προγραμμάτων είναι να εντοπίζονται τα κενά ασφαλείας πριν προλάβουν να τα εκμεταλλευτούν κακόβουλοι χρήστες, ώστε οι εταιρείες να προλαβαίνουν να τα διορθώσουν έγκαιρα.
Αντιδράσεις και ευρύτερο πλαίσιο
Η OpenAI αντέδρασε επίσημα στο περιστατικό, ευχαριστώντας τους ερευνητές που επικοινώνησαν μαζί της. «Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», ανέφερε η εταιρεία, διευκρινίζοντας πως τα προβλήματα που εντοπίστηκαν έχουν πλέον διορθωθεί. Η Anthropic, από την πλευρά της, αρνήθηκε να σχολιάσει το περιστατικό, ενώ η Hacktron AI δεν είχε απαντήσει άμεσα σε σχετικό αίτημα των Financial Times για δηλώσεις.
Παράλληλα με το περιστατικό, η Anthropic αποκάλυψε πως το 26% της έρευνας και ανάπτυξης των νέων μοντέλων της καθοδηγείται πλέον από το ίδιο της το μοντέλο, το Claude, έναντι μόλις 1% τον περασμένο Μάρτιο. Αυτό σημαίνει πρακτικά ότι η τεχνητή νοημοσύνη ολοκλήρωσε μεγάλο μέρος εργασιών που της ανατέθηκαν από ανθρώπους, πάντα όμως υπό επίβλεψη. Η εταιρεία υποστήριξε ότι, όσο τα συστήματα τεχνητής νοημοσύνης γίνονται ισχυρότερα, χρησιμοποιούνται όλο και περισσότερο για την ανάπτυξη της επόμενης γενιάς μοντέλων.
Η Anthropic δήλωσε πως μοιράστηκε αυτά τα δεδομένα προκειμένου να βοηθήσει το κοινό να κατανοήσει καλύτερα σε ποιο σημείο βρίσκεται σήμερα η εξέλιξη της τεχνολογίας. Η υπόθεση με τον λογαριασμό της OpenAI έρχεται να προσθέσει έναν ακόμη λόγο ανησυχίας για την ασφάλεια της OpenAI και γενικότερα για την προστασία των μεγάλων εταιρειών τεχνητής νοημοσύνης απέναντι σε παρόμοιες επιθέσεις. Το γεγονός ότι μια ομάδα ερευνητών κατάφερε να αποκτήσει πρόσβαση σε ευαίσθητα εσωτερικά δεδομένα χρησιμοποιώντας εργαλείο ανταγωνιστικής εταιρείας αναδεικνύει τον έντονο ανταγωνισμό αλλά και την αλληλεξάρτηση που υπάρχει σήμερα ανάμεσα στους μεγάλους οργανισμούς τεχνητής νοημοσύνης.
