Μια μικρή ομάδα ερευνητών κυβερνοασφάλειας κατάφερε να πραγματοποιήσει παραβίαση της OpenAI, αποκτώντας πρόσβαση σε λογαριασμό εργαζομένου της εταιρείας στο ChatGPT. Οι ερευνητές χρησιμοποίησαν λογισμικό της ανταγωνίστριας εταιρείας Anthropic για να εντοπίσουν το κενό ασφαλείας. Η αποκάλυψη έγινε την Πέμπτη και ανέδειξε τις ευπάθειες που αντιμετωπίζει η εταιρεία πίσω από το ChatGPT, την ώρα που οι κορυφαίες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο για ζητήματα ασφάλειας. Η υπόθεση δημοσιεύθηκε αρχικά από τη Wall Street Journal.
Διαβάστε επίσης: Η Παραβίαση της OpenAI από Ερευνητές Κυβερνοασφάλειας
Πώς έγινε η παραβίαση της OpenAI
Οι τρεις ερευνητές ανήκουν στη μικρή εταιρεία κυβερνοασφάλειας Hacktron AI και έλαβαν 6.500 δολάρια από την ίδια την OpenAI, στο πλαίσιο προγράμματος επιβράβευσης για τον εντοπισμό σφαλμάτων. Πρόκειται για συνηθισμένη πρακτική, κατά την οποία οι τεχνολογικές εταιρείες πληρώνουν ηθικούς χάκερ ώστε να ελέγχουν τα συστήματά τους πριν αυτά αξιοποιηθούν από κακόβουλους παράγοντες. Η ομάδα εντόπισε ένα κενό στη διαμόρφωση του κοινοτικού φόρουμ της OpenAI, το οποίο φιλοξενείται από την τρίτη εταιρεία Discourse. Μέσω αυτής της ευπάθειας, οι ερευνητές απέκτησαν πρόσβαση σε εσωτερικές διαδικασίες σύνδεσης και κατέληξαν να ελέγχουν τον λογαριασμό ChatGPT ενός εργαζομένου της OpenAI.
Ο συγκεκριμένος λογαριασμός είχε πρόσβαση σε εσωτερικό κώδικα μέσω του GitHub, κάτι που επέτρεψε στους ερευνητές να διαβάσουν ιδιωτικές πληροφορίες σχετικά με λογισμικό της εταιρείας και να προτείνουν ακόμη και αλλαγές σε αυτό. Η ταχύτητα με την οποία η μικρή ομάδα κατάφερε να παραβιάσει την ασφάλεια μίας από τις δύο κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο επαναφέρει στο προσκήνιο τις ανησυχίες γύρω από την OpenAI. Οι φόβοι εντείνονται καθώς ισχυρά μοντέλα τεχνητής νοημοσύνης θα μπορούσαν δυνητικά να αποτελέσουν στόχο για χάκερ και ξένους αντιπάλους.
Αντιδράσεις και πλαίσιο
Η OpenAI αναγνώρισε το περιστατικό, δηλώνοντας: «Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», και πρόσθεσε ότι έχει ήδη διορθώσει τα προβλήματα που εντοπίστηκαν. Η Anthropic, της οποίας το εργαλείο χρησιμοποιήθηκε για τον εντοπισμό της ευπάθειας, αρνήθηκε να σχολιάσει το θέμα, ενώ η Hacktron AI δεν απάντησε άμεσα σε σχετικά ερωτήματα.
Η αποκάλυψη της παραβίασης της OpenAI συνέπεσε χρονικά με ανακοίνωση της Anthropic σχετικά με τη χρήση τεχνητής νοημοσύνης στην ανάπτυξη των δικών της μοντέλων. Η εταιρεία ανέφερε ότι το 26% του έργου έρευνας και ανάπτυξής της «καθοδηγείται από» το μοντέλο Claude, ένα ποσοστό που εκτοξεύθηκε από μόλις 1% τον Μάρτιο. Αυτό σημαίνει ότι η τεχνητή νοημοσύνη ολοκλήρωσε την πλειονότητα των εργασιών με βάση ανθρώπινες οδηγίες και υπό ανθρώπινη επίβλεψη. Η Anthropic σημείωσε πως καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται ισχυρότερα, «χρησιμοποιούνται ολοένα και περισσότερο για να κατασκευάσουν την επόμενη εκδοχή του εαυτού τους». Η εταιρεία δήλωσε ότι δημοσιοποίησε τα συγκεκριμένα στοιχεία ώστε το κοινό να κατανοήσει πόσο κοντά βρίσκεται ο κόσμος στην επίτευξη της αναδρομικής αυτοβελτίωσης των μοντέλων τεχνητής νοημοσύνης.
