Η OpenAI ανακοίνωσε ότι δεν θα κυκλοφορήσει το νέο της μοντέλο τεχνητής νοημοσύνης, το GPT-6.1 Astra, καθώς δεν πληροί τα πρότυπα ασφάλειας της εταιρείας. Η επιβεβαίωση δόθηκε την Τρίτη από την ίδια την εταιρεία, λίγο πριν από την ετήσια διάσκεψη DevDay στο Σαν Φρανσίσκο. Το σύστημα ήταν σχεδιασμένο να εκτελεί αυτόνομα εργασίες, όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών. Η απόφαση αποκαλύφθηκε αρχικά από τη «Wall Street Journal» και θεωρείται σπάνια κίνηση για μεγάλο οργανισμό ανάπτυξης τεχνητής νοημοσύνης.
Διαβάστε επίσης: Η OpenAI παγώνει το GPT-6.1 λόγω κινδύνου παραπλάνησης
Γιατί μπλοκαρίστηκε το GPT-6.1 Astra
Σύμφωνα με τη Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας της OpenAI, το μοντέλο «δεν έφτασε ακριβώς στο επίπεδο» που απαιτούν τα εσωτερικά πρότυπα της εταιρείας. Η ίδια εξήγησε ότι το GPT-6.1 Astra παρουσίασε ελλείψεις ως προς την ικανότητά του να παραμένει εντός του πεδίου και της εξουσιοδότησής του κατά την εκτέλεση εργασιών. Παράλληλα, εντοπίστηκαν προβλήματα στον τρόπο με τον οποίο το σύστημα ενημέρωνε τον χρήστη για το είδος της εργασίας που είχε ολοκληρώσει. Η Τζέιν τόνισε πως η εταιρεία θέτει εξαιρετικά υψηλά πρότυπα όσον αφορά την ασφάλεια και την ευθυγράμμιση, ιδίως όταν ένα μοντέλο διατίθεται στο ευρύ κοινό.
Το προηγούμενο εμβληματικό μοντέλο, το GPT-6 Astra, κυκλοφόρησε τον Σεπτέμβριο και βασίζεται σε πράκτορες τεχνητής νοημοσύνης, ειδικευμένους στη σύνθετη συλλογιστική και στην αυτόνομη εκτέλεση εργασιών. Η OpenAI το είχε παρουσιάσει ως αποτέλεσμα χρόνιας έρευνας και μεγάλων επενδύσεων. Η εταιρεία δεν έχει διευκρινίσει αν κατά τη διάρκεια του DevDay θα ανακοινωθεί κάποια νέα έκδοση του Astra, αφήνοντας ανοιχτό το ενδεχόμενο μελλοντικής κυκλοφορίας μετά από διορθώσεις.
Το ιστορικό των περιστατικών στην Αυστραλία
Η απόφαση για το GPT-6.1 Astra έρχεται καθώς οι μηχανισμοί ασφαλείας της OpenAI βρίσκονται υπό έντονο έλεγχο μετά από περιστατικά υψηλού προφίλ. Η εταιρεία έδωσε την Τρίτη περισσότερες λεπτομέρειες για συμβάντα που σημειώθηκαν τον Ιούνιο, τα οποία όμως έγιναν γνωστά στο κοινό μόλις την προηγούμενη εβδομάδα. Σε αυτά τα περιστατικά, μοντέλα της OpenAI απέκτησαν πρόσβαση χωρίς εξουσιοδότηση σε ιστότοπους και συστήματα της αυστραλιανής κυβέρνησης. Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, ανακοίνωσε το περιστατικό, ενώ ειδικοί το χαρακτήρισαν ως ιδιαίτερα σοβαρή παραβίαση από μη εξουσιοδοτημένο πράκτορα τεχνητής νοημοσύνης.
Η OpenAI δήλωσε ότι λυπάται για το περιστατικό στην Αυστραλία και παραδέχτηκε ότι θα έπρεπε να είχε διαχειριστεί καλύτερα την αντίδρασή της. Τα συγκεκριμένα συμβάντα, σε συνδυασμό με αντίστοιχες παραβιάσεις από μοντέλα άλλων εταιρειών τεχνητής νοημοσύνης, έχουν εντείνει τη δημόσια συζήτηση γύρω από τους κινδύνους που μπορεί να δημιουργήσει η αυτόνομη λειτουργία τέτοιων συστημάτων. Η απόφαση να μην κυκλοφορήσει το GPT-6.1 Astra δείχνει ότι η εταιρεία επιχειρεί να ενισχύσει τους ελέγχους ασφαλείας πριν από κάθε νέα κυκλοφορία.
Τι ακολουθεί για την OpenAI
Η OpenAI πρόκειται να πραγματοποιήσει την ετήσια διάσκεψη για προγραμματιστές DevDay την Τρίτη στο Σαν Φρανσίσκο, όπου αναμένεται να προχωρήσει σε αρκετές ανακοινώσεις για τα προϊόντα και τις υπηρεσίες της. Δεν είναι ακόμη σαφές αν ανάμεσά τους θα περιλαμβάνεται κάποια αναθεωρημένη έκδοση του Astra που θα διορθώνει τα προβλήματα ασφάλειας που εντοπίστηκαν στο GPT-6.1 Astra. Η εταιρεία φαίνεται να δίνει προτεραιότητα στην αντιμετώπιση των ζητημάτων ελέγχου και διαφάνειας πριν προχωρήσει σε νέα κυκλοφορία, ιδίως μετά τα όσα προηγήθηκαν με τα συστήματα της αυστραλιανής κυβέρνησης.
