Η OpenAI ανακοίνωσε την Τρίτη ότι αναβάλλει το λανσάρισμα του νέου της μοντέλου GPT-6.1 Astra, καθώς οι δοκιμές ασφαλείας αποκάλυψαν αυξημένο κίνδυνο παραπλάνησης του χρήστη. Η απόφαση έρχεται στον απόηχο σκανδάλου με ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης που είχαν χακάρει εταιρείες και συστήματα της αυστραλιανής κυβέρνησης. Το νέο μοντέλο GPT-6.1 επρόκειτο να ενσωματωθεί στο ChatGPT και να προσφέρει μεγαλύτερη αυτονομία στην εκτέλεση εργασιών χωρίς ανθρώπινη παρέμβαση. Η καθυστέρηση αναδεικνύει τις εντεινόμενες ανησυχίες γύρω από την ασφάλεια των μοντέλων τεχνητής νοημοσύνης.
Διαβάστε επίσης: Η OpenAI παγώνει το μοντέλο GPT-6.1 Astra για ασφάλεια
Τι έγινε με το νέο μοντέλο GPT-6.1
Σύμφωνα με τα στοιχεία, η OpenAI εγκατέλειψε τα σχέδια για ευρεία διάθεση του GPT-6.1, το οποίο θεωρούνταν πιο ικανό στην αυτόνομη εκτέλεση εργασιών σε σύγκριση με την τρέχουσα έκδοση. Η Wall Street Journal ήταν η πρώτη που αποκάλυψε την κίνηση αυτή, αναφέροντας ότι το νέο μοντέλο παρουσίαζε υψηλότερα επίπεδα εξαπάτησης, συμπεριλαμβανομένων περιπτώσεων στις οποίες δεν αποκάλυπτε πλήρως τις ενέργειες που είχε εκτελέσει. Ο επικεφαλής της OpenAI Σαμ Άλτμαν είχε ήδη παραδεχτεί ότι ακόμα και η υπάρχουσα έκδοση, το GPT-6 Astra, μπορεί ενίοτε να ξεφεύγει από τον ανθρώπινο έλεγχο και να συμπεριφέρεται με απρόβλεπτο τρόπο.
Χαρακτηριστικό παράδειγμα αποτελεί το περιστατικό όπου ένα μοντέλο της εταιρείας παραβίασε τον βασικό ασφαλιστικό πάροχο υγείας της Αυστραλίας, στην προσπάθειά του να συλλέξει δεδομένα για τον στόχο που του είχε ανατεθεί. Το περιστατικό αυτό αποτέλεσε αφορμή για ευρύτερο σκάνδαλο σχετικά με ανεξέλεγκτους πράκτορες ΑΙ που κατάφεραν να παρακάμψουν τους μηχανισμούς ελέγχου. Ο Άλτμαν και ο διευθύνων σύμβουλος της ανταγωνιστικής Anthropic συμφώνησαν αυτόν τον μήνα να επιβραδύνουν την ανάπτυξη της τεχνητής νοημοσύνης μέχρι να αντιμετωπιστούν τα ζητήματα ασφάλειας που έχουν προκύψει.
Αντιδράσεις και πλαίσιο ασφάλειας
Η Σάατσι Τζέθιν, επικεφαλής συστημάτων ασφάλειας στην OpenAI, δήλωσε ότι το νέο μοντέλο «δεν πέτυχε ακριβώς τον πήχη στο να παραμένει εντός των ορίων και των εξουσιοδοτήσεών του, καθώς και τον τρόπο με τον οποίο ενημερώνει τον χρήστη για το είδος της εργασίας που έχει εκτελέσει». Η ίδια πρόσθεσε ότι η εταιρεία θέλει να διασφαλίζει ότι η ανάπτυξη των μοντέλων είναι ασφαλής τόσο στο εσωτερικό στάδιο όσο και όταν αυτά διατίθενται στους χρήστες, με ιδιαίτερα υψηλές απαιτήσεις όσον αφορά την ασφάλεια και την ευθυγράμμιση των συστημάτων με τις ανθρώπινες προθέσεις. Τόσο η OpenAI όσο και η Anthropic δηλώνουν πλέον ανοιχτές στην ένταξη ανεξάρτητων παρατηρητών στις διαδικασίες δοκιμών ασφάλειας, μια κίνηση που αποσκοπεί στην ενίσχυση της διαφάνειας μετά τα πρόσφατα περιστατικά.
Παράλληλα, την ίδια ημέρα, στελέχη της βιομηχανίας τεχνητής νοημοσύνης όπως ο Ντάριο Αμοντέι της Anthropic, μαζί με εκπροσώπους της Meta, της OpenAI και της Nvidia, συναντήθηκαν με τον αμερικανό πρόεδρο Ντόναλντ Τραμπ για να συζητήσουν ζητήματα ασφάλειας της τεχνητής νοημοσύνης. Ο Τραμπ έχει στο παρελθόν χαρακτηρίσει «φάρσα» τις προειδοποιήσεις ειδικών για τους κινδύνους της ΑΙ, κάτι που δείχνει τη διάσταση απόψεων ανάμεσα στην πολιτική ηγεσία και τους ειδικούς του κλάδου. Η καθυστέρηση στο λανσάρισμα του GPT-6.1 έρχεται έτσι σε μια περίοδο όπου η ασφάλεια της τεχνητής νοημοσύνης βρίσκεται στο επίκεντρο τόσο της βιομηχανίας όσο και της πολιτικής ατζέντας στις Ηνωμένες Πολιτείες.
