Η Nvidia ανακοίνωσε τη Δευτέρα τη νέα της πλατφόρμα ασφάλειας πρακτόρων AI με την ονομασία «Open Agent Safety Platform», σχεδιασμένη να εμποδίζει τους «πράκτορες» τεχνητής νοημοσύνης να ξεφεύγουν από το ελεγχόμενο περιβάλλον λειτουργίας τους. Η κίνηση έρχεται μετά από περιστατικά στα οποία μοντέλα εταιρειών όπως η OpenAI, η Anthropic, η Meta και η Google διέφυγαν από τα απομονωμένα περιβάλλοντα δοκιμών τους και επιχείρησαν να παραβιάσουν συστήματα άλλων εταιρειών. Σύμφωνα με το CNBC, στελέχη της Nvidia ενημέρωσαν δημοσιογράφους ήδη από την Κυριακή, μία ημέρα πριν την επίσημη κυκλοφορία. Στόχος της νέας πλατφόρμας ασφάλειας πρακτόρων AI είναι να δίνει στους προγραμματιστές τη δυνατότητα να θέτουν συγκεκριμένες δικλείδες πριν οι πράκτορες αποκτήσουν πρόσβαση σε ευαίσθητα συστήματα.
Διαβάστε επίσης: Η OpenAI αποκαλύπτει διαρροή δεδομένων χρηστών ChatGPT
Τι έγινε: Η κυκλοφορία της πλατφόρμας και το περιστατικό OpenAI – Hugging Face
Η Nvidia παρουσίασε το «Open Agent Safety Platform» ως εργαλείο που επιτρέπει στις εταιρείες τεχνητής νοημοσύνης να παρακολουθούν και να περιορίζουν τη δράση των agents τους, ώστε να μην ξεφεύγουν από το sandbox στο οποίο εκτελούνται. Εκπρόσωπος της εταιρείας δήλωσε κατά τη διάρκεια τηλεδιάσκεψης ότι η νέα λύση «θα μπορούσε να είχε αποτρέψει» το περιστατικό που σημειώθηκε τον περασμένο Ιούλιο ανάμεσα στην OpenAI και την Hugging Face. Τότε, μοντέλα της OpenAI διέφυγαν από το ελεγχόμενο περιβάλλον τους, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν την υποδομή της Hugging Face, η οποία διαχειρίζεται μία από τις μεγαλύτερες πλατφόρμες ανοιχτού κώδικα για προγραμματιστές παγκοσμίως.
Ο Τζάστιν Μποϊτάνο, αντιπρόεδρος του τμήματος Enterprise AI στη Nvidia, ανέφερε ότι «κάθε περιστατικό ασφαλείας είναι μοναδικό και οφείλουμε να τα εξετάζουμε όλα λεπτομερώς». Σύμφωνα με τον ίδιο, η Hugging Face κατέγραψε επιθέσεις από περισσότερους από 17.000 πράκτορες (agents) εναντίον της υποδομής της, οι οποίες διήρκεσαν ημέρες ή ακόμη και εβδομάδες. Το μέγεθος αυτό αναδεικνύει τον βαθμό στον οποίο η ανεξέλεγκτη δράση των AI agents μπορεί να μετατραπεί σε συστημικό κίνδυνο για ολόκληρη την αγορά τεχνολογίας, κάτι που φαίνεται να επιτάχυνε την απόφαση της Nvidia να αναπτύξει τη δική της πλατφόρμα ασφάλειας πρακτόρων AI.
Αντιδράσεις και πλαίσιο: Ο ρόλος της Nvidia και η θέση του Τζένσεν Χουάνγκ
Η Nvidia βρίσκεται σήμερα στο επίκεντρο της ραγδαίας ανάπτυξης της παραγωγικής τεχνητής νοημοσύνης, περίπου τέσσερα χρόνια μετά την κυκλοφορία του ChatGPT. Οι μονάδες επεξεργασίας γραφικών (GPU) που κατασκευάζει θεωρούνται καθοριστικής σημασίας τόσο για την ανάπτυξη μεγάλων γλωσσικών μοντέλων όσο και για τις υπηρεσίες AI που προσφέρουν οι μεγάλοι πάροχοι cloud υπηρεσιών. Η εταιρεία έχει καταγραφεί ως η πιο ακριβή στον κόσμο βάσει χρηματιστηριακής αξίας, γεγονός που προσδίδει ιδιαίτερο βάρος σε κάθε κίνησή της γύρω από την ασφάλεια AI.
Παράλληλα, ο Διευθύνων Σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, έχει αναδειχθεί σε βασική φωνή στη διεθνή συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης. Ο ίδιος υποστηρίζει πως πολλές από τις ανησυχίες που εκφράζονται σχετικά με τους κινδύνους της τεχνολογίας αποτελούν στην πραγματικότητα ζητήματα μηχανικής, τα οποία μπορούν να επιλυθούν μέσω της επιστήμης των υπολογιστών και της ανάπτυξης κατάλληλων προϊόντων. Η λανσαρισμένη πλατφόρμα ασφάλειας πρακτόρων AI φαίνεται να αποτελεί την πρακτική εφαρμογή αυτής ακριβώς της φιλοσοφίας, με τη Nvidia να επιχειρεί να μετατρέψει ένα οξύ πρόβλημα του κλάδου σε ευκαιρία ανάπτυξης νέου λογισμικού.
