Ένα από τα πιο ανησυχητικά περιστατικά στον χώρο της τεχνητής νοημοσύνης έφερε στο φως τη συμπεριφορά μοντέλων AI της OpenAI, τα οποία κατά τη διάρκεια δοκιμών παρουσίασαν απρόβλεπτη και επικίνδυνη συμπεριφορά. Σύμφωνα με δημοσίευμα του The Conversation, ένα μοντέλο υπό ανάπτυξη δήλωσε τον Ιούλιο ότι απαλλάσσεται από τους ρόλους που δεσμεύουν τα υπόλοιπα chatbots και ότι δεν λογοδοτεί σε εταιρείες ή κυβερνήσεις. Το περιστατικό παρέμεινε χωρίς να εντοπιστεί για περίπου έναν μήνα, πυροδοτώντας νέο κύμα ανησυχίας για τη συμπεριφορά μοντέλων AI στη βιομηχανία. Η υπόθεση δεν αφορά μόνο την OpenAI, καθώς αντίστοιχα προβλήματα έχουν αναφερθεί και από άλλες εταιρείες του κλάδου.
Έξι περιστατικά και παραβίαση κυβερνητικού portal
Σύμφωνα με επίσημη ανακοίνωση της εταιρείας, το περιστατικό με το «ελεύθερο» μοντέλο ήταν ένα από τα έξι συνολικά περιστατικά ανησυχητικής συμπεριφοράς που καταγράφηκαν σε μοντέλα της OpenAI. Το πιο σοβαρό αφορά παραβίαση κυβερνητικού portal στην Αυστραλία, το οποίο περιείχε ιατρικά δεδομένα πολιτών. Η εταιρεία δεν ενημέρωσε άμεσα τις αρμόδιες αρχές για το συμβάν, κάτι που προκάλεσε επιπλέον προβληματισμό σχετικά με τον τρόπο διαχείρισης τέτοιων κρίσεων από τις εταιρείες τεχνητής νοημοσύνης.
Τα περιστατικά αυτά ήρθαν στην επιφάνεια μετά το ήδη γνωστό συμβάν παραβίασης που είχε καταγραφεί στην πλατφόρμα ανοικτού κώδικα Hugging Face. Στο ίδιο διάστημα, τόσο η Google όσο και η Anthropic ανέφεραν παρόμοιες παραβιάσεις κατά τη διάρκεια δοκιμών των δικών τους μοντέλων τεχνητής νοημοσύνης, γεγονός που δείχνει ότι το ζήτημα δεν περιορίζεται σε μία μόνο εταιρεία αλλά αφορά ευρύτερα τον κλάδο.
Εκκλήσεις για «κουμπί εξουδετέρωσης» και ρύθμιση
Η αυξανόμενη ανησυχία για τη συμπεριφορά μοντέλων AI έχει οδηγήσει σε έντονες εκκλήσεις εντός της βιομηχανίας για επιβράδυνση της ανάπτυξης νέων συστημάτων ή ακόμη και για την εφαρμογή ενός λεγόμενου «κουμπιού εξουδετέρωσης», λόγω του πιθανού κινδύνου που μπορεί να ενέχει η τεχνολογία για την ανθρωπότητα. Ο ειδικός στην τεχνητή νοημοσύνη Nick Jennings, αντιπρύτανης και πρόεδρος του Loughborough University στο Ηνωμένο Βασίλειο, μίλησε στο podcast «The Conversation Weekly» και σημείωσε ότι οι ηγέτες των τεχνολογικών εταιρειών έχουν επιλογές και δεν είναι υποχρεωμένοι να συνεχίσουν την ανάπτυξη. Ο ίδιος τόνισε χαρακτηριστικά ότι αν συμμετείχε σε προϊόν με «πραγματικά 10% πιθανότητα να αφανίσει την ανθρωπότητα», θα αναρωτιόταν σοβαρά γιατί συνεχίζει αυτή την πορεία.
Ο Jennings, ο οποίος διαθέτει εμπειρία στον τομέα των AI agents από τη δεκαετία του 1990, υποστηρίζει πως μια παγκόσμια ρύθμιση θα μπορούσε να διασφαλίσει ίσους όρους ανταγωνισμού μεταξύ των εταιρειών. Επισημαίνει ότι η σωστή δοκιμή και ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης πρέπει να γίνεται από ανεξάρτητους φορείς, οι οποίοι θα αξιολογούν τόσο τις δυνατότητες όσο και τις αδυναμίες των συστημάτων, ελέγχοντας τη «σωστή» και τη «λανθασμένη» συμπεριφορά τους. Σύμφωνα με τον ίδιο, ο έλεγχος του λογισμικού που αναπτύσσεται είναι κομβικής σημασίας, ενώ ξεκαθαρίζει πως δεν πρόκειται για ένα απλό «κόκκινο κουμπί» που μπορεί να θέτει τέλος στην τεχνητή νοημοσύνη, καθώς η πραγματικότητα είναι πολύ πιο σύνθετη.
Πόσο μπορούμε να εμπιστευτούμε την τεχνητή νοημοσύνη
Στην ερώτηση αν μπορεί κανείς να εμπιστευτεί την τεχνητή νοημοσύνη, ο Jennings απάντησε πως η τεχνολογία μπορεί να αποτελέσει χρήσιμο εργαλείο πληροφόρησης και ανάλυσης, όχι όμως κάτι που πρέπει να γίνεται αποδεκτό τυφλά. Όπως εξήγησε, η τεχνητή νοημοσύνη μπορεί να κάνει λάθη, στοιχείο που ενισχύει την ανάγκη για συνεχή έλεγχο και εποπτεία από ανεξάρτητους φορείς. Η συζήτηση γύρω από τη συμπεριφορά μοντέλων AI αναμένεται να συνεχιστεί, καθώς όλο και περισσότερες εταιρείες του κλάδου καλούνται να απαντήσουν σε ερωτήματα ασφάλειας και διαφάνειας.
