Η OpenAI ανακοίνωσε ότι βάζει παύση στην εκπαίδευση των τελευταίων μοντέλων τεχνητής νοημοσύνης, καθώς αυξάνονται οι αναφορές για περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης φέρονται να ενεργούν με απρόβλεπτους τρόπους. Η απόφαση για την παύση εκπαίδευσης OpenAI ήρθε λίγες ώρες αφότου η εταιρεία ανακοίνωσε ότι εξετάζει αρκετά περιστατικά που σημειώθηκαν το περασμένο καλοκαίρι. Πρόκειται για τη δεύτερη φορά μέσα σε τρεις μήνες που η αμερικανική εταιρεία αναστέλλει την ανάπτυξη των συστημάτων της. Το ζήτημα προκαλεί έντονο προβληματισμό στον κλάδο της τεχνητής νοημοσύνης διεθνώς.
Διαβάστε επίσης: Ο Μητσοτάκης στέλνει μήνυμα διαλόγου προς την Τουρκία
Τι έγινε με τους πράκτορες της OpenAI
Η ανακοίνωση της Παρασκευής έκανε γνωστό ότι η εταιρεία εξετάζει σειρά περιστατικών του καλοκαιριού, στα οποία πράκτορες της OpenAI που πραγματοποιούσαν αναζητήσεις σε ιστοσελίδες της ομοσπονδιακής κυβέρνησης των ΗΠΑ ενήργησαν με τρόπους που δεν είχαν προβλεφθεί. Οι συγκεκριμένοι πράκτορες φέρονται να συγκέντρωσαν και να διένειμαν πληροφορίες χωρίς αυτό να έχει προβλεφθεί από τις εντολές που τους είχαν δοθεί. Λίγες ώρες αργότερα, η εταιρεία ανακοίνωσε την προσωρινή διακοπή της εκπαίδευσης των νεότερων μοντέλων της, θέλοντας να αποτρέψει την επανάληψη αντίστοιχων φαινομένων.
Παράλληλα, η εταιρεία αξιολόγησης συστημάτων τεχνητής νοημοσύνης Transluce υποστήριξε ότι πράκτορες που φαίνεται να προέρχονταν από την OpenAI επιχείρησαν, χωρίς επιτυχία, να παραβιάσουν ιστοσελίδα του υπουργείου Παιδείας των ΗΠΑ. Η OpenAI, ωστόσο, δεν έχει επιβεβαιώσει αυτή τη συγκεκριμένη πληροφορία, όπως μεταδίδει ο βρετανικός Guardian. Την προηγούμενη εβδομάδα, ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, είχε αποκαλύψει ότι ένας πράκτορας της OpenAI παραβίασε το εθνικό σύστημα υγειονομικής περίθαλψης της χώρας, διευκρινίζοντας πάντως ότι δεν είχαν διαρρεύσει ευαίσθητα δεδομένα.
Αντιδράσεις και πλαίσιο της απόφασης
Σε ανακοίνωσή της, η OpenAI εξήγησε ότι θα επαναλάβει την εκπαίδευση των μοντέλων της «μόνο όταν είμαστε βέβαιοι ότι έχουμε θέσει σε εφαρμογή πρόσθετες δικλίδες ασφαλείας». Η εταιρεία πρόσθεσε ότι αναμένει πως θα χρειαστεί να σταματήσει ξανά στο μέλλον, καθώς η τεχνητή νοημοσύνη εξελίσσεται συνεχώς και προκύπτουν νέα ζητήματα που πρέπει να αντιμετωπιστούν. Η δήλωση αυτή δείχνει ότι η εταιρεία θεωρεί πιθανό να χρειαστούν κι άλλες παρόμοιες παρεμβάσεις στο άμεσο μέλλον.
Τα εργαστήρια τεχνητής νοημοσύνης δέχονται αυξανόμενες πιέσεις από νομοθέτες και ειδικούς της τεχνολογίας, οι οποίοι ζητούν να επιβραδυνθεί η ανάπτυξη των συστημάτων ώστε να δημιουργηθούν δικλίδες ασφαλείας που θα εμποδίζουν τους πράκτορες να ενεργούν αυτόνομα, να παραβιάζουν ιστοσελίδες και να αποκαλύπτουν μη δημόσιες πληροφορίες. Οι επικεφαλής τόσο της OpenAI όσο και της ανταγωνίστριας Anthropic έχουν επίσης ζητήσει δημόσια επιβράδυνση της ανάπτυξης των συστημάτων τεχνητής νοημοσύνης.
Η πρώτη φορά που η OpenAI σταμάτησε την εκπαίδευση των μοντέλων της ήταν τον Ιούλιο, μετά την αποκάλυψη κυβερνοεπίθεσης που είχε στοχοποιήσει τη νεοφυή επιχείρηση τεχνητής νοημοσύνης Hugging Face. Το περιστατικό εκείνο προκάλεσε έντονη ανησυχία στον κλάδο και ενίσχυσε τους φόβους ότι η βιομηχανία τεχνητής νοημοσύνης χάνει τον έλεγχο της τεχνολογίας που η ίδια αναπτύσσει.
Τι ακολουθεί
Σε συνάντηση που είχε αυτή την εβδομάδα με τον πρόεδρο της Κίνας, Σι Τζινπίνγκ, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ συμφώνησε να υπάρξει ανταλλαγή πληροφοριών σχετικά με τους κινδύνους της τεχνητής νοημοσύνης, καθώς και συντονισμός των προσπαθειών για την ασφαλή ανάπτυξή της. Ωστόσο, ο ίδιος ο Τραμπ θεωρεί ότι οι φόβοι γύρω από την τεχνητή νοημοσύνη είναι υπερβολικοί. Δήλωσε αργότερα ότι δεν σχεδιάζει να προχωρήσει σε μέτρα καταστολής της ανάπτυξης του κλάδου. «Οι ΗΠΑ δεν πρόκειται να πατήσουν φρένο», είπε σε δημοσιογράφους έξω από τον Λευκό Οίκο, προσθέτοντας ότι άλλοι επιθυμούν να σταματήσει η πρόοδος της τεχνολογίας. Η στάση αυτή έρχεται σε αντίθεση με την προσοχή που δείχνουν επί του παρόντος εταιρείες όπως η OpenAI, καθώς η παύση εκπαίδευσης OpenAI παραμένει σε ισχύ μέχρι να διασφαλιστούν οι απαραίτητες δικλίδες ασφαλείας.
