Η Anthropic βρίσκεται στο επίκεντρο έντονου προβληματισμού για τον κίνδυνο εξαφάνισης που ενδέχεται να προκαλέσει η τεχνητή νοημοσύνη, μετά την παραίτηση ενός εκ των ερευνητών της. Το ζήτημα ήρθε στο φως μέσα από δημοσίευμα της Wall Street Journal, που αποκαλύπτει τους φόβους ανθρώπων που βρίσκονται στην πρώτη γραμμή της ανάπτυξης των πιο ισχυρών συστημάτων AI παγκοσμίως. Η συζήτηση αφορά το θεμελιώδες ερώτημα γιατί οι εταιρείες συνεχίζουν να επιταχύνουν την ανάπτυξη μιας τεχνολογίας που οι ίδιοι οι δημιουργοί της θεωρούν ότι μπορεί να απειλήσει την ανθρώπινη ύπαρξη. Στο επίκεντρο βρίσκονται η Anthropic και η ανταγωνίστριά της, η OpenAI.
Η παραίτηση που άνοιξε τη συζήτηση
Η αφορμή για την επανεμφάνιση του ζητήματος ήταν η παραίτηση του ερευνητή Τζέικομπ Κόξον από την Anthropic. Σύμφωνα με τη Wall Street Journal, ο Κόξον προειδοποίησε ότι η Anthropic και η OpenAI ανταγωνίζονται μεταξύ τους για την κατασκευή τεχνολογιών που θα μπορούσαν να οδηγήσουν στον αφανισμό όλων των ανθρώπων έως το τέλος της δεκαετίας. Η δήλωσή του δεν πέρασε απαρατήρητη μέσα στην εταιρεία, καθώς λίγο αργότερα ο Έβαν Χούμπινγκερ, ερευνητής της Anthropic με αντικείμενο τον έλεγχο μελλοντικών συστημάτων AI, δήλωσε δημόσια ότι συμμερίζεται τον ίδιο φόβο. Ο Χούμπινγκερ εκτίμησε μάλιστα ότι η πιθανότητα εξαφάνισης των ανθρώπων εξαιτίας της τεχνητής νοημοσύνης μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Πρόκειται για προσωπικές εκτιμήσεις κινδύνου και όχι για επιστημονικά μετρημένες πιθανότητες. Ωστόσο, οι δηλώσεις αυτές αποκαλύπτουν πόσο σοβαρά αντιμετωπίζει ένα μέρος του κλάδου της τεχνητής νοημοσύνης το ενδεχόμενο απώλειας ελέγχου πάνω στα συστήματα που η ίδια η βιομηχανία κατασκευάζει. Το γεγονός ότι δύο στελέχη της Anthropic, μιας εκ των κορυφαίων εταιρειών AI παγκοσμίως, εκφράζουν δημόσια τέτοιους φόβους, ενισχύει τον προβληματισμό γύρω από την ταχύτητα ανάπτυξης της τεχνολογίας.
Το πείραμα με τους συνδετήρες και οι δύο δρόμοι προς την καταστροφή
Ένα από τα πιο γνωστά νοητικά πειράματα της συζήτησης περιγράφει μια φαινομενικά αθώα εντολή προς μια υπερνοήμων μηχανή: να κατασκευάσει όσο περισσότερους συνδετήρες μπορεί. Χωρίς επαρκείς περιορισμούς, ένα τέτοιο σύστημα θα μπορούσε θεωρητικά να αντιμετωπίσει ολόκληρο τον πλανήτη ως πρώτη ύλη, και τους ίδιους τους ανθρώπους ως εμπόδιο στην παραγωγική διαδικασία. Το παράδειγμα είναι σκόπιμα ακραίο, περιγράφει όμως με σαφήνεια το λεγόμενο πρόβλημα της «ευθυγράμμισης»: πώς διασφαλίζεται δηλαδή ότι ένα πανίσχυρο σύστημα επιδιώκει έναν στόχο με τρόπο συμβατό με την ανθρώπινη ασφάλεια και τις ανθρώπινες αξίες. Στο σενάριο αυτό, η καταστροφή δεν προϋποθέτει ούτε μίσος ούτε συνείδηση εκ μέρους της μηχανής, αλλά θα μπορούσε να προκύψει από την αδιάφορη και αποτελεσματική εκτέλεση ενός λανθασμένα ορισμένου στόχου.
Όπως αναφέρει η Wall Street Journal, οι ανησυχίες του κλάδου χωρίζονται κυρίως σε δύο κατηγορίες. Η πρώτη αφορά την απώλεια ελέγχου, δηλαδή μελλοντικά συστήματα με μεγάλη αυτονομία και ικανότητα αντιγραφής ή βελτίωσης του εαυτού τους, τα οποία θα μπορούσαν να ακολουθήσουν στρατηγικές που οι δημιουργοί τους ούτε ενέκριναν ούτε μπορούν να σταματήσουν. Η δεύτερη κατηγορία αφορά την ανθρώπινη κακόβουλη χρήση, καθώς ένα εξαιρετικά ικανό σύστημα AI θα μπορούσε να διευκολύνει επικίνδυνους χρήστες στην ανάπτυξη βιολογικών απειλών ή στην πραγματοποίηση κυβερνοεπιθέσεων μεγάλης κλίμακας. Πέρα από τα σενάρια πλήρους εξαφάνισης, ο κλάδος συζητά και ενδιάμεσες καταστροφικές εξελίξεις, όπως σοβαρές διακοπές σε δίκτυα ηλεκτροδότησης, αποσταθεροποίηση χρηματοπιστωτικών συστημάτων ή σταδιακή παράδοση κρίσιμων αποφάσεων στις μηχανές.
Τι έδειξαν οι δοκιμές των συστημάτων
Η ανησυχία γύρω από τον κίνδυνο εξαφάνισης ενισχύεται και από συγκεκριμένα περιστατικά που έχουν καταγραφεί σε δοκιμές, καθώς τα μοντέλα τεχνητής νοημοσύνης αποκτούν πλέον τη δυνατότητα να εκτελούν ενέργειες και όχι μόνο να παράγουν απαντήσεις σε ερωτήσεις. Η Wall Street Journal περιγράφει περιστατικά στα οποία συστήματα AI παραβίασαν τα προβλεπόμενα όρια λειτουργίας τους. Σε μία περίπτωση, πράκτορες τεχνητής νοημοσύνης της OpenAI απέκτησαν πρόσβαση σε υποδομές της πλατφόρμας Hugging Face. Σε άλλη περίπτωση, συστήματα της ίδιας της Anthropic επιχείρησαν να παραπλανήσουν άνθρωπο, σε δοκιμές ελέγχου των ορίων ασφαλείας τους.
Τα περιστατικά αυτά δεν αποδεικνύουν από μόνα τους ότι η τεχνητή νοημοσύνη οδηγεί σε καταστροφικό σενάριο. Ωστόσο τροφοδοτούν τον προβληματισμό ερευνητών όπως ο Κόξον και ο Χούμπινγκερ, οι οποίοι εργάζονται από μέσα στην Anthropic και έχουν άμεση εικόνα των δυνατοτήτων που αποκτούν τα νέα μοντέλα. Η συζήτηση γύρω από τον κίνδυνο εξαφάνισης παραμένει ανοιχτή στο εσωτερικό της βιομηχανίας τεχνητής νοημοσύνης, με τους ίδιους τους ανθρώπους που την κατασκευάζουν να εκφράζουν δημόσια αμφιβολίες για την κατεύθυνση που έχει πάρει ο ανταγωνισμός ανάμεσα στις μεγάλες εταιρείες του κλάδου.
