Δύο από τους σημαντικότερους πρωτοπόρους της τεχνητής νοημοσύνης, ο Geoffrey Hinton και ο Yoshua Bengio, προειδοποιούν για τον κίνδυνο μιας ανεξέλεγκτης έκρηξης νοημοσύνης. Οι δύο επιστήμονες, μαζί με άλλους κορυφαίους ερευνητές του κλάδου, απευθύνουν έκκληση στις κυβερνήσεις να προετοιμαστούν έγκαιρα για τις επιπτώσεις μιας τέτοιας εξέλιξης. Η προειδοποίηση περιλαμβάνεται σε νέα έκθεση που χαρακτηρίζει το ενδεχόμενο ως τη σημαντικότερη τεχνολογική εξέλιξη στην ιστορία. Σύμφωνα με τους συγγραφείς, η έκρηξη νοημοσύνης θα μπορούσε να συμπιέσει χρόνια τεχνολογικής προόδου σε μόλις λίγους μήνες.
Τι αναφέρει η έκθεση για την έκρηξη νοημοσύνης
Η έκθεση φέρει τον τίτλο «What if automating AI R&D triggers an intelligence explosion» και υπογράφεται από σημαντικό αριθμό ειδικών του χώρου. Εκτός από τον Geoffrey Hinton, βραβευμένο με Νόμπελ, και τον Καναδό επιστήμονα υπολογιστών Yoshua Bengio, στο κείμενο συμμετέχουν ο συνιδρυτής της Anthropic, Jack Clark, και ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki. Οι συγγραφείς εστιάζουν στο ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να αποκτήσουν τη δυνατότητα να βελτιώνουν αυτόνομα τις ικανότητές τους, χωρίς καμία ανθρώπινη παρέμβαση, μέσω μιας διαδικασίας που περιγράφεται ως «αναδρομική αυτοβελτίωση».
Η αυτοματοποιημένη έρευνα και ανάπτυξη τεχνητής νοημοσύνης θεωρείται από τους ερευνητές ο βασικότερος παράγοντας που θα μπορούσε να πυροδοτήσει μια τέτοια εξέλιξη. Ήδη, όπως σημειώνεται στην έκθεση, τα υπάρχοντα συστήματα συμβάλλουν στη βελτίωση των δικών τους τεχνολογιών, ενώ οι αναβαθμισμένες εκδόσεις τους μπορούν να αναπτυχθούν με ταχύτατους ρυθμούς μόλις δημιουργηθούν. Σε ένα τέτοιο σενάριο, ένας μόνο προγραμματιστής θα μπορούσε θεωρητικά να διαχειρίζεται μια «εργατική δύναμη» ισοδύναμη με εκατομμύρια κορυφαίους ανθρώπινους ερευνητές, όπως αναφέρει χαρακτηριστικά το κείμενο.
Οι κίνδυνοι και οι προτάσεις των ειδικών
Στην έκθεση τονίζεται ότι μια έκρηξη νοημοσύνης θα μπορούσε να αποτελέσει τη σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε μήνες ή και λιγότερο. Οι συγγραφείς προειδοποιούν ότι ένα τέτοιο φαινόμενο θα απειλούσε τον ανθρώπινο έλεγχο πάνω στα συστήματα τεχνητής νοημοσύνης και θα διέβρωνε σοβαρά τους μηχανισμούς ελέγχου εξουσίας, τόσο εντός όσο και μεταξύ κρατών, εταιρειών και θεσμών. Για τον λόγο αυτό, καλούν τις κυβερνήσεις να δράσουν άμεσα, σημειώνοντας ότι μόλις ξεκινήσει μια έκρηξη νοημοσύνης, το παράθυρο για ουσιαστική δράση ενδέχεται να κλείσει.
Οι ερευνητές προτείνουν τρεις συγκεκριμένες πολιτικές προτεραιότητες. Πρώτον, ζητούν διαφανείς αναφορές προόδου στην έρευνα και ανάπτυξη τεχνητής νοημοσύνης, με ενσωμάτωση ανεξάρτητων ελεγκτών στις εταιρείες του κλάδου. Δεύτερον, προτείνουν περιορισμό της ταχύτατης ανάπτυξης νέων συστημάτων τεχνητής νοημοσύνης. Τρίτον, ζητούν προετοιμασία των κρατών ώστε να μπορέσουν να προσαρμοστούν έγκαιρα σε μια πιθανή έκρηξη νοημοσύνης, αν αυτή τελικά συμβεί.
Τι κάνουν ήδη Anthropic και OpenAI
Οι εταιρείες Anthropic και OpenAI έχουν ήδη συμφωνήσει να επιτρέψουν σε ανεξάρτητους αξιολογητές να εξετάζουν τα μοντέλα τους, έπειτα από τις προειδοποιήσεις που έχουν διατυπωθεί για την ασφάλεια της ταχέως αναπτυσσόμενης τεχνητής νοημοσύνης. Η Anthropic αναφέρει ότι η τεχνητή νοημοσύνη παράγει πλέον το 80% του δικού της κώδικα, μια ένδειξη του βαθμού στον οποίο τα συστήματα έχουν ήδη ενσωματωθεί στις εσωτερικές διαδικασίες ανάπτυξης. Παράλληλα, η OpenAI αξιοποιεί αυτόνομους πράκτορες τεχνητής νοημοσύνης για την εκπαίδευση νέων μοντέλων, γεγονός που επιβεβαιώνει τον ρόλο της αυτοματοποίησης στην ίδια τη δημιουργία νέων τεχνολογιών.
Η έκθεση των Hinton, Bengio και των υπολοίπων συνυπογραφόντων καταλήγει ότι η προετοιμασία για την έκρηξη νοημοσύνης δεν πρέπει να αντιμετωπίζεται ως μακρινό ενδεχόμενο. Η ταχύτητα με την οποία εξελίσσονται τα σημερινά συστήματα, σε συνδυασμό με τη σταδιακή αυτοματοποίηση της ίδιας της έρευνας γύρω από την τεχνητή νοημοσύνη, καθιστά επείγουσα την ανάγκη για συντονισμένη δράση από κυβερνήσεις και εταιρείες του κλάδου, σύμφωνα με τους συγγραφείς της έκθεσης.
