Δύο από τους πιο αναγνωρισμένους επιστήμονες της τεχνητής νοημοσύνης παγκοσμίως, ο Τζέφρι Χίντον και ο Γιόσουα Μπέντζιο, προειδοποιούν τις κυβερνήσεις να προετοιμαστούν άμεσα για μια πιθανή «έκρηξη νοημοσύνης». Οι δύο επιστήμονες, που θεωρούνται «νονοί» της σύγχρονης AI λόγω της πρωτοποριακής δουλειάς τους στον τομέα, συνυπογράφουν νέα έκθεση η οποία χαρακτηρίζει το ενδεχόμενο ως τη σημαντικότερη τεχνολογική εξέλιξη στην ιστορία. Η έκθεση καλεί τους πολιτικούς να δράσουν πριν η πρόοδος της τεχνολογίας καταστεί ανεξέλεγκτη.
Τι αναφέρει η έκθεση για την έκρηξη νοημοσύνης
Η μελέτη, με τίτλο «Τι θα γινόταν αν η αυτοματοποίηση της έρευνας και ανάπτυξης της AI προκαλούσε μια έκρηξη νοημοσύνης;», φέρει την υπογραφή περισσότερων από 20 συγγραφέων. Ανάμεσά τους ξεχωρίζουν ο Τζακ Κλάρκ, συνιδρυτής της Anthropic, και ο Τζακούμπ Πατσόκι, επικεφαλής επιστήμονας της OpenAI. Οι συγγραφείς περιγράφουν την «έκρηξη νοημοσύνης» ως μια δραματική επιτάχυνση της προόδου της AI που προκαλείται από την ίδια την τεχνολογία, συμπιέζοντας εξελίξεις που υπό άλλες συνθήκες θα απαιτούσαν χρόνια σε διάστημα μηνών ή και λιγότερο.
Στο κέντρο των ανησυχιών βρίσκεται το ενδεχόμενο τα συστήματα AI να αποκτήσουν την ικανότητα να βελτιώνουν τον εαυτό τους χωρίς ανθρώπινη παρέμβαση, μια διαδικασία που η μελέτη ονομάζει «αναδρομική αυτοβελτίωση» και αναφέρει ευρύτερα ως αυτοματοποιημένη έρευνα και ανάπτυξη AI. Σύμφωνα με την έκθεση, μόλις τα συστήματα αποκτήσουν ικανότητες επιπέδου ειδικού στην έρευνα και ανάπτυξη AI, ένας και μόνο προγραμματιστής θα μπορούσε να αξιοποιήσει εργατικό δυναμικό ισοδύναμο με «εκατομμύρια» κορυφαίους ανθρώπινους ερευνητές. Οι συγγραφείς υποστηρίζουν πως αυτή η αυτοματοποίηση αποτελεί την πιθανότερη πηγή μιας έκρηξης νοημοσύνης, καθώς οι υπάρχουσες AI συμβάλλουν ήδη στη βελτίωση της δικής τους τεχνολογίας, με τα βελτιωμένα συστήματα να αναπτύσσονται γρήγορα μόλις δημιουργούνται.
Οι προτάσεις πολιτικής και οι πρώτες αντιδράσεις
Στην έκθεση αναφέρεται χαρακτηριστικά ότι μια έκρηξη νοημοσύνης «θα μπορούσε να είναι η σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία», συμπιέζοντας χρόνια προόδου σε λίγους μήνες, απειλώντας τον ανθρώπινο έλεγχο επί των συστημάτων AI και διαβρώνοντας τους μηχανισμούς ελέγχου της εξουσίας μεταξύ κρατών, εταιρειών και κυβερνητικών κλάδων. Οι συγγραφείς προειδοποιούν ότι μόλις ξεκινήσει μια τέτοια διαδικασία, το περιθώριο για δράση από τις κυβερνήσεις μπορεί να κλείσει γρήγορα, γι’ αυτό και ζητούν άμεση προετοιμασία.
Η έκθεση προτείνει τρεις βασικές προτεραιότητες πολιτικής. Πρώτον, να απαιτούνται διαφανείς αναφορές προόδου σχετικά με την έρευνα και ανάπτυξη AI, μεταξύ άλλων με την τοποθέτηση ανεξάρτητων ελεγκτών μέσα στις ίδιες τις εταιρείες. Δεύτερον, να βρεθούν τρόποι περιορισμού της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης. Τρίτον, να υπάρξει συστηματική προετοιμασία για την προσαρμογή σε μια ενδεχόμενη έκρηξη νοημοσύνης, ώστε οι κοινωνίες να μην βρεθούν απροετοίμαστες.
Τι ακολουθεί μετά τις προειδοποιήσεις
Ως πρώτο βήμα προς αυτή την κατεύθυνση, τόσο η Anthropic όσο και η OpenAI έχουν ήδη συμφωνήσει να επιτρέψουν σε ανεξάρτητους αξιολογητές να εξετάζουν τα μοντέλα τους. Η κίνηση αυτή έρχεται μετά τις προειδοποιήσεις που περιλαμβάνονται στη νέα έκθεση σχετικά με τους κινδύνους της ανεξέλεγκτης ανάπτυξης. Παραμένει να φανεί αν οι κυβερνήσεις θα υιοθετήσουν τις τρεις προτάσεις πολιτικής που διατυπώνουν ο Χίντον, ο Μπέντζιο και οι υπόλοιποι συν-συγγραφείς της μελέτης, καθώς οι ίδιοι τονίζουν πως ο χρόνος για δράση ενδέχεται να είναι περιορισμένος.
