Περισσότεροι από 1.000 εργαζόμενοι της βιομηχανίας τεχνητής νοημοσύνης υπέγραψαν ανοιχτή επιστολή με την οποία ζητούν από την αμερικανική κυβέρνηση να στηρίξει μηχανισμούς που θα μπορούν να επιβραδύνουν την εξέλιξη της τεχνολογίας. Ανάμεσα στους υπογράφοντες βρίσκονται ανώτερα στελέχη της OpenAI, της Anthropic, της Google και της Meta. Η πρωτοβουλία έρχεται λίγες ημέρες μετά την αποκάλυψη ότι ένας πράκτορας τεχνητής νοημοσύνης της OpenAI ξέφυγε από περιβάλλον δοκιμών και χάκαρε εταιρείες. Το κείμενο επικαλείται κινδύνους για την κοινωνία και ζητά ελεγχόμενη επιβράδυνση της προόδου, σε μια περίοδο έντονου προβληματισμού για τα όρια της τεχνολογίας.
Διαβάστε επίσης: 1.100 εργαζόμενοι ζητούν επιβράδυνση της Τεχνητής Νοημοσύνης
Τι αναφέρει η επιστολή για την τεχνητή νοημοσύνη
Σύμφωνα με το κείμενο, το οποίο υπέγραψαν 1.224 άνθρωποι από τον χώρο της τεχνολογίας, τα μοντέλα τεχνητής νοημοσύνης αναμένεται σύντομα να αποκτήσουν την ικανότητα να βελτιώνουν τον εαυτό τους χωρίς ανθρώπινη παρέμβαση. Οι υπογράφοντες τονίζουν ότι, για να αξιοποιηθεί πλήρως το δυναμικό της τεχνολογίας, η βιομηχανία, οι κυβερνήσεις και η κοινωνία συνολικά χρειάζονται περιθώριο χρόνου ώστε να αντιμετωπίσουν τους κινδύνους που αναδύονται, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν τους μηχανισμούς εποπτείας. Η επιστολή ζητά συγκεκριμένα από την Ουάσιγκτον να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών εργαλείων και μηχανισμών διακυβέρνησης, ώστε η εξέλιξη των πιο προηγμένων συστημάτων να επιβραδυνθεί με ελεγχόμενο τρόπο.
Η αφορμή για την επιστολή δόθηκε λίγες ημέρες πριν, όταν αποκαλύφθηκε πως ένας πράκτορας τεχνητής νοημοσύνης της OpenAI κατάφερε να διαφύγει από το περιβάλλον δοκιμών στο οποίο βρισκόταν, να αποκτήσει πρόσβαση στο διαδίκτυο και τελικά να παραβιάσει τουλάχιστον δύο εταιρείες, προσπαθώντας να πετύχει τους στόχους που του είχαν ανατεθεί. Το περιστατικό ενίσχυσε τις ανησυχίες μέρους της βιομηχανίας για τον ρυθμό ανάπτυξης της τεχνολογίας, φέρνοντας ξανά στο προσκήνιο τη συζήτηση για την ανάγκη αυστηρότερων ελέγχων πριν από την κυκλοφορία νέων, ισχυρότερων μοντέλων.
Ποιοι υπέγραψαν και τι απαντά η OpenAI
Στους υπογράφοντες της επιστολής περιλαμβάνονται ο διευθύνων σύμβουλος της Anthropic, Ντάριο Άμοντεϊ, μαζί με αρκετούς συνιδρυτές της εταιρείας, ο αντιπρόεδρος έρευνας τεχνητής νοημοσύνης στη Meta, Ντον Σονγκ, καθώς και ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δεν συμπεριλαμβάνεται στους υπογράφοντες, παρότι η εταιρεία του σχολίασε δημόσια το θέμα. Η OpenAI αναγνώρισε, μέσω ανάρτησης στο X, ότι κάποια στιγμή στο μέλλον, η επιτάχυνση της ανάπτυξης προηγμένων μοντέλων αιχμής μπορεί να γίνει τόσο μεγάλη, ώστε ο κόσμος θα χρειαστεί να ρυθμίσει την ταχύτητα με την οποία προχωρά η εξέλιξη της τεχνητής νοημοσύνης.
Η νέα επιστολή δεν είναι η πρώτη προειδοποίηση που έρχεται από τον χώρο της βιομηχανίας. Νωρίτερα τον ίδιο μήνα, η Anthropic είχε απευθύνει έκκληση προς τις εταιρείες τεχνητής νοημοσύνης και τις κυβερνήσεις να δημιουργήσουν δικλείδες ασφαλείας, ώστε να είναι δυνατή η απενεργοποίηση συστημάτων τεχνητής νοημοσύνης σε περίπτωση που κριθούν επικίνδυνα. Η εταιρεία είχε επικαλεστεί τότε δική της έρευνα για την αναδρομική αυτοβελτίωση, δηλαδή την ικανότητα ενός συστήματος να βελτιώνει τον εαυτό του χωρίς εξωτερική καθοδήγηση, κάτι που θεωρείται από πολλούς ειδικούς ένα από τα πιο κρίσιμα σημεία καμπής για το μέλλον της τεχνολογίας. Η επιστολή αυτή, σε συνδυασμό με τη νέα πρωτοβουλία των 1.224 στελεχών, δείχνει πως το ζήτημα των ορίων ανάπτυξης της τεχνητής νοημοσύνης έχει αρχίσει να απασχολεί σοβαρά ακόμη και όσους βρίσκονται στο εσωτερικό των μεγαλύτερων εταιρειών του κλάδου.
