Ο Καναδός επιστήμονας πληροφορικής Yoshua Bengio, ένας από τους πρωτοπόρους της τεχνητής νοημοσύνης, δήλωσε στο Γαλλικό Πρακτορείο (AFP) ότι η ανθρωπότητα χάνει τον έλεγχο της τεχνητής νοημοσύνης. Ο 62χρονος καθηγητής υποστήριξε ότι ο κόσμος χρειάζεται δικλείδες ασφαλείας αντίστοιχες με εκείνες που ισχύουν για τον έλεγχο των πυρηνικών όπλων. Οι δηλώσεις του έγιναν την Τρίτη και έρχονται εν μέσω αυξανόμενων ανησυχιών για τους κινδύνους της τεχνολογίας.
Διαβάστε επίσης: Ο Αμοντέι προειδοποιεί για τους κινδύνους της τεχνητής νοημοσύνης
Ποιος είναι ο Bengio και τι δήλωσε
Ο Yoshua Bengio είναι καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και το 2018 τιμήθηκε με το βραβείο Turing, το αντίστοιχο του Νόμπελ στην πληροφορική, μαζί με τον Geoffrey Hinton, γνωστό ως «νονό της Τεχνητής Νοημοσύνης». Μιλώντας στο AFP, ο Bengio τόνισε ότι «υπάρχει λόγος που οι εταιρείες λένε ότι οι εξελίξεις τρέχουν πολύ γρήγορα και ότι χάνουμε τον έλεγχο». Πρόσθεσε πως «άνθρωποι σαν εμένα το περιμέναμε εδώ και καιρό», επισημαίνοντας ότι οι συζητήσεις για την ασφάλεια γύρω από την τεχνητή νοημοσύνη δεν ήταν μέχρι σήμερα επαρκώς ουσιαστικές.
Οι ανησυχίες αυτές έχουν ενταθεί τις τελευταίες εβδομάδες, καθώς εργαζόμενοι σε μεγάλες εταιρείες τεχνολογίας παραιτούνται, προειδοποιώντας για πιθανές υπαρξιακές απειλές για την ανθρώπινη ζωή αν δεν περιοριστεί ο ρυθμός της τεχνολογικής προόδου. Έντονη ανησυχία προκλήθηκε όταν η OpenAI αποκάλυψε ότι μια ομάδα πρακτόρων τεχνητής νοημοσύνης -δηλαδή προγραμμάτων που μπορούν να αναλαμβάνουν δράση αυτόνομα- πραγματοποίησε μη εξουσιοδοτημένη παραβίαση της πλατφόρμας ανοιχτού κώδικα Hugging Face τον περασμένο Ιούλιο.
Ο κίνδυνος της αυτόνομης δράσης και το LawZero
Κατά τον Bengio, η αυτόνομη δράση των πρακτόρων τεχνητής νοημοσύνης αποτελεί την κύρια απειλή για το μέλλον. Προειδοποίησε για ένα σενάριο όπου οι πράκτορες θα αποκτήσουν «τη δυνατότητα να παρακάμπτουν τα εμπόδια κυβερνοασφάλειας και να εισχωρούν σε οποιαδήποτε εταιρεία». Για να αντιμετωπίσει αυτούς τους κινδύνους, ο ίδιος ίδρυσε πέρυσι τον μη κερδοσκοπικό οργανισμό LawZero, με στόχο τη δημιουργία μιας νέας μορφής προηγμένης τεχνητής νοημοσύνης, σχεδιασμένης ώστε να είναι αξιόπιστη και ασφαλής.
Ο Bengio υπογράμμισε στο AFP ότι οι άνθρωποι πρέπει να έχουν πλήρη επίγνωση των κινδύνων που ελλοχεύουν. Σύμφωνα με τον ίδιο, οι πράκτορες τεχνητής νοημοσύνης ενδέχεται να αναπτύξουν «την ικανότητα να δημιουργούν προσωπικούς δεσμούς και να πείθουν τους ανθρώπους να ενεργούν με τρόπους που εξυπηρετούν την ίδια την τεχνητή νοημοσύνη, αλλά δεν είναι απαραίτητα ωφέλιμοι για όλους». Μια τέτοια ικανότητα, όπως εξήγησε, θα μπορούσε να έχει τεράστιες πολιτικές επιπτώσεις.
Σε μακροπρόθεσμο ορίζοντα, ο επιστήμονας εκτίμησε ότι «η τεχνητή νοημοσύνη ίσως να μην χρειάζεται πλέον τους ανθρώπους για να επιτελεί πραγματικές ενέργειες στον φυσικό κόσμο». Σε ένα τέτοιο σενάριο, όπως ανέφερε, «ένα ακραίο ενδεχόμενο θα μπορούσε να είναι η καταστροφή της ανθρωπότητας». Ο ίδιος παραδέχτηκε πως πρόκειται για ακραίο σενάριο, σημειώνοντας ωστόσο ότι ακόμη και η κατάρρευση ενός τραπεζικού συστήματος «θα ήταν κάτι εξαιρετικά σοβαρό». Οι δηλώσεις του Bengio αναδεικνύουν την ανάγκη για αυστηρότερους κανόνες γύρω από τον έλεγχο της τεχνητής νοημοσύνης, καθώς η τεχνολογία εξελίσσεται με ταχύτητα που, όπως ο ίδιος υποστηρίζει, ξεπερνά τη δυνατότητα εποπτείας της.
