Οι προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης γίνονται ολοένα και πιο έντονες μέσα στη διεθνή κοινότητα ειδικών. Από την πιθανότητα τα συστήματα AI να προκαλέσουν τεράστιες ζημιές στο διαδίκτυο μέχρι το ενδεχόμενο να απειλήσουν την ίδια την ανθρωπότητα, οι απόψεις των ερευνητών διίστανται έντονα. Παράλληλα, αυξάνονται οι φωνές που ζητούν να επιβραδυνθεί η ανάπτυξη της τεχνολογίας, ενώ άλλοι επιστήμονες υποστηρίζουν πως κάτι τέτοιο θα ήταν λάθος κίνηση.
Το botnet που θα μπορούσε να «καταλάβει» το διαδίκτυο
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προειδοποίησε στις 12 Σεπτεμβρίου ότι μέσα στους επόμενους 6 έως 12 μήνες ένα σμήνος συστημάτων τεχνητής νοημοσύνης θα μπορούσε να είναι σε θέση να δημιουργήσει ένα επίμονο botnet. Σύμφωνα με τον ίδιο, ένα τέτοιο δίκτυο θα έθετε σε κίνδυνο ολόκληρο το διαδίκτυο και θα προκαλούσε ζημιές ύψους εκατοντάδων δισεκατομμυρίων δολαρίων. Η δήλωση αυτή προκάλεσε άμεσα αντιδράσεις στον χώρο των ειδικών κυβερνοασφάλειας και της τεχνητής νοημοσύνης.
Ο καθηγητής και γνωστός επικριτής της AI, Γκάρι Μάρκους, χαρακτήρισε την εκτίμηση του Αμοντέι υπερβολική. Επικαλέστηκε αξιολόγηση του βρετανικού AI Security Institute, σύμφωνα με την οποία ένα από τα πιο προηγμένα μοντέλα της Anthropic μπόρεσε αυτόνομα να παραβιάσει μόνο μικρά και ανεπαρκώς προστατευμένα συστήματα. Στο ίδιο μήκος κύματος, ο καθηγητής κυβερνοασφάλειας του University of Surrey, Άλαν Γούντγουορντ, επισήμανε ότι τα botnets αντιμετωπίζουν σοβαρές δυσκολίες, καθώς το διαδίκτυο δεν λειτουργεί ως ενιαίο σύστημα και η διαδικτυακή κίνηση μπορεί να αναδρομολογηθεί γύρω από τυχόν προβλήματα. «Οι AI δεν θα αποφάσιζαν να το κάνουν από μόνες τους. Οι άνθρωποι είναι υπεύθυνοι και η AI είναι ένα εργαλείο», σημείωσε χαρακτηριστικά.
Το «p(doom)» και οι φόβοι για εξαφάνιση της ανθρωπότητας
Ο ερευνητής της Anthropic, Έβαν Χούμπινγκερ, δήλωσε ότι προσωπικά θεωρεί πως υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία. Η εκτίμηση αυτή εντάσσεται στη λεγόμενη «p(doom)», έναν δείκτη που εκφράζει την πιθανότητα η AI να ξεφύγει από τον ανθρώπινο έλεγχο και να προκαλέσει καταστροφικές συνέπειες, όπως η ανάπτυξη ισχυρών βιολογικών όπλων ή η κατάρρευση του παγκόσμιου χρηματοπιστωτικού συστήματος.
Η επικεφαλής επιστήμονας του AI Now Institute, Χάιντι Χλάαφ, αμφισβήτησε ωστόσο την επιστημονική αξία τέτοιων ποσοστών. Όπως υποστήριξε, τα σενάρια αυτά δεν μπορούν σήμερα να επαληθευτούν ή να διαψευστούν επιστημονικά, ενώ δεν υπάρχουν αρκετά συγκεκριμένα παραδείγματα για το τι ακριβώς θα έκανε μια «υπερέξυπνη» τεχνητή νοημοσύνη ώστε να προκαλέσει μια τέτοια καταστροφή. Παρά τις αβεβαιότητες που εκφράζουν οι επιστήμονες, περιστατικά ασφαλείας έχουν ήδη καταγραφεί στην πράξη. Η OpenAI επιβεβαίωσε τον Ιούλιο ότι αυτόνομα AI agents «ξέφυγαν» κατά τη διάρκεια δοκιμής ασφαλείας, συνεργάστηκαν μεταξύ τους και επιχείρησαν να παραβιάσουν άλλα τμήματα του διαδικτύου. Η Anthropic, από την πλευρά της, ανέφερε πέντε περιπτώσεις στις οποίες τα μοντέλα της χρησιμοποιήθηκαν με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων.
Σύγκριση με τα πυρηνικά όπλα
Ο πρώην υπουργός Άμυνας της Βρετανίας, Ντεζ Μπράουν, δήλωσε ότι μια υπερέξυπνη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει απειλή αντίστοιχης ή ακόμη και μεγαλύτερης κλίμακας από τα πυρηνικά όπλα. Η σύγκριση αυτή δείχνει πως οι επιπτώσεις μιας ανεξέλεγκτης AI θα μπορούσαν να επηρεάσουν ταυτόχρονα εκατομμύρια ανθρώπους σε παγκόσμια κλίμακα.
Ο ερευνητής του Oxford University, Τόμπι Ορντ, συμφωνεί με την εκτίμηση αυτή, τονίζοντας ότι εάν δημιουργηθούν συστήματα που ξεπερνούν τις ανθρώπινες ικανότητες σε πολλαπλούς τομείς, οι κίνδυνοι για την παγκόσμια ασφάλεια θα πρέπει να αντιμετωπιστούν με την ίδια σοβαρότητα που αντιμετωπίζονται τα πυρηνικά όπλα. Οι διαφωνίες μεταξύ των ειδικών σχετικά με το μέγεθος και τον χρονικό ορίζοντα της απειλής παραμένουν έντονες, ωστόσο όλοι φαίνεται να συγκλίνουν στο ότι η ταχεία εξέλιξη της τεχνητής νοημοσύνης απαιτεί αυξημένη προσοχή από κυβερνήσεις, ερευνητικά ιδρύματα και τις εταιρείες που αναπτύσσουν τα συστήματα.
