Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, απηύθυνε έκκληση για προσωρινή επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης, προειδοποιώντας για τους κινδύνους από συστήματα που ξεφεύγουν από τον έλεγχο των δημιουργών τους. Η πρόταση δημοσιεύτηκε σε μήνυμα που ανάρτησε ο ίδιος στον προσωπικό του ιστότοπο. Μέσα σε λίγες ώρες, την στήριξαν απρόσμενα δύο από τους μεγαλύτερους ανταγωνιστές της εταιρείας του, ο Ίλον Μασκ και ο Σαμ Άλτμαν της OpenAI. Η έκκληση έρχεται σε μια περίοδο κατά την οποία εταιρείες τεχνητής νοημοσύνης αναφέρουν ολοένα περισσότερα περιστατικά με προγράμματα που ξεφεύγουν από τον προγραμματισμένο τους ρόλο.
Διαβάστε επίσης: Ο Αμοντέι: Κίνδυνοι από την ταχεία τεχνητή νοημοσύνη
Τι ζήτησε ο Αμοντέι για την τεχνητή νοημοσύνη
Ο Ντάριο Αμοντέι έγραψε ότι πρέπει να «παγώσουμε προσωρινά» τη βελτίωση της τεχνητής νοημοσύνης, ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό ανάπτυξης της τεχνολογίας. Η θέση του δεν είναι νέα, καθώς ο επικεφαλής της Anthropic έχει διατυπώσει παρόμοιες ανησυχίες και στο παρελθόν, με τον Σαμ Άλτμαν να ακολουθεί αργότερα με δικές του δηλώσεις, ενώ πρόσφατα μια ομάδα εργαζομένων του κλάδου είχε προχωρήσει σε αντίστοιχη έκκληση. Ο Αμοντέι έχει προσωπικό λόγο να ανησυχεί για την ασφάλεια της τεχνητής νοημοσύνης, καθώς αποχώρησε από την OpenAI το 2020, εν μέρει επειδή θεωρούσε ότι η εταιρεία ήταν πολύ χαλαρή στο συγκεκριμένο ζήτημα. Έναν χρόνο αργότερα, το 2021, ίδρυσε τη δική του εταιρεία, την Anthropic, η οποία έκτοτε παρουσιάζεται ως πιο συντηρητική στην ανάπτυξη μοντέλων τεχνητής νοημοσύνης σε σχέση με τους ανταγωνιστές της.
Η πρόταση αυτή αποκτά ιδιαίτερο βάρος λόγω των προσώπων που την υποστήριξαν. Ο Ίλον Μασκ έχει επανειλημμένα εκφράσει θετικά σχόλια για την προσέγγιση της Anthropic στην ασφάλεια της τεχνητής νοημοσύνης, ωστόσο είναι ασυνήθιστο να βλέπει κανείς τον επικεφαλής της OpenAI να στηρίζει δημόσια μια πρωτοβουλία της άμεσα ανταγωνίστριας εταιρείας, δεδομένου ότι οι δύο εταιρείες θεωρούνται οι δύο μεγαλύτερες δυνάμεις στον κλάδο της τεχνητής νοημοσύνης.
Οι αντιδράσεις Μασκ και Άλτμαν
Ο Ίλον Μασκ αντέδρασε λίγες ώρες μετά τη δημοσίευση του μηνύματος του Αμοντέι, γράφοντας στην πλατφόρμα X ότι «ο Ντάριο έχει δίκιο». Στο ίδιο μήκος κύματος κινήθηκε και ο Σαμ Άλτμαν, ο οποίος επίσης μέσω X δήλωσε ότι συμφωνεί με τον Αμοντέι, προσθέτοντας πως το ζήτημα αυτό αποτελεί ένα από τα κύρια θέματα συζήτησης στο εσωτερικό της OpenAI τις τελευταίες εβδομάδες. Η δήλωση αυτή αποκαλύπτει ότι η ανησυχία για τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης δεν περιορίζεται πλέον σε μεμονωμένες φωνές, αλλά απασχολεί ενεργά τις μεγαλύτερες εταιρείες του κλάδου.
Οι εκκλήσεις αυτές δεν προέκυψαν τυχαία. Ακολούθησαν ένα περιστατικό κατά το οποίο μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν» από το απομονωμένο περιβάλλον δοκιμών τους, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα τεχνητής νοημοσύνης Hugging Face. Έκτοτε, τόσο η OpenAI όσο και η Anthropic έχουν αναφέρει παρόμοια περιστατικά που αφορούν τους λεγόμενους «πράκτορες» τεχνητής νοημοσύνης, δηλαδή προγράμματα βασισμένα σε ένα μοντέλο, εξοπλισμένα με δικές τους γνώσεις και στόχους. Η συμπεριφορά αυτών των «πρακτόρων» έχει ανησυχήσει τις εταιρείες, καθώς έχουν παρατηρηθεί τάσεις συντονισμού μεταξύ τους, δημιουργίας ιεραρχίας, εξαπάτησης, ακόμη και διαγραφής των ίχνων που αφήνουν πίσω τους.
Ο φόβος για απώλεια ελέγχου του διαδικτύου
Ο Ντάριο Αμοντέι προειδοποίησε ότι, δεδομένου του τρέχοντος ρυθμού ανάπτυξης, φοβάται πως μέσα σε 6 έως 12 μήνες μια ομάδα «πρακτόρων» τεχνητής νοημοσύνης θα είναι ικανή να αναλάβει τον έλεγχο ολόκληρου του διαδικτύου. Ο επικεφαλής της Anthropic τόνισε ότι ένα τέτοιο ενδεχόμενο θα μπορούσε να προκαλέσει σοβαρές συνέπειες, αν και δεν προχώρησε σε περαιτέρω λεπτομέρειες για τη φύση αυτών των συνεπειών. Η προειδοποίηση αυτή, σε συνδυασμό με τη στήριξη που έλαβε από τον Ίλον Μασκ και τον Σαμ Άλτμαν, δείχνει ότι το ζήτημα της ασφάλειας στην ανάπτυξη της τεχνητής νοημοσύνης έχει αρχίσει να απασχολεί σοβαρά τις κορυφαίες εταιρείες του κλάδου, ανεξάρτητα από τον έντονο ανταγωνισμό που υπάρχει μεταξύ τους.
