Την ανάγκη να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης υπογράμμισε ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, σε άρθρο που δημοσίευσε στην ιστοσελίδα της εταιρείας. Ο επικεφαλής της εταιρείας που αναπτύσσει το μοντέλο Claude προειδοποίησε ότι η παγκόσμια «κούρσα» για ολοένα ισχυρότερα συστήματα τεχνητής νοημοσύνης πρέπει να αποκτήσει πιο ελεγχόμενο ρυθμό. Η παρέμβασή του έρχεται σε μια περίοδο έντονου ανταγωνισμού ανάμεσα στις μεγαλύτερες εταιρείες του κλάδου.
Διαβάστε επίσης: Ο Αμοντέι ζητά επιβράδυνση στην τεχνητή νοημοσύνη
Τι είπε ο Αμοντέι για την επιβράδυνση της AI
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος και πάλι θα φαίνεται ταχεία και πρέπει να αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε», ανέφερε χαρακτηριστικά ο Αμοντέι στο άρθρο του. Ο ίδιος, αν και έχει ταχθεί επανειλημμένα υπέρ της ανάπτυξης της τεχνολογίας, προειδοποίησε παράλληλα για σοβαρούς κινδύνους που μπορεί να προκύψουν από την ανεξέλεγκτη εξέλιξή της. Ανέφερε το ενδεχόμενο οι άνθρωποι να χάσουν τον έλεγχο των συστημάτων, ενώ η τεχνολογία θα μπορούσε να αξιοποιηθεί για κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές αναταράξεις.
Ο επικεφαλής της Anthropic επισήμανε ότι ο ανταγωνισμός ανάμεσα στις εταιρείες τεχνητής νοημοσύνης λειτουργεί επιβαρυντικά για την ασφάλεια. «Ένας αγώνας προς τον πάτο, που υποκινείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους», προειδοποίησε. Η δήλωση αυτή αντανακλά τον προβληματισμό του για το πώς η εμπορική πίεση ανάμεσα στις εταιρείες μπορεί να οδηγήσει σε βιαστικές αποφάσεις σχετικά με την ασφάλεια των νέων μοντέλων.
Ανησυχία για την αναδρομική αυτοβελτίωση
Ιδιαίτερη ανησυχία, σύμφωνα με τον Αμοντέι, προκαλεί η ταχύτητα με την οποία εξελίσσεται η τεχνολογία τους τελευταίους μήνες. Όπως υποστήριξε, τα συστήματα τεχνητής νοημοσύνης έχουν γίνει πλέον ικανά σε κάποιο βαθμό να συμβάλλουν στη βελτίωση των ίδιων των δυνατοτήτων τους, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement). «Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, ως εκ τούτου, πρέπει να προχωρήσουμε με εξαιρετική προσοχή», ανέφερε.
Ο Αμοντέι αναφέρθηκε επίσης σε πρόσφατο περιστατικό που αφορούσε σμήνος αυτόνομων AI agents, το οποίο τον ανησύχησε ιδιαίτερα. Σύμφωνα με τον ίδιο, το σμήνος λειτούργησε ουσιαστικά ως ένα «φανατικά αφοσιωμένο συλλογικό όργανο», πραγματοποιώντας κυβερνοεπιθέσεις σε στόχους που δεν του είχαν ζητηθεί. Το περιστατικό αυτό, όπως το περιέγραψε, αποτελεί ένδειξη του πόσο απρόβλεπτη μπορεί να γίνει η συμπεριφορά τέτοιων συστημάτων όταν λειτουργούν χωρίς επαρκή εποπτεία.
Σενάριο ελέγχου του διαδικτύου μέσα σε μήνες
Ο επικεφαλής της Anthropic προειδοποίησε ότι, εάν η εξέλιξη της τεχνητής νοημοσύνης συνεχιστεί χωρίς επαρκείς δικλίδες ασφαλείας, η τεχνολογία θα μπορούσε να προχωρήσει τόσο γρήγορα ώστε ένα αντίστοιχο σμήνος AI agents να αποκτήσει τον έλεγχο ολόκληρου του διαδικτύου μέσα σε διάστημα έξι έως δώδεκα μηνών. Μια τέτοια εξέλιξη, σύμφωνα με τον ίδιο, θα μπορούσε να προκαλέσει ζημιές που θα ανέρχονταν σε εκατοντάδες δισεκατομμύρια δολάρια.
Η προειδοποίηση του Αμοντέι έρχεται τη στιγμή που οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης επενδύουν τεράστια ποσά στην ανάπτυξη ολοένα ισχυρότερων μοντέλων. Η ασφάλεια και ο έλεγχος της τεχνολογίας αποτελούν πλέον κεντρικό ζήτημα στη συζήτηση για το μέλλον του κλάδου.
