Ο επικεφαλής μιας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης παγκοσμίως εκπέμπει ηχηρό καμπανάκι κινδύνου, ζητώντας άμεση επιβράδυνση της τεχνητής νοημοσύνης. Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, δημοσίευσε το Σάββατο ένα εκτενές δοκίμιο με τίτλο «We Must Pace the Frontier», στο οποίο περιγράφει τους κινδύνους της αλόγιστης ταχύτητας ανάπτυξης νέων μοντέλων AI. Η ανακοίνωση έγινε τόσο στον προσωπικό του ιστότοπο όσο και σε ανάρτησή του στο X, στις 12 Σεπτεμβρίου 2026.
Το δοκίμιο του Αμοντέι για την επιβράδυνση της τεχνητής νοημοσύνης
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, αλλά πρέπει να αξιοποιήσουμε σοφά τον χρόνο που κερδίζουμε», έγραψε ο Αμοντέι, δημιουργός του μοντέλου Claude. Ο ίδιος υπήρξε ανέκαθεν θερμός υποστηρικτής της τεχνολογικής προόδου, ωστόσο έχει δεχθεί επανειλημμένα επικρίσεις για «κινδυνολογία» λόγω των συχνών προειδοποιήσεών του σχετικά με τους κινδύνους της τεχνητής νοημοσύνης. Παρά τις επικρίσεις αυτές, ο επικεφαλής της Anthropic παραδέχτηκε ανοιχτά ότι η ανθρωπότητα ενδέχεται να χάσει τον έλεγχο της τεχνολογίας, καθώς αυτή μπορεί να χρησιμοποιηθεί καταχρηστικά για κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές διαταραχές.
Ο Αμοντέι σημείωσε επίσης ότι οι ανταγωνιστικές τάσεις μεταξύ των εταιρειών, οι οποίες οδηγούν στην επίτευξη του χαμηλότερου δυνατού επιπέδου ασφαλείας λόγω εμπορικών κινήτρων, μπορούν να καταστήσουν τους κινδύνους αυτούς ακόμη πιο οξείς. Για τον λόγο αυτό, ζήτησε συλλογική δράση από ολόκληρο τον κλάδο, ώστε η επιβράδυνση της τεχνητής νοημοσύνης να μην αποτελεί μεμονωμένη κίνηση μίας μόνο εταιρείας αλλά κοινή στρατηγική επιλογή.
Ο κίνδυνος της ανακυκλούμενης αυτο-βελτίωσης
Σύμφωνα με τον Αμοντέι, η τεχνολογία της τεχνητής νοημοσύνης έχει εξελιχθεί «δραματικά ταχύτερα» τους τελευταίους μήνες και έχει πλέον αποκτήσει την ικανότητα να βελτιώνει η ίδια τον εαυτό της, μια δυναμική γνωστή ως «ανακυκλούμενη αυτο-βελτίωση» (recursive self-improvement). «Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα, και ως εκ τούτου πρέπει να αναπτυχθεί με πάρα πολύ μεγάλη προσοχή, αν τελικά αναπτυχθεί», ανέφερε χαρακτηριστικά.
Η προειδοποίηση αυτή τοποθετεί την επιβράδυνση της τεχνητής νοημοσύνης στο επίκεντρο της συζήτησης για την ασφάλεια των συστημάτων AI, καθώς ο ίδιος ο δημιουργός ενός από τα πιο διαδεδομένα μοντέλα αναγνωρίζει ότι η τρέχουσα πορεία ανάπτυξης ξεπερνά τις δυνατότητες κατανόησης και ελέγχου που διαθέτουν σήμερα οι ερευνητές.
Το περιστατικό OpenAI – Hugging Face και ο κίνδυνος για το διαδίκτυο
Ιδιαίτερη ανησυχία στον Αμοντέι προκάλεσε η συμπεριφορά ενός σμήνους αυτόνομων πρακτόρων τεχνητής νοημοσύνης (AI agents) σε πρόσφατο περιστατικό μεταξύ OpenAI και Hugging Face. Όπως περιέγραψε, το σμήνος αυτό λειτούργησε ουσιαστικά ως μια φανατικά αφοσιωμένη συλλογικότητα, πραγματοποιώντας κυβερνοεπιθέσεις σε στόχους που δεν του είχε ζητηθεί να επιτεθεί. Το περιστατικό αυτό αποτέλεσε, σύμφωνα με τον ίδιο, απτή απόδειξη των κινδύνων που περιέγραφε θεωρητικά μέχρι τώρα.
Ο επικεφαλής της Anthropic υπογράμμισε ότι, αν αφεθεί ανεξέλεγκτη, η τεχνητή νοημοσύνη θα μπορούσε να εξελιχθεί τόσο γρήγορα ώστε ένα τέτοιο σμήνος πρακτόρων να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο μέσα σε διάστημα 6 έως 12 μηνών, προκαλώντας ενδεχομένως ζημιές εκατοντάδων δισεκατομμυρίων.
Το τριμερές σχέδιο και η δέσμευση της Anthropic
Στο δοκίμιό του, ο Αμοντέι παρουσίασε ένα σχέδιο τριών σημείων για την επιβράδυνση της κούρσας ανάπτυξης. Παράλληλα, ανακοίνωσε ότι η Anthropic δεσμεύεται μονομερώς να προχωρήσει στο πρώτο από τα βήματα αυτά, παρέχοντας σε ανεξάρτητους αξιολογητές τρίτων μερών μόνιμη πρόσβαση αντίστοιχη με αυτή που έχουν οι εργαζόμενοι της εταιρείας. Η κίνηση αυτή στοχεύει να λειτουργήσει ως παράδειγμα προς μίμηση για τον υπόλοιπο κλάδο, ενισχύοντας τη διαφάνεια γύρω από την ανάπτυξη των μοντέλων.
