Η Anthropic, μία από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης παγκοσμίως, θέτει ανοιχτά το ζήτημα της θέσπισης ενός υποχρεωτικού διακόπτη ασφαλείας για επικίνδυνα συστήματα AI. Ο συνιδρυτής της εταιρείας, Τζακ Κλαρκ, μίλησε στο BBC και άνοιξε τη συζήτηση για το αν οι κυβερνήσεις πρέπει να υποχρεώσουν τις εταιρείες να διαθέτουν έναν εξωτερικά ελεγχόμενο μηχανισμό απενεργοποίησης. Η δήλωση έρχεται καθώς η κούρσα της τεχνητής νοημοσύνης επιταχύνεται και πληθαίνουν οι προειδοποιήσεις από στελέχη του ίδιου του κλάδου.
Τι πρότεινε ο Τζακ Κλαρκ για τον διακόπτη ασφαλείας AI
Ο Τζακ Κλαρκ ανέφερε στο BBC ότι ο πλήρης τερματισμός της λειτουργίας ενός συστήματος τεχνητής νοημοσύνης, σε περίπτωση που αυτό καταστεί υπερβολικά επικίνδυνο, αποτελεί μέτρο για το οποίο «η κοινωνία ίσως θα πρέπει τελικά να θεσπίσει κανόνες». Ο ίδιος εξήγησε πως τα περισσότερα εργαστήρια τεχνητής νοημοσύνης, μεταξύ των οποίων και η Anthropic, διαθέτουν ήδη διαφορετικούς τρόπους ώστε να «τραβήξουν την πρίζα» όταν χρειαστεί. Ωστόσο, εκτίμησε ότι οι νομοθέτες ενδέχεται να χρειαστεί να καταστήσουν την ύπαρξη ενός τέτοιου μηχανισμού υποχρεωτική για όλες τις εταιρείες του κλάδου.
Ο Κλαρκ έθεσε δύο βασικά ερωτήματα που, όπως είπε, πρέπει να απαντηθούν στο πλαίσιο της πολιτικής συζήτησης για την τεχνητή νοημοσύνη: αν οι εταιρείες πρέπει να υποχρεωθούν να διαθέτουν οπωσδήποτε ένα κουμπί απενεργοποίησης, και αν αυτό το κουμπί πρέπει να είναι επαληθεύσιμο από κάποιον ανεξάρτητο, τρίτο φορέα. «Νομίζω ότι αυτό είναι το είδος των πραγμάτων που η κοινωνία θα θέλει να γνωρίζει και για τα οποία ίσως θελήσει τελικά να θεσπίσει κανόνες», ανέφερε χαρακτηριστικά. Η δήλωση του στελέχους της Anthropic δημοσιοποιήθηκε μέσω του λογαριασμού της εταιρείας στο X στις 14 Σεπτεμβρίου 2026.
Οι προειδοποιήσεις του Ντάριο Αμοντέι και το πλαίσιο
Η πρόταση του Κλαρκ δεν είναι μεμονωμένη κίνηση, αλλά εντάσσεται σε μια ευρύτερη σειρά προειδοποιήσεων που έχουν εκφράσει στελέχη και εργαζόμενοι εταιρειών τεχνητής νοημοσύνης το τελευταίο διάστημα. Ορισμένοι από αυτούς έχουν δηλώσει δημόσια πως, αν η τεχνολογία αφεθεί ανεξέλεγκτη, υπάρχει πιθανότητα να αποβεί επικίνδυνη για το ίδιο το ανθρώπινο είδος. Το προηγούμενο Σαββατοκύριακο, πριν τις 15 Σεπτεμβρίου 2026, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε δημόσια να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης και να παρακολουθείται στενότερα η εξέλιξή της.
Η θέση αυτή δεν είναι νέα για την εταιρεία, καθώς η Anthropic την έχει διατυπώσει και στο παρελθόν, αν και ορισμένοι κύκλοι αμφισβητούν τα πραγματικά κίνητρα πίσω από αυτή τη στάση. Ο Αμοντέι δημοσίευσε στις 12 Σεπτεμβρίου 2026 ένα δοκίμιο με τίτλο «We Must Pace the Frontier», στο οποίο εξηγεί γιατί η βιομηχανία τεχνητής νοημοσύνης πρέπει να επιβραδύνει τους ρυθμούς της, παρουσιάζοντας παράλληλα ένα σχέδιο τριών σημείων για την επίτευξη αυτού του στόχου.
Η δέσμευση της Anthropic για τρίτους αξιολογητές
Ως μέρος αυτού του σχεδίου, η Anthropic ανακοίνωσε ότι δεσμεύεται μονομερώς να εφαρμόσει το πρώτο από τα τρία βήματα που προτείνει ο Αμοντέι. Συγκεκριμένα, η εταιρεία θα παρέχει σε ανεξάρτητους, τρίτους αξιολογητές μόνιμη πρόσβαση αντίστοιχη με αυτή που έχουν οι ίδιοι οι εργαζόμενοί της, ώστε να μπορούν να ελέγχουν από κοντά τα συστήματα και τις διαδικασίες της εταιρείας. Η κίνηση αυτή συνδέεται άμεσα με το ερώτημα που έθεσε ο Κλαρκ για την επαλήθευση του διακόπτη ασφαλείας από τρίτο φορέα, καθώς δείχνει πως η εταιρεία επιχειρεί να θωρακίσει με ανεξάρτητο έλεγχο τις δεσμεύσεις της για ασφαλή ανάπτυξη της τεχνητής νοημοσύνης.
Η συζήτηση για τον υποχρεωτικό διακόπτη ασφαλείας AI αναμένεται να συνεχιστεί στο πλαίσιο της ευρύτερης πολιτικής συζήτησης για τη ρύθμιση της τεχνητής νοημοσύνης, με τον Κλαρκ να αφήνει ανοιχτό το ενδεχόμενο οι νομοθέτες να θεσπίσουν στο μέλλον σχετικούς κανόνες τόσο για την υποχρεωτική ύπαρξη του μηχανισμού όσο και για τον τρόπο επαλήθευσής του από ανεξάρτητους φορείς.
