Η εταιρεία Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε προσπάθειες κακόβουλης χρήσης τεχνητής νοημοσύνης που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων. Η ανακοίνωση έγινε μέσα από την πρόσφατη έκθεση απειλών της εταιρείας, η οποία δημοσιεύθηκε την Πέμπτη. Τα ευρήματα αυτά αποτελούν το πιο πρόσφατο επεισόδιο σε μια σειρά προειδοποιήσεων από ερευνητές και στελέχη του κλάδου της τεχνητής νοημοσύνης σχετικά με τους πιθανούς κινδύνους της τεχνολογίας. Η Anthropic κατέγραψε στην έκθεσή της πολλαπλές περιπτώσεις κακής χρήσης του μοντέλου της Claude τους τελευταίους μήνες.
Ρωσική κατασκοπεία και ιρανική προπαγάνδα
Σύμφωνα με την έκθεση, το μοντέλο Claude φέρεται να χρησιμοποιήθηκε από παράγοντες που συνδέονται με εκστρατεία κυβερνοκατασκοπείας με έδρα τη Ρωσία, καθώς και από ιρανικό προπαγανδιστικό ίδρυμα. Η εταιρεία αναφέρει επίσης ότι Ρώσοι κατάσκοποι και προπαγανδιστές επιχείρησαν να αξιοποιήσουν το σύστημα για τους δικούς τους σκοπούς. Παράλληλα, η Anthropic κατηγορεί κινεζικές εταιρείες τεχνητής νοημοσύνης ότι προσπάθησαν να αντιγράψουν τις δυνατότητες του Claude. Τα περιστατικά που εντοπίστηκαν τους τελευταίους οκτώ μήνες κυμαίνονταν από ψεύτικες εφαρμογές γνωριμιών και απάτες σε δίκτυα Wifi ξενοδοχείων, έως συστήματα επιτήρησης που στόχευαν στον εντοπισμό αντιφρονούντων.
Η εκτενής έκθεση απαριθμεί περιπτώσεις όπου κρατικά υποστηριζόμενες ομάδες, εγκληματίες, προμηθευτές λογισμικού κατασκοπείας, κρατικά ιδρύματα προπαγάνδας και άτομα με πολιτικά κίνητρα έκαναν κακή χρήση της τεχνολογίας. Η κακόβουλη χρήση των μοντέλων Claude Haiku, Sonnet και Opus διακόπηκε στο διάστημα μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026. Κανένα περιστατικό δεν αφορούσε τα μοντέλα Claude Fable ή τα ισχυρότερα Mythos-class μοντέλα, με μοναδική εξαίρεση μία περίπτωση απόσταξης, δηλαδή τη διαδικασία κατά την οποία μικρότερα μοντέλα εκπαιδεύονται με τη βοήθεια μεγαλύτερων και πιο δαπανηρών συστημάτων. Η εταιρεία ανέφερε ακόμη ότι μπλόκαρε επιστήμονες που επιχείρησαν να χρησιμοποιήσουν το AI της με τρόπους που θα μπορούσαν να στηρίξουν επικίνδυνες δραστηριότητες.
Ανησυχίες στην πολιτική σκηνή των ΗΠΑ
Οι προειδοποιήσεις αυτές προκάλεσαν αντιδράσεις στις Ηνωμένες Πολιτείες. Ο γερουσιαστής Μπέρνι Σάντερς ζήτησε προσωρινή διακοπή της ανάπτυξης προηγμένης τεχνητής νοημοσύνης, καθώς και πλήρη απαγόρευση της τεχνητής υπερνοημοσύνης. Η θέση του αντικατοπτρίζει τις ανησυχίες μέρους της αμερικανικής πολιτικής σκηνής για τους κινδύνους που μπορεί να συνεπάγεται η ραγδαία εξέλιξη των συστημάτων AI. Ο πρόεδρος Ντόναλντ Τραμπ απέρριψε ωστόσο αυτούς τους φόβους, δηλώνοντας την Πέμπτη ότι αν οι ΗΠΑ δεν κερδίσουν τον αγώνα στον τομέα της τεχνητής νοημοσύνης, θα βρεθούν σε πολύ δύσκολη θέση.
Η δημοσίευση της έκθεσης απειλών από την Anthropic εντάσσεται σε μια ευρύτερη τάση του κλάδου, καθώς οι εταιρείες τεχνητής νοημοσύνης παρουσιάζουν πλέον τακτικά τέτοιες αναφορές για να αποδείξουν πώς εντοπίζουν και εμποδίζουν κακόβουλες χρήσεις των μοντέλων τους. Ανάλογα προβλήματα εντόπισε πρόσφατα και η Google, η οποία αποκάλυψε ότι κάποιος επιχείρησε να χρησιμοποιήσει το εργαλείο της, το Gemini, για να αποκτήσει έναν πλήρη, βήμα-βήμα τεχνικό οδηγό για τη σύνθεση βιολογικών παραγόντων με δυνατότητα όπλισης. Το περιστατικό αυτό ενισχύει τις ανησυχίες ότι το ζήτημα δεν αφορά μεμονωμένα μια εταιρεία, αλλά αποτελεί κοινή πρόκληση για ολόκληρο τον κλάδο της τεχνητής νοημοσύνης.
