Η αμερικανική εταιρεία Anthropic, δημιουργός του μοντέλου τεχνητής νοημοσύνης Claude, δημοσίευσε νέα έκθεση απειλών που καταγράφει σοβαρές περιπτώσεις κατάχρησης του Claude από χρήστες σε ολόκληρο τον κόσμο. Ανάμεσα στα ευρήματα ξεχωρίζουν απόπειρες ανάπτυξης λογισμικού για βαλλιστικούς πυραύλους, στρατιωτικά συστήματα και έρευνα που θα μπορούσε να ενισχύσει επικίνδυνους ιούς. Η έκθεση καλύπτει το διάστημα από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026 και αποκαλύπτει πόσο γρήγορα διευρύνεται ο κίνδυνος κατάχρησης προηγμένων συστημάτων ΑΙ.
Διαβάστε επίσης: Η Anthropic απέτρεψε κακόβουλη χρήση τεχνητής νοημοσύνης
Πυραυλικά προγράμματα και βιολογική έρευνα
Σύμφωνα με στοιχεία που παρουσίασαν οι Financial Times και οι New York Times, μια ομάδα στη βόρεια Υεμένη που συνδέεται με τους Χούθι χρησιμοποίησε το Claude για να γράψει λογισμικό καθοδήγησης πυραύλων. Η Anthropic εντόπισε ότι οι χρήστες εργάζονταν πάνω σε τρία διαφορετικά οπλικά προγράμματα: έναν βαλλιστικό πύραυλο, έναν πύραυλο με διαφορετικές παραλλαγές και μία κατευθυνόμενη ρουκέτα. Το πιο ανησυχητικό στοιχείο είναι ότι το μοντέλο δεν χρησιμοποιήθηκε απλώς ως εργαλείο αναζήτησης πληροφοριών, αλλά όπως αναφέρει η εταιρεία «στη θέση ανθρώπων μηχανικών λογισμικού» για την ανάπτυξη συστημάτων καθοδήγησης, πλοήγησης και ελέγχου.
Το Claude χρησιμοποιήθηκε για την ενσωμάτωση autopilot ανοικτού κώδικα σε υπολογιστή πτήσης επιπέδου smartphone, για τη συγγραφή λογισμικού υπολογισμού θέσης, την προσαρμογή παραμέτρων, την παραγωγή firmware αλλά και για προσομοίωση πτήσης. Η Anthropic διευκρινίζει ότι δεν διαθέτει στοιχεία πως κάποιο από αυτά τα προγράμματα κατέληξε σε λειτουργικό όπλο, ωστόσο η έκταση της χρήσης του μοντέλου δείχνει πόσο ουσιαστικό ρόλο μπορεί να παίξει πλέον η τεχνητή νοημοσύνη σε στρατιωτικές εφαρμογές. Παράλληλα, η εταιρεία εντόπισε αίτημα προς το Claude για σύνταξη πρότασης χρηματοδότησης έρευνας με στόχο τη δημιουργία «νέας ή ενισχυμένης βιολογικής ιδιότητας» του ιού chikungunya, ο οποίος μεταδίδεται μέσω κουνουπιών και προκαλεί υψηλό πυρετό και έντονους πόνους στις αρθρώσεις. Το αίτημα αφορούσε ενίσχυση μεταλλάξεων που θα μπορούσαν να καταστήσουν τον ιό πιο επιβλαβή και μπλοκαρίστηκε άμεσα από την εταιρεία.
Οι εξηγήσεις της Anthropic και ο ρόλος των νεότερων μοντέλων
Ο επικεφαλής Threat Intelligence της Anthropic, Τζέικομπ Κλάιν, περιέγραψε στους New York Times τη δυσκολία εντοπισμού τέτοιων περιπτώσεων. «Δεν βλέπεις κάποιον, σαν σε κόμικ, να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», δήλωσε χαρακτηριστικά, προσθέτοντας πως «είναι μια απίστευτα σύνθετη κατάσταση». Η εταιρεία τόνισε ότι δεν έχει αποδείξεις πως τα βιολογικά ερευνητικά προγράμματα είχαν κατ’ ανάγκη σκοπό την κατασκευή όπλων. Ωστόσο, το γεγονός ότι ορισμένοι χρήστες έκρυβαν τον πραγματικό σκοπό της έρευνάς τους και επιχειρούσαν να παρακάμψουν τους μηχανισμούς ασφαλείας ήταν αρκετό ώστε η Anthropic να διακόψει άμεσα την πρόσβασή τους.
Η έκθεση αναφέρει ότι κατάχρηση των συστημάτων επιχειρήθηκε και από «πολιτικά υποκινούμενα άτομα», κρατικά υποστηριζόμενες ομάδες που επιδίωκαν να διαδώσουν προπαγάνδα, καθώς και εταιρείες κατασκοπευτικού λογισμικού. Οι περισσότερες από τις υποθέσεις δεν αφορούσαν τα νεότερα μοντέλα της εταιρείας, με μοναδική εξαίρεση μια «βιομηχανικής κλίμακας, συγκαλυμμένη εκστρατεία» που στόχευε στην εξαγωγή δυνατοτήτων ενός μοντέλου και την αντιγραφή τους σε άλλο σύστημα χωρίς άδεια. Η Anthropic παραδέχεται ότι παλαιότερα μοντέλα, όπως τα Claude Opus 4 και Claude Sonnet 4.5, βρίσκονταν «πολύ κάτω από το όριο» που θα τους επέτρεπε να βοηθήσουν αποτελεσματικά σε επικίνδυνη βιολογική έρευνα, γι’ αυτό και οι δικλίδες ασφαλείας εκείνης της περιόδου επικεντρώνονταν κυρίως στην αποτροπή αναπαραγωγής ήδη γνωστών όπλων από μη ειδικούς.
Πιο ικανά συστήματα, νέες προκλήσεις
Η εταιρεία επισημαίνει πλέον ότι τα σημερινά μοντέλα είναι πολύ πιο ικανά και μπορούν να βοηθήσουν σε ευρύ φάσμα σύνθετων επιστημονικών ερευνητικών εργασιών. Αυτό σημαίνει, όπως αναγνωρίζει η ίδια η Anthropic, ότι τα όρια ασφαλείας δεν είναι πλέον τόσο ξεκάθαρα όσο παλαιότερα. Η εταιρεία συνεχίζει να παρακολουθεί ενεργά τη χρήση του Claude, με στόχο τον έγκαιρο εντοπισμό και τη διακοπή τέτοιων προσπαθειών κατάχρησης πριν αυτές εξελιχθούν σε πραγματικές απειλές.
