Η αμερικανική εταιρεία Anthropic αποκάλυψε νέα στοιχεία για τους κινδύνους που συνοδεύουν την ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης. Σύμφωνα με την εταιρεία, εντοπίστηκαν και μπλοκαρίστηκαν περιπτώσεις κακόβουλης χρήσης του μοντέλου Claude, μεταξύ άλλων για δραστηριότητες που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων και κυβερνοεπιθέσεις. Η αποκάλυψη γίνεται μέσα από την πρώτη φετινή έκθεση Threat Intelligence της εταιρείας, με τα περιστατικά να καλύπτουν το διάστημα από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026.
Διαβάστε επίσης: Η Anthropic αποκαλύπτει κατάχρηση του Claude για όπλα
Τι αποκάλυψε η έκθεση της Anthropic για την Τεχνητή Νοημοσύνη
Στην πρώτη έκθεση Threat Intelligence που δημοσιεύει φέτος, η Anthropic αναφέρει ότι εντόπισε και διέκοψε δεκάδες περιστατικά κακόβουλης χρήσης των μοντέλων της, τα Claude, Haiku, Sonnet και Opus. Οι περιπτώσεις που καταγράφηκαν καλύπτουν ένα ευρύ φάσμα δραστηριοτήτων, από κυβερνοεπιθέσεις, οικονομικές απάτες και επιχειρήσεις παρακολούθησης μέχρι πολιτική προπαγάνδα και έρευνα που θα μπορούσε να έχει εφαρμογές στην ανάπτυξη βιολογικών όπλων. Η εταιρεία υπογραμμίζει ότι δημοσιοποιεί τα ευρήματα επειδή θεωρεί πως έχει την ευθύνη να αποκαλύπτει την κακόβουλη χρήση των υπηρεσιών της.
Ανάμεσα στα πιο ανησυχητικά ευρήματα βρίσκονται έξι περιπτώσεις στις οποίες το Claude χρησιμοποιήθηκε για την ανάπτυξη λογισμικού που σχετιζόταν με συμβατικά όπλα. Σύμφωνα με την Anthropic, το λογισμικό αυτό αφορούσε μεταξύ άλλων πυραύλους, ένοπλα drones, βόμβες και πυρομαχικά, καθώς και συστήματα ελέγχου και στοχοποίησης. Παράλληλα, η εταιρεία εντόπισε χρήση των μοντέλων της σε κυβερνοεπιθέσεις και επιχειρήσεις κατασκοπείας από διάφορους δράστες. Στην έκθεση γίνεται αναφορά σε δραστηριότητα χάκερς που συνδέονται με τη Ρωσία, οι οποίοι χρησιμοποίησαν την Τεχνητή Νοημοσύνη για να δημιουργήσουν ένα σύστημα που εντόπιζε αυτόματα πότε το κακόβουλο λογισμικό τους αναγνωριζόταν από συστήματα ασφαλείας, τροποποιώντας στη συνέχεια τον κώδικά του ώστε να αποφεύγει τον εντοπισμό.
Η Anthropic αναφέρεται επίσης σε κινεζικά εργαστήρια Τεχνητής Νοημοσύνης, στην ομάδα κυβερνοεγκληματιών «ShinyHunters», καθώς και σε επιχειρήσεις άσκησης πολιτικής επιρροής που εντοπίστηκαν να χρησιμοποιούν τα μοντέλα της εταιρείας. Οι περιπτώσεις αυτές δείχνουν ότι η κακόβουλη χρήση της τεχνολογίας δεν περιορίζεται σε μεμονωμένους δράστες, αλλά επεκτείνεται και σε οργανωμένες ομάδες με διαφορετικούς στόχους, από το οικονομικό κέρδος μέχρι τη γεωπολιτική επιρροή.
Το επικίνδυνο αίτημα για τον ιό Τσικουνγκούνια
Μία από τις πιο ανησυχητικές περιπτώσεις που περιγράφονται στην έκθεση αφορά αίτημα προς το μοντέλο για βοήθεια στη σύνταξη πρότασης επιστημονικής χρηματοδότησης. Η έρευνα αφορούσε μελέτες τύπου gain-of-function στον ιό Τσικουνγκούνια, δηλαδή έρευνα που μπορεί να τροποποιήσει έναν οργανισμό ώστε να αποκτήσει νέα ή ενισχυμένα βιολογικά χαρακτηριστικά. Σύμφωνα με την Anthropic, η συγκεκριμένη πρόταση αφορούσε μεταλλάξεις με στόχο την ενίσχυση χαρακτηριστικών του ιού που σχετίζονται με τη μεταδοτικότητα και την αποφυγή της ανοσολογικής απόκρισης. Η εταιρεία μπλόκαρε το αίτημα, επισημαίνοντας πως αυτού του είδους η έρευνα μπορεί μεν να συμβάλει στην ανάπτυξη καλύτερων εμβολίων και θεραπειών, ωστόσο ενέχει παράλληλα σοβαρούς κινδύνους κατάχρησης.
Οι δηλώσεις της Anthropic για τους κινδύνους της Τεχνητής Νοημοσύνης
Ο επικεφαλής του τμήματος Threat Intelligence της Anthropic, Τζέικομπ Κλάιν, μίλησε στους New York Times για τη φύση των περιστατικών που εντοπίστηκαν. «Δεν βλέπεις κάποιον, σαν σε κόμικ, να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», δήλωσε χαρακτηριστικά. «Είναι μια απίστευτα σύνθετη κατάσταση», πρόσθεσε, περιγράφοντας τον τρόπο με τον οποίο η κακόβουλη χρήση της Τεχνητής Νοημοσύνης συχνά κρύβεται πίσω από φαινομενικά αθώα αιτήματα, όπως η σύνταξη μιας επιστημονικής πρότασης χρηματοδότησης.
Η Anthropic επιμένει ότι η δημοσίευση τέτοιων ευρημάτων αποτελεί μέρος της ευθύνης της απέναντι στους χρήστες και στην κοινωνία, καθώς η εταιρεία θεωρεί πως οφείλει να αποκαλύπτει την κακόβουλη χρήση των υπηρεσιών της. Η έκθεση καταδεικνύει πως όσο εξελίσσεται η Τεχνητή Νοημοσύνη, τόσο πολυπλοκότερες γίνονται και οι μέθοδοι με τις οποίες κακόβουλοι χρήστες προσπαθούν να την εκμεταλλευτούν για σκοπούς που εκτείνονται από την κυβερνοασφάλεια μέχρι τη βιολογική έρευνα υψηλού κινδύνου.
