Η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ότι εντόπισε και σταμάτησε μια εκτεταμένη επιχείρηση παραπληροφόρησης, την οποία αποδίδει «με υψηλό βαθμό βεβαιότητας» στην κυβέρνηση των Ηνωμένων Αραβικών Εμιράτων. Στόχος της ήταν εμπειρογνώμονες του ΟΗΕ που είχαν επικρίνει τον υποτιθέμενο ρόλο του Άμπου Ντάμπι στον πόλεμο του Σουδάν. Η αποκάλυψη έγινε την Πέμπτη, μέσα από αναφορά της εταιρείας για παράνομες χρήσεις του μοντέλου της. Η υπόθεση αναδεικνύει τους κινδύνους κατάχρησης εργαλείων τεχνητής νοημοσύνης για γεωπολιτικούς σκοπούς.
Η δομή της επιχείρησης παραπληροφόρησης
Σύμφωνα με την Anthropic, η επιχείρηση παραπληροφόρησης είχε στηθεί γύρω από μια εικονική προσωπικότητα με το όνομα Deadshot, η οποία ζητούσε «μια συντονισμένη περιφερειακή και διατλαντική επιχείρηση για την εξάρθρωση των Αδελφών Μουσουλμάνων σε όλον τον κόσμο». Το κίνημα αυτό, σουνιτικό και πανισλαμιστικό, ιδρύθηκε το 1928 στην Αίγυπτο και θεωρείται ότι διατηρεί δεσμούς με τον στρατό του Σουδάν, κάτι που οι σουδανικές αρχές διαψεύδουν κατηγορηματικά. Οι πράκτορες τεχνητής νοημοσύνης που χρησιμοποιήθηκαν βασίζονταν στο μοντέλο Claude της εταιρείας και χρησιμοποιήθηκαν για τη δημιουργία εγγράφων, περιεχομένου για κοινωνικά δίκτυα, αλλά και ψευδών μαρτυριών σχετικά με την κατάσταση στο Σουδάν.
Σε μία ακόμη πτυχή της επιχείρησης, οι πράκτορες τεχνητής νοημοσύνης ιδιοποιήθηκαν την ταυτότητα μιας σουδανικής μη κυβερνητικής οργάνωσης και συνέταξαν καταθέσεις δύο φερόμενων ατόμων, με στόχο, όπως αναφέρει η Anthropic, «πληροφορίες ευνοϊκές για τα συμφέροντα της μίας πλευράς να φτάσουν στον ΟΗΕ, σαν να προέρχονταν από ανεξάρτητους, ντόπιους μάρτυρες, αντί για κρατικούς παράγοντες». Παράλληλα, συντάχθηκαν ειδικοί φάκελοι που στόχευαν να πλήξουν την αξιοπιστία των ειδικών εισηγητών του ΟΗΕ οι οποίοι είχαν επικρίνει τον ρόλο των Εμιράτων στη σουδανική κρίση. Η εκστρατεία στηρίχθηκε σε περίπου 300 ψεύτικους λογαριασμούς σε πλατφόρμες κοινωνικής δικτύωσης.
Το πλαίσιο του πολέμου στο Σουδάν
Ο πόλεμος μεταξύ του στρατού του Σουδάν και των παραστρατιωτικών Δυνάμεων Ταχείας Υποστήριξης (ΔΤΥ) ξέσπασε το 2023 και έχει στοιχίσει τη ζωή σε περισσότερους από 200.000 ανθρώπους, σύμφωνα με εργαζόμενους ανθρωπιστικών οργανώσεων. Τουλάχιστον 12 εκατομμύρια Σουδανοί έχουν εκτοπιστεί, στη σοβαρότερη ανθρωπιστική κρίση παγκοσμίως κατά τον ΟΗΕ. Τα Ηνωμένα Αραβικά Εμιράτα έχουν κατηγορηθεί επανειλημμένα ότι στηρίζουν τις ΔΤΥ, κάτι που το Άμπου Ντάμπι διαψεύδει σταθερά. Τα Εμιράτα δεν απάντησαν άμεσα σε αίτημα του Γαλλικού Πρακτορείου για σχολιασμό της υπόθεσης.
Η Anthropic διευκρίνισε ότι δεν μπορεί να γνωρίζει με βεβαιότητα αν οι ψεύτικες μαρτυρίες ή οι φάκελοι έφτασαν τελικά στους αποδέκτες τους ή αν επηρέασαν οποιαδήποτε απόφαση πολιτικής. Την ίδια ημέρα, η εταιρεία ανακοίνωσε ότι είχε σταματήσει και άλλες παράνομες επιχειρήσεις, μεταξύ αυτών επιχειρήσεις παρακολούθησης αντιφρονούντων και μειονοτήτων στην Κίνα, το Ιράν και τη Δυτική Αφρική, καθώς και απόπειρες ανάπτυξης οπλικών συστημάτων στην Υεμένη και απάτες μεγάλης κλίμακας. Εκπρόσωπος της εταιρείας δήλωσε στους δημοσιογράφους ότι «είναι καιρός οι πάροχοι να βάλουν τάξη στις επιχειρήσεις τους και να φροντίσουν να κρατούν υπό έλεγχο τα προηγμένα μοντέλα τους».
Η υπόθεση αναδεικνύει το πόσο εύκολα μπορούν κρατικοί ή παρακρατικοί δρώντες να αξιοποιήσουν εργαλεία τεχνητής νοημοσύνης για να επηρεάσουν διεθνείς οργανισμούς όπως ο ΟΗΕ. Η έγκαιρη ανίχνευση από την Anthropic δείχνει ότι οι εταιρείες τεχνητής νοημοσύνης αναπτύσσουν μηχανισμούς παρακολούθησης κατάχρησης των μοντέλων τους, κάτι που θεωρείται κρίσιμο για τη διαφύλαξη της ακεραιότητας διεθνών διαδικασιών σε ευαίσθητες ανθρωπιστικές κρίσεις όπως αυτή του Σουδάν.
