Ένα σοβαρό λάθος Τεχνητής Νοημοσύνης έφερε τις αμερικανικές ένοπλες δυνάμεις πολύ κοντά σε μια επικίνδυνη επιχείρηση νηοψίας εναντίον κινεζικού πλοίου στη Μέση Ανατολή, σύμφωνα με αποκάλυψη του αμερικανικού δικτύου CNN. Το περιστατικό σημειώθηκε νωρίτερα φέτος, όταν οι αμερικανικές υπηρεσίες πληροφοριών εκτίμησαν εσφαλμένα ότι το πλοίο μετέφερε εξαρτήματα που σχετίζονταν με πυρηνικά όπλα. Η πληροφορία κρίθηκε τόσο σοβαρή, ώστε οι αμερικανικές δυνάμεις προχώρησαν σε προετοιμασίες για την αναχαίτιση και τον έλεγχο του πλοίου. Τελικά η επιχείρηση ακυρώθηκε την τελευταία στιγμή, όταν αποκαλύφθηκε ότι πίσω από την εσφαλμένη εκτίμηση κρυβόταν ένα chatbot Τεχνητής Νοημοσύνης.
Το λάθος του chatbot που παραλίγο να προκαλέσει διεθνές επεισόδιο
Σύμφωνα με τέσσερις ανώνυμες πηγές που επικαλείται το CNN, η αρχική εκτίμηση των αμερικανικών υπηρεσιών πληροφοριών αποδείχθηκε εντελώς λανθασμένη. Η κρίσιμη πληροφορία φέρεται να προέκυψε αφότου αναλυτής των υπηρεσιών χρησιμοποίησε ένα chatbot Τεχνητής Νοημοσύνης για να αναγνωρίσει το φορτίο του κινεζικού πλοίου. Το εργαλείο, ωστόσο, ερμήνευσε λανθασμένα τα δεδομένα και οδήγησε τους αναλυτές στο συμπέρασμα ότι επρόκειτο για εξοπλισμό συνδεδεμένο με πυρηνικά όπλα. Η αμερικανική πλευρά είχε ήδη προχωρήσει σε προετοιμασίες για την αναχαίτιση του πλοίου, πριν το λάθος εντοπιστεί εγκαίρως και η επιχείρηση ματαιωθεί.
Μία από τις πηγές που μίλησαν στο CNN χαρακτήρισε την έκθεση των υπηρεσιών πληροφοριών «εντελώς λανθασμένη», τονίζοντας ότι το περιστατικό «κόντεψε να προκαλέσει πόλεμο». Το αμερικανικό δίκτυο δεν αποκαλύπτει τι μετέφερε στην πραγματικότητα το κινεζικό πλοίο, ούτε ποιος ήταν ο τελικός προορισμός του. Ο αμερικανικός στρατός δεν απάντησε σε σχετικό ερώτημα που του απηύθυνε το Γαλλικό Πρακτορείο για την υπόθεση, αφήνοντας αναπάντητα αρκετά ερωτήματα γύρω από τις λεπτομέρειες του περιστατικού.
Ανησυχίες για τη χρήση Τεχνητής Νοημοσύνης στην άμυνα
Το περιστατικό αποκτά ξεχωριστό βάρος καθώς η χρήση συστημάτων Τεχνητής Νοημοσύνης επεκτείνεται σταδιακά σε κρίσιμους τομείς, μεταξύ των οποίων η άμυνα και η επεξεργασία στρατιωτικών πληροφοριών. Η υπόθεση επαναφέρει στο προσκήνιο τις προειδοποιήσεις ειδικών για τους κινδύνους που ενέχει η εξάρτηση από αυτοματοποιημένα εργαλεία σε αποφάσεις με άμεσες συνέπειες για την ασφάλεια και τη διεθνή σταθερότητα. Ένα απλό λάθος ερμηνείας δεδομένων, όπως αποδείχθηκε, θα μπορούσε να οδηγήσει σε μια στρατιωτική επιχείρηση με απρόβλεπτες συνέπειες ανάμεσα σε δύο μεγάλες δυνάμεις.
Παράλληλα, στις ΗΠΑ συνεχίζεται η πολιτική αντιπαράθεση σχετικά με το κατά πόσο θα πρέπει να θεσπιστούν αυστηρότεροι κανόνες για την ανάπτυξη και τη χρήση της Τεχνητής Νοημοσύνης. Ο πρόεδρος Ντόναλντ Τραμπ και αρκετοί Ρεπουμπλικάνοι έχουν ταχθεί κατά της επιβολής αυστηρού ρυθμιστικού πλαισίου, υποστηρίζοντας ότι κάτι τέτοιο θα περιόριζε την αμερικανική ανταγωνιστικότητα απέναντι στην Κίνα. Η θέση αυτή έρχεται σε αντίθεση με όσους ζητούν πιο αυστηρό έλεγχο, ιδίως μετά από περιστατικά όπως αυτό με το κινεζικό πλοίο, όπου ένα τεχνικό σφάλμα παραλίγο να οδηγήσει σε στρατιωτική κλιμάκωση.
Η συζήτηση για τη ρύθμιση της Τεχνητής Νοημοσύνης παραμένει ανοιχτή
Η αντιπαράθεση γύρω από τη ρύθμιση της Τεχνητής Νοημοσύνης στις ΗΠΑ αναμένεται να ενταθεί μετά την αποκάλυψη του CNN, καθώς το περιστατικό προσφέρει συγκεκριμένο παράδειγμα των κινδύνων που μπορεί να προκύψουν από τη χρήση chatbot σε ευαίσθητες αποφάσεις πληροφοριών. Οι υποστηρικτές αυστηρότερων κανόνων αναμένεται να επικαλεστούν την υπόθεση ως απόδειξη ότι τα εργαλεία Τεχνητής Νοημοσύνης χρειάζονται επιπλέον επίβλεψη πριν χρησιμοποιηθούν σε στρατιωτικό ή διπλωματικό επίπεδο. Η κυβέρνηση Τραμπ, πάντως, δεν έχει δείξει μέχρι στιγμής διάθεση να αλλάξει στάση απέναντι στη ρύθμιση του κλάδου.
