Μια απλή συζήτηση στα social media μπορεί μέσα σε λίγα λεπτά να μετατραπεί σε έντονη πολιτική αντιπαράθεση. Το φαινόμενο της παραπληροφόρησης με τεχνητή νοημοσύνη γίνεται όλο και πιο δύσκολο να εντοπιστεί, καθώς οι σύγχρονες γλωσσικές μηχανές παράγουν κείμενα που μοιάζουν απόλυτα ανθρώπινα. Ειδικοί επισημαίνουν ότι η ίδια η τεχνητή νοημοσύνη μπορεί, ταυτόχρονα, να αποτελέσει εργαλείο για την αναγνώριση οργανωμένων προσπαθειών χειραγώγησης της κοινής γνώμης στο διαδίκτυο.
Διαβάστε επίσης: Οι ηγέτες της τεχνητής νοημοσύνης βλέπουν τη «μοναδικότητα»
Πώς μια απλή συζήτηση μετατρέπεται σε αντιπαράθεση
Πολλοί χρήστες έχουν παρατηρήσει ότι μια συζήτηση στα social media ξεκινά από ένα συγκεκριμένο θέμα και, μέσα σε λίγα σχόλια, καταλήγει σε κάτι εντελώς διαφορετικό και πολύ πιο φορτισμένο. Μια ανάρτηση για το αυξημένο κόστος ζωής, για παράδειγμα, μπορεί ξαφνικά να στραφεί σε συζήτηση για τη μετανάστευση. Αντίστοιχα, ένα δημοσίευμα για τον πόλεμο στην Ουκρανία μπορεί να οδηγήσει σε σχόλια περί διαφθοράς μιας κυβέρνησης, ενώ μια απλή συζήτηση για την οικονομία καταλήγει συχνά σε προσωπικές επιθέσεις εναντίον πολιτικών προσώπων ή άλλων χρηστών.
Σε πολλές περιπτώσεις, αυτή η μετατόπιση θέματος είναι απολύτως φυσιολογική, καθώς οι άνθρωποι συχνά συνδέουν διαφορετικά ζητήματα μεταξύ τους και οδηγούν τη συζήτηση σε απρόβλεπτη κατεύθυνση. Υπάρχουν όμως και περιπτώσεις όπου η αλλαγή αυτή είναι σκόπιμη. Στόχος είναι η απομάκρυνση της συζήτησης από το αρχικό θέμα και η μεταφορά της σε ένα πιο διχαστικό ζήτημα, ώστε η ένταση να αυξηθεί, οι χρήστες να έρθουν σε αντιπαράθεση μεταξύ τους και το αρχικό θέμα να χαθεί τελείως από το προσκήνιο.
Ο ρόλος της τεχνητής νοημοσύνης στη χειραγώγηση
Η εξέλιξη της γενετικής τεχνητής νοημοσύνης κάνει αυτή την πρακτική ακόμη πιο δύσκολο να εντοπιστεί. Τα τελευταία χρόνια, τα σύγχρονα συστήματα έχουν γίνει ικανά να παράγουν κείμενο που είναι γραμματικά σωστό, φυσικό και ιδιαίτερα πειστικό, κάτι που δημιουργεί ένα σοβαρό πρόβλημα για όσους προσπαθούν να εντοπίσουν ύποπτη δραστηριότητα στο διαδίκτυο. Στο παρελθόν, ένας από τους βασικούς τρόπους εντοπισμού ενός ύποπτου λογαριασμού ήταν η εξέταση του τρόπου γραφής του. Χρήστες που έγραφαν σε γλώσσα που δεν ήταν η μητρική τους έκαναν συχνά ασυνήθιστα γραμματικά λάθη ή χρησιμοποιούσαν παράξενες εκφράσεις, στοιχεία που βοηθούσαν τα συστήματα ανίχνευσης να αναγνωρίσουν πιθανή χειραγώγηση.
Σήμερα, ωστόσο, η εικόνα έχει αλλάξει ριζικά. Η γενετική τεχνητή νοημοσύνη μπορεί πλέον να παράγει κείμενα που μοιάζουν πολύ περισσότερο με φυσιολογική ανθρώπινη επικοινωνία, προσαρμόζοντας το ύφος, το λεξιλόγιο και τη δομή μιας απάντησης ανάλογα με το περιβάλλον στο οποίο δημοσιεύεται. Αποτέλεσμα είναι η προσπάθεια εντοπισμού ενός κακόβουλου μηνύματος αποκλειστικά μέσα από τις λέξεις που χρησιμοποιεί να γίνεται ολοένα πιο περίπλοκη. Παράλληλα, αυτοματοποιημένοι λογαριασμοί μπορούν να πλημμυρίσουν τα κοινωνικά δίκτυα με σχόλια σχεδιασμένα να σπέρνουν διχασμό, να πυροδοτούν πολιτικές αντιπαραθέσεις και να υπονομεύουν την ουσιαστική συζήτηση γύρω από κρίσιμα ζητήματα.
Η ικανότητα της τεχνητής νοημοσύνης να μιμείται ανθρώπινο λόγο με τόσο μεγάλη ακρίβεια αναδεικνύει την ανάγκη για μεγαλύτερη επαγρύπνηση από την πλευρά των χρηστών, αλλά και για την ανάπτυξη νέων εργαλείων ανίχνευσης που θα μπορούν να αξιοποιήσουν την ίδια τεχνολογία για να εντοπίζουν μοτίβα οργανωμένης χειραγώγησης, πέρα από την απλή ανάλυση λέξεων και εκφράσεων.
