Τα AI chatbots έχουν γίνει η κύρια πηγή πληροφόρησης για πάνω από ένα δισεκατομμύριο ανθρώπους κάθε εβδομάδα — όμως νέα έρευνα αποκαλύπτει ότι τα αυταρχικά καθεστώτα ενδέχεται να διαμορφώνουν αθόρυβα τις απαντήσεις αυτών των συστημάτων, χωρίς καν να έχουν άμεση πρόσβαση στον κώδικά τους. Η μελέτη, που δημοσιεύθηκε στο επιστημονικό περιοδικό Nature, ρίχνει φως σε έναν νέο και κρυφό μηχανισμό επιρροής που αφορά δισεκατομμύρια χρήστες παγκοσμίως.
Τι έγινε: Η κλίμακα του φαινομένου και η νέα έρευνα
Μόνο το ChatGPT αριθμεί 900 εκατομμύρια χρήστες την εβδομάδα. Στο σύνολό τους, τα μεγάλα γλωσσικά μοντέλα — γνωστά ως LLMs — όπως το ChatGPT της OpenAI, το Claude της Anthropic και το Gemini της Google, χρησιμοποιούνται από πάνω από ένα δισεκατομμύριο ανθρώπους κάθε εβδομάδα για πληροφορίες, συμβουλές και πλήθος άλλων αναγκών. Η επιρροή αυτών των συστημάτων αναμένεται να ενισχυθεί ακόμη περισσότερο τα επόμενα χρόνια, καθώς λίγες μόνο πλατφόρμες τεχνητής νοημοσύνης θα καθορίζουν τον τρόπο με τον οποίο δισεκατομμύρια άνθρωποι αντιλαμβάνονται την πολιτική, την ιστορία και την κοινωνία.
Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται αναλύοντας τεράστιες ποσότητες κειμένου από το διαδίκτυο. Μέσα από αυτή τη διαδικασία, εντοπίζουν μοτίβα στη γλώσσα, στις πληροφορίες και στις ανθρώπινες απαντήσεις. Αυτό σημαίνει ότι, αν το διαδίκτυο πλημμυρίζει με κρατικά ελεγχόμενο περιεχόμενο από αυταρχικά καθεστώτα, τα μοντέλα το απορροφούν στην εκπαίδευσή τους — χωρίς να χρειαστεί κανείς να παρέμβει άμεσα στον κώδικά τους. Αυτός είναι ο κρυφός μηχανισμός που περιγράφει η νέα μελέτη στο Nature.
Ήδη υπάρχουν ενδείξεις ότι τα LLMs μπορούν να επηρεάσουν τις απόψεις ορισμένων χρηστών μέσα από τις απαντήσεις και τις συνομιλίες τους. Η διαπίστωση αυτή έχει πυροδοτήσει αυξανόμενη ανησυχία σχετικά με το κατά πόσο τα chatbots θα μπορούσαν να εξελιχθούν σε εργαλεία διάδοσης προπαγάνδας — και, κυρίως, προς όφελος ποιού.
Αντιδράσεις και πλαίσιο: Το παράδειγμα της DeepSeek και ο φόβος της «αόρατης» προπαγάνδας
Οι περισσότερες συζητήσεις γύρω από τον κίνδυνο πολιτικής χειραγώγησης μέσω τεχνητής νοημοσύνης επικεντρώνονται σε ένα συγκεκριμένο σενάριο: ότι μεγάλες εταιρείες AI θα μπορούσαν να σχεδιάσουν τα μοντέλα τους ώστε να προωθούν συγκεκριμένες πολιτικές ή ιδεολογικές θέσεις, καταστέλλοντας παράλληλα αντίθετες απόψεις. Η ανησυχία αυτή δεν είναι αβάσιμη, καθώς υπάρχουν ήδη τεκμηριωμένα παραδείγματα. Η κινεζική εταιρεία DeepSeek έχει κατηγορηθεί ότι προγραμμάτισε το μοντέλο της ώστε να αποφεύγει συζητήσεις για ευαίσθητα ζητήματα για το Πεκίνο, όπως η σφαγή της Πλατείας Τιενανμέν ή η καταστολή πολιτικών αντιφρονούντων. Πρόκειται για μια τακτική άμεσης παρέμβασης που καθιστά ορισμένα θέματα απλώς απρόσιτα για τον χρήστη.
Ωστόσο, η νέα μελέτη του Nature περιγράφει έναν πιο ύπουλο και δυσκολότερο στον εντοπισμό μηχανισμό. Τα προηγμένα μοντέλα που αναπτύσσουν η OpenAI, η Anthropic και η Google δεν ελέγχονται άμεσα από αυταρχικά καθεστώτα — όμως αυτό δεν σημαίνει ότι τα καθεστώτα αυτά δεν μπορούν να τα επηρεάσουν έμμεσα. Τα κρατικά μέσα ενημέρωσης αυταρχικών χωρών παράγουν τεράστιες ποσότητες περιεχομένου στο διαδίκτυο, το οποίο τελικά καταλήγει στα δεδομένα εκπαίδευσης των μοντέλων. Με αυτόν τον τρόπο, η προπαγάνδα «εγχέεται» αθόρυβα στα συστήματα — χωρίς να αφήνει ίχνη άμεσης παρέμβασης.
Η κλίμακα του προβλήματος καθιστά την αντιμετώπισή του εξαιρετικά δύσκολη. Οι εταιρείες ανάπτυξης AI είναι υπεύθυνες για τον έλεγχο και τη διύλιση των δεδομένων εκπαίδευσης, όμως ο όγκος του υλικού που επεξεργάζονται καθιστά τον πλήρη έλεγχο σχεδόν αδύνατο. Παράλληλα, η συγκέντρωση της αγοράς σε λίγες μόνο πλατφόρμες σημαίνει ότι μια επιτυχημένη χειραγώγηση οποιασδήποτε από αυτές θα μπορούσε να έχει τεράστια επίδραση στη διαμόρφωση της κοινής γνώμης παγκοσμίως.
Τι ακολουθεί: Η ανάγκη για διαφάνεια και ρύθμιση
Η δημοσίευση της μελέτης στο Nature αναμένεται να δώσει νέα ώθηση στις συζητήσεις για τη ρύθμιση της τεχνητής νοημοσύνης σε διεθνές επίπεδο. Το ζήτημα της διαφάνειας στα δεδομένα εκπαίδευσης των μεγάλων μοντέλων βρίσκεται ήδη στο επίκεντρο νομοθετικών πρωτοβουλιών, τόσο στην Ευρωπαϊκή Ένωση όσο και στις Ηνωμένες Πολιτείες. Η αποκάλυψη ότι αυταρχικά καθεστώτα μπορούν να επηρεάζουν έμμεσα τα πλέον διαδεδομένα εργαλεία AI στον κόσμο προσθέτει νέα επείγουσα διάσταση σε αυτή τη συζήτηση. Οι ειδικοί τονίζουν ότι η ανάπτυξη αποτελεσματικών μηχανισμών ελέγχου και λογοδοσίας αποτελεί πλέον προτεραιότητα για τη διαφύλαξη της ποιότητας της πληροφόρησης που λαμβάνουν δισεκατομμύρια χρήστες.
