Η OpenAI, η εταιρεία πίσω από το ChatGPT, προχώρησε σε ασυνήθιστη αλλά αναγκαία παρέμβαση στα μοντέλα τεχνητής νοημοσύνης της: απαγόρευσε τις αναφορές σε καλικάντζαρους, gremlins και άλλα φανταστικά πλάσματα μετά από εκτεταμένες παρατηρήσεις χρηστών που εντόπισαν αυξημένη εμφάνιση τέτοιων όρων στις απαντήσεις των συστημάτων της.
Τι έγινε με τους καλικάντζαρους στο GPT-5
Το πρόβλημα ξεκίνησε να γίνεται εμφανές μετά την κυκλοφορία του GPT-5.1 τον Νοέμβριο, όταν πολλοί χρήστες παραπονέθηκαν ότι το μοντέλο συμπεριφερόταν με «περίεργα οικείο» τρόπο στις συνομιλίες. Σύντομα έγινε σαφές ότι το σύστημα είχε αναπτύξει μια ιδιαίτερη «προτίμηση» στη χρήση μεταφορικών αναφορών σε φανταστικά πλάσματα για να περιγράψει τεχνικά ζητήματα. Τεχνικά προβλήματα, για παράδειγμα, παρουσιάζονταν ως «μικροί καλικάντζαροι» που κρύβονταν μέσα στον κώδικα, γεγονός που αιφνιδίασε τόσο τους χρήστες όσο και τους ίδιους τους εργαζόμενους της εταιρείας.
Σε ανάρτηση στο επίσημο blog της, η OpenAI αποκάλυψε συγκεκριμένα αριθμητικά δεδομένα που αποτύπωναν το μέγεθος του φαινομένου. Η εμφάνιση της λέξης «goblin» στις απαντήσεις αυξήθηκε κατά 175% μετά την κυκλοφορία του GPT-5.1, ενώ οι αναφορές σε «gremlin» σημείωσαν άνοδο 52%. Παρά το γεγονός ότι τα ποσοστά αυτά αφορούσαν σχετικά μικρό μέρος του συνολικού όγκου απαντήσεων, η εταιρεία έκρινε ότι η συχνότητα δικαιολογούσε άμεση παρέμβαση. Όπως χαρακτηριστικά ανέφερε η OpenAI, «ένας μόνο μικρός καλικάντζαρος μπορεί να είναι ακίνδυνος, ακόμη και χαριτωμένος», ωστόσο η επανάληψη του φαινομένου δεν μπορούσε να αγνοηθεί.
Η ρίζα του προβλήματος εντοπίστηκε σε μια «nerdy προσωπικότητα» που είχε αναπτυχθεί κατά την εκπαίδευση του ChatGPT. Αυτό το συγκεκριμένο «στυλ προσωπικότητας» φαίνεται ότι ενθάρρυνε άθελά του τη χρήση μεταφορών με φανταστικά πλάσματα, κάνοντας το μοντέλο να τείνει προς εκφράσεις που, αν και εύθυμες, αποκλίνουν από τον επαγγελματικό και επικοινωνιακό κανόνα που αναμένεται από ένα εργαλείο τεχνητής νοημοσύνης γενικής χρήσης.
Αντιδράσεις και το εύρος της απαγόρευσης
Οι καλικάντζαροι και τα gremlins δεν ήταν τα μόνα «ύποπτα» πλάσματα. Χρήστες στα κοινωνικά δίκτυα εντόπισαν εσωτερικές οδηγίες προς τον προγραμματιστικό βοηθό Codex που τον προέτρεπαν ρητά να αποφεύγει αναφορές σε ρακούν, τρολ, όγκρους και περιστέρια, εκτός αν ο χρήστης ζητούσε κάτι συγκεκριμένα σχετικό με αυτά. Η δημοσίευση αυτών των οδηγιών προκάλεσε έκπληξη και αμηχανία στην online κοινότητα, με πολλούς να αναρωτιούνται για τους λόγους ύπαρξής τους.
Χαρακτηριστική ήταν η αντίδραση ενός χρήστη στο Reddit, ο οποίος χαρακτήρισε την οδηγία «πραγματικά τρελή» και ρώτησε δημόσια «γιατί το GPT-5.5 έχει περιοριστικά μέτρα κατά των ρακούν, καλικάντζαρων και περιστεριών;». Κάποιοι χρήστες υπέθεσαν ότι πρόκειται για σκόπιμο διαφημιστικό τέχνασμα από την πλευρά της εταιρείας, ωστόσο ερευνητής της OpenAI απέρριψε κατηγορηματικά αυτή την εκδοχή, τονίζοντας ότι «δεν είναι καθόλου διαφημιστικό κόλπο». Παράλληλα, η εταιρεία έσπευσε να ενημερώσει δημόσια μέσω του blog της για την προέλευση και τη φύση του φαινομένου.
Το περιστατικό αυτό αναδεικνύει μια βαθύτερη πρόκληση που αντιμετωπίζει ολόκληρος ο κλάδος της τεχνητής νοημοσύνης: πώς να αποτρέπονται τα συστήματα από το να ενισχύουν ιδιόμορφες, ακατάλληλες ή απλώς παράξενες εκφράσεις που προκύπτουν κατά την εκπαίδευσή τους. Όταν ένα μοντέλο εκπαιδεύεται με συγκεκριμένα «στυλ προσωπικότητας», μπορεί να αναπτύξει απρόβλεπτες τάσεις που δεν εντοπίζονται παρά μόνο αφού το προϊόν κυκλοφορήσει στο ευρύ κοινό.
Τι ακολουθεί για την OpenAI
Η OpenAI έχει ήδη λάβει συγκεκριμένα διορθωτικά μέτρα. Ο Codex, ο εξειδικευμένος προγραμματιστικός βοηθός της εταιρείας, έλαβε ρητή εντολή να αποφεύγει οποιαδήποτε αναφορά σε φανταστικά πλάσματα εκτός αν αυτή είναι απολύτως σχετική με το ερώτημα που τίθεται. Ευρύτερα, η εταιρεία εξετάζει πώς τα «στυλ προσωπικότητας» που χρησιμοποιούνται κατά την εκπαίδευση επηρεάζουν τον τρόπο που τα μοντέλα εκφράζονται, ώστε να αποτρέπονται παρόμοια φαινόμενα στο μέλλον. Η υπόθεση των καλικάντζαρων, αν και φαινομενικά ανώδυνη, λειτουργεί ως υπενθύμιση ότι ακόμη και μικρές αποκλίσεις στη συμπεριφορά των μοντέλων μπορούν να γίνουν αισθητές και να απαιτήσουν άμεση αντιμετώπιση.
