OpenAI: Φραγμοί στις πληροφορίες για όπλα προς τους εφήβους

Η OpenAI ανακοίνωσε ότι αυστηροποιεί τους περιορισμούς στις πληροφορίες σχετικά με όπλα που παρέχει το ChatGPT στους εφήβους χρήστες, ακόμη και όταν η ερώτηση φαίνεται εντελώς ακίνδυνη. Η κίνηση εντάσσεται σε μια δέσμη νέων μέτρων ασφαλείας που στοχεύουν στην αποτροπή της πραγματικής βίας. Η απόφαση λαμβάνεται ενώ οι εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο για τους κινδύνους που εγκυμονούν τα chatbot για τους νεαρούς χρήστες.

Ποιες απαντήσεις για όπλα μπλοκάρει πλέον το ChatGPT

Η OpenAI θα περιορίσει την παροχή πρακτικών πληροφοριών για όπλα και συστήματα ασφαλείας, οι οποίες θα μπορούσαν να αξιοποιηθούν με επιβλαβή τρόπο. Οι περιορισμοί θα ισχύουν για τους εφήβους ακόμη και όταν δεν υπάρχει καμία ένδειξη πρόθεσης άσκησης βίας, γεγονός που σηματοδοτεί μια σαφώς πιο συντηρητική προσέγγιση από την εταιρεία. Παράλληλα, για το σύνολο των χρηστών, η εταιρεία περιορίζει το επίπεδο λεπτομέρειας των πληροφοριών για παλαιότερες μαζικές επιθέσεις.

Στους περιορισμούς αυτούς εντάσσονται στοιχεία όπως τα όπλα που χρησιμοποιήθηκαν σε τέτοιες επιθέσεις και ο τρόπος με τον οποίο αποκτήθηκαν. Για όλους τους χρήστες, το ChatGPT θα έχει επίσης τη δυνατότητα να τερματίζει αυτόματα συνομιλίες στις οποίες κάποιος φαίνεται να έχει αναπτύξει εμμονή με τη βία. Σε περιπτώσεις επανειλημμένων συζητήσεων αυτού του είδους, η OpenAI ενδέχεται να προχωρά σε προσωρινή αναστολή των σχετικών λογαριασμών.

Η εταιρεία διευκρίνισε ότι τα νέα μέτρα ασφαλείας θα αρχίσουν να εφαρμόζονται σταδιακά μέσα στις επόμενες εβδομάδες και ότι θα συνεχίσει να τα βελτιώνει. Η φιλοσοφία πίσω από την απόφαση είναι ο εντοπισμός πιθανών απειλών πρόκλησης βλάβης προτού αυτές μετατραπούν σε πραγματικό κίνδυνο.

Πρόβλεψη ηλικίας και ειδοποίηση των γονέων

Για να θωρακίσει περαιτέρω τους ανήλικους χρήστες, η OpenAI ενίσχυσε το σύστημα πρόβλεψης ηλικίας. Όσοι χρήστες εκτιμάται ότι είναι κάτω των 18 ετών θα μεταφέρονται αυτόματα στην ειδικά διαμορφωμένη εμπειρία για εφήβους, η οποία διέπεται από αυστηρότερους κανόνες. Επιπλέον, η εταιρεία σχεδιάζει να ενημερώνει τους γονείς εάν ο λογαριασμός του παιδιού τους τεθεί σε αναστολή λόγω επανειλημμένων συζητήσεων σχετικά με τη βία.

Νωρίτερα αυτόν τον μήνα, η OpenAI είχε δημοσιεύσει την πρώτη της έκθεση για τη χρήση της υπηρεσίας από εφήβους, σύμφωνα με την οποία οι έφηβοι χρησιμοποιούν το ChatGPT κατά μέσο όρο λιγότερο από 15 λεπτά την ημέρα. Οι ανακοινώσεις για την ασφάλεια έρχονται να απαντήσουν σε έναν προβληματισμό που έχει ενταθεί το τελευταίο διάστημα γύρω από την προστασία των νεαρών χρηστών.

Αντίστοιχη έκθεση του μη κερδοσκοπικού οργανισμού Common Sense Media, που δημοσιεύθηκε επίσης νωρίτερα μέσα στον μήνα, είχε διαπιστώσει ότι η ειδική έκδοση του ChatGPT για εφήβους συχνά ειδοποιούσε καθυστερημένα τους γονείς ή δεν τους ειδοποιούσε καθόλου. Οι περιπτώσεις αυτές αφορούσαν λογαριασμούς εφήβων στους οποίους καταγράφονταν συνομιλίες σχετικά με την αυτοκτονία, τον αυτοτραυματισμό ή τις διατροφικές διαταραχές.