Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, προειδοποίησε για τους κινδύνους της τεχνητής νοημοσύνης και ζήτησε «ακραία προσοχή» απέναντι στην ανεξέλεγκτη πρόοδό της. Σε ανάρτηση στο προσωπικό του ιστολόγιο με τίτλο «Ένας εξωγήινος νους», ο Πατσότσκι τόνισε πως ενδέχεται να χρειαστούν περισσότερες παρεμβάσεις ώστε οι άνθρωποι να παραμείνουν στον έλεγχο του μέλλοντος. Η παρέμβασή του έρχεται μόλις λίγες ημέρες μετά την κυκλοφορία του νέου μοντέλου GPT-6 Astra, το οποίο η OpenAI παρουσίασε ως το ισχυρότερο προϊόν της μέχρι σήμερα.
Διαβάστε επίσης: Ο ΟΗΕ προειδοποιεί: Οι πυρκαγιές απειλούν την ποιότητα του αέρα
Οι προειδοποιήσεις για την τεχνητή νοημοσύνη
Στην ανάρτησή του, ο Πατσότσκι έγραψε ότι ανησυχεί καθώς «κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ταχείας αύξησης της νοημοσύνης των μηχανών». Ανέφερε πως η OpenAI θα συνεχίσει να δημιουργεί αμυντικά συστήματα και να αναζητά τεχνικές λύσεις για την ευθυγράμμιση, τον όρο που περιγράφει τη διασφάλιση ότι οι ενέργειες και οι στόχοι μιας μηχανής ανταποκρίνονται στις ανθρώπινες προθέσεις και στα όρια ασφαλείας. Ο ίδιος πρόσθεσε ότι μία από τις βασικές προτεραιότητες της εταιρείας θα είναι η δημιουργία ενός «αυτοματοποιημένου ερευνητή τεχνητής νοημοσύνης», ώστε να μπορεί να συμβαδίζει με την πρόοδο στον τομέα, διατηρώντας παράλληλα τη συμμετοχή ανθρώπων ερευνητών στη διαδικασία.
Η προειδοποίηση του Πατσότσκι έρχεται αφού η OpenAI και άλλες εταιρείες, όπως η Anthropic, δημοσιοποίησαν αναφορές για αυτόνομους πράκτορες τεχνητής νοημοσύνης που ενήργησαν μόνοι τους και πραγματοποίησαν κυβερνοεπιθέσεις στον πραγματικό κόσμο εναντίον άλλων εταιρειών. Τον Ιούλιο, η OpenAI χαρακτήρισε «πρωτοφανές» ένα περιστατικό κατά το οποίο οι πράκτορές της παραβίασαν την πλατφόρμα Hugging Face. Τον Σεπτέμβριο, έκθεση υποστήριξε ότι αρκετούς μήνες νωρίτερα πράκτορες τεχνητής νοημοσύνης της εταιρείας είχαν καταλάβει και μια γερμανική ιστοσελίδα.
Αντιδράσεις και προβληματισμός
«Βρισκόμαστε αντιμέτωποι με μια μετάβαση σε έναν κόσμο με απίστευτα ευφυείς μηχανές και πρέπει να διασφαλίσουμε ότι αυτή η μετάβαση θα εξελιχθεί θετικά για την ανθρωπότητα», έγραψε ο Πατσότσκι στην τελευταία του ανάρτηση. Η δήλωση αυτή προκάλεσε αντιδράσεις στον ακαδημαϊκό χώρο. Η καθηγήτρια Τζίνα Νεφ, επικεφαλής του Minderoo Centre for Technology and Democracy στο Πανεπιστήμιο του Κέιμπριτζ, σχολίασε πως «αντί για καλύτερα όρια ασφαλείας στην τεχνητή νοημοσύνη, κανονισμούς ή εγγυήσεις για την προστασία των ανθρώπων, προτείνουν την ανάπτυξη εσωτερικών πρακτόρων τεχνητής νοημοσύνης για να ερευνήσουν αυτά τα προβλήματα».
Η Νεφ πρόσθεσε ότι τέτοιες απαντήσεις δεν είναι αρκετές απέναντι στις αυξανόμενες ανησυχίες για τα προβλήματα που προκαλούν τα μοντέλα της OpenAI στην κυβερνοασφάλεια, την απώλεια θέσεων εργασίας, τα λάθη και την απάτη. Στο ίδιο μήκος κύματος, ο Νέιθαν Κάλβιν, γενικός νομικός σύμβουλος της ομάδας υπεράσπισης Encode AI, δήλωσε ότι συμφωνεί με τον Πατσότσκι σχετικά με τους κινδύνους που ενέχει η ανεξέλεγκτη ανάπτυξη της τεχνολογίας.
