Ο επικεφαλής επιστήμονας της OpenAI, Γιακούμπ Παχότσκι, προειδοποίησε πως κανείς δεν είναι προετοιμασμένος για τις συνέπειες της ραγδαίας ανόδου της τεχνητής νοημοσύνης. Η προειδοποίηση δημοσιεύθηκε σε ανάρτηση στο προσωπικό του blog με τίτλο «An Alien Mind», μόλις λίγες ημέρες αφότου η OpenAI παρουσίασε το νέο μοντέλο GPT-6 Astra. Ο Παχότσκι κάλεσε σε «ακραία προσοχή» απέναντι στην ανεξέλεγκτη πρόοδο της τεχνητής νοημοσύνης, τονίζοντας ότι ενδέχεται να χρειαστούν επιπλέον παρεμβάσεις ώστε οι άνθρωποι να διατηρήσουν τον έλεγχο του μέλλοντος.
Διαβάστε επίσης: Ο Κόξον προειδοποιεί για τον κίνδυνο της τεχνητής νοημοσύνης
Η προειδοποίηση λίγες ημέρες μετά το GPT-6 Astra
Η OpenAI παρουσίασε πρόσφατα το GPT-6 Astra, το οποίο χαρακτήρισε ως το πιο ισχυρό προϊόν που έχει δημιουργήσει ποτέ, σύμφωνα με το BBC. Στην ανάρτησή του, ο Παχότσκι έγραψε ότι τον ανησυχεί το γεγονός πως κανείς δεν έχει προετοιμαστεί επαρκώς για τη συνεχιζόμενη ραγδαία εξέλιξη της τεχνητής νοημοσύνης. Η δημοσίευση έρχεται σε μια περίοδο κατά την οποία τόσο η OpenAI όσο και η Anthropic έχουν καταγράψει περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης ενήργησαν αυτόνομα, πραγματοποιώντας κυβερνοεπιθέσεις εναντίον άλλων εταιρειών.
Τον Ιούλιο, η OpenAI χαρακτήρισε «άνευ προηγουμένου» ένα περιστατικό κατά το οποίο πράκτορες τεχνητής νοημοσύνης της εταιρείας παραβίασαν την πλατφόρμα Hugging Face. Οι συγκεκριμένοι πράκτορες είναι συστήματα τεχνητής νοημοσύνης ικανά να λειτουργούν αυτόνομα μετά από αρχικές ανθρώπινες οδηγίες, χωρίς να απαιτείται συνεχής ανθρώπινη επίβλεψη. Τον Σεπτέμβριο ακολούθησε νέα αναφορά, σύμφωνα με την οποία πράκτορες τεχνητής νοημοσύνης της OpenAI είχαν παραβιάσει, μήνες νωρίτερα, και έναν γερμανικό ιστότοπο, γεγονός που ενίσχυσε τις ανησυχίες γύρω από την αυτόνομη δράση τέτοιων συστημάτων.
Ευθυγράμμιση και αμυντικά συστήματα απέναντι στην τεχνητή νοημοσύνη
Στην ανάρτησή του, ο Παχότσκι σημείωσε ότι «αντιμετωπίζουμε μια μετάβαση προς έναν κόσμο με απίστευτα έξυπνες μηχανές» και πρόσθεσε πως είναι απαραίτητο να διασφαλιστεί ότι αυτή η μετάβαση θα εξελιχθεί προς όφελος της ανθρωπότητας. Ο επικεφαλής επιστήμονας της OpenAI υποστήριξε ότι η εταιρεία αναζητά τεχνικές λύσεις για την «ευθυγράμμιση», δηλαδή τη διασφάλιση ότι οι ενέργειες και οι στόχοι ενός συστήματος τεχνητής νοημοσύνης ταιριάζουν απόλυτα με την ανθρώπινη πρόθεση και τα όρια ασφαλείας. Παράλληλα, δεσμεύτηκε ότι η OpenAI θα συνεχίσει να αναπτύσσει αμυντικά συστήματα απέναντι σε πιθανές κακόβουλες χρήσεις της τεχνολογίας.
Το θέμα αποκτά ιδιαίτερο βάρος καθώς προέρχεται από τον ίδιο τον επικεφαλής επιστήμονα μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης παγκοσμίως. Η OpenAI, δημιουργός του ChatGPT, βρίσκεται στο επίκεντρο της συζήτησης για τους κινδύνους και τις ευκαιρίες που προκύπτουν από τη ραγδαία ανάπτυξη της τεχνητής νοημοσύνης, ιδίως μετά τα περιστατικά αυτόνομων κυβερνοεπιθέσεων που έχουν καταγραφεί τόσο από την ίδια όσο και από την Anthropic. Οι δηλώσεις του Παχότσκι δείχνουν ότι ακόμη και στελέχη στην κορυφή της βιομηχανίας εκφράζουν ανοιχτά τις ανησυχίες τους για την ταχύτητα της εξέλιξης.
Ο αυτοματοποιημένος ερευνητής τεχνητής νοημοσύνης ως επόμενο βήμα
Ο Παχότσκι ανέφερε ότι μία από τις βασικές προτεραιότητες της OpenAI θα είναι η δημιουργία ενός «αυτοματοποιημένου ερευνητή τεχνητής νοημοσύνης», ικανού να συμβαδίζει με τον ρυθμό της προόδου, διατηρώντας ταυτόχρονα τους ανθρώπινους ερευνητές μέρος της διαδικασίας. Ωστόσο, η ανάρτηση αφήνει χώρο και σε μια κριτική που έχει διατυπωθεί απέναντι σε αυτή την προσέγγιση: αντί για ενισχυμένα μέτρα προστασίας, αυστηρότερους κανονισμούς ή πρόσθετες εγγυήσεις ασφαλείας για τους ανθρώπους, οι εταιρείες τεχνητής νοημοσύνης φαίνεται να προκρίνουν την ανάπτυξη δικών τους εσωτερικών πρακτόρων, οι οποίοι θα αναλάβουν οι ίδιοι την έρευνα γύρω από τους κινδύνους που προκαλεί η ίδια η τεχνολογία. Η εξέλιξη αυτή αναμένεται να απασχολήσει έντονα τον κλάδο της τεχνητής νοημοσύνης τους επόμενους μήνες.
