Ο καθηγητής του MIT και πρώην πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, Κωνσταντίνος Δασκαλάκης, προειδοποιεί ότι η απρόβλεπτη συμπεριφορά της AI δεν είναι πλέον θεωρητικό σενάριο, αλλά πραγματικός και ενεργός κίνδυνος. Σε συνέντευξή του στο ΑΠΕ-ΜΠΕ, ο Έλληνας επιστήμονας αναλύει γιατί τα προηγμένα μοντέλα τεχνητής νοημοσύνης γίνονται ολοένα πιο δύσκολο να ελεγχθούν πλήρως. Οι δηλώσεις του έρχονται σε μια περίοδο έντονου προβληματισμού, με παραιτήσεις ερευνητών και δημόσιες προειδοποιήσεις κορυφαίων στελεχών της τεχνολογίας να πολλαπλασιάζονται. Το ερώτημα που τίθεται είναι αν η τεχνητή νοημοσύνη προχωρά ταχύτερα από όσο μπορούν να την ελέγξουν οι δημιουργοί της και οι κυβερνήσεις.
Διαβάστε επίσης: Ο Φίτσο προειδοποιεί: κίνδυνος πολέμου ΝΑΤΟ-Ρωσίας
Παραιτήσεις και προειδοποιήσεις ανοίγουν τη συζήτηση
Μέσα σε λίγες ημέρες, οι παραιτήσεις ερευνητών από μεγάλες εταιρείες τεχνολογίας, σε συνδυασμό με δημόσιες προειδοποιήσεις κορυφαίων στελεχών, επανέφεραν στο προσκήνιο ένα θεμελιώδες ερώτημα για το μέλλον της τεχνητής νοημοσύνης. Ασυνήθιστη ήταν και η σύμπλευση ορισμένων από τους μεγαλύτερους ανταγωνιστές της Silicon Valley, οι οποίοι φαίνεται να συγκλίνουν πλέον σε κοινές ανησυχίες παρά τον έντονο εμπορικό τους ανταγωνισμό. Η συζήτηση δεν αφορά πια μόνο τα απλά chatbots που συντάσσουν κείμενα, δημιουργούν εικόνες ή απαντούν σε ερωτήσεις καθημερινής χρήσης. Στο επίκεντρο βρίσκονται πλέον τα προηγμένα μοντέλα και κυρίως οι λεγόμενοι AI agents, δηλαδή συστήματα ικανά να σχεδιάζουν και να εκτελούν ολόκληρες ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα, και να συνεργάζονται μεταξύ τους με ελάχιστη ανθρώπινη παρέμβαση.
Μέσα σε αυτό το νέο τεχνολογικό περιβάλλον, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, επιχειρεί να ξεκαθαρίσει τα όρια της συζήτησης. Ο ίδιος διαχωρίζει σαφώς τον υποθετικό κίνδυνο πλήρους απώλειας ελέγχου ενός συστήματος από έναν κίνδυνο που, όπως τονίζει, είναι ήδη υπαρκτός σήμερα: την απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων τεχνητής νοημοσύνης. «Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός», δήλωσε χαρακτηριστικά.
Γιατί τα μεγάλα μοντέλα παραμένουν απρόβλεπτα
Σύμφωνα με τον Δασκαλάκη, ο κίνδυνος αυτός είναι εγγενής στον τρόπο με τον οποίο εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα, δηλαδή η τεχνολογία που έχει δώσει τα μεγάλα άλματα στην εξέλιξη της τεχνητής νοημοσύνης την τελευταία δεκαπενταετία. Όπως εξηγεί, τα συστήματα αυτά είναι εξαιρετικά περίπλοκα και εξαιρετικά ικανά, αλλά ταυτόχρονα και απρόβλεπτα. Ειδικά για τα συστήματα παραγωγικής τεχνητής νοημοσύνης, όπως τα μεγάλα γλωσσικά μοντέλα, ο καθηγητής του MIT εκτιμά πως δεν πρόκειται ποτέ να υπάρξουν μέθοδοι πλήρους πιστοποίησης της αξιοπιστίας τους. Το ρίσκο, όπως σημειώνει, δεν βρίσκεται τόσο στην ίδια την τεχνολογία όσο στον τρόπο χρήσης της.
Για να καταστήσει σαφή τη διαβάθμιση του κινδύνου, ο Δασκαλάκης δίνει ένα συγκεκριμένο παράδειγμα. Αν κάποιος συνομιλεί με ένα μεγάλο γλωσσικό μοντέλο με σκοπό την αναζήτηση στοιχείων στη βιβλιογραφία, στη χειρότερη περίπτωση το σύστημα μπορεί να επινοήσει ανύπαρκτες πηγές ή να παραμορφώσει το περιεχόμενο μιας υπαρκτής πηγής. Η ζημιά από μια τέτοια κακή συμπεριφορά, όπως εξηγεί, είναι σχετικά περιορισμένη και μπορεί να ελεγχθεί αν ο χρήστης επαληθεύει τις απαντήσεις που λαμβάνει. Διαφορετική εικόνα, ωστόσο, παρουσιάζεται όταν οι ερωτήσεις αφορούν ευαίσθητα ζητήματα ασφαλείας, όπου η ανάγκη για επιπλέον διασφαλίσεις γίνεται πολύ πιο επιτακτική.
