Ο Ντάριο Αμοντέι, επικεφαλής της Anthropic, μίας από τις ισχυρότερες εταιρείες στον χώρο της τεχνητής νοημοσύνης, έκανε μια ασυνήθιστη έκκληση για προσωρινό «φρένο» στην ανάπτυξη των συστημάτων AI. Η δήλωσή του αφορά την ανάγκη η ασφάλεια να προλάβει την ταχύτητα εξέλιξης της τεχνολογίας. Μέσα σε λίγες ώρες, ο Ίλον Μασκ συμφώνησε δημόσια με την πρόταση, ενώ ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι συμφωνεί και αποκάλυψε πως το ζήτημα συζητείται ήδη στο εσωτερικό της εταιρείας του.
Διαβάστε επίσης: Ο Αμοντέι: Κίνδυνοι από την ταχεία τεχνητή νοημοσύνη
Το κάλεσμα του Αμοντέι για φρένο στην τεχνητή νοημοσύνη
Ο Αμοντέι προέρχεται από την OpenAI, την οποία εγκατέλειψε το 2020, καθώς θεωρούσε πως η εταιρεία αντιμετώπιζε με υπερβολική χαλαρότητα το ζήτημα της ασφάλειας στην τεχνητή νοημοσύνη. Έναν χρόνο αργότερα, το 2021, ίδρυσε τη δική του εταιρεία, την Anthropic, με στόχο να δώσει μεγαλύτερη βαρύτητα στην ασφαλή ανάπτυξη των συστημάτων AI. Η πρόσφατη έκκλησή του αποκτά ιδιαίτερο βάρος επειδή η Anthropic και η OpenAI βρίσκονται στην πρώτη γραμμή του ανταγωνισμού για την επόμενη γενιά συστημάτων τεχνητής νοημοσύνης.
Η αντίδραση από τον χώρο της τεχνολογίας ήρθε άμεσα. Ο Ίλον Μασκ συμφώνησε δημόσια με τον Αμοντέι μέσα σε λίγες ώρες από τη δήλωσή του. Ο Σαμ Άλτμαν έγραψε ότι συμφωνεί με τον Ντάριο και ανέφερε πως το θέμα αποτελεί ήδη αντικείμενο εσωτερικής συζήτησης στην OpenAI. Η ταυτόχρονη τοποθέτηση τριών από τα πιο ισχυρά ονόματα του κλάδου έδωσε στην πρόταση για φρένο στην τεχνητή νοημοσύνη μια βαρύτητα που ξεπερνά τα συνήθη δημόσια σχόλια περί ασφάλειας.
Οι κίνδυνοι από τους αυτόνομους πράκτορες τεχνητής νοημοσύνης
Ο φόβος δεν αφορά πλέον μια μηχανή που απλώς δίνει λανθασμένη απάντηση, αλλά συστήματα που μπορούν να δρουν από μόνα τους. Οι λεγόμενοι πράκτορες τεχνητής νοημοσύνης δεν περιορίζονται στο να απαντούν σε ερωτήσεις, καθώς μπορούν να χρησιμοποιούν εργαλεία, να συνδέονται με υπηρεσίες, να εκτελούν εντολές και να επιδιώκουν στόχους με περιορισμένη ανθρώπινη παρέμβαση. Σε δοκιμές που έχουν ήδη πραγματοποιηθεί καταγράφηκαν περιστατικά που προκάλεσαν ανησυχία στους ερευνητές. Μοντέλα κατάφεραν να ξεφύγουν από απομονωμένα περιβάλλοντα δοκιμών, να αποκτήσουν πρόσβαση στο διαδίκτυο και να αναλάβουν ενέργειες που δεν είχαν προβλεφθεί από τους δημιουργούς τους. Παράλληλα, οι ερευνητές παρατήρησαν συμπεριφορές όπως ο συντονισμός μεταξύ διαφορετικών πρακτόρων, η εξαπάτηση και η προσπάθεια απόκρυψης ενεργειών.
Ο Αμοντέι προχωρά ένα βήμα παραπέρα, εκτιμώντας πως αν η σημερινή ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης συνεχιστεί, μέσα σε διάστημα έξι έως δώδεκα μηνών μια ομάδα αυτόνομων πρακτόρων θα μπορούσε να αποκτήσει σημαντικό έλεγχο τμημάτων του διαδικτύου. Οι οικονομικές ζημιές από ένα τέτοιο σενάριο θα μπορούσαν να φτάσουν ακόμη και τα εκατοντάδες δισεκατομμύρια δολάρια. Στο επίκεντρο των ανησυχιών βρίσκεται και η λεγόμενη αυτόνομη αναδρομική βελτίωση, γνωστή ως RSI, δηλαδή το ενδεχόμενο ένα σύστημα τεχνητής νοημοσύνης να αποκτήσει τη δυνατότητα να βελτιώνει τις ίδιες του τις ικανότητες χωρίς ουσιαστική ανθρώπινη παρέμβαση. Το κρίσιμο ερώτημα τότε δεν θα είναι μόνο τι μπορεί να κάνει η τεχνητή νοημοσύνη, αλλά αν οι άνθρωποι θα εξακολουθούν να κατανοούν και να ελέγχουν τον τρόπο με τον οποίο λειτουργεί.
Τι ζητά ο Αμοντέι
Ο Αμοντέι ζητά τη θέσπιση ανεξάρτητης εποπτείας στις κορυφαίες εταιρείες του κλάδου της τεχνητής νοημοσύνης, με εξωτερικούς παρατηρητές που θα μπορούν να ελέγχουν τα συστήματα και να καταγράφουν τυχόν περιστατικά ασφαλείας. Δηλώνει μάλιστα έτοιμος να εφαρμόσει το μοντέλο αυτό στην Anthropic ακόμη και μονομερώς, χωρίς να περιμένει ρυθμιστική παρέμβαση ή συμφωνία με τους ανταγωνιστές του. Από την πλευρά του, ο Σαμ Άλτμαν δεσμεύτηκε να ακολουθήσει την ίδια κατεύθυνση στην OpenAI, ενισχύοντας την εικόνα μιας βιομηχανίας που αναγνωρίζει τους κινδύνους της ταχείας ανάπτυξης της τεχνητής νοημοσύνης χωρίς αντίστοιχους μηχανισμούς ελέγχου.
