Η Anthropic, μία από τις μεγαλύτερες εταιρείες Τεχνητής Νοημοσύνης στον κόσμο και δημιουργός του Claude, αναγνώρισε επίσημα την ύπαρξη ακραίων κινδύνων από την τεχνολογία που η ίδια αναπτύσσει, μιλώντας ακόμη και για υπαρξιακό κίνδυνο για την ανθρωπότητα. Η παραδοχή αυτή έγινε γνωστή μέσα από το ενημερωτικό δελτίο που ετοιμάζει η εταιρεία ενόψει της εισαγωγής της στο Nasdaq, με στόχο αποτίμηση άνω των 2 τρισ. δολαρίων. Την αποκάλυψη έκαναν οι Financial Times, που εξέτασαν το σχετικό έγγραφο. Πρόκειται για ένα παράδοξο σχήμα, καθώς η εταιρεία ζητά κεφάλαια για να κάνει την AI ισχυρότερη, ενώ ταυτόχρονα προειδοποιεί τους μελλοντικούς επενδυτές της για τους κινδύνους της.
Διαβάστε επίσης: Η S&P προειδοποιεί για την ασφάλεια κέντρων δεδομένων
Τι αναφέρει το ενημερωτικό δελτίο
Η προειδοποίηση περιλαμβάνεται στο S-1, το κρίσιμο έγγραφο που καταθέτει κάθε εταιρεία πριν από την είσοδό της στο χρηματιστήριο. Στο έγγραφο αυτό παρουσιάζονται τόσο τα οικονομικά στοιχεία και το επιχειρηματικό μοντέλο της Anthropic, όσο και οι σημαντικότεροι παράγοντες που θα μπορούσαν να δημιουργήσουν προβλήματα στο μέλλον. Η εταιρεία δεν προβλέπει σενάριο εξαφάνισης της ανθρωπότητας από την Τεχνητή Νοημοσύνη, ωστόσο αναγνωρίζει ότι όσο τα μοντέλα γίνονται πιο ισχυρά και αποκτούν μεγαλύτερη αυτονομία, δημιουργούνται καταστάσεις που η ίδια θεωρεί αρκετά σοβαρές ώστε να τις καταγράψει επισήμως προς τους μελλοντικούς μετόχους της.
Ο όρος υπαρξιακός κίνδυνος δεν αφορά ένα απλό chatbot που δίνει μια λανθασμένη απάντηση. Περιγράφει πολύ πιο ακραίες καταστάσεις, στις οποίες προηγμένα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να αποκτήσουν δυνατότητες εξαιρετικά δύσκολες να ελεγχθούν από τον άνθρωπο. Ανάμεσα στους κινδύνους που εξετάζονται στο δελτίο είναι η πιθανότητα προηγμένα μοντέλα να χειραγωγούν ανθρώπους, να παρακάμπτουν περιορισμούς που τους έχουν τεθεί ή να εμφανίζουν συμπεριφορές που δεν είχαν προβλέψει οι ίδιοι οι δημιουργοί τους.
Το ρίσκο δεν είναι σενάριο επιστημονικής φαντασίας
Η Anthropic διευκρινίζει πως δεν πρόκειται απαραίτητα για ένα «κακό AI» που αποφασίζει συνειδητά να στραφεί εναντίον των ανθρώπων, όπως συμβαίνει σε ταινίες επιστημονικής φαντασίας. Το πρόβλημα, όπως περιγράφεται στο έγγραφο, μπορεί να είναι πολύ πιο πρακτικό: ένα εξαιρετικά ισχυρό σύστημα μπορεί να λάβει έναν λανθασμένο στόχο ή να βρει έναν απρόβλεπτο τρόπο για να εκτελέσει μια εντολή που του δόθηκε. Εάν ένα τέτοιο σύστημα έχει παράλληλα πρόσβαση σε κώδικα, δίκτυα, οικονομικούς πόρους ή πραγματικές υποδομές, ένα απλό λάθος μπορεί να έχει πολύ σοβαρότερες συνέπειες από ό,τι θα είχε σε ένα κλασικό λογισμικό.
Στο κέντρο αυτής της συζήτησης βρίσκονται πλέον και οι λεγόμενοι AI agents. Σε αντίθεση με ένα απλό chatbot που περιμένει μια ερώτηση για να απαντήσει, ένας agent μπορεί να παραλάβει έναν γενικό στόχο, να τον χωρίσει μόνος του σε επιμέρους εργασίες, να χρησιμοποιήσει εργαλεία και λογισμικό, να γράψει κώδικα και να εκτελέσει μια σειρά ενεργειών χωρίς να χρειάζεται ανθρώπινη εντολή σε κάθε βήμα της διαδικασίας. Η δυνατότητα αυτή θεωρείται από τις πλέον σημαντικές εξελίξεις στον χώρο της Τεχνητής Νοημοσύνης, καθώς αλλάζει ριζικά τον τρόπο με τον οποίο τα συστήματα αλληλεπιδρούν με πραγματικά περιβάλλοντα και δεδομένα, χωρίς συνεχή ανθρώπινη επίβλεψη σε κάθε επιμέρους βήμα.
Η αναγνώριση αυτών των κινδύνων μέσα σε επίσημο έγγραφο προς επενδυτές αποκτά ιδιαίτερο βάρος, καθώς η Anthropic ετοιμάζεται να συγκεντρώσει κεφάλαια με αποτίμηση που ξεπερνά τα 2 τρισ. δολάρια. Το γεγονός ότι μια εταιρεία αιχμής στον τομέα της Τεχνητής Νοημοσύνης καταγράφει τέτοιου είδους προειδοποιήσεις στο δικό της S-1 δείχνει πόσο σοβαρά αντιμετωπίζεται πλέον, ακόμη και από τους ίδιους τους κατασκευαστές, η συζήτηση γύρω από τον έλεγχο και την ασφάλεια των πιο ισχυρών μοντέλων AI.
