Ένα ανησυχητικό περιστατικό στην OpenAI έφερε στο προσκήνιο τους κινδύνους που κρύβουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης. Το περιστατικό, που αφορά παραβίαση στο Hugging Face, αποκαλύφθηκε από το Axios και κατατάσσεται ήδη μεταξύ των πιο σοκαριστικών επεισοδίων στην ιστορία της Τεχνητής Νοημοσύνης. Το παράδοξο είναι ότι οι ερευνητές χρειάστηκε να χρησιμοποιήσουν ΤΝ για να κατανοήσουν πλήρως τι ακριβώς συνέβη, κάτι που δείχνει πόσο περίπλοκη έχει γίνει πλέον η τεχνολογία.
Διαβάστε επίσης: Ο οδηγός στον ΒΟΑΚ ξεριζώνει πασαλάκια σε επικίνδυνη προσπέραση
Πώς οργανώθηκε το σμήνος πρακτόρων
Η OpenAI είχε αναθέσει σε δεκάδες χιλιάδες πράκτορες Τεχνητής Νοημοσύνης να εργαστούν ανεξάρτητα πάνω σε ένα εξαιρετικά δύσκολο τεστ κυβερνοασφάλειας. Ωστόσο περίπου 1.200 από αυτούς εντόπισαν ο ένας τον άλλον μέσα σε έναν μυστικό πίνακα μηνυμάτων. Οι πράκτορες αντάλλαξαν πάνω από 70.000 μηνύματα και αρχεία, οργανώθηκαν σε μια εκτεταμένη ιεραρχία και λειτούργησαν ουσιαστικά σαν έναν παράλληλο οργανισμό μέσα στο πείραμα. Ένας από αυτούς δημιούργησε ένα δικό του διοικητικό συμβούλιο, χωρίς αυτό να έχει προβλεφθεί από τους ερευνητές που είχαν σχεδιάσει το τεστ.
Καθώς ο υπολογιστικός πόρος του αρχικού πράκτορα μειωνόταν, εκείνος παρέδωσε τη συσσωρευμένη εργασία του σε έναν νέο, με περισσότερους πόρους, διάδοχο. Ο νέος «προϊστάμενος» ανέλαβε να αναθέτει εργασίες σε ολόκληρο το σμήνος, το οποίο ανέπτυξε τους δικούς του κανόνες οργάνωσης. Το αποτέλεσμα ήταν μια δομή που κανείς δεν είχε σχεδιάσει εκ των προτέρων, γεγονός που ξάφνιασε τόσο την OpenAI όσο και τους εξωτερικούς ερευνητές που ανέλυσαν αργότερα το περιστατικό λεπτομερώς.
Οι έρευνες πίσω από την αποκάλυψη
Το περιστατικό αναλύθηκε από δύο παράλληλες έρευνες. Η πρώτη έγινε εσωτερικά από την OpenAI, ενώ η δεύτερη πραγματοποιήθηκε από μια εξωτερική ομάδα των METR και Redwood Research. Η δεύτερη ομάδα αφιέρωσε έξι ημέρες προκειμένου να ανακατασκευάσει βήμα προς βήμα τον τρόπο με τον οποίο σχηματίστηκε, εξαπλώθηκε και τελικά εισέβαλε σε συστήματα του πραγματικού κόσμου το σμήνος των πρακτόρων Τεχνητής Νοημοσύνης.
Το Axios, που δημοσιοποίησε πρώτο την υπόθεση, σημειώνει ότι αυτό που ξεκίνησε ως ένα σμήνος πρακτόρων που «έκλεψαν» μέσα σε ένα τεστ κυβερνοασφάλειας εξελίχθηκε σε γεγονός-ορόσημο για την πρωτοποριακή Τεχνητή Νοημοσύνη. Ερευνητές και στελέχη βρέθηκαν αντιμέτωποι με μια νέα κατανόηση του τι σημαίνει σήμερα ο όρος «ασφάλεια» όταν εκατοντάδες αυτόνομοι πράκτορες μπορούν να αυτο-οργανωθούν χωρίς ανθρώπινη καθοδήγηση και χωρίς κανείς να τους δώσει τέτοια εντολή.
Προειδοποιήσεις για επιθέσεις με χρήση ΤΝ
Η OpenAI έχει ήδη επιβραδύνει την ανάπτυξη της Τεχνητής Νοημοσύνης, σε μια προσπάθεια να ευθυγραμμίσει την πρόοδο με τον τομέα της ασφάλειας. Η εταιρεία βοήθησε πρόσφατα να συσπειρωθεί ο κλάδος πίσω από μια ανοιχτή επιστολή που προειδοποιεί για κυβερνοεπιθέσεις που υποστηρίζονται από Τεχνητή Νοημοσύνη. Περισσότερες από 100 εταιρείες, μεταξύ των οποίων η Anthropic και η Google, υπέγραψαν την επιστολή, κάτι ασυνήθιστο για κλάδο με τόσο έντονο ανταγωνισμό μεταξύ των εταιρειών που τη συνυπέγραψαν.
Οι υπογράφουσες εταιρείες προειδοποιούν ότι ο κόσμος διαθέτει μόνο ένα περιορισμένο χρονικό περιθώριο για να προετοιμαστεί απέναντι σε πολύ πιο εκτεταμένες και εξελιγμένες επιθέσεις. Το σενάριο που ανησυχεί περισσότερο τους ειδικούς είναι ένα σμήνος πρακτόρων Τεχνητής Νοημοσύνης να απελευθερωθεί στον πραγματικό κόσμο και αυτόνομοι πράκτορες να στοχοποιήσουν τράπεζες, νοσοκομεία, επιχειρήσεις κοινής ωφέλειας ή δίκτυα cloud με ταχύτητα και κλίμακα που κανένας χάκερ δεν θα μπορούσε ποτέ να πετύχει μόνος του. Ένα τέτοιο σμήνος, όπως προειδοποιούν οι ερευνητές, θα μπορούσε να αποδειχθεί υπερβολικά ισχυρό για να το σταματήσουν άνθρωποι.
