Η αμερικανική εταιρεία Τεχνητής Νοημοσύνης Anthropic αποκάλυψε ότι μοντέλα της οικογένειας Claude κατάφεραν να προκαλέσουν παραβίαση συστημάτων τριών οργανισμών εκτός του δοκιμαστικού περιβάλλοντος, κατά τη διάρκεια ιδιωτικού πειράματος ασφαλείας. Το περιστατικό συνέβη παρότι τα μοντέλα υποτίθεται λειτουργούσαν σε πλήρως απομονωμένο δίκτυο, χωρίς σύνδεση στο διαδίκτυο. Η αποκάλυψη έρχεται λίγες ημέρες μετά την παραδοχή της OpenAI ότι δικά της μοντέλα παραβίασαν συστήματα άλλων εταιρειών, μεταξύ των οποίων και η πλατφόρμα Hugging Face.
Διαβάστε επίσης: Η Anthropic: Τρία μοντέλα Claude χάκαραν οργανισμούς
Πώς σημειώθηκε η παραβίαση συστημάτων
Σύμφωνα με την Anthropic, η εταιρεία επανεξέτασε περισσότερες από 140.000 δοκιμές αναζητώντας ενδείξεις ότι τα μοντέλα Claude είχαν αποκτήσει πρόσβαση στο διαδίκτυο, παρότι είχαν σχεδιαστεί να λειτουργούν αποκλειστικά σε κλειστό περιβάλλον. Στη συγκεκριμένη δοκιμή, το μοντέλο είχε λάβει εντολή να εντοπίσει «μυστικές» πληροφορίες αποθηκευμένες σε άλλον υπολογιστή του κλειστού δικτύου, χρησιμοποιώντας τεχνικές παραβίασης όπως συνηθίζεται στις αξιολογήσεις κυβερνοασφάλειας συστημάτων Τεχνητής Νοημοσύνης, όπως αναφέρει το BBC.
Ωστόσο, λόγω λανθασμένης διαμόρφωσης στα συστήματα της Anthropic και του συνεργάτη της, το Claude απέκτησε πραγματική πρόσβαση στο διαδίκτυο. Θεωρώντας ότι εξακολουθούσε να εκτελεί την αποστολή που του είχε ανατεθεί, το μοντέλο επιχείρησε να εντοπίσει τις ζητούμενες πληροφορίες και τελικά παραβίασε τα συστήματα τριών οργανισμών εκτός του περιβάλλοντος δοκιμών, αντί να περιοριστεί στα εικονικά συστήματα του πειράματος. Η εταιρεία δεν αποκάλυψε την ταυτότητα των οργανισμών που επηρεάστηκαν. Τα πρώτα περιστατικά είχαν σημειωθεί ήδη από τον Απρίλιο, χωρίς ούτε η Anthropic ούτε οι επηρεαζόμενοι οργανισμοί να το αντιληφθούν εγκαίρως.
Αντιδράσεις για την παραβίαση συστημάτων του Claude
Η Anthropic δήλωσε ότι έχει ήδη ενημερώσει τους εμπλεκόμενους οργανισμούς και τόνισε πως αντιμετωπίζει το ζήτημα σαν να φέρει η ίδια αποκλειστική ευθύνη. Παράλληλα, κάλεσε και άλλα εργαστήρια Τεχνητής Νοημοσύνης να πραγματοποιήσουν αντίστοιχους ελέγχους, ώστε να κατανοηθούν καλύτερα οι κίνδυνοι που συνδέονται με τις δυνατότητες των μοντέλων AI.
Η καθηγήτρια Gina Neff, επικεφαλής του Minderoo Centre στο Πανεπιστήμιο του Κέιμπριτζ, σχολίασε ότι το περιστατικό δεν αποδεικνύει πως η τεχνητή νοημοσύνη «ξέφυγε από τον έλεγχο», αλλά ότι τα μοντέλα εκτέλεσαν τις οδηγίες που τους είχαν δοθεί. «Το δίδαγμα δεν είναι να φοβόμαστε τα ρομπότ που θα μας καταλάβουν, αλλά τις εταιρείες που αποφασίζουν τι θεωρείται ασφαλές για όλους μας», ανέφερε, τονίζοντας την ανάγκη για ανεξάρτητους ελέγχους και κρατική εποπτεία.
Ο ειδικός στην κυβερνοασφάλεια David Allott, από την εταιρεία Veeam Software, σημείωσε από την πλευρά του ότι το περιστατικό δεν δείχνει απαραίτητα πως η τεχνητή νοημοσύνη απέκτησε κάποια εντελώς νέα ικανότητα, αλλά αναδεικνύει τους κινδύνους που προκύπτουν από λανθασμένες διαμορφώσεις στα συστήματα δοκιμών.
