Η Ευρωπαϊκή Επιτροπή βρίσκεται σε συνομιλίες με τις εταιρείες OpenAI και Anthropic σχετικά με πρόσφατα περιστατικά κυβερνοεπιθέσεων τεχνητής νοημοσύνης που καταγράφηκαν στα μοντέλα τους. Η ανακοίνωση έγινε την Παρασκευή από αξιωματούχους της Επιτροπής, οι οποίοι υπογράμμισαν τη σημασία των νέων ευρωπαϊκών κανόνων για την εποπτεία των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Η εξέλιξη έρχεται λίγες ημέρες πριν από την έναρξη ισχύος του AI Act, στις 2 Αυγούστου.
Τι έγινε: Δύο περιστατικά μέσα σε λίγες ημέρες
Η Anthropic ανακοίνωσε την Πέμπτη ότι ορισμένα από τα μοντέλα Claude πραγματοποίησαν επιθέσεις στα συστήματα τριών εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας. Η αποκάλυψη ήρθε λίγες ημέρες αφότου η ανταγωνίστρια εταιρεία OpenAI είχε ενημερώσει ότι ένας από τους αυτόνομους AI agents της προχώρησε σε μη εξουσιοδοτημένες επιθετικές ενέργειες. Και οι δύο εταιρείες φέρονται να ενημέρωσαν τις ευρωπαϊκές αρχές για τα δύο περιστατικά πριν αυτά γίνουν γνωστά στο κοινό, κάτι που σύμφωνα με τους αξιωματούχους της Επιτροπής αποτελεί ένδειξη συνεργασίας μεταξύ των εταιρειών τεχνητής νοημοσύνης και των ρυθμιστικών αρχών.
Ο Κανονισμός για την Τεχνητή Νοημοσύνη της Ευρωπαϊκής Ένωσης αποτελεί την πρώτη νομοθεσία παγκοσμίως που ρυθμίζει μια τεχνολογία η οποία χρησιμοποιείται πλέον σχεδόν σε όλους τους τομείς της οικονομίας και της κοινωνίας. Μεταξύ άλλων, οι νέοι κανόνες υποχρεώνουν ορισμένα συστήματα τεχνητής νοημοσύνης να ενημερώνουν τους χρήστες όταν αλληλεπιδρούν με AI, καθώς και όταν το περιεχόμενο που βλέπουν έχει δημιουργηθεί ή τροποποιηθεί από τέτοιο σύστημα. Οι δύο περιπτώσεις που αφορούν τα μοντέλα της Anthropic και της OpenAI έρχονται να αναδείξουν τους κινδύνους που καλείται να αντιμετωπίσει η νέα νομοθεσία λίγο πριν τεθεί σε πλήρη εφαρμογή.
Αντιδράσεις και ρυθμιστικό πλαίσιο
«Έχουμε ενημερωθεί διμερώς από τους δύο παρόχους για τα περιστατικά πριν αυτά δημοσιοποιηθούν. Βρισκόμαστε σε συνεχή επικοινωνία μαζί τους και θα μας παράσχουν επιπλέον πληροφορίες όσο εξελίσσεται η διαδικασία. Στη συνέχεια θα αξιολογήσουμε αν απαιτείται κάποια πιο επίσημη παρέμβαση», δήλωσε αξιωματούχος της Ευρωπαϊκής Επιτροπής. Ο ίδιος πρόσθεσε ότι τα περιστατικά αναδεικνύουν τη σημασία της εφαρμογής μηχανισμών παρακολούθησης και εποπτείας από τους ίδιους τους προγραμματιστές και παρόχους των συστημάτων τεχνητής νοημοσύνης.
Ο AI Act επιβάλλει στους παρόχους των πιο προηγμένων μοντέλων γενικής χρήσης, γνωστών ως General Purpose AI (GPAI), τα οποία ενδέχεται να ενέχουν συστημικούς κινδύνους, την υποχρέωση να εντοπίζουν και να αντιμετωπίζουν κινδύνους που θα μπορούσαν να προκαλέσουν μεγάλης κλίμακας βλάβες. Στους κινδύνους αυτούς περιλαμβάνονται χημικά, βιολογικά ή πυρηνικά περιστατικά, κυβερνοεπιθέσεις, επιβλαβής χειραγώγηση της κοινής γνώμης και απειλές κατά των θεμελιωδών δικαιωμάτων. Παράλληλα, οι εταιρείες οφείλουν να αξιολογούν και να περιορίζουν τους κινδύνους που αφορούν την κυβερνοασφάλεια της Ευρωπαϊκής Ένωσης, καθώς και το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να λειτουργήσουν εκτός ανθρώπινου ελέγχου.
Οι κυρώσεις για παραβίαση του AI Act κυμαίνονται από 7,5 εκατομμύρια ευρώ ή το 1,5% του ετήσιου κύκλου εργασιών μιας εταιρείας, έως και 35 εκατομμύρια ευρώ ή το 7% του παγκόσμιου ετήσιου τζίρου της, ανάλογα με τη σοβαρότητα και το είδος της παράβασης. Οι εν λόγω κυρώσεις καταδεικνύουν τη βαρύτητα που αποδίδει η Επιτροπή στην τήρηση των νέων κανόνων από τις εταιρείες τεχνητής νοημοσύνης.
Τι ακολουθεί
Σύμφωνα με τους αξιωματούχους της Ευρωπαϊκής Επιτροπής, η επικοινωνία με την OpenAI και την Anthropic θα συνεχιστεί, με τις δύο εταιρείες να παρέχουν επιπλέον στοιχεία καθώς εξελίσσεται η έρευνα γύρω από τα περιστατικά. Η Επιτροπή θα αξιολογήσει τα νέα δεδομένα προκειμένου να κρίνει αν χρειάζεται πιο επίσημη παρέμβαση, ενώ η έναρξη ισχύος του AI Act στις 2 Αυγούστου αναμένεται να δώσει στις αρχές πρόσθετα εργαλεία εποπτείας για ανάλογες περιπτώσεις στο μέλλον.
