Η Διεθνής Ένωση Τηλεπικοινωνιών (ITU), ο οργανισμός των Ηνωμένων Εθνών για τις ψηφιακές τεχνολογίες, ανακοίνωσε την Πέμπτη μια νέα πρωτοβουλία για την ενίσχυση της εμπιστοσύνης στους πράκτορες τεχνητής νοημοσύνης. Η ανακοίνωση έγινε στη Σύνοδο Κορυφής AI for Good, στη Γενεύη. Τα ολοένα πιο αυτόνομα συστήματα τεχνητής νοημοσύνης εγείρουν έντονες ανησυχίες σχετικά με τη λογοδοσία και την ανθρώπινη εποπτεία. Για τον λόγο αυτό, η ITU προχωρά στη δημιουργία ειδικής ομάδας εργασίας που θα θέσει τους κανόνες του παιχνιδιού.
Τι είναι οι πράκτορες τεχνητής νοημοσύνης
Οι πράκτορες τεχνητής νοημοσύνης αποτελούν μια νέα γενιά συστημάτων, σχεδιασμένων να ενεργούν ανεξάρτητα για λογαριασμό των χρηστών τους. Οι εφαρμογές τους καλύπτουν ένα ευρύ φάσμα δραστηριοτήτων, από τον απλό προγραμματισμό ραντεβού και τις online αγορές, έως πολύπλοκες επιχειρηματικές διαδικασίες που παραδοσιακά απαιτούσαν ανθρώπινη κρίση. Η δυνατότητα αυτόνομης δράσης τους θεωρείται πλεονέκτημα για την παραγωγικότητα, καθώς μπορούν να αναλάβουν επαναλαμβανόμενες ή χρονοβόρες εργασίες χωρίς συνεχή ανθρώπινη καθοδήγηση. Ωστόσο, η ίδια αυτονομία που τους καθιστά χρήσιμους δημιουργεί και σοβαρούς κινδύνους.
Σύμφωνα με την ITU, οι πράκτορες τεχνητής νοημοσύνης διατρέχουν τον κίνδυνο να μιμηθούν άτομα ή να λάβουν μη εξουσιοδοτημένες αποφάσεις εκ μέρους τους. Το ενδεχόμενο αυτό αποκτά ιδιαίτερο βάρος όταν οι πράκτορες δραστηριοποιούνται σε ευαίσθητους τομείς, όπως οι χρηματοοικονομικές συναλλαγές και οι κρίσιμες υποδομές. Ακριβώς επειδή τα συστήματα αυτά μπορούν να «διαπραγματεύονται» και να «αποφασίζουν» χωρίς άμεση ανθρώπινη παρέμβαση, ο οργανισμός θεωρεί απαραίτητη τη θέσπιση κοινών κανόνων σε διεθνές επίπεδο.
Η νέα Ομάδα Εστίασης της ITU
Για την αντιμετώπιση αυτών των κινδύνων, η ITU ανακοίνωσε στη Σύνοδο Κορυφής της Γενεύης ότι θα συστήσει μια Ομάδα Εστίασης. Αποστολή της θα είναι η ανάπτυξη πλαισίων που θα διασφαλίζουν ότι οι πράκτορες τεχνητής νοημοσύνης παραμένουν αναγνωρίσιμοι και αξιόπιστοι, ενώ παράλληλα θα υπόκεινται σε ουσιαστικό ανθρώπινο έλεγχο. Η προτεραιότητα αυτή αφορά κατεξοχήν τομείς υψηλού κινδύνου, όπως οι τραπεζικές και χρηματοοικονομικές συναλλαγές, καθώς και οι κρίσιμες υποδομές, όπου ένα λάθος ή μη εξουσιοδοτημένη ενέργεια ενός αυτόνομου συστήματος θα μπορούσε να έχει σοβαρές συνέπειες.
Η συμπρόεδρος της Ομάδας Εστίασης, Ντέμπορα Κομπαρίν, μίλησε για την κλίμακα της αλλαγής που έρχεται. «Οι πράκτορες της Τεχνητής Νοημοσύνης σύντομα θα διαπραγματεύονται, θα πραγματοποιούν συναλλαγές και θα λαμβάνουν αποφάσεις εκ μέρους μας», δήλωσε χαρακτηριστικά. Η ίδια πρόσθεσε ότι απαιτούνται κοινά διεθνή θεμέλια, ώστε να μπορεί να διαπιστωθεί ποιοι πράγματι είναι οι πράκτορες αυτοί και πώς και πότε οι χρήστες μπορούν να τους εμπιστευτούν. Η δήλωση αυτή αναδεικνύει τον πυρήνα του προβληματισμού της ITU, ο οποίος δεν αφορά μόνο την τεχνική λειτουργία των συστημάτων, αλλά και το ζήτημα της ταυτότητας και της λογοδοσίας τους.
Τι ακολουθεί
Η νέα Ομάδα Εστίασης της ITU θα στελεχωθεί από τεχνικούς, πολιτικούς και νομικούς εμπειρογνώμονες, ώστε να καλυφθεί το ζήτημα των πρακτόρων τεχνητής νοημοσύνης από κάθε πλευρά. Η πρώτη συνεδρίαση της ομάδας έχει προγραμματιστεί για τον Νοέμβριο στο Παρίσι, ενώ η δεύτερη θα ακολουθήσει τον Ιανουάριο στη Γενεύη. Μέσα από τις δύο αυτές συναντήσεις, η ITU επιδιώκει να θέσει τις βάσεις για ένα διεθνές πλαίσιο εμπιστοσύνης γύρω από τους πράκτορες τεχνητής νοημοσύνης, πριν αυτοί αποκτήσουν ακόμη μεγαλύτερο ρόλο στην καθημερινή οικονομική και επιχειρηματική δραστηριότητα.
