Μεγάλες τράπεζες σε όλο τον κόσμο έθεσαν την Τρίτη τις πρώτες αρχές για τη χρήση AI agents στις διαδικτυακές αγορές, προειδοποιώντας ότι η τεχνολογία μπορεί να αυξήσει τον κίνδυνο απάτης και παραβίασης προσωπικών δεδομένων. Η πρωτοβουλία έρχεται καθώς εταιρείες όπως η OpenAI, η Anthropic, η Google και η Meta προωθούν όλο και πιο έντονα τους πράκτορες τεχνητής νοημοσύνης ως εργαλεία αγορών. Στον όμιλο τραπεζών που δημοσίευσε την έκθεση συμμετέχουν η NatWest, η Bank of America, η ING, η ASB Bank της Νέας Ζηλανδίας, η Capital One και η Commonwealth Bank of Australia. Το ζήτημα των AI agents στις αγορές αποκτά πλέον ολοένα μεγαλύτερο βάρος για καταναλωτές και επιχειρήσεις.
Τι έδειξε η έκθεση των τραπεζών
Σύμφωνα με την έκθεση, οι πελάτες δείχνουν ενθουσιασμό για τις δυνατότητες του λεγόμενου «agent-based commerce» και επιθυμούν να το υιοθετήσουν στην καθημερινότητά τους. Ωστόσο, οι τράπεζες προειδοποίησαν ότι η τεχνολογία εξελίσσεται με ταχύτερο ρυθμό από ό,τι τα πρότυπα του κλάδου και τα μέτρα προστασίας των καταναλωτών. Ένα ενδεικτικό στοιχείο για την ταχύτητα αυτής της εξέλιξης προσφέρει η βρετανική αλυσίδα John Lewis, η οποία ανέφερε τον Σεπτέμβριο ότι οι αναζητήσεις που προέρχονταν από πράκτορες τεχνητής νοημοσύνης είχαν εκτοξευθεί στο 2,5% του συνόλου, από μόλις 0,3% έναν χρόνο νωρίτερα.
Παράλληλα, οι εταιρείες λιανικής βρίσκονται ήδη σε ανταγωνισμό μεταξύ τους, προσπαθώντας να επηρεάσουν τις προτάσεις που προβάλλουν τα chatbots στους χρήστες τους. Η έκθεση επισημαίνει συγκεκριμένους κινδύνους: οι πράκτορες τεχνητής νοημοσύνης ενδέχεται να ζητούν τα στοιχεία των τραπεζικών καρτών των πελατών και να τα εισάγουν απευθείας σε ιστότοπους, χωρίς επαρκή έλεγχο. Επιπλέον, υπάρχει ο κίνδυνος να κατευθύνουν τους χρήστες προς μεθόδους πληρωμής που προσφέρουν ασθενέστερη προστασία σε σχέση με τις παραδοσιακές συναλλαγές.
Ανησυχίες για απάτες και προτάσεις προς τους υπεύθυνους πολιτικής
Το βασικό ερώτημα που θέτει η έκθεση αφορά την ασφάλεια των καταναλωτών σε περίπτωση λάθους. Οι τράπεζες ανησυχούν ότι οι πράκτορες τεχνητής νοημοσύνης ενδέχεται να αγοράσουν λάθος προϊόν ή να ξοδέψουν υπερβολικά χρήματα εκ μέρους του χρήστη. Ακόμα πιο σοβαρό είναι το ενδεχόμενο να χαθούν χρήματα λόγω απάτης και εξαπάτησης, με τους καταναλωτές να μην γνωρίζουν αν θα προστατεύονται ή σε ποιον θα πρέπει να απευθυνθούν αν κάτι πάει στραβά.
Για τον λόγο αυτό, οι τράπεζες σχεδιάζουν να συζητήσουν μια σειρά συγκεκριμένων προτάσεων με τους υπεύθυνους χάραξης πολιτικής. Ανάμεσα σε αυτές περιλαμβάνεται η υποχρέωση γνωστοποίησης κάθε φορά που ένας πράκτορας τεχνητής νοημοσύνης εμπλέκεται σε μια συναλλαγή, ώστε ο καταναλωτής να γνωρίζει ότι δεν συναλλάσσεται απευθείας με άνθρωπο. Ζητούν επίσης μεγαλύτερη διαφάνεια ως προς τον τρόπο με τον οποίο οι πράκτορες τεχνητής νοημοσύνης λαμβάνουν τις αποφάσεις τους, καθώς και αυστηρές διασφαλίσεις για την προστασία των προσωπικών δεδομένων των πελατών.
Τι ζητούν οι τράπεζες για το μέλλον
Η έκθεση καταλήγει σε ένα ακόμη βασικό αίτημα: οι καταναλωτές και οι έμποροι θα πρέπει να διατηρούν την ελευθερία να επιλέγουν ποιες υπηρεσίες ηλεκτρονικού εμπορίου που βασίζονται στην τεχνητή νοημοσύνη θα χρησιμοποιούν, χωρίς να είναι εγκλωβισμένοι σε ένα μόνο σύστημα. Τα διάφορα συστήματα AI agents θα πρέπει να είναι διαλειτουργικά μεταξύ τους, ώστε η αγορά να παραμένει ανοιχτή και ανταγωνιστική. Το επόμενο διάστημα αναμένεται να δείξει αν οι υπεύθυνοι χάραξης πολιτικής θα υιοθετήσουν τις προτάσεις του τραπεζικού κλάδου πριν η χρήση των πρακτόρων τεχνητής νοημοσύνης στις αγορές επεκταθεί ακόμα περισσότερο.
