Τράπεζες: Καμπανάκι για bots ΑΙ – Πώς αυξάνουν τους κινδύνους απάτης και παραβίασης δεδομένων

Η χρήση πράκτορων τεχνητής νοημοσύνης (AI) για τις διαδικτυακές αγορές ενδέχεται να αυξήσει τον κίνδυνο απάτης, εξαπάτησης και παραβιάσεων της ιδιωτικότητας των δεδομένων, ανέφεραν την Τρίτη τράπεζες όπως η NatWest και η Bank of America, καθώς καθόρισαν τις αρχές για την ανάπτυξη της τεχνολογίας.

Οι τράπεζες επισημαίνουν ότι η τεχνολογία εξελίσσεται ταχύτερα από τα πρότυπα του κλάδου και τα μέτρα προστασίας των καταναλωτών

Εταιρείες τεχνολογίας, όπως η OpenAI, η Anthropic, η Google και η Meta, προωθούν όλο και περισσότερο τα chatbots τεχνητής νοημοσύνης ως εργαλεία αγορών, οραματιζόμενες ένα μέλλον στο οποίο οι αγοραστές θα χρησιμοποιούν πράκτορες τεχνητής νοημοσύνης για να επιλέγουν προϊόντα και να πραγματοποιούν αγορές εκ μέρους τους. Οι εταιρείες λιανικής, εν τω μεταξύ, συναγωνίζονται για να επηρεάσουν τις προτάσεις των chatbots.

Η βρετανική αλυσίδα καταστημάτων John Lewis ανέφερε τον Σεπτέμβριο ότι οι αναζητήσεις που προέρχονταν από πράκτορες τεχνητής νοημοσύνης είχαν αυξηθεί στο 2,5% από 0,3% ένα χρόνο νωρίτερα, με την τάση αυτή να επιταχύνεται.

Ο όμιλος τραπεζών, στον οποίο περιλαμβάνονται επίσης η ING, η ASB Bank της Νέας Ζηλανδίας, η αμερικανική τράπεζα Capital One και η Commonwealth Bank of Australia, ανέφερε σε έκθεση ότι οι πελάτες έδειξαν ενθουσιασμό για τις δυνατότητες του «agent-based commerce» και επιθυμούν να το υιοθετήσουν.

Καταναλωτές και τεχνητή νοημοσύνη

Ωστόσο, προειδοποίησαν ότι η τεχνολογία εξελίσσεται ταχύτερα από τα πρότυπα του κλάδου και τα μέτρα προστασίας των καταναλωτών.

«Οι καταναλωτές δεν έχουν σαφή εικόνα για το αν η τεχνητή νοημοσύνη θα ενεργεί προς το συμφέρον τους», ⁠αναφέρεται στην έκθεση.

«Ανησυχούν ότι οι πράκτορες τεχνητής νοημοσύνης ενδέχεται να αγοράσουν λάθος προϊόν ή να ξοδέψουν υπερβολικά – ή, ακόμα χειρότερα, να χάσουν τα χρήματά τους λόγω απάτης και εξαπάτησης. Δεν είναι σίγουροι αν θα προστατεύονται ή σε ποιον θα πρέπει να απευθυνθούν αν κάτι πάει στραβά.»

Η έκθεση υπογράμμισε κινδύνους, όπως το ενδεχόμενο οι πράκτορες τεχνητής νοημοσύνης να ζητούν τα στοιχεία των καρτών των πελατών και να τα εισάγουν απευθείας σε ιστότοπους, ή να κατευθύνουν τους χρήστες προς τρόπους πληρωμής που προσφέρουν ασθενέστερη προστασία.

Οι τράπεζες σχεδιάζουν να συζητήσουν μια σειρά προτάσεων με τους υπεύθυνους χάραξης πολιτικής, μεταξύ των οποίων η υποχρέωση γνωστοποίησης όταν ένας πράκτορας τεχνητής νοημοσύνης εμπλέκεται σε μια συναλλαγή, η μεγαλύτερη διαφάνεια ως προς τον τρόπο με τον οποίο οι πράκτορες τεχνητής νοημοσύνης λαμβάνουν αποφάσεις, καθώς και διασφαλίσεις για την προστασία των δεδομένων των πελατών.

Οι καταναλωτές και οι έμποροι θα πρέπει επίσης να έχουν την ελευθερία να επιλέγουν ποιες υπηρεσίες ηλεκτρονικού εμπορίου που βασίζονται στην τεχνητή νοημοσύνη θα χρησιμοποιούν, ενώ τα διάφορα συστήματα θα πρέπει να είναι διαλειτουργικά, σύμφωνα με την έκθεση.