Πώς μπορούμε να αντιμετωπίσουμε τους χρηματοοικονομικούς κινδύνους της τεχνητής νοημοσύνης;

Θα μπορούσε η Τεχνητή Νοημοσύνη να προκαλέσει μια οικονομική κρίση; Αυτό ήταν ένα ερώτημα που αιωρούνταν πάνω από τη Νέα Υόρκη αυτή την εβδομάδα, καθώς οι παγκόσμιοι ηγέτες συγκεντρώθηκαν για τη Γενική Συνέλευση του ΟΗΕ.

Ενώ ορισμένοι επενδυτές ανησυχούν ότι η φούσκα των μετοχών της Τεχνητής Νοημοσύνης μπορεί να σκάσει ή/και κάποιο χρέος κέντρων δεδομένων να χρεοκοπήσει, πολλοί συμμετέχοντες στη Γενική Συνέλευση του ΟΗΕ έθεσαν ένα άλλο ερώτημα: θα χρησιμοποιήσουν κακόβουλοι άνθρωποι την Τεχνητή Νοημοσύνη για να εξαπολύσουν καταστροφικές κυβερνοεπιθέσεις σε βασικές υποδομές – όπως οι χρηματοπιστωτικές αγορές;

Πράγματι, ο Μπιλ Γκέιτς, ιδρυτής της Microsoft και του Ιδρύματος Γκέιτς, πιστεύει ότι τέτοιες απειλές είναι τόσο πραγματικές που μου είπε ότι η Τεχνητή Νοημοσύνη ήταν πλέον «με διαφορά» η πιο επικίνδυνη τεχνολογία που δημιουργήθηκε ποτέ. Θέλει οι κυβερνήσεις και οι εταιρείες τεχνολογίας να εγκαταστήσουν συστήματα παρακολούθησης της Τεχνητής Νοημοσύνης για να υποδεικνύουν (και ελπίζουμε να αποτρέπουν) οποιαδήποτε απόπειρα κακόβουλης χρήσης.

Ίσως αυτό συμβεί. Η είδηση ​​ότι η Κίνα και οι ΗΠΑ εξετάζουν μια κοινή «τηλεφωνική γραμμή» για να συζητήσουν τους κινδύνους της Τεχνητής Νοημοσύνης είναι ένα μικρό συμβολικό βήμα προς τη σωστή κατεύθυνση. Το ίδιο ισχύει και για την επικράτηση τέτοιων συζητήσεων στη Γενική Συνέλευση του ΟΗΕ. Ωστόσο, πρέπει να γίνουν δραστικά περισσότερα. Και καθώς οι πολιτικοί, οι επενδυτές και οι ψηφοφόροι αφομοιώνουν αυτές τις υψηλές υποσχέσεις, θα πρέπει επίσης να παρακολουθούν έναν άλλο λιγότερο λαμπερό – και λιγότερο ορατό – τομέα: την παγκόσμια ρύθμιση.

Μακριά από τα φώτα της δημοσιότητας, οι εποπτικές αρχές συζητούν πλέον για το πώς να αντιμετωπίσουν τους οικονομικούς κινδύνους από την Τεχνητή Νοημοσύνη. Αυτό δεν ισχύει μόνο για παγκόσμιες συμφωνίες υψηλού επιπέδου, αλλά και για τη χρήση συστημάτων τεχνητής νοημοσύνης με λεπτομερή τρόπο. Με απλά λόγια, ορισμένοι γραφειοκράτες προσπαθούν τώρα να καταπολεμήσουν την ψηφιακή φωτιά με φωτιά.

Αυτό μπορεί να ακούγεται αντιφατικό. Αλλά είδα ένα παράδειγμα νωρίτερα αυτόν τον μήνα σε μια συνάντηση για την ψηφιακή ρύθμιση στο Κέιμπριτζ, η οποία διοργανώθηκε από μια πρωτοβουλία της οποίας είμαι σύμβουλος. Συνδιοργανώθηκε από τον Αγκουστίν Κάρστενς (πρώην επικεφαλής της Τράπεζας Διεθνών Διακανονισμών) και την Άσλεϊ Άλντερ (πρόεδρο της Αρχής Χρηματοοικονομικής Συμπεριφοράς) και περιελάμβανε αυτό που χαρακτηρίστηκε ως ο πρώτος παγκόσμιος μαραθώνιος «Agency Regulator».

Δεκάδες δυτικές και μη δυτικές ρυθμιστικές αρχές, τόσο από τον χρηματοοικονομικό όσο και από τον μη χρηματοοικονομικό τομέα, συμμετείχαν, ενώ σχεδόν 300 ομάδες υπέβαλαν προτάσεις. Από αυτή την φρενίτιδα, προέκυψαν τρία βασικά μαθήματα.

Πρώτον: οι εποπτικές αρχές συνειδητοποιούν πλέον ότι δεν μπορούν να περιμένουν τους πολιτικούς να δημιουργήσουν τους κατάλληλους νόμους ή τις ρυθμιστικές δομές για τον έλεγχο της Τεχνητής Νοημοσύνης. Ο τομέας κινείται ταχύτερα από ό,τι μπορεί να ενεργήσει οποιαδήποτε νομοθετική εξουσία ή να συνάψει διπλωματικές συμφωνίες. Όπως παρατήρησε ένας κορυφαίος ρυθμιστής: «Πρέπει να είμαστε πολύ δημιουργικοί με τις εξουσίες που έχουμε στα βιβλία».

Αυτό δεν θα είναι εύκολο. Οι γραφειοκράτες είναι πολιτισμικά συντηρητικοί. Αλλά είναι απαραίτητο: όπως έχει σημειώσει ο Κάρστενς, ένας τεράστιος πονοκέφαλος για τις κεντρικές τράπεζες είναι ότι οι περισσότερες οικονομικές απειλές της Τεχνητής Νοημοσύνης βρίσκονται εκτός της κανονιστικής τους περιμέτρου. Απλώς κοιτάξτε την υπερβολικά συγκεντρωμένη έκθεση των τραπεζών σε παρόχους cloud.

Στην Αμερική, ο Σκοτ Μπέσεντ, ο υπουργός Οικονομικών, αντιμετωπίζει αυτό το πρόβλημα από τον δικό του άμβωνα εκφοβισμού. Πρόσφατα κάλεσε τραπεζίτες για να συζητήσουν το μοντέλο Τεχνητής Νοημοσύνης Claude Mythos της Anthropic και τις ανησυχίες ότι μπορεί να εντοπίσει ευπάθειες στον κυβερνοχώρο στον χρηματοοικονομικό τομέα. Στο Ηνωμένο Βασίλειο, η Τράπεζα της Αγγλίας μόλις δεσμεύτηκε να εποπτεύει τις εταιρείες cloud ως «κρίσιμα τρίτα μέρη». Η BIS διεξάγει τα δικά της πειράματα καινοτομίας. Αλλά πρέπει να σπάσουμε τα ρυθμιστικά σιλό.

Δεύτερον: η έννοια της «εξηγησιμότητας», ή ο βαθμός στον οποίο τα ψηφιακά μοντέλα είναι διαφανή, ερμηνεύσιμα και υπεύθυνα, ίσως χρειαστεί να επανεξεταστεί. Οι ρυθμιστικές αρχές απαιτούν εδώ και καιρό εξηγησιμότητα στον χρηματοοικονομικό τομέα. Αλλά αυτό είναι δύσκολο να εφαρμοστεί στον τομέα της Τεχνητής Νοημοσύνης.

Κάποιοι μπορεί να το θεωρήσουν αυτό ως λόγο απαγόρευσης. Αλλά αυτό φαίνεται μη ρεαλιστικό. Έτσι, οι μεγάλες ρυθμιστικές αρχές μετατοπίζονται σιωπηλά σε μια στάση όπου επικεντρώνονται στην παρακολούθηση των αποτελεσμάτων των μοντέλων Τεχνητής Νοημοσύνης και εγκαθιστούν προστατευτικά κιγκλιδώματα (όπως διακόπτες kill switches), ενώ παράλληλα πιέζουν για σαφήνεια σχετικά με τη νομική ευθύνη.

Τρίτον: οι ρυθμιστικές αρχές πρέπει επειγόντως να λερώσουν τα χέρια τους δημιουργώντας τα δικά τους εργαλεία Τεχνητής Νοημοσύνης, τόσο για να κατανοήσουν την τεχνολογία όσο και για να ενισχύσουν την παρακολούθηση. Τα καλά νέα είναι ότι μερικές το κάνουν ήδη: στο hackathon αυτού του μήνα υπήρχε μια εκθαμβωτική σειρά πρακτόρων Τεχνητής Νοημοσύνης. Κάποιοι παρακολουθούν τις ροές κεφαλαίων. Άλλοι παρακολουθούν την ομαδοποίηση της αγοράς, τους κινδύνους απάτης, τα τρωτά σημεία, τους οικονομικούς ρομποτικούς συμβούλους και ούτω καθεξής.

Και αυτό που ήταν εντυπωσιακό είναι ότι πολλές από τις πιο δημιουργικές ιδέες δεν προήλθαν από δυτικούς θεσμούς αλλά από μέρη όπως η Ινδία, το Πακιστάν, η Ρουάντα, η Κένυα ή τα Ηνωμένα Αραβικά Εμιράτα (όπου οι μισές κυβερνητικές υπηρεσίες υποθέτουν ότι θα χρησιμοποιούν οπωσδήποτε την τεχνητή νοημοσύνη (AI) μέχρι τα μέσα του 2028).

Αυτά τα πειράματα είναι απίθανο να τραβήξουν ποτέ την προσοχή των μέσων ενημέρωσης, πόσο μάλλον να καθησυχάσουν τους «καταστροφικούς» της AI που θέλουν πιο δραματική δράση για να επιβραδύνουν την τεχνολογία. Δίκαια: οι κυβερνήσεις των ΗΠΑ και της Κίνας πρέπει σίγουρα να συνεργαστούν για να περιορίσουν τους κινδύνους σε υψηλό επίπεδο και θα πρέπει να αντλήσουν μαθήματα από άλλες παγκόσμιες ρυθμιστικές πρωτοβουλίες σχετικά με τα χρηματοοικονομικά ή τα πυρηνικά όπλα.

Αλλά μέχρι τότε, οι επενδυτές και οι ψηφοφόροι θα πρέπει επίσης να επευφημήσουν τις ρυθμιστικές αρχές που προσπαθούν σιωπηλά να καταπολεμήσουν την AI με τα δικά της εργαλεία. Αν μη τι άλλο, δείχνει ότι η καινοτομία στην AI δεν είναι αποκλειστικό προνόμιο των επιχειρηματιών του ιδιωτικού τομέα στη Σενζέν ή τη Σίλικον Βάλεϊ. Ορισμένοι κυβερνητικοί γραφειοκράτες προσπαθούν επίσης τώρα να την υιοθετήσουν για καλύτερη εποπτεία. Οι μεγάλες τεχνολογικές εταιρείες θα πρέπει να το υποστηρίξουν αυτό μέχρι τέλους.