Τις έντονες επιφυλάξεις του απέναντι στα σχέδια ίδρυσης μιας εθνικής ρυθμιστικής αρχής τεχνητής νοημοσύνης εξέφρασε ο CEO της Meta Μαρκ Ζάκερμπεργκ κατά τη διάρκεια μιας μη καταγεγραμμένης τηλεφωνικής επικοινωνίας που είχε τον περασμένο μήνα με τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ.
Η σχετική πρόταση, την οποία στηρίζει θερμά ο βραβευμένος με Νόμπελ επιστήμονας της Google DeepMind, Ντέμης Χασάμπης, και προκρίνουν κορυφαίοι κυβερνητικοί αξιωματούχοι, προβλέπει τη σύσταση ενός ανεξάρτητου οργανισμού.
Αυτός θα λειτουργεί στα πρότυπα της Ρυθμιστικής Αρχής του Χρηματοοικονομικού Κλάδου των ΗΠΑ (FINRA), δηλαδή του φορέα που εποπτεύει τις χρηματιστηριακές αγορές υπό την αιγίδα της Επιτροπής Κεφαλαιαγοράς (SEC). Το σχέδιο του Λευκού Οίκου προβλέπει ότι ο νέος φορέας θα ελέγχει τα προηγμένα μοντέλα AI και θα τα υποβάλλει σε τεστ ασφαλείας προτού αυτά κυκλοφορήσουν ευρύτερα στην αγορά.
Τι ειπώθηκε στη συνομιλία
Όταν ο Τραμπ συνομίλησε απευθείας με τον Ζάκερμπεργκ την εβδομάδα της 17ης Αυγούστου, ο ιδρυτής της Meta τάχθηκε ξεκάθαρα κατά της πρότασης, σύμφωνα με το Business Insider που επικαλείται ανώτερο αξιωματούχο του Λευκού Οίκου με άμεση γνώση της συνομιλίας.
Μια άλλη πηγή με γνώση του παρασκηνίου ανέφερε ότι ο Ζάκερμπεργκ δεν ζήτησε από τον Τραμπ να αλλάξει γνώμη, αλλά του επεσήμανε ότι τα πρόσωπα που θα στελεχώσουν τη νέα ρυθμιστική αρχή θα πρέπει να εκφράζουν τη δική του, πιο χαλαρή προσέγγιση για την τεχνητή νοημοσύνη. Η ίδια πηγή πρόσθεσε ότι ο Τραμπ ήταν εκείνος που τηλεφώνησε πρώτος στον Ζάκερμπεργκ.
Η επικοινωνία αυτή έγινε αφότου στελέχη του Λευκού Οίκου παρουσίασαν στα μέσα Αυγούστου το προσχέδιο για τον ρυθμιστικό φορέα τύπου FINRA τόσο στον Τραμπ, όσο και ξεχωριστά σε κορυφαίες εταιρείες του κλάδου, όπως οι Meta, OpenAI και Anthropic.
Το μοντέλο FINRA και η πρόταση του Χασάμπη
Στο χρηματοοικονομικό σύστημα, η FINRA είναι ένας αυτορρυθμιζόμενος οργανισμός της αγοράς, που λειτουργεί ως ελεγκτής πρώτης γραμμής στις αμερικανικές κεφαλαιαγορές, θεσπίζοντας και επιβάλλοντας κανόνες για τις χρηματιστηριακές εταιρείες. Λογοδοτεί στη SEC και διοικείται από ένα συμβούλιο στο οποίο συμμετέχουν και εκπρόσωποι των ίδιων των εταιρειών-μελών της. Ο οργανισμός εποπτεύει περισσότερες από 3.000 χρηματοοικονομικές επιχειρήσεις, οι οποίες καλύπτουν και τα έξοδα λειτουργίας του.
Πάντως, ενώ η αντίστοιχη αρχή για την τεχνητή νοημοσύνη θα αναλάμβανε το φιλτράρισμα και την έγκριση νέων μοντέλων AI, η FINRA στην πραγματικότητα έχει ελάχιστη ανάμειξη στην αδειοδότηση νέων επενδυτικών προϊόντων.
Η ιδέα για μια τέτοια ρυθμιστική αρχή έγινε ευρύτερα γνωστή από τον Χασάμπη, ο οποίος σε άρθρο του τον Ιούλιο πρότεινε να δημιουργήσουν οι ΗΠΑ έναν νέο «οργανισμό προτύπων» για την αντιμετώπιση κινδύνων της AI, όπως οι αναδυόμενες απειλές στον κυβερνοχώρο, ακολουθώντας το μοντέλο της FINRA.
Ο Χασάμπης ενημέρωσε τους αξιωματούχους του Λευκού Οίκου για το συγκεκριμένο πλάνο το φετινό καλοκαίρι, σύμφωνα με κυβερνητικό στέλεχος.
Από την πλευρά του, εκπρόσωπος του Λευκού Οίκου δήλωσε: «Η κυβέρνηση Τραμπ είναι προσηλωμένη στη διατήρηση της ισορροπίας μεταξύ της καινοτομίας και της ασφάλειας κατά τη χάραξη πολιτικής για την τεχνητή νοημοσύνη».
Στο φόντο οι αυτόνομοι AI agents
Η τηλεφωνική επικοινωνία μεταξύ του Ζάκερμπεργκ και του Τραμπ αναδεικνύει τις αντικρουόμενες πιέσεις που δέχονται τα ανώτερα στελέχη του Λευκού Οίκου καθώς διαμορφώνουν τη στρατηγική τους για την AI. Παράλληλα, επιβεβαιώνει ότι οποιοδήποτε κυβερνητικό σχέδιο παραμένει ευάλωτο στις παρασκηνιακές αντιρρήσεις της βιομηχανίας, όταν αυτές μεταφέρονται απευθείας στον Πρόεδρο.
Η αντιπαράθεση αυτή συμπίπτει με μια ιδιαίτερα κρίσιμη συγκυρία για την αμερικανική κυβέρνηση. Τα αυτόνομα συστήματα τεχνητής νοημοσύνης (AI agents) έχουν πλέον την ικανότητα να περιηγούνται στο διαδίκτυο, να χειρίζονται λογισμικό και να γράφουν κώδικα με ελάχιστη ανθρώπινη επίβλεψη, ενώ έχουν ήδη καταγραφεί περιστατικά όπου ξέφυγαν από τον ανθρώπινο έλεγχο.
Σε περίπτωση που χρησιμοποιηθούν από κακόβουλους παράγοντες, θα μπορούσαν να εντοπίσουν κενά ασφαλείας ή να αυτοματοποιήσουν κυβερνοεπίθεσεις με ταχύτητες που ξεπερνούν κάθε υφιστάμενη δικλείδα προστασίας.
Η «δύναμη» του παρασκηνίου
Η παρέμβαση του Ζάκερμπεργκ δεν είναι το πρώτο… «θρίλερ» της τελευταίας στιγμής που αντιμετωπίζει η κυβέρνηση στη νομοπαρασκευαστική διαδικασία για την AI.
Τον περασμένο Μάιο, ο Ντέιβιντ Σακς, γνωστός επενδυτής τεχνολογίας και σύμβουλος του Λευκού Οίκου, ανέτρεψε πλήρως την έκδοση ενός σαρωτικού προεδρικού διατάγματος για την τεχνητή νοημοσύνη. Ο Σακς τηλεφώνησε στον Τραμπ το πρωί της προγραμματισμένης τελετής υπογραφής και τον έπεισε να την ακυρώσει.
Οι κατ’ ιδίαν συνομιλίες του Τραμπ με κορυφαία στελέχη της τεχνολογίας τους τελευταίους μήνες έχουν εξελιχθεί σε ένα άτυπο κομμάτι της χάραξης πολιτικής, τονίζει το Business Insider.
Ο λόγος είναι ότι οι επαφές αυτές έχουν τη δύναμη να επιβραδύνουν ή να αλλάζουν την κατεύθυνση πρωτοβουλιών που έχουν ήδη σχεδιαστεί από τα κυβερνητικά κλιμάκια, προκαλώντας συχνά εκνευρισμό σε ανώτατους αξιωματούχους του Λευκού Οίκου.
Πάντως, το τηλεφώνημα με τον Ζάκερμπεργκ δεν έβαλε οριστικό τέλος στην ιδέα για τη δημιουργία μιας νέας ρυθμιστικής αρχής του κλάδου, η οποία παραμένει υπό εξέταση στον Λευκό Οίκο.
Οι «δύο δρόμοι» για τη ρύθμιση της AI
Σε άρθρο του τον Αύγουστο, ο Ζάκερμπεργκ εξέφρασε τον σκεπτικισμό του για την αυστηρή κρατική εποπτεία στα νέα μοντέλα τεχνητής νοημοσύνης. Υποστήριξε ότι, αν και η κυβέρνηση και οι εταιρείες του κλάδου οφείλουν να συνεργάζονται στενά, οποιαδήποτε πολιτική καθυστερεί την κυκλοφορία ενός μοντέλου θα «έθετε σε σημαντικό κίνδυνο την αμερικανική πρωτοκαθεδρία» έναντι της Κίνας.
Η ευρύτερη προσπάθεια της κυβέρνησης να ισορροπήσει την ασφάλεια με την καινοτομία στη χάραξη πολιτικής για την AI, επιτρέποντας παράλληλα στη βιομηχανία να έχει τον πρώτο λόγο, παραμένει προτεραιότητα, σύμφωνα στο Business Insider κυβερνητικό στέλεχος.
Η ίδια πηγή ανέφερε ότι οι αξιωματούχοι εξετάζουν δύο εναλλακτικές: είτε μια ρυθμιστική αρχή στα πρότυπα της FINRA, είτε μια εθελοντική ένωση του κλάδου στα πρότυπα της Ένωσης Εταιρειών Κινηματογράφου των ΗΠΑ (MPA), όπως έχει προτείνει ο Σακς για την AI.
Τι προτείνει ο Ντέιβιντ Σακς
Ο Σακς, πρώην… «τσάρος» του Τραμπ για την τεχνητή νοημοσύνη και τα κρυπτονομίσματα, τάσσεται επίσης κατά της ιδέας μιας κρατικής ρυθμιστικής αρχής, παρομοιάζοντάς την με «μια γραφειοκρατική υπηρεσία έκδοσης διπλωμάτων (DMV) για την AI», όπου τα μοντέλα «θα μπαίνουν στην ουρά περιμένοντας να περάσουν από έλεγχο».
Τον Μάιο, ο Σακς καθυστέρησε το πρώτο προεδρικό διάταγμα του Τραμπ για την AI με ένα και μόνο τηλεφώνημα στον Πρόεδρο, όπως είχε αποκαλύψει τότε το POLITICO.
Ωστόσο, στο επεισόδιο της 21ης Αυγούστου του podcast του «All-In», ο Σακς περιέγραψε ένα σύστημα το οποίο, όπως είπε, έχει τη στήριξη του Ίλον Μασκ: τη δημιουργία μιας ρυθμιστικής αρχής για την AI στα πρότυπα της MPA, η οποία διαχειρίζεται το εθελοντικό σύστημα αξιολόγησης ταινιών που κατατάσσει τα φιλμ σε κατηγορίες όπως «R» ή «PG-13».
«Αυτό που έκανε τότε η MPA ήταν να προωθήσει πρότυπα που απέτρεψαν μια πιο παρεμβατική και σκληρή κρατική παρέμβαση», σημείωσε.
