Κάνοντας τις αναδυόμενες τεχνολογίες ασφαλείς για τη δημοκρατία

Project Syndicate 1

Δεκάδες χώρες σε όλο τον κόσμο, από τις Ηνωμένες Πολιτείες μέχρι την Ινδία, θα διεξάγουν ή έχουν ήδη διεξάγει εκλογές το 2024. Αν και αυτό μπορεί να φαίνεται σαν έτος σημαία για τη δημοκρατία, αυτές οι εκλογές λαμβάνουν χώρα σε ένα πλαίσιο παγκόσμιας οικονομικής αστάθειας, γεωπολιτικές αλλαγές και εντεινόμενη κλιματική αλλαγή, που οδηγεί σε εκτεταμένη αβεβαιότητα.

Η βάση όλης αυτής της αβεβαιότητας είναι η ταχεία εμφάνιση ισχυρών νέων τεχνολογιών, μερικές από τις οποίες ήδη αναδιαμορφώνουν τις αγορές και επαναβαθμονομούν τη δυναμική της παγκόσμιας ισχύος. Ενώ έχουν τη δυνατότητα να λύσουν παγκόσμια προβλήματα, θα μπορούσαν επίσης να διαταράξουν τις οικονομίες, να θέσουν σε κίνδυνο τις πολιτικές ελευθερίες και να υπονομεύσουν τη δημοκρατική διακυβέρνηση. Όπως παρατήρησε ο Τιερί Μπρετόν, επίτροπος της Ευρωπαϊκής Ένωσης για την εσωτερική αγορά, «Έχουμε μπει σε έναν παγκόσμιο αγώνα στον οποίο η κυριαρχία των τεχνολογιών είναι κεντρική» για την πλοήγηση στη «νέα γεωπολιτική τάξη».

Σίγουρα, η τεχνολογική διαταραχή δεν είναι νέο φαινόμενο. Αυτό που ξεχωρίζει τις σημερινές αναδυόμενες τεχνολογίες είναι ότι έχουν φτάσει σε ένα σημείο όπου ακόμη και οι δημιουργοί τους αγωνίζονται να τις κατανοήσουν.

Σκεφτείτε, για παράδειγμα, τη γενετική τεχνητή νοημοσύνη. Οι ακριβείς μηχανισμοί με τους οποίους μεγάλα γλωσσικά μοντέλα όπως το Gemini της Google (παλαιότερα γνωστό ως Bard) και το ChatGPT του OpenAI παράγουν απαντήσεις στα μηνύματα των χρηστών δεν είναι ακόμα πλήρως κατανοητοί, ακόμη και από τους δικούς τους προγραμματιστές.

Αυτό που γνωρίζουμε είναι ότι η τεχνητή νοημοσύνη και άλλες ταχέως εξελισσόμενες τεχνολογίες, όπως ο κβαντικός υπολογισμός, η βιοτεχνολογία, η νευροτεχνολογία και η τεχνολογία παρέμβασης στο κλίμα, γίνονται όλο και πιο ισχυρές και επιδρούν μέρα με τη μέρα. Παρά τα σκάνδαλα και τις πολιτικές και ρυθμιστικές αντιδράσεις των τελευταίων ετών, οι εταιρείες Big Tech εξακολουθούν να είναι μεταξύ των μεγαλύτερων εταιρειών στον κόσμο και συνεχίζουν να διαμορφώνουν τη ζωή μας με μυριάδες τρόπους, καλώς ή κακώς.

Επιπλέον, τα τελευταία 20 χρόνια, ορισμένοι τεχνολογικοί γίγαντες έχουν επενδύσει πολλά στην ανάπτυξη και τις εξαγορές, συγκεντρώνοντας πλούτο και ταλέντο που τους δίνει τη δυνατότητα να κατακτήσουν νέες αγορές πριν εμφανιστούν πιθανοί ανταγωνιστές. Αυτή η συγκέντρωση δύναμης καινοτομίας δίνει τη δυνατότητα σε αυτούς τους λίγους παίκτες να διατηρήσουν την κυριαρχία τους στην αγορά – και να αξιοποιήσουν τον τρόπο με τον οποίο αναπτύσσονται και χρησιμοποιούνται οι τεχνολογίες τους παγκοσμίως. Οι ρυθμιστικές αρχές έχουν προσπαθήσει να θεσπίσουν κοινωνικές διασφαλίσεις για όλο και πιο ισχυρές, πολύπλοκες τεχνολογίες και το χάσμα γνώσης δημόσιου-ιδιωτικού τομέα αυξάνεται.

Για παράδειγμα, εκτός από την ανάπτυξη εμβολίων και συστημάτων έγκαιρης ανίχνευσης για την ανίχνευση της εξάπλωσης των ιών, οι βιομηχανίες αναπτύσσουν νέα εργαλεία για την κατασκευή κυττάρων, οργανισμών και οικοσυστημάτων, οδηγώντας σε νέα φάρμακα, καλλιέργειες και υλικά. Η Neuralink εργάζεται σε δοκιμές με εμφυτεύματα τσιπ σε σώματα ατόμων με αναπηρία και στη βελτίωση της ταχύτητας με την οποία οι άνθρωποι επικοινωνούν με τα συστήματα μέσω άμεσης αλληλεπίδρασης εγκεφάλου-υπολογιστή. Εν τω μεταξύ, οι κβαντικοί μηχανικοί αναπτύσσουν υπερυπολογιστές που θα μπορούσαν ενδεχομένως να σπάσουν τα υπάρχοντα συστήματα κρυπτογράφησης ζωτικής σημασίας για την ασφάλεια στον κυβερνοχώρο και το απόρρητο. Έπειτα, υπάρχουν οι τεχνολόγοι του κλίματος που είναι όλο και πιο ανοιχτοί σε ριζοσπαστικές επιλογές για τον περιορισμό της υπερθέρμανσης του πλανήτη, παρά την έλλειψη πραγματικών ερευνών σχετικά με τις παρενέργειες παγκόσμιων παρεμβάσεων όπως η διαχείριση της ηλιακής ακτινοβολίας.

Ενώ αυτές οι εξελίξεις υπόσχονται πολλά, η απερίσκεπτη εφαρμογή τους θα μπορούσε να οδηγήσει σε μη αναστρέψιμη βλάβη. Η αποσταθεροποιητική επίδραση των ανεξέλεγκτων μέσων κοινωνικής δικτύωσης στα πολιτικά συστήματα την τελευταία δεκαετία είναι ένα χαρακτηριστικό παράδειγμα. Ομοίως, ελλείψει κατάλληλων διασφαλίσεων, οι ανακαλύψεις στη βιοτεχνολογία που χαιρετίζουμε σήμερα θα μπορούσαν να εξαπολύσουν νέες πανδημίες αύριο, είτε από τυχαίες διαρροές εργαστηρίου είτε από σκοπιμότητα.

Ανεξάρτητα από το αν κάποιος ενθουσιάζεται από τις δυνατότητες της τεχνολογικής καινοτομίας ή ανησυχεί για πιθανούς κινδύνους, τα μοναδικά χαρακτηριστικά, η εταιρική ισχύς και η παγκόσμια κλίμακα αυτών των τεχνολογιών απαιτούν προστατευτικά κιγκλιδώματα και επίβλεψη. Η τεράστια ισχύς και η παγκόσμια εμβέλεια αυτών των εταιρειών, μαζί με την πιθανότητα κακής χρήσης και ακούσιων συνεπειών, υπογραμμίζουν τη σημασία της διασφάλισης ότι αυτά τα ισχυρά συστήματα χρησιμοποιούνται με υπευθυνότητα και με τρόπους που ωφελούν την κοινωνία.

Εδώ, οι κυβερνήσεις αντιμετωπίζουν ένα φαινομενικά αδύνατο καθήκον: πρέπει να επιβλέπουν συστήματα που δεν είναι πλήρως κατανοητά από τους δημιουργούς τους, ενώ παράλληλα προσπαθούν να προβλέψουν μελλοντικές ανακαλύψεις. Για να αντιμετωπίσουν αυτό το δίλημμα, οι υπεύθυνοι χάραξης πολιτικής πρέπει να εμβαθύνουν στην κατανόησή τους για τον τρόπο λειτουργίας αυτών των τεχνολογιών, καθώς και για την αλληλεπίδραση μεταξύ τους.

Για το σκοπό αυτό, οι ρυθμιστικές αρχές πρέπει να έχουν πρόσβαση σε ανεξάρτητες πληροφορίες. Καθώς τα κεφάλαια, τα δεδομένα και η γνώση συγκεντρώνονται ολοένα και περισσότερο στα χέρια λίγων εταιρειών, είναι σημαντικό να διασφαλιστεί ότι οι υπεύθυνοι λήψης αποφάσεων είναι σε θέση να έχουν πρόσβαση σε εμπειρογνωμοσύνη προσανατολισμένη στην πολιτική που τους επιτρέπει να αναπτύσσουν πολιτικές βασισμένες σε γεγονότα που εξυπηρετούν το δημόσιο συμφέρον. Οι δημοκρατικοί ηγέτες χρειάζονται τεχνογνωσία προσανατολισμένη στην πολιτική σχετικά με την αναδυόμενη τεχνολογία – όχι τα πλαίσια που θέτουν οι λομπίστες.

Έχοντας υιοθετήσει μια σειρά σημαντικών νόμων, όπως ο νόμος περί τεχνητής νοημοσύνης τα τελευταία χρόνια, η ΕΕ βρίσκεται σε μοναδική θέση να διέπει τις αναδυόμενες τεχνολογίες με βάση το σταθερό κράτος δικαίου, αντί να εξυπηρετεί τα εταιρικά κέρδη. Πρώτα όμως, οι ευρωπαίοι φορείς χάραξης πολιτικής πρέπει να συμβαδίζουν με τις τελευταίες τεχνολογικές εξελίξεις. Είναι καιρός οι υπεύθυνοι λήψης αποφάσεων της ΕΕ να προχωρήσουν στην επόμενη καμπύλη. Πρέπει να εκπαιδεύονται για το τι ακριβώς συμβαίνει στην αιχμή. Η αναμονή μέχρι την εισαγωγή νέων τεχνολογιών στην αγορά είναι μεγάλη.

Οι κυβερνήσεις πρέπει να διδαχθούν από τις προκλήσεις του παρελθόντος και να κατευθύνουν ενεργά την τεχνολογική καινοτομία, δίνοντας προτεραιότητα στις δημοκρατικές αρχές και τον θετικό κοινωνικό αντίκτυπο έναντι των κερδών της βιομηχανίας. Καθώς η παγκόσμια τάξη υφίσταται αυξανόμενη πίεση, οι πολιτικοί ηγέτες πρέπει να κοιτάξουν πέρα ​​από τις κάλπες και να επικεντρωθούν στον μετριασμό των μακροπρόθεσμων κινδύνων που θέτουν οι αναδυόμενες τεχνολογίες.

Η Marietje Schaake, πρώην μέλος του Ευρωπαϊκού Κοινοβουλίου, είναι Διευθύντρια Διεθνούς Πολιτικής στο Κέντρο Κυβερνοπολιτικής Πολιτικής του Πανεπιστημίου του Στάνφορντ και επικεφαλής πρακτικής για την αναδυόμενη τεχνολογική διακυβέρνηση στο Διεθνές Κέντρο για τις Μελλοντικές Γενιές. Ο Steven Schuurman, Συνιδρυτής και πρώην Διευθύνων Σύμβουλος της Elastic, είναι συνιδρυτής του International Center for Future Generations.