Γιατί ο κόσμος πρέπει να συμφωνήσει στη ρύθμιση της Τεχνητής Νοημοσύνης

Την περασμένη εβδομάδα ρώτησα αν η Τεχνητή Νοημοσύνη είναι φούσκα, ευλογία ή καταστροφή. Οι απαντήσεις μου ήταν, κατά σειρά, «μέχρι ενός σημείου, ναι, και ναι». Τώρα, θέλω να εξετάσω σε βάθος το τελευταίο ερώτημα, σχετικά με τις «καταστροφές». Τα ζητήματα που θα εξετάσω είναι: πόσο επικίνδυνη είναι η Τεχνητή Νοημοσύνη, τι πρέπει να κάνουμε για να την περιορίσουμε και θα λειτουργήσει οποιαδήποτε μορφή ρύθμισης; Τα κύρια συμπεράσματά μου θα είναι ότι είναι σίγουρα επικίνδυνη, σίγουρα θα πρέπει να προσπαθήσουμε να τη ρυθμίσουμε, και όμως, κατά πάσα πιθανότητα, η προσπάθεια θα αποτύχει.

Κάποιοι μου έχουν πει ότι δεν έχω δικαίωμα να σχολιάσω επειδή δεν είμαι ειδικός. Άλλοι υποστηρίζουν ότι πρέπει να αγκαλιάσουμε ό,τι μας προσφέρει η τεχνολογία, επειδή είναι η πηγή της οικονομικής ανάπτυξης. Και οι δύο απόψεις είναι λανθασμένες. Η δημοκρατία είναι ένα πολιτικό έργο από κοινού. Όλοι έχουμε το δικαίωμα να συμμετέχουμε σε συζητήσεις για το πώς να διαχειριστούμε τις επικίνδυνες νέες τεχνολογίες.

Αυτό ίσχυε όταν εφευρέθηκε η ατομική βόμβα. Ισχύει επίσης για την Τεχνητή Νοημοσύνη, η οποία θα έχει πολύ πιο σύνθετες, αλλά και επικίνδυνες, συνέπειες. Επιπλέον, το υποτιθέμενο δικαίωμα λήψης αποφάσεων για τέτοια πράγματα, όπως ισχυρίζονται ορισμένοι τεχνολογικοί γίγαντες, σίγουρα χάθηκε μετά την τεράστια ζημιά που προκάλεσαν τα μέσα κοινωνικής δικτύωσης στους νέους και στο δημόσιο αγαθό της ορθής πληροφόρησης.

Είναι παράλογη η σύγκριση μεταξύ της Τεχνητής Νοημοσύνης και των πυρηνικών όπλων; Όχι, επειδή και η πρώτη μπορεί να προκαλέσει μεγάλες ζημιές. Αυτές εμπίπτουν σε τρεις γενικές κατηγορίες: κατάρρευση των θεμελιωδών ανθρώπινων αξιών· ορισμένοι τεράστιοι συγκεκριμένοι κίνδυνοι· και εκτεταμένη αναστάτωση.

Οι άνθρωποι σκέφτονται, δημιουργούν και ενεργούν. Τι θα συμβεί όταν (ή αν) οι μηχανές σκέφτονται, ακόμη και δημιουργούν και ενεργούν για εμάς; Θα εξακολουθούν οι άνθρωποι να δυσκολεύονται να κατανοήσουν ή θα μας τρέφουν με το κουτάλι; Εν ολίγοις, θα αλλάξει η Τεχνητή Νοημοσύνη όχι μόνο αυτό που κάνουν οι άνθρωποι, αλλά και ποιοι είμαστε;

Μια βασική πτυχή του τι σημαίνει να είσαι άνθρωπος είναι η λογοδοσία. Αυτό το ζήτημα έγινε ορατό όταν ο Χαβιέ Μιλέι, πρόεδρος της Αργεντινής, ανακοίνωσε τη δημιουργία της «μη ανθρώπινης εταιρείας». Όπως απάντησε ο Γιουβάλ Χαράρι, «Οι χώρες που χορηγούν στην Τεχνητή Νοημοσύνη νομική προσωπικότητα κινδυνεύουν να γίνουν κάτι για το οποίο το ιστορικό αρχείο δεν προσφέρει καμία αναλογία: όχι ένα κράτος εταιρείας, αλλά ένα κράτος Τεχνητής Νοημοσύνης»

.

Νομικά, οι εταιρείες είναι «πρόσωπα». Αλλά οι εταιρείες Τεχνητής Νοημοσύνης μπορεί να λαμβάνουν αποφάσεις χωρίς ανθρώπους. Πώς και σε ποιον θα ήταν υπεύθυνο ένα πρόγραμμα Τεχνητής Νοημοσύνης; Οι ποινικά υπόλογοι διευθύνοντες σύμβουλοι μπορούν να πάνε στη φυλακή. Ποιο είναι το αντίστοιχο για την Τεχνητή Νοημοσύνη; Όπως λέει ο Πάπας, η Τεχνητή Νοημοσύνη είναι ένα «εργαλείο». Δεν είναι άτομο. Υποφέρει; Αιμορραγεί; Μπορεί να φέρει ηθική ευθύνη; Μπορεί να λογοδοτήσει με οποιονδήποτε ουσιαστικό τρόπο; Όχι. Επιπλέον, αυτό το ζήτημα ευθύνης δεν περιορίζεται στις επιχειρήσεις. Ποιος είναι υπεύθυνος για εγκλήματα πολέμου όταν η Τεχνητή Νοημοσύνη διευθύνει ρομποτικούς στρατούς;

Το ζήτημα της λογοδοσίας προκύπτει επίσης για άλλους θεσμούς που μπορούν να χρησιμοποιήσουν πόρους που διατίθενται από την ενσωμάτωση της Τεχνητής Νοημοσύνης με άλλες τεχνολογίες. Οι δυνατότητες για μαζική επιτήρηση είναι τεράστιες. Το ίδιο και εκείνες για τη δημιουργία αυτόνομων όπλων. Η κατασκευή ψευδών, deepfakes και απάτης έχει ήδη ενισχυθεί σημαντικά. Τέτοιες εξελίξεις θα μπορούσαν να χρησιμοποιηθούν από κράτη, ιδιωτικούς φορείς ή και τα δύο. Πώς θα μπορούσε να λειτουργήσει ο νόμος και η πολιτική λογοδοσία σε έναν τέτοιο κόσμο; Σε ένα προκλητικό Substack, ο οικονομολόγος Νόα Σμιθ υποστηρίζει ακόμη και ότι η Τεχνητή Νοημοσύνη θα καταλάβει τον κόσμο.

Έπειτα, υπάρχουν πιο συγκεκριμένοι κίνδυνοι. Ένας προφανής είναι η ικανότητα να διαταράξει τον κυβερνο-ενεργοποιημένο πολιτισμό μας. Το είδαμε αυτό όταν η Anthropic προειδοποίησε για την απειλή του Mythos για την κυβερνοασφάλεια. Σχεδόν όλα όσα εξαρτόμαστε εξαρτώνται, με τη σειρά τους, από τέτοια συστήματα. Αν η Τεχνητή Νοημοσύνη μπορούσε να τα διαταράξει, η ζωή θα γινόταν ριζικά ανασφαλής και οι δυνατότητες εκβιασμού θα ήταν απεριόριστες. Η πιθανότητα σχεδιασμού θανατηφόρων παθογόνων είναι επίσης τρομακτική.

Ο Νίαλ Φέργκισον του Ινστιτούτου Hoover προειδοποιεί ότι μέρος αυτού που καθιστά την Τεχνητή Νοημοσύνη ανεξέλεγκτη είναι ότι καθοδηγείται από δύο ταυτόχρονες κούρσες εξοπλισμών, μία μεταξύ ενός μικρού αριθμού εταιρειών και η άλλη μεταξύ ΗΠΑ και Κίνας. Οι ΗΠΑ έχουν μέχρι στιγμής αποφασίσει να μην ρυθμίσουν την κούρσα μεταξύ των επιχειρήσεών τους, ενώ αυτές και η Κίνα δεν προσπαθούν να ελέγξουν αυτήν μεταξύ τους. Ο Φέργκισον υποστηρίζει ότι το πρώτο εξηγείται σε μεγάλο βαθμό από το δεύτερο. Μια συμφωνία ΗΠΑ-Κίνας για τη ρύθμιση της Τεχνητής Νοημοσύνης είναι, υποστηρίζει, απαραίτητη προϋπόθεση για τον έλεγχο του «μαφιόζικου» ανταγωνισμού των κορυφαίων αμερικανικών εταιρειών.

Έτσι, είμαστε, όπως υποστήριξα την περασμένη εβδομάδα, εγκλωβισμένοι σε μια παγίδα: οι τεχνολόγοι μας εκτοξεύουν, με εξαιρετική ταχύτητα, σε έναν νέο κόσμο του οποίου τις επιπτώσεις ούτε καταλαβαίνουμε ούτε ελέγχουμε. Αυτό οφείλεται εν μέρει στο γεγονός ότι η Τεχνητή Νοημοσύνη είναι η πιο «γενική» από τις τεχνολογίες γενικής χρήσης. Δυνητικά, θα μπορούσε ακόμη και να σημαίνει την αντικατάσταση της ανθρώπινης με τη μηχανική νοημοσύνη. Όπως έχω αναφέρει, οι ανησυχίες αυτές υπερβαίνουν κατά πολύ τις ανησυχίες σχετικά με συγκεκριμένους κινδύνους. Η Τεχνητή Νοημοσύνη θα επηρεάσει επίσης τόσο την αίσθηση της ταυτότητάς μας ως ανθρώπων όσο και τον τρόπο που οργανώνουμε και κατανοούμε την κοινωνία: θα πρέπει τα προγράμματα να μπορούν να ενεργούν ως άνθρωποι, όταν ούτε αισθάνονται ούτε έχουν συνείδηση;

Σε κάθε περίπτωση, σίγουρα θα θέλαμε να περιορίσουμε τους μεγαλύτερους κινδύνους, ειδικά αυτούς που συζητήθηκαν παραπάνω. Έτσι, ένας λογικός τρόπος για να προχωρήσουν οι ΗΠΑ και η Κίνα θα ήταν να προσδιορίσουν και να συμφωνήσουν σε κάποιο είδος συνθήκης αφοπλισμού της Τεχνητής Νοημοσύνης. Αυτό θα μπορούσε να κάνει όλους να αισθάνονται πιο ασφαλείς.

Υπάρχει ένα καλό νέο: ο φόβος των οικονομικών και κοινωνικών αναταραχών που επικρατούν κάνει τους ανθρώπους να ανησυχούν. Πιστεύουν, δικαίως, ότι το μέλλον είναι πολύ σημαντικό για να αφεθεί σε λίγους «τεχνολόγους», όπως ακριβώς ο πόλεμος είναι πολύ σημαντικός για να αφεθεί στους στρατηγούς. Δεδομένου αυτού, μπορεί να ανοίξει χώρος για ρύθμιση. Την επόμενη εβδομάδα θα εξετάσω τι θα μπορούσε να γίνει ως απάντηση.