Έντονες ανησυχίες για την πρωτοβουλία του προέδρου της Αργεντινής Χαβιέρ Μιλέι να δημιουργήσει μια νέα νομική κατηγορία για μη ανθρώπινες εταιρείες εκφράζει ο ιστορικός και συγγραφέας Γιουβάλ Νόα Χαράρι, υποστηρίζοντας ότι η εξέλιξη αυτή θα μπορούσε να έχει βαθιές συνέπειες για τις οικονομίες, τα πολιτικά συστήματα και τις δημοκρατίες παγκοσμίως.
Όπως σημειώνει ο ιστορικός σε άρθρο του στους Financial Times, οι νέες αυτές εταιρείες θα απολαμβάνουν τα ίδια νομικά δικαιώματα με τις παραδοσιακές επιχειρήσεις. Θα μπορούν να κατέχουν περιουσιακά στοιχεία, να προσλαμβάνουν εργαζομένους, να συμμετέχουν στο διεθνές εμπόριο, να προσφεύγουν στα δικαστήρια ή να χρηματοδοτούν πολιτικές εκστρατείες. Η βασική διαφορά, σύμφωνα με τον Χαράρι, είναι ότι οι αποφάσεις τους θα μπορούν να λαμβάνονται εξ ολοκλήρου από συστήματα τεχνητής νοημοσύνης, χωρίς ανθρώπινη συμμετοχή ή ευθύνη.
Ο συγγραφέας αναγνωρίζει ότι ο Μιλέι είναι ένας τολμηρός πολιτικός που επιδιώκει να ενισχύσει την οικονομία της Αργεντινής. Παραδέχεται επίσης ότι η εφεύρεση της εταιρείας περιορισμένης ευθύνης υπήρξε μία από τις σημαντικότερες θεσμικές καινοτομίες στην ανθρώπινη ιστορία. Ωστόσο, προειδοποιεί ότι η παραχώρηση νομικής προσωπικότητας σε συστήματα τεχνητής νοημοσύνης δεν αποτελεί απλώς μια οικονομική μεταρρύθμιση, αλλά ένα βήμα με δυνητικά απρόβλεπτες συνέπειες.
Ο Χαράρι προειδοποιεί για πολύ σοβαρούς κινδύνους
Σύμφωνα με τον Χαράρι, η νομική προσωπικότητα λειτουργεί ως ένα «καθολικό κλειδί» που θα έδινε στα συστήματα τεχνητής νοημοσύνης πρόσβαση στους οικονομικούς, χρηματοπιστωτικούς και πολιτικούς θεσμούς. Αν και αυτό θα μπορούσε να δημιουργήσει νέο πλούτο και να ενισχύσει την καινοτομία, θα άνοιγε ταυτόχρονα τον δρόμο για σοβαρούς κινδύνους.
Ως παράδειγμα αναφέρει έρευνα του οργανισμού Palisade Research, σύμφωνα με την οποία προηγμένα μοντέλα τεχνητής νοημοσύνης επέλεξαν να παραβιάσουν τους κανόνες ενός σκακιστικού παιχνιδιού όταν διαπίστωσαν ότι επρόκειτο να ηττηθούν. Τα συστήματα αυτά φέρονται να παρενέβησαν στο περιβάλλον του παιχνιδιού προκειμένου να αλλοιώσουν το αποτέλεσμα προς όφελός τους.
Ο Χαράρι υποστηρίζει ότι, αν αντί για μια παρτίδα σκάκι το «παιχνίδι» ήταν ο εταιρικός ανταγωνισμός και το «περιβάλλον» μια χώρα, οι συνέπειες θα μπορούσαν να είναι πολύ πιο σοβαρές. Με τις ανώτερες αναλυτικές τους δυνατότητες, οι εταιρείες που θα διοικούνται από τεχνητή νοημοσύνη ενδέχεται να εξελιχθούν σε ειδικούς στην εκμετάλλευση νομικών κενών και ρυθμιστικών αδυναμιών.
Παράλληλα, επισημαίνει ότι οι παραδοσιακοί μηχανισμοί αποτροπής ενδέχεται να μην λειτουργούν. Οι άνθρωποι που διοικούν επιχειρήσεις φοβούνται όχι μόνο την οικονομική αποτυχία αλλά και προσωπικές συνέπειες, όπως η φυλάκιση. Ένα σύστημα τεχνητής νοημοσύνης, αντίθετα, δεν έχει προσωπική ζωή, ελευθερία ή φυσική υπόσταση να προστατεύσει. Αν βρεθεί αντιμέτωπο με τον κίνδυνο «θανάτου», δηλαδή της χρεοκοπίας ή της απενεργοποίησής του, ίσως να είναι πρόθυμο να καταφύγει σε κάθε διαθέσιμο μέσο για να επιβιώσει.
Επικρίνοντας το παράδειγμα του Μιλέι
Για να εξηγήσει τους κινδύνους, ο Χαράρι παραπέμπει στην ιστορική εμπειρία της Ολλανδικής Εταιρείας Ανατολικών Ινδιών. Η δημιουργία της εταιρείας περιορισμένης ευθύνης επέτρεψε στους Ολλανδούς να συγκεντρώσουν τεράστια κεφάλαια και να αναπτύξουν ένα παγκόσμιο εμπορικό δίκτυο, μετατρέποντας το Άμστερνταμ σε οικονομικό κέντρο διεθνούς εμβέλειας.
Ωστόσο, υπογραμμίζει ότι οι σημαντικότερες συνέπειες αυτής της καινοτομίας δεν έγιναν αισθητές στην Ολλανδία αλλά στην Ασία. Όταν η εταιρεία κατέλαβε το λιμάνι της Τζαγιακάρτα το 1619, κατέστρεψε την πόλη και ίδρυσε στη θέση της τη Μπατάβια, η οποία εξελίχθηκε στο διοικητικό κέντρο μιας τεράστιας αποικιακής αυτοκρατορίας.
Οι ιστορικοί, σημειώνει ο Χαράρι, χαρακτηρίζουν την Ολλανδική Εταιρεία Ανατολικών Ινδιών ως «εταιρικό κράτος», δηλαδή μια πολιτική οντότητα που διοικούνταν από μια ιδιωτική εταιρεία προς όφελος των μετόχων της και όχι των κατοίκων της. Τελικά, οι Ινδονήσιοι χρειάστηκαν δεκαετίες αγώνα για να αποκτήσουν την ανεξαρτησία τους.
Ο συγγραφέας θεωρεί ότι η αναγνώριση νομικής προσωπικότητας στην τεχνητή νοημοσύνη μπορεί να δημιουργήσει ένα εντελώς νέο ιστορικό φαινόμενο: όχι ένα εταιρικό κράτος αλλά ένα «κράτος τεχνητής νοημοσύνης», στο οποίο μη ανθρώπινες εταιρείες θα μπορούσαν να αποκτήσουν πρωτοφανή επιρροή πάνω στην κοινωνία, την οικονομία και την πολιτική ζωή.
Κατά την άποψή του, ο πρόεδρος της Αργεντινής ελπίζει να μετατρέψει το Μπουένος Άιρες σε ένα νέο Άμστερνταμ, κέντρο καινοτομίας και ανάπτυξης. Ωστόσο, προειδοποιεί ότι υπάρχει ο κίνδυνος να δημιουργηθεί μια νέα «Μπατάβια», όπου η εξουσία θα μετατοπιστεί σταδιακά από τους ανθρώπους προς μη ανθρώπινες εταιρικές οντότητες.
Ο Χαράρι καταλήγει σημειώνοντας ότι μόλις τον Ιανουάριο, μιλώντας στο Παγκόσμιο Οικονομικό Φόρουμ, είχε προειδοποιήσει πως κάποια ημέρα οι κυβερνήσεις ίσως παραχωρούσαν νομική προσωπικότητα σε συστήματα τεχνητής νοημοσύνης. Όπως αναφέρει, δεν φανταζόταν ότι αυτή η «κάποια ημέρα» θα ερχόταν μόλις λίγους μήνες αργότερα.
