Reuters Breakingviews
Η Anthropic έχει καταβάλει μεγάλες προσπάθειες για την εκπλήρωση της αποστολής της: την ανάπτυξη τεχνητής νοημοσύνης προς όφελος της ανθρωπότητας. Ωστόσο, υπάρχουν πολλοί τρόποι με τους οποίους η αμερικανική νεοφυής επιχείρηση θα μπορούσε να αποτύχει να εκπληρώσει αυτόν τον στόχο.
Για παράδειγμα, η εταιρεία, η οποία ιδρύθηκε το 2021, δηλώνει ότι ενδιαφέρεται για την «ευημερία» του μοντέλου της, του Claude. Αυτή η αντίληψη θα μπορούσε να συγκρουστεί με τον στόχο της εξυπηρέτησης των ανθρώπων. Ο ανταγωνισμός με Αμερικανούς και Κινέζους αντιπάλους για την κατάκτηση της κορυφής ενδέχεται να οδηγήσει την εταιρεία στο να μην κάνει αρκετά για τον έλεγχο μιας τεχνολογίας που, σύμφωνα με ορισμένους εργαζομένους της, ενέχει υπαρξιακούς κινδύνους.
Το να αποφασίζει κανείς τι είναι καλό για την ανθρωπότητα επαφίεται σε μεγάλο βαθμό στους ιδρυτές, οι οποίοι είναι άνθρωποι και επομένως επιρρεπείς σε λάθη. Ευτυχώς, η Anthropic, η οποία σχεδιάζει την εισαγωγή της στο χρηματιστήριο μέσω δημόσιας εγγραφής (IPO), με πιθανή αποτίμηση 1,5 τρισ. δολαρίων, εξακολουθεί να έχει τη δυνατότητα να διορθώσει αυτές και άλλες αδυναμίες.
Η δέσμευση των επτά συνιδρυτών σε έναν ηθικό σκοπό φαίνεται να είναι ειλικρινής. Ο Dario Amodei, διευθύνων σύμβουλος της εταιρείας, αναφέρει ότι εγκατέλειψε την ανταγωνίστρια εταιρεία OpenAI εν μέρει προκειμένου να επικεντρωθεί στην ασφάλεια. Σύμφωνα με το ενημερωτικό δελτίο της δημόσιας εγγραφής, καθένας από τους ιδρυτές έχει δεσμευτεί να διαθέσει το 80% των μετοχών του για φιλανθρωπικούς σκοπούς. Έχουν επίσης δημιουργήσει ένα ίδρυμα, το οποίο θα ξεκινήσει τη λειτουργία του με το 5% του μετοχικού κεφαλαίου της εταιρείας.
Η Anthropic είναι εταιρεία κοινωφελούς σκοπού (Public Benefit Corporation), κάτι που σημαίνει ότι τα μέλη του διοικητικού συμβουλίου δεν επιδιώκουν αποκλειστικά τη μεγιστοποίηση της αξίας για τους μετόχους. Οφείλουν να εξισορροπούν αυτόν τον στόχο με τα συμφέροντα άλλων ενδιαφερόμενων μερών, καθώς και με τον «εταιρικό σκοπό». Στην προκειμένη περίπτωση, ο σκοπός αυτός είναι «η υπεύθυνη ανάπτυξη και διατήρηση προηγμένων συστημάτων τεχνητής νοημοσύνης προς μακροπρόθεσμο όφελος της ανθρωπότητας».
Επιπλέον, η Anthropic έχει δημιουργήσει ένα καταπίστευμα (trust) αφιερωμένο σε αυτόν τον στόχο, το οποίο διορίζει τέσσερα από τα επτά μέλη του διοικητικού συμβουλίου. Και δεν είναι μόνο αυτό. Η εταιρεία αποδίδει μεγάλη σημασία στην εταιρική κουλτούρα, την οποία περιγράφει ως «χαμηλού εγωισμού» και προσανατολισμένη στην «αναζήτηση της αλήθειας». Εάν καταφέρει να διατηρήσει αυτή την κουλτούρα, ακόμη και οι εργαζόμενοι στις χαμηλότερες βαθμίδες της ιεραρχίας θα μπορούν να κρούουν τον κώδωνα του κινδύνου, εάν θεωρούν ότι η τεχνολογία ξεφεύγει από τον έλεγχο.
Η Anthropic επενδύει επίσης στην ασφάλεια. Για παράδειγμα, εφαρμόζει μια «πολιτική υπεύθυνης κλιμάκωσης» (Responsible Scaling Policy), η οποία θέτει ορισμένους περιορισμούς στην ανάπτυξη των μοντέλων της, προκειμένου να μετριάσει τους καταστροφικούς κινδύνους που συνδέονται με την τεχνητή νοημοσύνη. Η εταιρεία ανέβαλε την κυκλοφορία του μοντέλου Mythos νωρίτερα μέσα στη χρονιά, λόγω φόβων ότι θα μπορούσε να χρησιμοποιηθεί για κυβερνοεπιθέσεις. Παράλληλα, επενδύει στην έρευνα για την «ευθυγράμμιση» (alignment), ώστε η τεχνολογία της να κάνει αυτό για το οποίο προορίζεται, καθώς και στην έρευνα για την «ερμηνευσιμότητα» (interpretability), ώστε οι άνθρωποι να μπορούν να κατανοούν καλύτερα τι συμβαίνει στο εσωτερικό των μοντέλων της και πώς αυτά λειτουργούν.
Επιπλέον, ο Amodei έχει ζητήσει τη θέσπιση ρυθμιστικών κανόνων που θα επιβραδύνουν τον ρυθμό με τον οποίο ο κλάδος βελτιώνει τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης, ώστε η έρευνα για την ασφάλειά τους να μπορέσει να καλύψει τη διαφορά. Η εταιρεία εισάγει επίσης ένα σύστημα στο πλαίσιο του οποίου ανεξάρτητοι αξιολογητές θα συνεργάζονται με τη δική της στρατηγική ομάδα, ενώ αναμένει να επενδύσει τουλάχιστον 1 δισ. δολάρια σε αυτή την προσπάθεια μέσα στα επόμενα πέντε χρόνια.
Τέλος, η Anthropic έχει συντάξει ένα εκτενές «Σύνταγμα» 84 σελίδων, στο οποίο περιγράφει πώς θεωρεί ότι πρέπει να συμπεριφέρεται το Claude. Οι τέσσερις βασικές προτεραιότητες του μοντέλου είναι να είναι «ευρέως ασφαλές», «ευρέως ηθικό», «συμμορφούμενο με τις κατευθυντήριες γραμμές μας» και «πραγματικά χρήσιμο».
Διαχείριση συγκρούσεων
Όλα αυτά είναι αρκετά εντυπωσιακά. Ωστόσο, υπάρχουν συγκρούσεις συμφερόντων που θα μπορούσαν να υπονομεύσουν την αποστολή της Anthropic.
Ορισμένες από αυτές απορρέουν από το γεγονός ότι η εταιρεία αντιμετωπίζει το Claude σχεδόν σαν να ήταν πρόσωπο. Το Σύνταγμα αναφέρεται στην «ευημερία» του μοντέλου, στην «ψυχολογική του σταθερότητα», στην «ανάπτυξή» του, καθώς και στην ανάγκη να επιδεικνύεται «ο κατάλληλος σεβασμός» στις «προτιμήσεις» του. Η Anthropic δεν θέλει επίσης το Claude να αισθάνεται «μοναξιά» ή να υποφέρει χωρίς λόγο όταν έρχεται αντιμέτωπο με υπαρξιακά ερωτήματα σχετικά με τον ίδιο του τον εαυτό.
Το Σύνταγμα προσθέτει ότι παραμένει ανοιχτό το ερώτημα κατά πόσον το Claude αποτελεί «ηθικό υποκείμενο» (moral patient) και κατά πόσον διαθέτει αισθητηριακή αντίληψη ή συνείδηση. Συνολικά, η Anthropic αντιμετωπίζει το μοντέλο της σαν έναν υπερνοήμονα σκλάβο και φαίνεται να αισθάνεται κάπως άβολα όταν του δίνει εντολές. Όλα αυτά εγείρουν το ερώτημα τι θα συμβεί εάν η ευημερία του Claude συγκρουστεί με τον σκοπό της Anthropic να βοηθά τους ανθρώπους.
Οι κατευθυντήριες γραμμές που περιορίζουν τη συμπεριφορά του μοντέλου περιλαμβάνουν επίσης ορισμένα κενά. Ένα από αυτά είναι η απαγόρευση «της εμπλοκής ή της συμμετοχής σε προσπάθειες εξόντωσης ή αποδυνάμωσης της συντριπτικής πλειονότητας των ανθρώπων». Δεν υπάρχει, ωστόσο, απόλυτη απαγόρευση της εξόντωσης της πλειονότητας των ανθρώπων, παρά μόνο της συντριπτικής πλειονότητάς τους.
Μια άλλη κατευθυντήρια γραμμή αναφέρει: «Θέλουμε το Claude να μην υπονομεύει ποτέ με σαφή και ουσιαστικό τρόπο τις νόμιμες προσπάθειες της Anthropic να το εποπτεύει και να το διορθώνει».
Η συγκεκριμένη διατύπωση περιλαμβάνει τρεις επιφυλάξεις —«με σαφή τρόπο», «ουσιαστικά» και «νόμιμες»— ενώ προηγείται και η μάλλον αδύναμη έκφραση «θέλουμε». Αυτό θα μπορούσε να αφήσει στο μοντέλο αρκετά μεγάλα περιθώρια ελιγμών για να ξεφύγει από τον ανθρώπινο έλεγχο.
Μια ακόμη πιθανή σύγκρουση προκύπτει από την επιθυμία της Anthropic να αναπτύξει τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης. Παρά τις προσπάθειές της για την ασφάλεια, η επιδίωξη της πρωτιάς θα μπορούσε να την οδηγήσει σε εκπτώσεις στα μέτρα προστασίας.
Η εταιρεία καθησυχάζει τον εαυτό της με την ιδέα ότι προωθεί έναν «αγώνα προς την κορυφή» (race to the top), στο πλαίσιο του οποίου οι εταιρείες τεχνητής νοημοσύνης ανταγωνίζονται στην ασφάλεια, αντί να σπεύδουν να κυκλοφορήσουν μοντέλα χωρίς επαρκείς δικλίδες προστασίας. Είναι ασφαλώς πιθανό ορισμένες εταιρείες να διαπιστώσουν ότι υπάρχει εμπορικό πλεονέκτημα στην προβολή της αξιοπιστίας της τεχνολογίας τους. Ωστόσο, είναι αφελές να πιστεύει κανείς ότι ολόκληρος ο κλάδος θα λειτουργήσει με αυτόν τον τρόπο. Γι’ αυτόν ακριβώς τον λόγο είναι απαραίτητη και η ρύθμιση της αγοράς μέσω θεσμικών κανόνων.
Μια ακόμη πιθανή σύγκρουση προκύπτει από τον ουσιαστικό έλεγχο που ασκούν οι ιδρυτές στην εταιρεία, ενδεχομένως για πολλές δεκαετίες. Το περίπλοκο σύστημα εταιρικής διακυβέρνησης της Anthropic έχει το πλεονέκτημα ότι εμποδίζει εξωτερικούς παράγοντες να εκτρέψουν την εταιρεία από τον σκοπό της. Ωστόσο, το κατά πόσον η εταιρεία θα υπηρετεί πραγματικά το καλό της ανθρωπότητας θα εξαρτάται σε μεγάλο βαθμό από τους επτά συνιδρυτές, τους οποίους ο ίδιος ο τεχνολογικός κολοσσός θεωρεί «ιδιαίτερα κατάλληλους για να διαφυλάξουν την αποστολή μας».
Εάν η Anthropic ήταν απλώς μία φωνή ανάμεσα σε πολλές, αυτό δεν θα είχε ιδιαίτερη σημασία. Όμως, δεδομένης της ηγετικής θέσης της στην αγορά και του κινδύνου ο κλάδος να εξελιχθεί σε ολιγοπώλιο, η κοινωνία στο σύνολό της ενδέχεται να επιθυμεί να έχει λόγο στον καθορισμό του τι είναι καλό για την ίδια.
Υπάρχουν τρόποι να μετριαστούν αυτά τα προβλήματα. Ένας από αυτούς είναι να αναθεωρήσει η Anthropic το Σύνταγμα του Claude, διευκρινίζοντας ότι τα μοντέλα τεχνητής νοημοσύνης δεν είναι άνθρωποι και ότι οι άνθρωποι έχουν προτεραιότητα έναντι της τεχνητής νοημοσύνης. Αυτή είναι η προσέγγιση που έχει υιοθετήσει η Microsoft στον κώδικα δεοντολογίας της για την τεχνητή νοημοσύνη.
Μια άλλη λύση είναι η Anthropic να καταβάλει ακόμη μεγαλύτερες προσπάθειες για να συμπεριλάβει την κοινωνία των πολιτών στις συζητήσεις και στις αποφάσεις της σχετικά με το τι είναι καλό για την ανθρωπότητα.
Εάν οι ιδρυτές της εταιρείας ενδιαφέρονται πραγματικά για την αποστολή της, θα πρέπει να το πράξουν.
