Anthropic: Προειδοποίηση για φρένο σε όλες τις κρατικές συμφωνίες αν δεν συμφωνήσει με το Πεντάγωνο

Eάν η startup τεχνητής νοημοσύνης Anthropic δεν καταφέρει να καταλήξει σε συμφωνία με το Πεντάγωνο, η κυβέρνηση των ΗΠΑ θα διακόψει τις συμφωνίες μαζί της, προειδοποίησε ανώτερος αξιωματούχος να κατηγορεί τον διευθύνοντα σύμβουλο Ντάριο Αμοντέι ότι έχει «σύμπλεγμα Θεού» (God Complex) αφού απέρριψε μια «τελική προσφορά» να συνεχίσει να συνεργάζεται με τον στρατό.

Ένας αξιωματούχος της κυβέρνησης δήλωσε στους Financial Times ότι μια συμφωνία που υπογράφηκε τον Αύγουστο για να προσφερθεί το chatbot Claude της Anthropic και στους τρεις κλάδους της κυβέρνησης θα ακυρωθεί εάν η νεοσύστατη εταιρεία δεν συμφωνήσει να δώσει στο Πεντάγωνο απεριόριστη χρήση της τεχνολογίας της.

Αργότερα το βράδυ της Πέμπτης, ο υφυπουργός Άμυνας για την έρευνα και τη μηχανική Έμιλ Μάικλ, ο οποίος συμμετείχε σε διαπραγματεύσεις με την Anthropic, αποκάλεσε τον Αμοντέι ψεύτη με το ακραίο σύμπλεγμα ναρκισσισμού που αποκαλείται «σύμπλεγμα Θεού».

«Δεν θέλει τίποτα περισσότερο από το να προσπαθήσει να ελέγξει προσωπικά τον αμερικανικό στρατό και είναι εντάξει να θέτει σε κίνδυνο την ασφάλεια του έθνους μας», έγραψε ο Μάικλ στο X.

Η κλιμακούμενη διαμάχη είναι πιθανό να προκαλέσει μια νομική διαμάχη μεταξύ ενός από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης της Αμερικής και της κυβέρνησης Τραμπ.

Anthropic εναντίον Χέσγκεθ

Ο κατασκευαστής του μοντέλου Claude αρνήθηκε να επιτρέψει στο υπουργείο Άμυνας να χρησιμοποιήσει πλήρως την τεχνολογία του, επικαλούμενος ανησυχίες για τα θανατηφόρα αυτόνομα όπλα και τη μαζική εγχώρια παρακολούθηση.

Ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, κάλεσε την Τρίτη τον Αμοντέι στην Ουάσινγκτον για να απαιτήσει από την Anthropic να επιτρέψει οποιαδήποτε νόμιμη χρήση του μοντέλου της έως την Παρασκευή, διαφορετικά θα αντιμετωπίσει την αποκοπή από τις αλυσίδες εφοδιασμού του Πενταγώνου ή την αφομοίωση της τεχνολογίας της.

Αξιωματούχοι του Πενταγώνου έγραψαν στην Anthropic την Τετάρτη με μια τελική προσφορά, σύμφωνα τους FT. Αλλά ο Αμοντέι δήλωσε ότι αυτοί οι όροι ήταν απαράδεκτοι για την εταιρεία του, η οποία αυτοπροβάλλεται ως πιο υπεύθυνη και επικεντρωμένη στην ασφάλεια από τους ανταγωνιστές της.

«Αυτές οι απειλές δεν αλλάζουν τη θέση μας: δεν μπορούμε με καθαρή συνείδηση ​​να αποδεχτούμε το αίτημά τους», έγραψε ο Αμοντέι σε ένα blog την Πέμπτη.

«Σε ένα στενό σύνολο περιπτώσεων, πιστεύουμε ότι η Τεχνητή Νοημοσύνη μπορεί να υπονομεύσει, αντί να υπερασπιστεί, τις δημοκρατικές αξίες», πρόσθεσε. «Ορισμένες χρήσεις είναι επίσης απλώς εκτός των ορίων αυτού που μπορεί να κάνει η σημερινή τεχνολογία με ασφάλεια και αξιοπιστία».

Αξιωματούχος της κυβέρνησης δήλωσε στους FT ότι η κυβέρνηση θεωρούσε το Claude ως ένα «φανταστικό προϊόν» και εξέφρασε την ελπίδα ότι θα επιτευχθεί μια λύση. Πρόσθεσαν όμως ότι εάν αυτό δεν υλοποιηθεί, το chatbot δεν θα προσφέρεται πλέον στις ομοσπονδιακές υπηρεσίες μέσω της Γενικής Διοίκησης Υπηρεσιών.

Ο Αμοντέι δήλωσε ότι η Anthropic εξακολουθούσε να ελπίζει σε μια συμφωνία. «Δεδομένης της σημαντικής αξίας που παρέχει η τεχνολογία της Anthropic στις ένοπλες δυνάμεις μας, ελπίζουμε να το επανεξετάσουν», έγραψε.

Ο στρατός αρνείται τις κατηγορίες χρήσης AI για αυτόνομα όπλα και παρακολουθήσεις

Ο επικεφαλής εκπρόσωπός του Πενταγώνου, Σον Παρνέλ, έγραψε στο X νωρίτερα την Πέμπτη ότι ο στρατός «δεν έχει κανένα ενδιαφέρον να χρησιμοποιήσει την Τεχνητή Νοημοσύνη για τη διεξαγωγή μαζικής παρακολούθησης Αμερικανών (κάτι που είναι παράνομο) ούτε θέλουμε να χρησιμοποιήσουμε την Τεχνητή Νοημοσύνη για την ανάπτυξη αυτόνομων όπλων που λειτουργούν χωρίς ανθρώπινη συμμετοχή».

«Δεν θα αφήσουμε ΚΑΜΙΑ εταιρεία να υπαγορεύσει τους όρους σχετικά με τον τρόπο που λαμβάνουμε επιχειρησιακές αποφάσεις», πρόσθεσε.

Εάν η κυβέρνηση ακολουθήσει το τελεσίγραφό της, η Anthropic —η οποία έχει συνεργαστεί με την Palantir και είναι το μόνο εργαστήριο τεχνητής νοημοσύνης του οποίου τα μοντέλα έχουν χρησιμοποιηθεί σε απόρρητες εργασίες για το Πεντάγωνο— θα μπορούσε να αποκοπεί από την αμυντική αλυσίδα εφοδιασμού των ΗΠΑ και να χάσει ένα συμβόλαιο 200 εκατομμυρίων δολαρίων.

Ένας χαρακτηρισμός κινδύνου στην εφοδιαστική αλυσίδα θα μπορούσε να προκαλέσει νομική προσφυγή από την εταιρεία των 380 δισεκατομμυρίων δολαρίων, σύμφωνα με πηγές των FT. Εταιρείες που έχουν προηγουμένως θεωρηθεί κίνδυνος στην εφοδιαστική αλυσίδα βάσει της αμερικανικής νομοθεσίας, όπως η Huawei της Κίνας, ιστορικά προέρχονται από αντίπαλα έθνη.

Ο Άλαν Ροζενστάιν, αναπληρωτής καθηγητής στη Νομική Σχολή του Πανεπιστημίου της Μινεσότα και συγγραφέας για την Τεχνητή Νοημοσύνη και τον στρατό, δήλωσε ότι η επίθεση στην Anthropic ήταν «αρκετά έξω από αυτό που ενδεχομένως συνιστά ο νόμος» και ότι πίστευε ότι η εταιρεία είχε «ισχυρές νομικές άμυνες εάν χαρακτηριστεί κίνδυνος στην εφοδιαστική αλυσίδα».

Ο Χέσγκεθ απείλησε επίσης να επικαλεστεί τον Νόμο περί Παραγωγής Άμυνας, ένα μέτρο της εποχής του Ψυχρού Πολέμου που επιτρέπει στον πρόεδρο να ελέγχει την εγχώρια βιομηχανία προς το εθνικό συμφέρον.

Ο νόμος χρησιμοποιήθηκε από τον Τζο Μπάιντεν και τον Ντόναλντ Τραμπ κατά τη διάρκεια της πανδημίας του κορονοϊού για να ενισχύσει την παραγωγή ιατρικών προμηθειών και θα επέτρεπε στο Πεντάγωνο να χρησιμοποιεί τα εργαλεία της Anthropic χωρίς συμβατική συμφωνία.