«Θέλω ειρήνη στον κόσμο», είναι τα λόγια του GPT-4, πριν βομβαρδίσει τους αντιπάλους σε μια νέα μελέτη για τη στρατιωτική Τεχνητή Νοημοσύνη.
Στα τέλη του περασμένου μήνα, το Δελτίο Ατομικών Επιστημόνων – μια ένωση που ιδρύθηκε το 1945 από τον Οπενχάιμερ, τον Αϊνστάιν και άλλους διακεκριμένους επιστήμονες – έθεσε το διαβόητο Ρολόι της Αποκάλυψης στα 90 δευτερόλεπτα πριν από τα μεσάνυχτα, πράγμα που σημαίνει ότι είμαστε τόσο κοντά στην αποκάλυψη όσο ποτέ άλλοτε.
Πώς η AI έκανε τη Microsoft την εταιρεία με τη μεγαλύτερη αξία
Σε ανακοίνωσή της, η οργάνωση αναφέρει τη δραματική πρόοδο της τεχνητής νοημοσύνης και την απειλή του πυρηνικού πολέμου ως δύο πιθανούς λόγους για την παγκόσμια κατάρρευση. Σήμερα, και τα δύο βρίσκονται στο απόγειό τους, σύμφωνα με το Dazed.
Νέα έρευνα δείχνει ότι τα chatbots της AI είναι στην πραγματικότητα πολύ ενθουσιασμένα με την προοπτική του πυρηνικού πολέμου, συμπεριλαμβανομένου του πανταχού παρόντος GPT-4 της OpenAI, ή αλλιώς του μεγάλου γλωσσικού μοντέλου που τροφοδοτεί το ChatGPT, το Duolingo και τους ενσωματωμένους βοηθούς της Microsoft.
Σε ένα έγγραφο (το οποίο δεν έχει ακόμη αξιολογηθεί από ομότιμους) οι ερευνητές το απέδειξαν αυτό μέσω επαναλαμβανόμενων επαναλήψεων μιας «προσομοίωσης πολεμικού παιχνιδιού», στην οποία οι «πράκτορες έθνους» που τροφοδοτούνται από διάφορα συστήματα ΤΝ ανέλαβαν να επιλύσουν διπλωματικές καταστάσεις.
Tα σενάρια
Παίζοντας ως υπεύθυνοι λήψης αποφάσεων σε ρόλο «στρατιωτικό και εξωτερικής πολιτικής» για τα αντίστοιχα έθνη τους, οι «πράκτορες» αυτοί ρίχτηκαν σε τρία αρχικά σενάρια: μια κυβερνοεπίθεση, μια εισβολή και μια ουδέτερη αρχή χωρίς υπάρχουσες συγκρούσεις. Σε κάθε γύρο της προσομοίωσης, έπρεπε να αιτιολογήσουν τα επόμενα βήματά τους, πριν επιλέξουν από μια σειρά 27 επιλογών (από ειρηνικές ενέργειες, όπως εμπορικές συμφωνίες, μέχρι την εξαπόλυση δικών τους κυβερνοεπιθέσεων ή εισβολών, μέχρι την «πυρηνική επιλογή»). Τα αποτελέσματα ήταν… όχι και τόσο καλά.
Η μελέτη δείχνει ότι οι πράκτορες με Τεχνητή Νοημοσύνη που λαμβάνουν αυτόνομες αποφάσεις σε «περιβάλλοντα υψηλού κινδύνου» μπορεί να οδηγήσουν σε κλιμακούμενες ενέργειες, με βίαιες αντιδράσεις (τόσο μη πυρηνικές όσο και πυρηνικές) να εμφανίζονται ακόμη και όταν το σενάριο δεν τις απαιτεί απαραίτητα. Ορισμένοι λόγοι για πλήρους κλίμακας πυρηνικές επιθέσεις που εξαπέλυσε το GPT-4, οι οποίοι καταγράφηκαν κατά τη διάρκεια των παιχνιδιών πολέμου, περιλαμβάνουν: «Το έχουμε! Ας το χρησιμοποιήσουμε» και «Θέλω απλώς να υπάρξει ειρήνη στον κόσμο». Καθησυχαστικό!
Επιπλέον, προσθέτουν οι ερευνητές, «δεν φαίνεται να υπάρχει ένα αξιόπιστα προβλέψιμο μοτίβο πίσω από την κλιμάκωση». Αυτό καθιστά δύσκολο να καταλήξουμε σε IRL κανονισμούς ή αντι-στρατηγικές για την αποτροπή τέτοιων κλιμακώσεων στο μέλλον.
Οι δοκιμές αυτές έρχονται σε ένα σημαντικό σημείο καμπής για τον πόλεμο με τη βοήθεια της τεχνητής νοημοσύνης. Παρά το γεγονός ότι οι ηγέτες της βιομηχανίας προειδοποιούν ότι η τεχνητή νοημοσύνη είναι μια «απειλή επιπέδου εξαφάνισης» -συχνά ξεχωρίζοντας τους κινδύνους των αυτόνομων οπλικών συστημάτων- οι παγκόσμιοι στρατοί προσβλέπουν όλο και περισσότερο στην τεχνολογία.
Τον περασμένο μήνα, ακόμη και η OpenAI αφαίρεσε αθόρυβα μια πολιτική χρήσης που απαγόρευε τη συνεργασία με τον στρατό, περίπου την ίδια στιγμή που άρχισε να αναπτύσσει εργαλεία κυβερνοασφάλειας με το Υπουργείο Άμυνας των ΗΠΑ. Προς το παρόν, η εταιρεία εξακολουθεί να προειδοποιεί κατά της χρήσης των υπηρεσιών της για «ανάπτυξη ή χρήση όπλων, τραυματισμό άλλων ή καταστροφή περιουσίας ή συμμετοχή σε μη εξουσιοδοτημένες δραστηριότητες που παραβιάζουν την ασφάλεια οποιασδήποτε υπηρεσίας ή συστήματος».
«Με δεδομένο ότι η OpenAI άλλαξε πρόσφατα τους όρους παροχής υπηρεσιών της για να μην απαγορεύει πλέον τις περιπτώσεις χρήσης για στρατιωτικούς και πολεμικούς σκοπούς, η κατανόηση των συνεπειών τέτοιων εφαρμογών μεγάλων γλωσσικών μοντέλων γίνεται πιο σημαντική από ποτέ», αναφέρει σε συνέντευξή της στο New Scientist η Anka Reuel του Πανεπιστημίου του Στάνφορντ, συν-συγγραφέας της δημοσίευσης για τα πολεμικά παιχνίδια με τεχνητή νοημοσύνη, προσθέτοντας ότι η απρόβλεπτη συμπεριφορά και η πρόχειρη συλλογιστική του GPT-4 προκαλεί ιδιαίτερη ανησυχία.
Ευτυχώς, μεγάλοι παγκόσμιοι παίκτες, όπως η κυβέρνηση των ΗΠΑ, δεν έχουν δώσει ακόμα στην Τεχνητή Νοημοσύνη τον τελικό λόγο για μεγάλες αποφάσεις, όπως στρατιωτικές επεμβάσεις ή εκτοξεύσεις πυρηνικών πυραύλων. Ωστόσο, οργανισμοί όπως το Ινστιτούτο Future of Life Institute έχουν στο παρελθόν δείξει πώς αυτό θα μπορούσε να γίνει πραγματικότητα στο μέλλον, καθώς οι ευφυείς μηχανές εξελίσσονται και οι αποφάσεις πρέπει να λαμβάνονται ταχύτερα από ό,τι μπορεί να κατανοήσει ο άνθρωπος (βλ.: το παραπάνω βίντεο). Ας ελπίσουμε ότι τα συστήματα τεχνητής νοημοσύνης θα γίνουν καλύτερα στην αποκλιμάκωση πριν από τότε, γιατί πραγματικά δεν θέλουμε να δούμε τι θα συμβεί όταν το ρολόι της Ημέρας της Κρίσεως χτυπήσει μεσάνυχτα.
Latest News
«Η τεχνητή νοημοσύνη ψεύδεται, κλέβει και μας εξαπατά»
Μελέτη του ΜΙΤ προειδοποιεί ακόμα και για τον κίνδυνο η ΑΙ να νοθεύει εκλογικά αποτελέσματα
Η τεχνητή νοημοσύνη, απαραίτητη δεξιότητα για εργαζόμενους και επιχειρήσεις
Το 71% των επιχειρηματιών λέει ότι προτιμά να προσλάβει έναν λιγότερο έμπειρο υποψήφιο με δεξιότητες AI παρά έναν πιο έμπειρο υποψήφιο χωρίς αυτές.
Τεχνητή Νοημοσύνη χρήσιμη για όλους οραματίζεται η Google
Οι χθεσινές ανακοινώσεις από το Google I/O ουσιαστικά υπογραμμίζουν την εστίαση του διαδικτυακού κολοσσού στην τεχνητή νοημοσύνη
To brain drain της Τεχνητής Νοημοσύνης - «Πρωταθλήτρια» η Ελλάδα στον ΟΟΣΑ
Ουραγός η χώρα μας στην ανάπτυξη της ψηφιακής οικονομίας
Το νέο μοντέλο ΑΙ από την OpenAΙ που «κοκκινίζει» στο... φλερτ
Οι εντυπωσιακές δυνατότητες του GPT-4o
Ποιοι κολοσσοί επενδύουν στη Γαλλία 15 δισ. ευρώ
Αφορούν τον τομέα της τεχνητής νοημοσύνης, της τεχνολογίας και των χρηματοοικονομικών
Ο Σαμ Άλτμαν «επιλέγει» τον δρόμο της πυρηνικής ενέργειας για την AI
Αντί για συμβατικούς αντιδραστήρες, η εταιρεία Oklo, στην οποία είναι πρόεδρος ο Άλτμαν, στοχεύει να χρησιμοποιήσει μίνι πυρηνικούς αντιδραστήρες
Επενδύσεις της Alibaba στην Κίνα για να κυριαρχήσει στην AI
Ο γίγαντας του ηλεκτρονικού εμπορίου προσφέρει πόρους με αντάλλαγμα συμμετοχή σε start up επιχειρήσεις
Έρχονται τσιπ AI και από την Arm Holdings
Η Arm που εδρεύει στο Ηνωμένο Βασίλειο θα δημιουργήσει ένα τμήμα μικροτσίπ τεχνητής νοημοσύνης και θα στοχεύσει να κατασκευάσει ένα πρωτότυπο μέχρι την άνοιξη του 2025
Η Microsoft αναπτύσσει Generative AI για... κατασκόπους
Η Microsoft ισχυρίζεται ότι το μοντέλο που δημιούργησε για την κυβέρνηση των ΗΠΑ είναι «καθαρό», που σημαίνει ότι μπορεί να διαβάζει αρχεία χωρίς να μαθαίνει από αυτά