Τεχνητή νοημοσύνη: Παραίτηση από την Google του πρωτοπόρου επιστήμονα Τζόφρι Χίντον

Η παραίτηση από την Google ενός εκ των πρωτοπόρων της τεχνητής νοημοσύνης έσκασε σαν κεραυνός εν αιθρία, κυρίως λόγω της αιτιολόγησης της παραίτησης. Ο βρετανοκαναδός Τζόφρι Χίντον παραιτήθηκε για να μιλήσει ελεύθερα για τους κινδύνους της συγκεκριμένης τεχνολογίας, αφού συνειδητοποίησε ότι οι υπολογιστές θα μπορούσαν να καταστούν εξυπνότεροι από τους ανθρώπους πολύ νωρίτερα από ό,τι περίμενε ο ίδιος και άλλοι ειδικοί.

«Έφυγα για να μπορέσω να μιλήσω για τους κινδύνους της τεχνητής νοημοσύνης χωρίς να σκεφτώ πώς αυτό επηρεάζει την Google», έγραψε ο Τζόφρι Χίντον στο Twitter.

Γκέιτς: Αυτή είναι η δεύτερη επανάσταση στην τεχνολογία από το 1980

Κατά τη διάρκεια συνέντευξής του στους New York Times, ο Χίντον εξέφρασε την ανησυχία του για την ικανότητα της τεχνητής νοημοσύνης να δημιουργεί πειστικές ψευδείς εικόνες και κείμενα, δημιουργώντας έναν κόσμο όπου οι άνθρωποι «δεν θα μπορούν πλέον να ξεχωρίζουν τι είναι αλήθεια».

Ανησυχίες και φόβους σχετικά με την ραγδαία και ίσως ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης έχουν εκφράσει αρκετοί το τελευταίο διάστημα. Ωστόσο, κανείς δεν έχει το «βαρύ» βιογραφικό του Τζόφρι Χίντον, του ανθρώπου που είναι γνωστός στην τεχνολογική κοινότητα ως «Ο νονός της AI» που έλαβε το διδακτορικό του στην τεχνητή νοημοσύνη πριν από 45 χρόνια και που παραμένει μια από τις πιο σεβαστές φωνές στον χώρο.

Geoffrey Hinton, an AI pioneer, quit his job at Google, where he has worked for more than decade, so he can freely speak out about the risks posed by AI.

“It is hard to see how you can prevent the bad actors from using it for bad things,” he said.https://t.co/M2TlIHxZBv

— The New York Times (@nytimes) May 1, 2023

Την τελευταία δεκαετία ο 75χρονος Χίντον ήταν μερικώς απασχολούμενος στην Google, κινούμενος μεταξύ των κεντρικών γραφείων της εταιρείας στην Σίλικον Βάλεϊ και του Τορόντο. Παρόλα αυτά στη συνέντευξή του στους New York Times δήλωσε ότι παραιτήθηκε για να προειδοποιήσει τον κόσμο για την πιθανή απειλή της τεχνητής νοημοσύνης, η οποία, όπως είπε, έρχεται νωρίτερα από ό,τι πίστευε προηγουμένως.

«Πίστευα ότι αυτός ο κίνδυνος ήταν 30 με 50 χρόνια μακριά ή και περισσότερο» δήλωσε ο Χίντον. «Προφανώς, δεν το πιστεύω πια αυτό», είπε. Ο Hinton, ο οποίος αναδείχθηκε νικητής του βραβείου Turing το 2018 για εννοιολογικές και μηχανολογικές ανακαλύψεις, είπε ότι έχει πλέον μετανιώσει για το έργο της ζωής του, ανέφεραν οι Times.

Μεταξύ άλλων στη συνέντευξή του αναφέρθηκε στους βραχυπρόθεσμους κινδύνους από την τεχνητή νοημοσύνη, όπως είναι η απώλεια θέσεων εργασίας και ο πολλαπλασιασμός ψεύτικων φωτογραφιών, βίντεο και κειμένων που φαίνονται αληθινά στον μέσο άνθρωπο.

Σύμφωνα με τους Times, ο Hinton είπε ότι παράτησε τη δουλειά του στην Google για να μπορεί να μιλήσει ελεύθερα για τους κινδύνους της τεχνητής νοημοσύνης. Είπε στην εφημερίδα, «παρηγορώ τον εαυτό μου με την δικαιολογία: αν δεν το είχα κάνει εγώ, κάποιος άλλος θα το έκανε».

Ο Χίντον έγραψε στο Twitter τη Δευτέρα: «Έφυγα για να μπορέσω να μιλήσω για τους κινδύνους της τεχνητής νοημοσύνης χωρίς να σκεφτώ πώς αυτό επηρεάζει την Google. Η Google ενήργησε πολύ υπεύθυνα».

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

Η δύναμη της τεχνητής νοημοσύνης

Σε δήλωσή του στο δίκτυο CNBC, ο Χίντον είπε: «Πλέον πιστεύω ότι η ψηφιακή νοημοσύνη που δημιουργούμε είναι πολύ διαφορετική από την βιολογική νοημοσύνη».

Ο Hinton αναφέρθηκε στη δύναμη του GPT-4, του πιο προηγμένου μοντέλου μεγάλων γλωσσών ή LLM, από την startup OpenAI που υποστηρίζεται από την Microsoft, η τεχνολογία της οποίας έχει γίνει viral από τότε που κυκλοφόρησε το chatbot ChatGPT στα τέλη του περασμένου έτους.

«Αν έχω 1.000 ψηφιακούς παράγοντες που είναι όλοι ακριβείς κλώνοι με τα ίδια “βάρη”, κάθε φορά που ένας παράγοντας μαθαίνει πώς να κάνει κάτι, όλοι τους το γνωρίζουν αμέσως επειδή μοιράζονται τις ίδιες γνώσεις», είπε ο Χίντον στο CNBC. «Οι βιολογικοί παράγοντες δεν μπορούν να το κάνουν αυτό. Έτσι, οι συλλογές πανομοιότυπων ψηφιακών παραγόντων μπορούν να αποκτήσουν πολύ περισσότερη γνώση από οποιονδήποτε μεμονωμένο βιολογικό παράγοντα. Αυτός είναι ο λόγος για τον οποίο το GPT-4 γνωρίζει πολύ περισσότερα από κάθε άτομο».

Πάντως, ο Χίντον είχε σημάνει τον κώδωνα του κινδύνου ακόμα και πριν αποχωρήσει από την Google. Σε συνέντευξή του στο CBS News, τον Μάρτιο, ο Χίντον ρωτήθηκε ποιες πιστεύει ότι είναι «οι πιθανότητες να εξαφανίσει η τεχνητή νοημοσύνη την ανθρωπότητα». Η απάντησή του λιτή και σοκαριστική: «Δεν είναι αδιανόητο. Μόνο αυτό θα πω».

Επιφυλάξεις και από το αφεντικό της Google

Αξιοσημείωτο ότι και ο διευθύνων σύμβουλος της Google, Σουντάρ Πιτσάι, έχει επίσης προειδοποιήσει δημόσια για τους κινδύνους από την χρήση της τεχνητής νοημοσύνης. Στην εκπομπή «60 Minutes» τον περασμένο μήνα ο Πιτσάι δήλωσε ότι η κοινωνία δεν είναι προετοιμασμένη για αυτό που έρχεται. Παρόλα αυτά η Google προχώρησε στην παρουσίαση των δικών της AI προϊόντων, όπως ένα ρομπότ αυτομάθησης και ο Bard, ανταγωνιστής του ChatGPT της OpenAI.

Σε εκείνη τη συνέντευξη όταν ο CEO της Google ρωτήθηκε εάν «ο ρυθμός της αλλαγής μπορεί να ξεπεράσει την ικανότητά μας να προσαρμοστούμε», ο Πιτσάι υποβάθμισε τον κίνδυνο. «Δεν νομίζω. Είμαστε ένα είδος απείρως προσαρμοστικό», είπε χαρακτηριστικά.

Ο ρόλος του στην Google

Πέρυσι, ο Χίντον μείωσε τον χρόνο απασχόλησής του στην Google, σύμφωνα με εσωτερικό έγγραφο που δημοσιοποιήθηκε στο CNBC. Τον Μάρτιο του 2022, μετακινήθηκε στο 20% της πλήρους απασχόλησης. Αργότερα μέσα στο έτος διορίστηκε σε μια νέα ομάδα εργασίας στο πλαίσιο της Brain Research. Ο πιο πρόσφατος ρόλος του ήταν αντιπρόεδρος και συνεργάτης μηχανικός, υπό τον Τζεφ Ντιν στο Google Brain.

Σε δήλωσή του ο Ντιν ανέφερε ότι εκτιμά τον Χίντον για τη «δεκαετία συνεισφοράς στην Google». «Θα μου λείψει και του εύχομαι να είναι καλά!» έγραψε ο Ντιν. «Ως μία από τις πρώτες εταιρείες που δημοσίευσε τις Αρχές της AI, παραμένουμε προσηλωμένοι σε μια υπεύθυνη προσέγγιση για την τεχνητή νοημοσύνη. Μαθαίνουμε συνεχώς να κατανοούμε τους αναδυόμενους κινδύνους, ενώ παράλληλα καινοτομούμε με τόλμη», καταλήγει.

Η αποχώρηση του Χίντον είναι μια μεγάλη απώλεια για την Google Brain, την ομάδα πίσω από μεγάλο μέρος της δουλειάς της εταιρείας στον τομέα της τεχνητής νοημοσύνης. Αξιοσημείωτο ότι πριν από αρκετά χρόνια, η Google φέρεται να ξόδεψε 44 εκατομμύρια δολάρια για να αποκτήσει εταιρεία που ξεκίνησε από τον Χίντον και δύο από τους μαθητές του το 2012.

Η ερευνητική του ομάδα έκανε σημαντικές ανακαλύψεις στη βαθιά μάθηση που επιτάχυνε την αναγνώριση ομιλίας και την ταξινόμηση αντικειμένων. Η τεχνολογία τους θα βοηθήσει στη διαμόρφωση νέων τρόπων χρήσης της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των ChatGPT και Bard.

Πλέον, η Google εργάζεται πάνω στην προσπάθεια οι τεχνολογίες τεχνητής νοημοσύνης και το Bard να ενσωματωθούν σε περισσότερα προϊόντα και υπηρεσίες. Μόλις τον περασμένο μήνα η αμερικανική εταιρεία ανακοίνωσε τη συγχώνευση του τμήματος Brain με το τμήμα DeepMind ώστε να «επιταχυνθεί σημαντικά η προοδός μας στην τεχνητή νοημοσύνη».

Ποιος είναι ο Χίντον

Ο Τζόφρι Έβερεστ Χίντον γεννήθηκε στις 6 Δεκεμβρίου 1947, στο Λονδίνο, και αποφοίτησε από το King’s College του Κέιμπριτζ το 1970 με πτυχίο στην πειραματική ψυχολογία. Ακολούθησαν οι σπουδές στο πανεπιστήμιο του Εδιμβούργου απ’ όπου έλαβε τον διδακτορικό του τίτλο το 1978 στην τεχνητή νοημοσύνη.

Ακολούθως εργάστηκε στο πανεπιστήμιο του Σάσεξ και στη συνέχεια, λόγω έλλειψης χρηματοδότησης στη Βρετανία, εργάστηκε στα πανεπιστήμια της Καλιφόρνια, του Σαν Ντιέγκο και Carnegie Mellon, στις Ηνωμένες Πολιτείες. Υπήρξε εκ των ιδρυτών της Μονάδας Υπολογιστικής Νευροεπιστήμης του Φιλανθρωπικού Ιδρύματος Γκάτσμπι στο University College του Λονδίνου, ενώ σήμερα είναι καθηγητής στο τμήμα Επιστήμης των Υπολογιστών στο πανεπιστήμιο του Τορόντο.

Η έρευνα του Χίντον αφορά τρόπους χρήσης νευρωνικών δικτύων για μηχανική μάθηση, μνήμη, αντίληψη και επεξεργασία συμβόλων. Έχει γράψει ή συμμετάσχει σε περισσότερες από 200 δημοσιεύσεις. Στο Συνέδριο για τα Συστήματα Επεξεργασίας Νευρωνικών Πληροφοριών (NeurIPS) εισήγαγε έναν νέο αλγόριθμο εκμάθησης για νευρωνικά δίκτυα που αποκαλεί αλγόριθμο «Forward-Forward». Η ιδέα του νέου αλγορίθμου είναι να αντικαταστήσει τα παραδοσιακά περάσματα προς τα εμπρός προς τα πίσω με δύο περάσματα προς τα εμπρός, το ένα με θετικά (δηλαδή πραγματικά) δεδομένα και το άλλο με αρνητικά δεδομένα που θα μπορούσαν να δημιουργηθούν αποκλειστικά από το δίκτυο.

Εντάχθηκε στο δυναμικό της Google τον Μάρτιο του 2013 όταν η εταιρεία του DNNresearch Inc εξαγοράστηκε και με τον ίδιο να δηλώνει ότι σχεδίαζε να «μοιράσει τον χρόνο του μεταξύ της πανεπιστημιακής του έρευνας και της δουλειάς του στη Google»

Το 2017 ο Χίντον είχε εκφράσει την ανησυχία του για την σκόπιμη κατάχρηση της τεχνητής νοημοσύνης ενώ είχε ζητήσει την διεθνή απαγόρευση των αυτόνομων θανατηφόρων όπλων. Ωστόσο, ήταν αισιόδοξος για τις οικονομικές επιπτώσεις της τεχνητής νοημοσύνης. Υποστήριζε, το 2018, ότι ένα ρομπότ δεν θα γίνει ξαφνικά πιο έξυπνο από έναν άνθρωπο αλλά ότι «πράγματα ρουτίνας που κάνουμε θα αντικατασταθούν από συστήματα AI». Σε κάθε περίπτωση υποστήριζε ότι η τεχνητή νοημοσύνη δεν πρόκειται να αντικαταστήσει τον ανθρώπινο παράγοντα.

Αξιοσημείωτο ότι ο Τζόφρι Χίντον μετακόμισε από τις ΗΠΑ στον Καναδά εν μέρει λόγω της απογοήτευσής του από την πολιτική του τότε Αμερικανού προέδρου Ρόναλντ Ρίγκαν και την αντίθεσή του στην χρηματοδότηση ερευνών για την τεχνητή νοημοσύνη μέσω στρατιωτικών κονδυλίων.

Ο Χίντον είναι γιος του εντομολόγου Χάουαρντ Χίντον, ενώ το μεσαίο του όνομα προέρχεται από έναν άλλο συγγενή, τον Τζορτζ Έβερεστ, τον τοπογράφο από τον οποίο πήρε το όνομά του το όρος. Είναι ανιψιός του οικονομολόγου Κόλιν Κλαρκ, δισέγγονος της μαθηματικού και παιδαγωγού Μαίρη Έβερεστ Μπουλ και του συζύγου της, του φιλοσόφου Τζορτζ Μπουλ, του οποίου το έργο έγινε τελικά ένα από τα θεμέλια της σύγχρονης επιστήμης των υπολογιστών. Ένας άλλος προ-προπάππους του ήταν ο χειρουργός και συγγραφέας Τζέιμς Χίντον, ο οποίος ήταν ο πατέρας του μαθηματικού Τσαρλς Χάουαρντ Χίντον.