Μέχρι το 2030, οι αμερικανικές hyperscalers όπως η Meta, η Microsoft, η Alphabet και η Amazon αναμένεται να δαπανήσουν πάνω από 5 τρισ. δολάρια σε υπολογιστική ισχύ. Πρόκειται για ένα τεράστιο στοίχημα στην τεχνολογία — ένα στοίχημα που έχει ήδη οδηγήσει ορισμένες εταιρείες τεχνολογίας να μειώσουν τις επαναγορές μετοχών και να εκδώσουν νέο χρέος και μετοχές. Τι ελπίζουν να αποκομίσουν από αυτά τα χρήματα;
Ο όρος «Scaling compute» είναι μια ορολογία του κλάδου της τεχνητής νοημοσύνης που αναφέρεται στην αύξηση των δαπανών για κέντρα δεδομένων και τα τσιπ που τα εξοπλίζουν — για παράδειγμα, GPU της Nvidia ή TPU της Alphabet. Αυτά τροφοδοτούν τα μεγάλα γλωσσικά μοντέλα που χρησιμοποιούνται σε συστήματα γενετικής AI, όπως τα chatbots ChatGPT, Gemini και Claude. Ο όρος «compute» αποτελεί συντομογραφία για τον υπολογιστικό όγκο που μπορεί να επεξεργαστεί ένα συγκεκριμένο σύστημα. Περισσότερη υπολογιστική ισχύς σημαίνει την προσθήκη περισσότερων τσιπ που είναι πιο ικανά να υπολογίζουν παράλληλα σε υψηλές ταχύτητες, επιτρέποντας την εκπαίδευση και τη χρήση (γνωστή ως inference ή «συμπέρασμα») ολοένα και μεγαλύτερων νευρωνικών δικτύων.
Το αποτέλεσμα είναι η κλίμακα — η υποτιθέμενη μαγική λύση για όλα τα προβλήματα των LLM. Η προσθήκη περισσότερων δεδομένων και μεγαλύτερης υπολογιστικής ισχύος έχει οδηγήσει σε σημαντικές βελτιώσεις στα μοντέλα τεχνητής νοημοσύνης. Το GPT-3 της OpenAI ήταν πολύ καλύτερο από το GPT-2, για παράδειγμα. Από το 2022, η υπολογιστική ικανότητα των τσιπ τεχνητής νοημοσύνης έχει αυξηθεί κατά περίπου 3,3 φορές ετησίως, σύμφωνα με το ερευνητικό ινστιτούτο Epoch AI.
Δυστυχώς, η συνέχιση αυτής της πορείας ενέχει τουλάχιστον δύο προβλήματα.
Το πρώτο είναι τεχνικό. Η κλιμάκωση δεν έχει επιλύσει ορισμένα από τα βασικά προβλήματα που ταλανίζουν τα LLM, όπως οι «παραισθήσεις» και τα περιστασιακά λάθη στη συλλογιστική. Παρά την τεράστια αύξηση της υπολογιστικής ισχύος, τα αποτελέσματα παραμένουν ευάλωτα σε σφάλματα.
Το δεύτερο πρόβλημα είναι ότι η επιδίωξη της κλιμάκωσης έχει γίνει τόσο διαδεδομένη, ώστε σχεδόν δεν υπάρχει πλέον τεχνικό πλεονέκτημα που να διακρίνει τις κορυφαίες εταιρείες. Αυτό έχει οδηγήσει σε πόλεμο τιμών που συνυπάρχει με υψηλά λειτουργικά έξοδα (απαραίτητα για τη λειτουργία μεγαλύτερων κέντρων δεδομένων για την εκπαίδευση και τη λειτουργία νέων μοντέλων) και χαμηλά ή ακόμη και αρνητικά περιθώρια κέρδους, καθώς όλες κατασκευάζουν λίγο πολύ το ίδιο προϊόν. Εν τω μεταξύ, όλο και περισσότερες αμερικανικές εταιρείες φαίνεται να στρέφονται προς φθηνότερα μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα που έχουν δημιουργηθεί στην Κίνα.
Σε περίπτωση που η «φούσκα» της τεχνητής νοημοσύνης σκάσει, οι αισιόδοξοι υποστηρίζουν ότι η νέα υποδομή θα παραμείνει, ακόμη και αν οι εταιρείες εξαφανιστούν — ακριβώς όπως οι σιδηρόδρομοι επέζησαν της κρίσης του 19ου αιώνα. Ωστόσο, αυτή η άποψη δεν λαμβάνει υπόψη την πραγματικότητα της απόσβεσης (λίγα εξαρτήματα πυριτίου διατηρούν την αξία τους για πολύ καιρό, καθώς αναπόφευκτα εμφανίζονται καλύτερα τσιπ) και την πιθανότητα τα LLM να αντικατασταθούν από πιο αποδοτικά μοντέλα που εξαρτώνται λιγότερο από τεράστιους αριθμούς ακριβών τσιπ τεχνητής νοημοσύνης.
Τοποθετώντας τεράστια στοιχήματα στην υπερκλιμάκωση (hyperscaling), οι επενδυτές διαμορφώνουν υπερβολικές προσδοκίες για τα μελλοντικά κέρδη. Ωστόσο, τα LLM δεν είναι πιθανό να αναπαράγουν τα σχεδόν μονοπώλια που έχουν καταστήσει τη δύναμη των σημερινών τεχνολογικών γιγάντων στην αγορά δύσκολο να αμφισβητηθεί. Μια καλύτερη αναλογία για αυτά θα μπορούσαν να είναι οι αεροπορικές εταιρείες, οι οποίες παραπαίουν λόγω των μικρών περιθωρίων κέρδους, του έντονου ανταγωνισμού, των υψηλών εξόδων και της εξάρτησης από υλικό που δημιουργείται από εξωτερικούς προμηθευτές.
Μπορεί να καταλήξουμε με πολύ περισσότερα κέντρα δεδομένων από όσα χρειαζόμαστε.
Όμως το πραγματικό πρόβλημα είναι το μέγεθος των επιπτώσεων που θα προκύψουν αν οι επενδύσεις των hyperscalers στον υπολογιστικό τομέα δεν αποδώσουν. Πώς θα μοιάζουν οι πιθανές παράπλευρες ζημίες για τα συνταξιοδοτικά ταμεία, τις τράπεζες και την παγκόσμια οικονομία; Στο χειρότερο σενάριο, οι κυβερνήσεις ενδέχεται να κληθούν να τα διασώσουν. Η OpenAI έχει ήδη προσπαθήσει να προωθήσει μια εκδοχή αυτής της ιδέας, ζητώντας για λίγο κρατικές εγγυήσεις δανείων για την κατασκευή κέντρων δεδομένων, μέχρι που συνάντησε έντονη αντίδραση από το κοινό.
Κάποια μορφή τεχνητής νοημοσύνης — αξιόπιστη, αποδοτική και συμβατή με την ανθρώπινη ασφάλεια — ίσως αξίζει τις επενδύσεις που διοχετεύονται στα κέντρα δεδομένων. Είναι όμως πρόωρο να ποντάρουμε στην εκδοχή που έχουμε σήμερα.
*Ο συγγραφέας είναι ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης και συγγραφέας του βιβλίου «Taming Silicon Valley: How We Can Ensure That AI Works for Us»
