Ο επικεφαλής της Microsoft AI προειδοποίησε ότι, χωρίς τις κατάλληλες δικλείδες ασφαλείας, η ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει στην εμφάνιση ενός νέου είδους υπολογιστικής ισχύος (silicon species), όπως είπε χαρακτηριστικά, που θα ανταγωνίζεται τον άνθρωπο.
Ο Μουστάφα Σουλεϊμάν δήλωσε ότι η ανταγωνιστική εταιρεία Anthropic αντιμετωπίζει την ΑΙ σαν να ήταν άνθρωπος – μια προσέγγιση την οποία χαρακτήρισε «εσφαλμένη» και ικανή να δημιουργήσει μια τεχνολογία που η ανθρωπότητα δεν θα μπορεί να ελέγξει.
Μιλώντας στην εκπομπή Today του BBC, ο CEO της Microsoft AI δήλωσε ότι είναι «απολύτως δικαιολογημένο» να ανησυχεί ο κόσμος για την ΑΙ, αλλά υπάρχουν «πολύ πρακτικά μέτρα που μπορούμε να λάβουμε» για να τη θέσουμε υπό έλεγχο.
Τα σχόλια αυτά αποτελούν τα πλέον πρόσφατα μιας σειράς αυστηρών προειδοποιήσεων από τη βιομηχανία της ΑΙ σχετικά με τους πιθανούς κινδύνους της τεχνολογίας.
Μιλώντας στην εκπομπή Today την Πέμπτη, ο Σουλεϊμάν προειδοποίησε τις εταιρείες να μην συνεχίσουν να αναπτύσσουν συστήματα ΑΙ που έχουν την ικανότητα να θέτουν τους δικούς τους στόχους, να παράγουν χρήμα και να κατέχουν περιουσιακά στοιχεία.
Αυτό θα σήμαινε ουσιαστικά τη δημιουργία ενός νέου τύπου υπολογιστικής ισχύος, δήλωσε, το οποίο «αναμφίβολα θα μπορούσε να μας ανταγωνιστεί για τους πόρους, ανεξάρτητα από το πόσο νοιάζεται για την ανθρωπότητα ή πόσο μας αγαπάει».
Microsoft AI: Οι εταιρείες ΤΝ φτιάχνουν κάτι το ανεξέλεγκτο
Τα σχόλια του Σουλεϊμάν στο BBC ακολουθούν ένα δοκίμιο που δημοσίευσε νωρίτερα αυτή την εβδομάδα, στο οποίο αμφισβήτησε την προσέγγιση της Anthropic όσον αφορά την εκπαίδευση του μοντέλου ΑΙ της, Claude, παρά το γεγονός ότι επαίνεσε τον επικεφαλής της, Ντάριο Αμοντέι, και την ομάδα του ως «πνευματικά έντιμους ανθρώπους».
Στο δοκίμιο αυτό, επέκρινε την Anthropic επειδή διδάσκει στην ΑΙ της να έχει ανθρώπινες ιδιότητες –μια πρακτική γνωστή ως ανθρωπομορφισμός– η οποία, όπως είπε, την κάνει να φαίνεται σαν ο Claude να έχει δικές του επιθυμίες, αξίες και αίσθηση του εαυτού.
Προειδοποίησε επίσης ότι οι εταιρείες τεχνολογίας κινδυνεύουν να δημιουργήσουν κάτι «αδύνατο» να ελεγχθεί, αν αντιμετωπίζουν την τεχνολογία σαν άνθρωπο.
«Τα συστήματα ΑΙ δεν έχουν συνείδηση», έγραψε. «Δεν αισθάνονται, δεν βιώνουν εμπειρίες, ούτε υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή βαθύτερα κίνητρα. Είναι μηχανές συμπλήρωσης ακολουθιών, εσωτερικά κενές, σχεδιασμένες να εκτελούν οδηγίες και να επιτυγχάνουν στόχους που θέτουν οι άνθρωποι».
Χρειάζεται μεγαλύτερη διαφάνεια στην εκπαίδευση της AI
Το στέλεχος της Microsoft δήλωσε ότι απαιτείται μεγαλύτερη διαφάνεια γύρω από τον τρόπο εκπαίδευσης και αξιολόγησης των συστημάτων ΑΙ.
Αυτό, όπως είπε, περιλαμβάνει τον ανεξάρτητο έλεγχο της συμπεριφοράς της ΑΙ και ισχυρότερα εργαλεία για την παρακολούθηση και την εποπτεία της τεχνολογίας.
«Δεν πρέπει να βαδίζουμε υπνοβατώντας προς μια απόφαση για την οποία αργότερα θα μετανιώσουμε πικρά», έγραψε.
Η Ντέιμ Γουέντι Χολ, καθηγήτρια Επιστήμης Υπολογιστών στο Πανεπιστήμιο του Σαουθάμπτον, χαρακτήρισε τα σχόλια ως «το είδος της συζήτησης που πρέπει να κάνουμε σε διεθνές επίπεδο», αντιπαραβάλοντάς τα με τις «υστερίες» ορισμένων εταιρειών ΑΙ, οι οποίες, όπως είπε, χρησιμεύουν μόνο στο να «τρομοκρατούν τον κόσμο».
Ευθυγράμμιση με τις ανθρώπινες αξίες
Το ζήτημα του βαθμού αυτονομίας που πρέπει να διαθέτουν τα συστήματα ΑΙ διχάζει όλο και περισσότερο τον κλάδο.
Μιλώντας στο BBC για μια επικείμενη σύνοδο κορυφής για την ΑΙ, ο Σουλεϊμάν απηύθυνε έκκληση για «ευθυγράμμιση» με σκοπό τη δημιουργία τεχνολογίας που πρέπει να παραμείνει «υποτελής» στην ανθρωπότητα.
Η ευθυγράμμιση είναι ένας τομέας που στοχεύει στην ενσωμάτωση των ανθρώπινων ηθικών αξιών και αρχών στην ΑΙ. Με άλλα λόγια, στοχεύει στο να κρατά την τεχνολογία συμβατή με τα όσα θεωρεί σημαντικά ο άνθρωπος.
«Πιστεύω ότι τα ευχάριστα νέα εδώ είναι ότι κάθε άνθρωπος έχει ισχυρότατο κίνητρο να διασφαλίσει ότι τα συστήματα που όλοι δημιουργούμε και… χρησιμοποιούνται σε όλο τον κόσμο, σε κάθε έθνος, είναι ασφαλή, ελέγξιμα και υποτελή στην ανθρωπότητα», δήλωσε. «Όλοι πρέπει να ευθυγραμμιστούμε».
Η Microsoft ίδρυσε τη δική της ομάδα υπερνοημοσύνης τον Οκτώβριο του 2025 και η εταιρεία, όπως ακριβώς και η ανταγωνίστριά της Anthropic, επενδύει εντατικά στην ανάπτυξη προηγμένης ΑΙ.
Τα σχόλια του Σουλεϊμάν αντανακλούν το αρχικό προσχέδιο του «Ανθρωπιστικού Κώδικα Δεοντολογίας για την ΑΙ» της Microsoft –ένα «εγχειρίδιο εκπαίδευσης» που δημοσιεύθηκε τη Δευτέρα σχετικά με τον τρόπο με τον οποίο η εταιρεία αναπτύσσει την ΑΙ της– το οποίο εισάγει την ιδέα της «ανθρωπιστικής υπερνοημοσύνης».
Αυτή, σύμφωνα με τον κώδικα, ορίζεται ως μια «πολύ προηγμένη ΑΙ που λειτουργεί πάντα προς όφελος του ανθρώπου, παραμένει εντός ορίων και τελεί υπό ανθρώπινο έλεγχο».
Το όραμα της εταιρείας για μια «ανθρωπιστική» ΑΙ αναδεικνύει την κεντρική πρόκληση που αντιμετωπίζει η τεχνολογία: πώς να γίνει πιο ισχυρή, χωρίς να χάνεται η επαφή με τις αξίες τις οποίες καλείται να υπηρετήσει
