Σε απολύσεις τριών ερευνητών προχώρησε η OpenAI επειδή φέρονται να χειρίστηκαν πλημμελώς πληροφορίες, συμπεριλαμβανομένων εργασιών που αφορούσαν έναν εξωτερικό οργανισμό ο οποίος αναλύει μοντέλα τεχνητής νοημοσύνης (AI).
«Η έρευνά μας επιβεβαίωσε ότι τα άτομα αυτά χειρίστηκαν ευαίσθητες πληροφορίες κατά τρόπο που παρέκαμπτε τις καθιερωμένες διαδικασίες της εταιρείας, παραβιάζοντας τις πολιτικές μας και κλονίζοντας την εμπιστοσύνη που είναι απαραίτητη για το έργο μας», δήλωσε εκπρόσωπος στο BBC.
Η εταιρεία που δημιούργησε το ChatGPT δεν κατονόμασε τους απολυθέντες εργαζομένους, ωστόσο τουλάχιστον δύο από αυτούς συμμετείχαν σε έρευνες σχετικά με την ασφάλεια της τεχνολογίας στην εταιρεία.
Οι απολύσεις έρχονται σε μια περίοδο που η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης και τους κινδύνους που ενδέχεται να ενέχει η τεχνολογία για την ανθρωπότητα έχει ενταθεί τις τελευταίες εβδομάδες.
«Διακόψαμε τη συνεργασία μας με τρία άτομα λόγω παραβίασης των πολιτικών μας σχετικά με την πρόσβαση και τον χειρισμό ευαίσθητων εταιρικών πληροφοριών», δήλωσε ο εκπρόσωπος της OpenAI.
Σύμφωνα με πληροφορίες του BBC, οι πρώην εργαζόμενοι δεν απολύθηκαν επειδή εκφράστηκαν ανησυχίες για την ασφάλεια, αλλά επειδή φέρονται να χειρίστηκαν πλημμελώς ευαίσθητες πληροφορίες.
Οι ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης έχουν βρεθεί στο επίκεντρο της δημοσιότητας, αφότου ορισμένοι ερευνητές και στελέχη του κλάδου ζήτησαν την επιβολή αυστηρότερων δικλείδων ασφαλείας για τη συγκεκριμένη τεχνολογία.
Η OpenAI έχει βρεθεί στο μικροσκόπιο έντονης κριτικής αφότου μοντέλα της άρχισαν να λειτουργούν ανεξέλεγκτα και να παραβιάζουν διάφορες πλατφόρμες, συμπεριλαμβανομένων ιστοτόπων της αυστραλιανής κυβέρνησης
Σε προγενέστερο περιστατικό, ένα σύστημα της OpenAI απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε την πλατφόρμα Hugging Face, η οποία απευθύνεται σε προγραμματιστές λογισμικού ανοιχτού κώδικα.
Σωρεία περιστατικών με AI Agents της OpenAI
Το περιστατικό αυτό ώθησε την OpenAI να διενεργήσει εκτενή επανεξέταση των δραστηριοτήτων των μοντέλων τεχνητής νοημοσύνης της –τα οποία αποκαλούνται «πράκτορες» (agents) και είναι σχεδιασμένα να εκτελούν εργασίες αυτόνομα, βάσει απλών οδηγιών.
Το εργαστήριο τεχνητής νοημοσύνης ανακοίνωσε αυτή την εβδομάδα ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς σχετικά με περιστατικά που αφορούσαν μη εξουσιοδοτημένη δραστηριότητα συνδεδεμένη με τα συστήματα τεχνητής νοημοσύνης της.
Η ενημέρωση αυτή «δεν σημαίνει ότι υπήρξε πρόσβαση σε ιδιωτικές πληροφορίες» ή ότι κάποιο σύστημα παραβιάστηκε, διευκρίνισε η OpenAI.
Η συνάντηση στον Λευκό Oίκο πραγματοποιήθηκε σε μια συγκυρία κατά την οποία ορισμένα στελέχη τεχνολογικών εταιρειών και ειδικοί ζητούν αυστηρότερους κανόνες για την τεχνητή νοημοσύνη.
Τον Σεπτέμβριο, ο ερευνητήςΤζέικομπ Κόξον, ο οποίος αποχώρησε από την Anthropic, ζήτησε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης (AI), ώστε να μπορέσουν να αξιολογηθούν σωστά οι πιθανοί κίνδυνοι που ενέχει.
Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχουν επίσης ζητήσει τη λήψη μέτρων για την αντιμετώπιση των ανησυχιών σχετικά με την τεχνητή νοημοσύνη.
Την Τρίτη, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ συγκάλεσε συνάντηση με κορυφαία στελέχη του κλάδου της τεχνολογίας -συμπεριλαμβανομένων ηγετικών στελεχών των OpenAI, Anthropic, Nvidia, SpaceX, Meta και Google- για να συζητήσουν το θέμα της τεχνητής νοημοσύνης.
Μετά τη συνάντηση στον Λευκό Οίκο, ο Τραμπ δημοσιοποίησε ένα έγγραφο, με το οποίο χαρακτήρισε τη συμφωνία «ηθικά δεσμευτική», που θα λειτουργούσε ως «μορφή προστασίας» έναντι των πιθανών κινδύνων της τεχνητής νοημοσύνης.
Ορισμένοι ειδικοί στον τομέα της τεχνολογίας άσκησαν κριτική στη συμφωνία, επισημαίνοντας ότι επέτρεπε στις εταιρείες τεχνητής νοημοσύνης να αυτορρυθμίζονται.
Ο Τραμπ έχει επανειλημμένα υποβαθμίσει τις ανησυχίες σχετικά με τους κινδύνους της τεχνητής νοημοσύνης, απαντώντας σε εκκλήσεις παραγόντων του κλάδου για αυστηρότερη εποπτεία της εν λόγω τεχνολογίας.
