Τα περιβόητα Facebook Papers, δηλαδή τα εσωτερικά έγγραφα που διέρρευσαν πρόσφατα από την Φράνσις Χόγκεν, αποκαλύπτουν ευρύτατο πρόβλημα παραπληροφόρησης σε διάφορες περιοχές του κόσμου κυρίως λόγω των άνισα κατανεμημένων πόρων της εταιρείας.
Αιτία για αυτό είναι ότι το Facebook δεν έχει «σύνδεση» με όλες αυτές τις κοινωνίες, εκτός Ηνωμένων Πολιτειών, παρά το γεγονός ότι έχει επίγνωση του ρόλου που παίζει η πλατφόρμα κοινωνικής δικτύωσης στα πολιτικά πράγματα ορισμένων χωρών, σύμφωνα με τους New York Times.
Το Facebook βασίζεται σε έναν συνδυασμό τεχνητής νοημοσύνης και ανθρώπων ελεγκτών (τόσο υπάλληλοι της εταιρείας όσο και εξωτερικοί συνεργάτες). Ωστόσο, η AI προφανώς θα πρέπει να εκπαιδευτεί καλύτερα για να εντοπίζει και να αφαιρεί επιβλαβές περιεχόμενο. Αλλά για να γίνει αυτό θα πρέπει να υπάρχει κατανόηση μίας γλώσσας.
Ενώ το Facebook υποστηρίζει περισσότερες από 100 γλώσσες σε παγκόσμιο επίπεδο, οι ομάδες ελέγχου περιεχομένου δεν βρίσκονται στο ίδιο επίπεδο. Σύμφωνα με δήλωση εκπροσώπου της εταιρείας στο CNN, «οι ομάδες αυτές στελεχώνονται από 15.000 ανθρώπους που ελέγχουν περιεχόμενο σε περισσότερες από 70 γλώσσες και εργάζονται σε 20 τοποθεσίες» σε όλο τον κόσμο.
Το παράδειγμα της Ινδίας
Τα έγγραφα που διέρρευσαν έδειξαν ότι οι εσωτερικοί ερευνητές της εταιρείας διεξήγαγαν δοκιμές και μελέτες στον αλγόριθμο που χρησιμοποιείται ειδικά στην Ινδία όπου το News Feed δίνει προτεραιότητα σε κηρύγματα μίσους, παραπληροφόρηση και επικρότηση της βίας. Αυτού του είδους το περιεχόμενο προερχόταν τόσο από πραγματικούς χρήστες όσο και από bots.
«Στο πλαίσιο των συγκεκριμένων ερευνών στο News Feed χρήστη, είδα περισσότερες εικόνες με νεκρούς ανθρώπους τις προηγούμενες τρεις εβδομάδες απ’ ότι έχω δει σε όλη την υπόλοιπη ζωή μου», αναφέρει χαρακτηριστικά εσωτερικός ερευνητής της Facebook.
Τα έγγραφα έδειξαν επίσης ότι το Facebook είχε εντελώς ασύμμετρη προσέγγιση στο θέμα της καταπολέμησης της παραπληροφόρησης, με 87% του παγκόσμιου προϋπολογισμού της εταιρείας να κατευθύνεται αποκλειστικά στις ΗΠΑ και μόνο το υπόλοιπο 13% να αφορά τις υπόλοιπες χώρες. Σημειώνεται ότι στην Ινδία το Facebook έχει πάνω από 400 εκατομμύρια ενεργούς χρήστες.
Χαρακτηριστικό είναι ότι οι χρήστες του Facebook στην Ινδία μπορούσαν πολύ εύκολα να ποστάρουν περιεχόμενο εναντίον των μουσουλμάνων ή εναντίον του Πακιστάν, σε οποιαδήποτε από τις επίσημες 22 γλώσσες της χώρας. Σύμφωνα με τους Times, η τεχνητή νοημοσύνη του Facebook είχε «εκπαιδευτεί» να αντιλαμβάνεται μόνο τις πέντε από αυτές τις γλώσσες.
Παράλληλα, υπάρχουν και ορισμένοι υπάλληλοι που «ελέγχουν» περιεχόμενο ορισμένων ακόμη ινδικών γλωσσών. Ακόμα και έτσι όμως, περιεχόμενο στις γλώσσες Χίντι ή Μπενγκάλι – από τις πιο κοινές στην Ινδία – πολλές φορές δεν επισημάνθηκε ως ακατάλληλο, λόγω ανεπάρκειας δεδομένων. Το Facebook δήλωσε στο CNN ότι η εταιρεία πρόσθεσε «ελεγκτές» για τα Χίντι το 2018 ενώ για τα Μπενγκάλι μόλις το 2020.
Το πρόβλημα στο Αφγανιστάν και η δυσκολία με τα Αραβικά
Αλλά ακόμα και στις γλώσσες που υπάρχει έλεγχος φαίνεται ότι υπάρχουν σοβαρά προβλήματα στο να φιλτραριστεί το επιβλαβές περιεχόμενο. Χαρακτηριστική είναι η περίπτωση στις μεταφράσεις κηρυγμάτων μίσους στη γλώσσα Παστού στο Αφγανιστάν, με τους ερευνητές να συμπεραίνουν ότι οι μεταφράσεις δεν ήταν ακριβείς ούτε στη λίστα που έπρεπε να συμπληρώσει ένας χρήστης για να ολοκληρώσει μία καταγγελία.
Δυσκολία φαίνεται να υπήρχε ακόμη και στην κατανόηση των διαφορετικών διαλέκτων της Αραβικής, στην ευρύτερη περιοχή της Μέσης Ανατολής και της Βόρειας Αφρικής. Για παράδειγμα, ένας ελεγκτής που μιλάει την Μαροκινή διάλεκτο ενδεχομένως να μην αντιληφθεί επιβλαβές περιεχόμενο στις διαλέκτους της Αλγερίας, της Τυνησίας, της Λιβύης ή των διαλέκτων της Αραβικής Χερσονήσου.
Σύμφωνα με τα Facebook Papers, τα γραφεία που επικεντρώνουν στην Αραβική γλώσσα βρίσκονται στην Καζαμπλάνκα, στο Μαρόκο, και στην Έσση, στη Γερμανία. Αιτία για αυτό ήταν ότι δεν μπορούσαν να ανοίξουν πρόσθετα τοπικά γραφεί λόγω προβλημάτων με τις εκδόσεις αδειών παραμονής και εργασίας σε ορισμένες χώρες.
Latest News
Gaia: Το ΑΙ εργαλείο των τραπεζών για τους κλιματικούς κινδύνους
Τι δείχνει η πιλοτική εφαρμογή του προγράμματος
Ποια είναι η startup που πρασινίζει τις μεταφορές με «καύσιμο» την AI
Με την καινοτομία οδηγό, χαράσσει ρότα για ένα πιο βιώσιμο μέλλον
Αναζητώντας δουλειά από το… Tinder
Η οικονομική ύφεση της χώρας, ο αντίκτυπος της πανδημίας και η εξυγίανση της βιομηχανίας ήρθαν όλα ταυτόχρονα, επηρεάζοντας σημαντικά τον νεανικό πληθυσμό
Ανακοίνωσε το νέο μικροτσίπ τεχνητής νοημοσύνης η Nvidia
Από την εμπορική επιτυχία του νέου τσιπ θα καθοριστεί εάν η εταιρεία θα μπορέσει να διατηρήσει την ηγετική της θέση
Συμμορφωθήκαμε με τον νόμο της ΕΕ για τις ψηφιακές αγορές, λέει η Apple
«Κινηθήκαμε πρώτα και κύρια διασφαλίζοντας ότι έχουμε συμμορφωθεί με τη νομοθεσία», δήλωσε δικηγόρος της εταιρείας σε ακρόαση της ΕΕ
Παγκόσμια δύναμη στους ημιαγωγούς σε 5 χρόνια η Ινδία
Η Ινδία θέλει να επωφεληθεί καθώς περισσότερες εταιρείες προσπαθούν να μειώσουν την εξάρτησή τους από την Κίνα
Μηνύσεις της SEC σε δύο εταιρείες για ψευδείς ισχυρισμούς τεχνητής νοημοσύνης
Η αμερικανική Επιτροπή Κεφαλαιαγοράς αναζητά περιπτώσεις όπου η τεχνολογία χρησιμοποιείται για χειραγώγηση της αγοράς
Ιδού η εταιρεία τεχνολογίας που είχε καλύτερη χρονιά από την Nvidia
Η Super Micro Computer έχει μετατραπεί από έναν άγνωστο κατασκευαστή διακομιστών σε μια εταιρεία 60 δισ. δολαρίων που πρόκειται να ενταχθεί στον S&P 500
Μπλίνκεν – Γεραπετρίτης: Τι συζήτησαν για τεχνητή νοημοσύνη και fake news
Για τους κινδύνους που ελλοχεύουν από εκστρατείες παραπληροφόρησης με χρήση ΑΙ συζήτησαν ο έλληνας ΥΠΕΞ με τον αμερικανό ομόλογό του
Η Apple θέλει το Gemini για τα iPhone
Oι διαπραγματεύσεις αφορούν στην αδειοδότηση του Gemini για ορισμένες νέες δυνατότητες που θα έρχονται στο λογισμικό iPhone φέτος