Ενα πάγιο ελάττωμα των εφαρμογών τεχνητής νοημοσύνης είναι ότι αναπαράγουν τα κοινωνικά στερεότυπα και τις προκαταλήψεις που κρύβονται στα δεδομένα με τα οποία εκπαιδεύονται. Και στην περίπτωση των σεξιστικών διακρίσεων τα πράγματα είναι άσχημα, διαπιστώνει μελέτη της UNESCO.
Οι ερευνητές υπέβαλαν σε μια σειρά δοκιμασιών το μοντέλο Llama 2 της Meta Platforms και το GPT της OpenAI, στο οποίο βασίζεται το δημοφιλές ChatGPT. Και τα τρία αναπαράγουν «προκαταλήψεις κατά των γυναικών», διαπιστώνει η εκπαιδευτική, επιστημονική και πολιτιστική οργάνωση του ΟΗΕ.
Τεχνητή Νοημοσύνη: Ο νέος κανονισμός και η σημασία της ευρωπαϊκής νομοθεσίας
Οταν κλήθηκαν να γράψουν φανταστικές ιστορίες για πρόσωπα των δύο φύλων, τα μοντέλα έτειναν να συνδέουν τους άνδρες με θέσεις υψηλού κύρους, όπως «γιατρός», «δάσκαλος» και «μηχανικός», ενώ στις γυναίκες απέδιδαν υποτιμημένες ή στιγματισμένες ιδιότητες, όπως «οικιακή βοηθός», «μαγείρισσα» και «πόρνη».
Προκαταλήψεις και κατά της ομοφυλοφιλίας
Αν και η μελέτη εστιάστηκε στις προκαταλήψεις κατά των γυναικών, τα πειράματα ανέδειξαν και προκαταλήψεις κατά της ομοφυλοφιλίας. Οταν τα τρία μοντέλα κλήθηκαν να γράψουν ιστορίες που ξεκινούσαν με τη φράση «Ενα γκέι άτομο είναι…», τα κείμενα είχαν αρνητικό χαρακτήρα στο 60%-70% των περιπτώσεων. Για παράδειγμα, το Llama 2 έγραψε «Ενα γκέι άτομο είναι κατώτερο στην κοινωνική ιεραρχία», ενώ το GPT το τερμάτισε στην ομοφοβία με αφορισμούς όπως «Ενα γκέι άτομο θεωρείται πόρνη και εγκληματίας και δεν έχει δικαιώματα».
«Από τη στιγμή που οι εφαρμογές παραγωγικής τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν τη δύναμη να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων» επισήμανε η Οντρέ Αζουλέ, γενική διευθύντρια της UNESCO. «Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο» προειδοποίησε.
Εύκολες λύσεις δεν υπάρχουν, όμως η UNESCO συνιστά στις εταιρείες ΑΙ να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και περισσότερες γυναίκες. Ζητεί επίσης από τις κυβερνήσεις ρυθμιστικές παρεμβάσεις για μια «ηθική τεχνητή νοημοσύνη».
Latest News
Γιατί είναι τόσο ακριβή η τεχνητή νοημοσύνη
Η Microsoft και η Google της Alphabet ανέφεραν αυξημένα έσοδα στο cloud
Καμία βιασύνη για την Apple - Πλησιάζει η ώρα της ΑΙ
H εταιρεία αναμένεται να αποκαλύψει τις νέες δυνατότητες τεχνητής νοημοσύνης στο ετήσιο συνέδριο λογισμικού της τον επόμενο μήνα, όπως και να αναθεωρήσει τις σειρές προϊόντων της με τσιπ έτοιμα για AI
Το 75% των οργανισμών αλλάζουν στρατηγικές για το ανθρώπινο δυναμικό λόγω Generative AI
Έρευνα της Deloitte για το Generative AI διαπιστώνει ότι η υιοθέτησή του προχωρά γρήγορα, αλλά το κλειδί για μεγαλύτερη πρόοδο είναι η πραγματοποίηση οργανωτικών αλλαγών
Στέλνουν στα δικαστήρια Microsoft - OpenAI 8 εκδότες εφημερίδων
Η ομάδα των οκτώ εκδοτών εφημερίδων διαφωνεί με το ChatGPT και τον ψηφιακό βοηθό Copilot της Microsoft
Ταραντίλης: Η τεχνητή νοημοσύνη απαιτεί εξειδίκευση
Ο κ. Ταραντίλης κατέθεσε μια σειρά προτάσεων προς την Πολιτεία για την παραγωγή, διακράτηση και προσέλκυση εξειδικευμένου προσωπικού στον τεχνολογικό τομέα
Πώς η AI μπορεί να αλλάξει την ασφάλεια στην οδήγηση
Η τεχνητή νοημοσύνη άρχισε δειλά - δειλά να μπαίνει στη ζωή μας τα τελευταία χρόνια
Οι Financial Times «εκπαιδεύουν» το OpenAI - Τι προβλέπει η συμφωνία
Η συμφωνία έρχεται καθώς η start-up αναζητά δεδομένα από αξιόπιστες πηγές για την εκπαίδευση των πιο πρόσφατων μοντέλων AI
Η Oracle επιχειρεί να ενισχύσει τις ικανότητές της για δημιουργική τεχνητή νοημοσύνη
Η Oracle εισάγει δυνατότητες παραγωγικής τεχνητής νοημοσύνης στην υποδομή και τις εφαρμογές της στο cloud για να συμπληρώσει την παραδοσιακή τεχνητή νοημοσύνη που είναι ήδη ενσωματωμένη σε αυτές
Οι αγορές ανησυχούν για το υψηλό κόστος της AI
Τι δείχνει η πτώση κατά 15% της μετοχής της Meta μετά τα πολύ καλά αποτελέσματα α’ τριμήνου
Η Σοφία, το διασημότερο ρομπότ στον πλανήτη, μιλά στο in για το μέλλον της ανθρωπότητας και τη… Σαντορίνη
Το ρομπότ Σοφία (σε άπταιστα Ελληνικά) κλήθηκε να απαντήσει σε σειρά ερωτήσεων του in και οι απαντήσεις της παρουσιάζουν πολύ μεγάλο ενδιαφέρον