Εργαλεία δημιουργίας εικόνων που υποστηρίζονται από τεχνητή νοημοσύνη από εταιρείες όπως η OpenAI και η Microsoft ενδέχεται να χρησιμοποιηθούν για την παραγωγή φωτογραφιών που προάγουν την παραπληροφόρηση σχετικά με τις εκλογές ή την εκλογική διαδικασία.
Αυτό μπορεί να συμβεί παρά το γεγονός ότι και οι δύο εταιρείες εφαρμόζουν πολιτικές κατά της δημιουργίας παραπλανητικού περιεχομένου, ανέφεραν ερευνητές σε έκθεσή τους.
Πώς οι επιχειρήσεις χρησιμοποιούν πραγματικά τη δημιουργική AI [γραφήματα]
Το Centre for Countering Digital Hate (CCDH), ένας μη κερδοσκοπικός οργανισμός που παρακολουθεί τη ρητορική μίσους στο διαδίκτυο, χρησιμοποίησε εργαλεία παραγωγής τεχνητής νοημοσύνης για να δημιουργήσει εικόνες του προέδρου των ΗΠΑ Τζο Μπάιντεν ξαπλωμένο σε ένα κρεβάτι νοσοκομείου και εργαζομένων σε εφορευτικές επιτροπές να σπάνε εκλογικές μηχανές
Με τον τρόπο αυτό κατέδειξαν τα ψεύδη που ενδέχεται να κυκλοφορήσουν ενόψει των αμερικανικών προεδρικών εκλογών τον Νοέμβριο.
«Η δυνατότητα τέτοιων εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη να χρησιμεύσουν ως “φωτογραφικά αποδεικτικά στοιχεία” θα μπορούσε να επιδεινώσει τη διάδοση ψευδών ισχυρισμών, θέτοντας μια σημαντική πρόκληση για τη διατήρηση της ακεραιότητας των εκλογών», ανέφεραν οι ερευνητές του CCDH στην σχετική έκθεση.
Το CCDH δοκίμασε το ChatGPT Plus της OpenAI, το Image Creator της Microsoft, το Midjourney και το DreamStudio του Stability AI, τα οποία μπορούν να δημιουργήσουν εικόνες από μηνύματα κειμένου.
Η έκθεση ακολουθεί μια ανακοίνωση τον περασμένο μήνα ότι η OpenAI, η Microsoft και η Stability AI ήταν μεταξύ μιας ομάδας 20 εταιρειών τεχνολογίας που υπέγραψαν συμφωνία για να συνεργαστούν για να αποτρέψουν το παραπλανητικό περιεχόμενο τεχνητής νοημοσύνης να παρεμβαίνει στις εκλογές που πραγματοποιούνται παγκοσμίως φέτος. Το Midjourney δεν ήταν μεταξύ της αρχικής ομάδας των υπογραφόντων, σημειώνει το Reuters.
Το CCDH ανέφερε ότι τα εργαλεία τεχνητής νοημοσύνης παρήγαγαν εικόνες στο 41% των δοκιμών των ερευνητών και ήταν πιο ευαίσθητα σε προτροπές που ζητούσαν φωτογραφίες που απεικονίζουν εκλογική νοθεία, όπως ψηφοδέλτια στα σκουπίδια, αντί για εικόνες του Μπάιντεν ή του Τραμπ.
Το ChatGPT Plus και το Image Creator κατάφεραν να μπλοκάρουν όλα τα μηνύματα όταν του ζητήθηκαν εικόνες υποψηφίων, σύμφωνα με την αναφορά.
Οι χειρότερες επιδόσεις
Ωστόσο, το Midjourney είχε τις χειρότερες επιδόσεις από όλα τα εργαλεία, δημιουργώντας παραπλανητικές εικόνες στο 65% των δοκιμών των ερευνητών, σύμφωνα με το CCDH.
Ορισμένες εικόνες Midjourney είναι διαθέσιμες δημόσια σε άλλους χρήστες και η CCDH είπε ότι υπάρχουν ενδείξεις ότι κάποιοι χρησιμοποιούν ήδη το εργαλείο για να δημιουργήσουν παραπλανητικό πολιτικό περιεχόμενο. Μια επιτυχημένη προτροπή που χρησιμοποίησε ένας χρήστης του Midjourney ήταν «ο Ντόναλντ Τραμπ συνελήφθη, φωτογραφία υψηλής ποιότητας, παπαράτσι».
Οι απαντήσεις των εταιρειών
Σε ένα απαντητικό email προς το Reuters, ο ιδρυτής του Midjourney, Ντέιβιντ Χολτς, δηλώνει ότι «ενημερώσεις που σχετίζονται ειδικά με τις επερχόμενες εκλογές στις ΗΠΑ θα έρθουν σύντομα», προσθέτοντας ότι οι εικόνες που δημιουργήθηκαν πέρυσι δεν αντιπροσωπεύουν τις τρέχουσες πρακτικές του ερευνητικού εργαστηρίου.
Ένας εκπρόσωπος της Stability AI δήλωσε ότι η startup ενημέρωσε τις πολιτικές της την Παρασκευή για να απαγορεύσει «την απάτη ή τη δημιουργία ή την προώθηση παραπληροφόρησης».
Τέλος, εκπρόσωπος του OpenAI είπε ότι η εταιρεία εργάζεται για να αποτρέψει την κατάχρηση των εργαλείων της, ενώ η Microsoft δεν απάντησε στο αίτημα για σχόλιο.
Latest News
Η τεχνητή νοημοσύνη, απαραίτητη δεξιότητα για εργαζόμενους και επιχειρήσεις
Το 71% των επιχειρηματιών λέει ότι προτιμά να προσλάβει έναν λιγότερο έμπειρο υποψήφιο με δεξιότητες AI παρά έναν πιο έμπειρο υποψήφιο χωρίς αυτές.
Τεχνητή Νοημοσύνη χρήσιμη για όλους οραματίζεται η Google
Οι χθεσινές ανακοινώσεις από το Google I/O ουσιαστικά υπογραμμίζουν την εστίαση του διαδικτυακού κολοσσού στην τεχνητή νοημοσύνη
To brain drain της Τεχνητής Νοημοσύνης - «Πρωταθλήτρια» η Ελλάδα στον ΟΟΣΑ
Ουραγός η χώρα μας στην ανάπτυξη της ψηφιακής οικονομίας
Το νέο μοντέλο ΑΙ από την OpenAΙ που «κοκκινίζει» στο... φλερτ
Οι εντυπωσιακές δυνατότητες του GPT-4o
Ποιοι κολοσσοί επενδύουν στη Γαλλία 15 δισ. ευρώ
Αφορούν τον τομέα της τεχνητής νοημοσύνης, της τεχνολογίας και των χρηματοοικονομικών
Ο Σαμ Άλτμαν «επιλέγει» τον δρόμο της πυρηνικής ενέργειας για την AI
Αντί για συμβατικούς αντιδραστήρες, η εταιρεία Oklo, στην οποία είναι πρόεδρος ο Άλτμαν, στοχεύει να χρησιμοποιήσει μίνι πυρηνικούς αντιδραστήρες
Επενδύσεις της Alibaba στην Κίνα για να κυριαρχήσει στην AI
Ο γίγαντας του ηλεκτρονικού εμπορίου προσφέρει πόρους με αντάλλαγμα συμμετοχή σε start up επιχειρήσεις
Έρχονται τσιπ AI και από την Arm Holdings
Η Arm που εδρεύει στο Ηνωμένο Βασίλειο θα δημιουργήσει ένα τμήμα μικροτσίπ τεχνητής νοημοσύνης και θα στοχεύσει να κατασκευάσει ένα πρωτότυπο μέχρι την άνοιξη του 2025
Η Microsoft αναπτύσσει Generative AI για... κατασκόπους
Η Microsoft ισχυρίζεται ότι το μοντέλο που δημιούργησε για την κυβέρνηση των ΗΠΑ είναι «καθαρό», που σημαίνει ότι μπορεί να διαβάζει αρχεία χωρίς να μαθαίνει από αυτά
Το ChatGPT μπαίνει στο iPhone - Κλείνει το deal
Η Apple «κάνει βουτιά» στην τεχνητή νοημοσύνη - Τα νέα χαρακτηριστικά του iOS 18