Η ΑΙ στο εργαστήριο: η επικίνδυνη μοναξιά του σχοινοβάτη

Πριν από λίγες μέρες, η Ευρωπαϊκή Επιτροπή υιοθέτησε ένα ιδιαίτερα φιλόδοξο σχέδιο για τη χρήση της ΤΝ για επιστημονικούς σκοπούς, στο επίκεντρο του οποίου βρίσκεται η δημιουργία ενός εικονικού ευρωπαϊκού ινστιτούτου για τη συγκέντρωση και τον συντονισμό των πόρων που είναι απαραίτητοι για την εφαρμογή της ΤΝ στην επιστήμη.

Οι προκλήσεις στο πεδίο αυτό είναι πολύ μεγάλες αλλά όχι ανυπέρβλητες. Πρώτα απ’ όλα, ο κατακερματισμός δεδομένων κυριαρχεί σε όλα σχεδόν τα επιστημονικά πεδία καθώς συχνά είναι διασκορπισμένα σε διαφορετικές πλατφόρμες με ασύμβατα πρότυπα ενώ απουσιάζει ένα κοινό πλαίσιο διαλειτουργικοτητας. Δεύτερον, τα μοντέλα ΤΝ μεταφέρουν κατά βάση σημαντικές προκαταλήψεις από τα δεδομένα στα οποία εκπαιδεύονται ενώ τα κενά στα διαθέσιμα δεδομένα μπορεί να οδηγήσουν σε αμφισβητούμενα αποτελέσματα.

Mια πρόσφατη έρευνα έδειξε ότι ακόμα και μια απλή ανασκόπηση επιστημονικής βιβλιογραφίας από ένα LLM, περιέχει δομικές προκαταλήψεις καθώς τείνει να επιλέγει εργασίες με συντομότερους τίτλους και λιγότερους συγγραφείς. Υπάρχει επίσης ένα μεγάλο έλλειμμα επεξηγηματικότητας καθώς είναι συχνά δύσκολο να κατανοήσουμε πώς τα μοντέλα ΤΝ καταλήγουν σε συγκεκριμένα συμπεράσματά, κάτι που αποτελεί μείζον πρόβλημα στην επιστήμη όπου η κατανόηση του «γιατί» είναι θεμελιώδους σημασίας.

Θα μπορούσαμε παράλληλα με την αξιοποίηση των χρηματοδοτικών ευκαιριών που μας προσφέρει η νέα αυτή Στρατηγική, να μπούμε σε θέση οδηγού θεσπίζοντας ένα ισχυρό πλαίσιο προστασίας της αξιοπιστίας των ερευνητικών αποτελεσμάτων ειδικά σε σχέση με την παραγωγική ΤΝ;

Δεδομένης της ανεξέλεγκτης εξάπλωσης των παραπλανητικών δημοσιεύσεων με τη βοήθεια της ΤΝ σε συνδυασμό με το ότι πολλές πτυχές της ερευνητικής διαδικασίας βασίζονται πλέον σε αυτή την τεχνολογία (η Gοogle δημιούργησε νωρίτερα φέτος τον AI co-scientist για να βοηθήσει τους επιστήμονες να δημιουργήσουν νέες υποθέσεις και ερευνητικά σχέδια), χρειαζόμαστε σαφείς κανόνες και ισχυρούς μηχανισμούς ελέγχου για να προστατευθεί η φερεγγυότητα των  ακαδημαϊκών δημοσιεύσεων και το κύρος της ίδιας της επιστημονικής έρευνας στο σύνολό της.

Μια πρόσφατη έρευνα έδειξε μάλιστα ότι το 63% των ερευνητών σε όλη την Ευρώπη ανησυχεί ιδιαίτερα για την έλλειψη κοινών κατευθυντήριων γραμμών δεοντολογίας σε σχέση με τη χρήση της ΤΝ στην επιστημονική έρευνα.

Εάν επομένως καταφέρουμε να προτείνουμε ένα καινοτόμο πλαίσιο κανόνων δεοντολογίας για την υπεύθυνη χρήση της ΤΝ στο επιστημονικό πεδίο, θα έχουμε κάνει ένα σημαντικό βήμα για να αποκτήσουν οι επιστήμονες μια πραγματική πυξίδα που θα τους βοηθήσει να πορευτούν με ασφάλεια στα αχαρτογράφητα νερά της νέας τεχνολογικής εποχής.

Μια τέτοια πρωτοβουλία θα μπορούσε ενδεχομένως να επουλώσει τη χαίνουσα πληγή της μαζικής παραγωγής επιστημονικών άρθρων (τα γνωστά paper mills) τα οποία στηρίζονται σε ψευδαισθήσεις και προκαταλήψεις.

Ταυτόχρονα, θα έχουμε καταφέρει να βάλουμε τα θεμέλια για την οικοδόμηση ενός στιβαρού πανευρωπαϊκού προτύπου υπεύθυνης καινοτομίας που θα προωθεί τη διαφάνεια και την ηθική στην επιστημονική χρήση αυτής της συγκεκριμένης τεχνολογίας.

O δρ Μιχάλης Kρητικός είναι κύριος ερευνητής του ΕΛΙΑΜΕΠ, επίκουρος καθηγητής σε θέματα Τεχνητής Νοημοσύνης και Ψηφιακής Μετάβασης στη Σχολή Διακυβέρνησης του Πανεπιστημίου των Βρυξελλών και συγγραφέας του βιβλίου «Ethical AI Surveillance in the Workplace».