Το 2021, ο κολοσσός της υγειονομικής περίθαλψης στις ΗΠΑ Johnson & Johnson ανακοίνωσε «ένα άλμα προς τα εμπρός». Η εταιρεία του Acclarent εισήγαγε τεχνητή νοημοσύνη σε ιατρική συσκευή που χρησιμοποιείται για τη θεραπεία της χρόνιας ιγμορίτιδας. Και πως το Σύστημα Πλοήγησης TruDi θα χρησιμοποιεί πλέον έναν αλγόριθμο μηχανικής μάθησης για να βοηθά τους ειδικούς ωτορινολαρυγγολόγους σε χειρουργικές επεμβάσεις. Μια επανάσταση για την υγεία. Άλλωστε πλέον ρομπότ πραγματοποίησε «μόνο του» χειρουργείο στις ΗΠΑ.
Όσο και αν η είδηση ακούγεται εντυπωσιακή, σύμφωνα με το αποκλειστικό ρεπορτάζ του Reuters, από τότε που προστέθηκε η τεχνητή νοημοσύνη στη συσκευή, η Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) έχει λάβει ανεπιβεβαίωτες αναφορές για τουλάχιστον 100 δυσλειτουργίες και ανεπιθύμητα συμβάντα σε ασθενείς. Και οι καταγγέλλοντες δείχνουν την τεχνολογία ως υπεύθυνη.
Τα περισσότερα φέρονται να αφορούσαν σφάλματα στα οποία το TruDi παραπληροφόρησε τους χειρουργούς σχετικά με τη θέση των εργαλείων τους ενώ τα χρησιμοποιούσαν μέσα στα κεφάλια των ασθενών κατά τη διάρκεια των χειρουργικών επεμβάσεων. Αυτό είχε αποτέλεσμα να διαρρεύσει εγκεφαλονωτιαίο υγρό από τη μύτη ασθενούς. Σε άλλη περίπτωση, χειρουργός τρύπησε κατά λάθος τη βάση του κρανίου ενός ασθενούς. Σε δύο άλλες περιπτώσεις, ασθενείς φέρονται να υπέστησαν εγκεφαλικά επεισόδια μετά από τυχαίο τραυματισμό αρτηρίας.
Αν και δεν είναι σαφές ποιο ρόλο έπαιξε η τεχνητή νοημοσύνη στα περιστατικά αυτά, τα θύματα εγκεφαλικού επεισοδίου υπέβαλαν αγωγή στο Τέξας. Ισχυρίστηκαν ότι η τεχνητή νοημοσύνη του συστήματος TruDi συνέβαλε στους τραυματισμούς τους. Και πως το σύστημα πλοήγησης ήταν ασφαλέστερο πριν από την ενσωμάτωση του λογισμικού.
Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τους ισχυρισμούς των αγωγών.
Ερωτηθείσα η Johnson & Johnson παρέπεμψε ερωτήσεις στην Integra LifeSciences, η οποία το 2024 αγόρασε την Acclarent και το Σύστημα Πλοήγησης TruDi. Η Integra LifeSciences δήλωσε ότι οι αναφορές «δεν κάνουν τίποτα περισσότερο από το να υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιούνταν σε μια χειρουργική επέμβαση όπου έλαβε χώρα ένα ανεπιθύμητο συμβάν». Πρόσθεσε ότι «δεν υπάρχουν αξιόπιστα στοιχεία που να δείχνουν οποιαδήποτε αιτιώδη σύνδεση μεταξύ του Συστήματος Πλοήγησης TruDi, της τεχνολογίας Τεχνητής Νοημοσύνης και τυχόν φερόμενων τραυματισμών».
Τυχαίο;
Ασφαλώς, κανείς δεν μπορεί να αποκλείσει το ενδεχόμενο της τυχαιότητας. Ωστόσο, τα περιστατικά αυτά έρχονται καθώς η τεχνητή νοημοσύνη αρχίζει να μεταμορφώνει τον κόσμο της υγειονομικής περίθαλψης. Ανασκόπηση του Reuters για τα αρχεία ασφαλείας και τα νομικά αρχεία, καθώς και συνεντεύξεις με γιατρούς, νοσηλευτές, επιστήμονες και ρυθμιστικές αρχές, καταγράφει ορισμένους από τους κινδύνους της ΑΙ στην ιατρική, καθώς οι κατασκευαστές συσκευών, οι τεχνολογικοί γίγαντες και οι προγραμματιστές λογισμικού αγωνίζονται να την εφαρμόσουν.
Το σύστημα TruDi δεν είναι το μόνο που αμφισβητείται: Ο FDA έχει λάβει αναφορές που αφορούν δεκάδες άλλες συσκευές ενισχυμένες με τεχνητή νοημοσύνη. Μεταξύ αυτών ένα καρδιακό μόνιτορ που λέγεται ότι έχει παραβλέψει ανώμαλους καρδιακούς παλμούς και μιας συσκευής υπερήχων που φέρεται να έχει αναγνωρίσει εσφαλμένα μέρη του σώματος του εμβρύου.
Ερευνητές από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσαν πρόσφατα ότι 60 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη και έχουν εγκριθεί από τον FDA συνδέονταν με 182 ανακλήσεις προϊόντων. Το 43% των ανακλήσεων πραγματοποιήθηκε λιγότερο από ένα χρόνο αφότου οι συσκευές έλαβαν άδεια. Πρόκειται για περίπου το διπλάσιο ποσοστό ανάκλησης όλων των συσκευών που έχουν εγκριθεί βάσει παρόμοιων κανόνων του FDA.
FDA και τεχνητή νοημοσύνη
Η άνθηση της τεχνητής νοημοσύνης αποτελεί πρόβλημα για τον FDA, δήλωσαν στο Reuters πέντε νυν και πρώην επιστήμονες του οργανισμού. Αγωνίζεται να συμβαδίσει με την πλημμύρα ιατρικών συσκευών ενισχυμένων με τεχνητή νοημοσύνη που ζητούν έγκριση μετά την απώλεια βασικού προσωπικού.
Επίσης, chatbots γενετικής τεχνητής νοημοσύνης κάνουν επίσης την εμφάνισή τους στην ιατρική. Πολλοί γιατροί χρησιμοποιούν πλέον την τεχνητή νοημοσύνη για να εξοικονομήσουν χρόνο, όπως στη μεταγραφή σημειώσεων. Επίσης, πολλοί ασθενείς χρησιμοποιούν chatbots για να αυτοδιαγνώσουν ή να αμφισβητήσουν επαγγελματικές συμβουλές, θέτοντας νέες προκλήσεις και κινδύνους.
Από το 1995
Ο FDA ενέκρινε τις πρώτες ιατρικές συσκευές ενισχυμένες με τεχνητή νοημοσύνη το 1995 – δύο συστήματα που χρησιμοποιούσαν λογισμικό αντιστοίχισης προτύπων για τον έλεγχο του καρκίνου του τραχήλου της μήτρας. Η τεχνολογία χρησιμοποιείται στην ακτινολογία, για παράδειγμα, για την ενίσχυση και ανάλυση ιατρικών εικόνων. Μπορεί να βοηθήσει στη διάγνωση καρκίνων εντοπίζοντας όγκους που οι γιατροί μπορεί να παραβλέπουν.
Τέτοια συστήματα χρησιμοποιούνται επίσης σε χειρουργικές συσκευές. Τον Ιούνιο του 2022, ένας χειρουργός εισήγαγε ένα μικρό μπαλόνι στην κοιλότητα των ρινικών κόλπων της Έριν Ραλφ σε νοσοκομείο στο Φορτ Γουόρθ του Τέξας. Σύμφωνα με αγωγή που κατέθεσε η Ραλφ, ο Δρ Μαρκ Ντιν χρησιμοποιούσε το Σύστημα Πλοήγησης TruDi, το οποίο χρησιμοποιεί τεχνητή νοημοσύνη, για να επιβεβαιώσει τη θέση των οργάνων του μέσα στο κεφάλι της. Η διαδικασία, γνωστή ως ιγμοροπλαστική, είναι μια ελάχιστα επεμβατική τεχνική για τη θεραπεία της χρόνιας ιγμορίτιδας. Ένα μπαλόνι φουσκώνει για να διευρυνθεί το άνοιγμα της κοιλότητας των ρινικών κόλπων, να επιτραπεί καλύτερη αποστράγγιση και να ανακουφιστεί η φλεγμονή.
Ωστόσο, το σύστημα TruDi «παραπλάνησε και λανθασμένα κατεύθυνε» τον γιατρό, σύμφωνα με την αγωγή. Μια καρωτιδική αρτηρία – η οποία παρέχει αίμα στον εγκέφαλο, το πρόσωπο και τον λαιμό – φέρεται να τραυματίστηκε, οδηγώντας σε θρόμβο αίματος. Σύμφωνα με δικαστικό έγγραφο, ο δικηγόρος της ασθενούς είπε ότι τα αρχεία δείχνουν ότι ο γιατρός «δεν είχε ιδέα ότι βρισκόταν κοντά στην καρωτιδική αρτηρία».
Η Έριν Ραλφ είχε υποστεί εγκεφαλικό επεισόδιο. Η μητέρα τεσσάρων παιδιών επέστρεψε και πέρασε πέντε ημέρες σε ΜΕΘ.
Μια καρωτίδα «εξερράγη»
Τον Μάιο του 2023, ο ίδιος γιατρός χρησιμοποιούσε TruDi σε μια άλλη επέμβαση ιγμορίτιδας όταν η καρωτίδα αρτηρία της ασθενούς Ντόναα Ντόνα Φέρνιχο, φέρεται να «εξερράγη». Το αίμα «ψεκαζόταν παντού». Μία από τις καρωτίδες αρτηρίες της Fernihough είχε υποστεί βλάβη. Υπέστη εγκεφαλικό επεισόδιο την ημέρα της επέμβασης, σύμφωνα με την αγωγή της.
Η Acclarent αρνήθηκε τους ισχυρισμούς και στις δύο αγωγές, οι οποίες βρίσκονται σε εξέλιξη, σύμφωνα με τα δικαστικά έγγραφα. Η εταιρεία λέει ότι δεν σχεδίασε ούτε κατασκεύασε το σύστημα TruDi, αλλά μόνο το διένειμε, σύμφωνα με τα δικαστικά έγγραφα. Ο ιδιοκτήτης της Acclarent, Integra LifeSciences, δήλωσε στο Reuters ότι δεν υπάρχουν στοιχεία που να αποδεικνύουν τη σύνδεση μεταξύ της τεχνολογίας με τεχνητή νοημοσύνη και τυχόν φερόμενων τραυματισμών.
Ο Δρ Μαρκ Ντιν Dean άρχισε να παρέχει συμβουλευτικές υπηρεσίες για την Acclarent το 2014 και έλαβε περισσότερα από 550.000 δολάρια σε αμοιβές συμβούλων από την εταιρεία έως το 2024. Δικηγόρος του δήλωσε ότι ο γιατρός δεν μπορούσε να σχολιάσει λόγω του απορρήτου των ασθενών και των συνεχιζόμενων δικαστικών διαφορών. Η Integra δήλωσε ότι ο Ντιν δεν είναι πλέον σύμβουλος της TruDi και ότι οι πληρωμές που του έγιναν μετά την εξαγορά της Acclarent αφορούσαν γεύματα.
Οι υπάλληλοι της Acclarent είχαν προσεγγίσει τον Δρα Ντιν για το σχέδιο να προστεθεί τεχνητή νοημοσύνη στη συσκευή. Ο γιατρός, σύμφωνα με τα δικαστικά έγγραφα, φέρεται να προειδοποίησε την εταιρεία ότι «ότι υπήρχαν ζητήματα που έπρεπε να επιλυθούν». Παρ’ όλα αυτά, η Acclarent «μείωσε τα πρότυπα ασφαλείας της για να εισάγει γρήγορα τη νέα τεχνολογία στην αγορά» και έθεσε «ως στόχο μόνο 80% ακρίβεια για μέρος αυτής της νέας τεχνολογίας πριν την ενσωματώσει στο Σύστημα Πλοήγησης TruDi».
«Λάθος μέρη σώματος»
Ο FDA προειδοποιεί ότι οι αναφορές για ανεπιθύμητα συμβάντα και δυσλειτουργίες συσκευών είναι περιορισμένες. Συχνά δεν έχουν λεπτομέρειες, έχουν κρυφτεί για την προστασία των εμπορικών μυστικών και δεν μπορούν να χρησιμοποιηθούν μόνες τους για την απόδοση ευθυνών. Ο οργανισμός λαμβάνει επίσης μερικές φορές πολλαπλές αναφορές για ένα μόνο περιστατικό.
Σύμφωνα με το Reuters, τουλάχιστον 1.401 από τις αναφορές που υποβλήθηκαν στον FDA μεταξύ 2021 και Οκτωβρίου 2025 αφορούν ιατρικές συσκευές που βρίσκονται σε μια λίστα του FDA με 1.357 προϊόντα που χρησιμοποιούν τεχνητή νοημοσύνη. Ο οργανισμός αναφέρει ότι η λίστα δεν είναι πλήρης. Από αυτές τις αναφορές, τουλάχιστον 115 αναφέρουν προβλήματα με λογισμικό, αλγόριθμους ή προγραμματισμό.
Έκθεση του FDA τον Ιούνιο του 2025 ισχυρίστηκε ότι το λογισμικό Sonio Detect με τεχνητή νοημοσύνη που χρησιμοποιείται για προγεννητικούς υπερήχους αναγνώριζε λανθασμένα μέρη του σώματος του εμβρύου. «Ο αλγόριθμος τεχνητής νοημοσύνης του λογισμικού Sonio detect είναι ελαττωματικός και επισημαίνει λανθασμένα τις εμβρυϊκές δομές και τις συσχετίζει με λάθος μέρη του σώματος», αναφέρει η έκθεση, η οποία δεν αναφέρει ότι κάποιος ασθενής υπέστη βλάβη.
Επίσης, τουλάχιστον 16 καταγγελίες αναφέρουν ότι καρδιακά μόνιτορ με υποβοήθηση τεχνητής νοημοσύνης που κατασκευάζονται από τον γίγαντα ιατρικών συσκευών Medtronic δεν αναγνώρισαν μη φυσιολογικούς ρυθμούς ή παύσεις. Καμία από τις αναφορές δεν ανέφερε τραυματισμούς. Η Medtronic δήλωσε στον FDA ότι ορισμένα από τα περιστατικά προκλήθηκαν από «σύγχυση των χρηστών».
Η Medtronic δήλωσε στο Reuters ότι εξέτασε και τα 16 επεισόδια και κατέληξε στο συμπέρασμα ότι η συσκευή της έχασε μόνο ένα μη φυσιολογικό συμβάν καρδιακού ρυθμού. «Καμία από αυτές τις αναφορές δεν οδήγησε σε βλάβη του ασθενούς», ανέφερε. Η Medtronic δήλωσε ότι ορισμένα από τα περιστατικά σχετίζονταν με προβλήματα με την εμφάνιση δεδομένων, όχι με την τεχνολογία τεχνητής νοημοσύνης. Αρνήθηκε να εξηγήσει πλήρως τι πήγε στραβά σε κάθε περιστατικό.
Περικόπτοντας ομοσπονδιακούς πόρους
Την ώρα που η τεχνητή νοημοσύνη εισάγεται σε όλο και περισσότερες ιατρικές διαδικασίας, στις ΗΠΑ η κυβέρνηση Τραμπ περικόπτει τους πόρους προς τον FDA. Σε συνεντεύξεις, πέντε νυν και πρώην επιστήμονες του FDA που εξέτασαν ιατρικές συσκευές που τροφοδοτούνται από τεχνητή νοημοσύνη δήλωσαν στο Reuters ότι οι ομοσπονδιακές ρυθμιστικές αρχές είναι πλέον λιγότερο εξοπλισμένες για να χειριστούν την πλημμύρα νέων.
Πριν από περίπου τέσσερα χρόνια, ο FDA επέκτεινε το κατάλογο επιστημόνων που ειδικεύονται στην Τεχνητή Νοημοσύνη, ιδιαίτερα για την αναθεώρηση συσκευών ιατρικής απεικόνισης και ακτινολογίας που χρησιμοποιούν την τεχνολογία.
«Ορισμένες ανώτερες ρυθμιστικές αρχές δεν έχουν ιδέα πώς λειτουργούν αυτές οι τεχνολογίες», είπε πρώην υπάλληλος. «Συναντηθήκαμε στενά με ανώτερες ρυθμιστικές αρχές και τους εξηγήσαμε γιατί πιστεύουμε ότι αυτή η τεχνολογία είναι ασφαλής ή όχι για χρήση στην αγορά».
Δεν ήταν εύκολο να προσελκύσουμε κορυφαία ταλέντα σε κυβερνητικές υπηρεσίες. Η πρόσληψη επιστημόνων υπολογιστών συχνά απαιτούσε να τους πείσουμε να απορρίψουν υψηλότερους μισθούς στον ιδιωτικό τομέα. Στην εργασία τους, οι επιστήμονες προσπαθούσαν να «σπάσουν» τα μοντέλα τεχνητής νοημοσύνης των συσκευών, είπε πρώην υπάλληλος. Δοκίμαζαν τους αλγόριθμους μιας συσκευής σε μια ποικιλία κλινικών καταστάσεων και έλεγχαν εάν η απόδοση που είχε η τεχνητή νοημοσύνη επιδεινωνόταν με την πάροδο του χρόνου. Επιδίωκαν επίσης να ελαχιστοποιήσουν τις «παραισθήσεις», στις οποίες τα μοντέλα Τεχνητής Νοημοσύνης μερικές φορές παράγουν ψευδείς πληροφορίες, έγραψαν αξιωματούχοι του FDA σε μια εργασία που δημοσιεύθηκε τον Οκτώβριο.
Ίλον Μασκ και DOGE
Αλλά στις αρχές του περασμένου έτους, η κυβέρνηση Τραμπ άρχισε να διαλύει την ομάδα Τεχνητής Νοημοσύνης στο πλαίσιο της εκστρατείας μείωσης κόστους του Έλον Μασκ, του Υπουργείου Αποδοτικότητας της Κυβέρνησης ή DOGE. Περίπου 15 από τους 40 επιστήμονες Τεχνητής Νοημοσύνης στη μονάδα DIDSR απολύθηκαν ή επέλεξαν να φύγουν, ανέφεραν οι πηγές του FDA. Μια άλλη μονάδα που διαμόρφωσε την πολιτική για τις συσκευές που χρησιμοποιούν Τεχνητή Νοημοσύνη, το Κέντρο Αριστείας Ψηφιακής Υγείας, έχασε περίπου το ένα τρίτο του προσωπικού της, περίπου 30 άτομα.
Ο Άντριου Νίξον, εκπρόσωπος του Υπουργείου Υγείας των ΗΠΑ, δήλωσε ότι ο FDA εφαρμόζει τα ίδια αυστηρά πρότυπα στις ιατρικές συσκευές που υποστηρίζονται από τη μηχανική μάθηση και άλλες τεχνολογίες με τεχνητή νοημοσύνη, όπως θα έκανε σε οποιοδήποτε προϊόν.
«Η ασφάλεια των ασθενών είναι η ύψιστη προτεραιότητα του FDA και βρίσκεται στην πρώτη γραμμή του έργου μας για την προστασία και την προώθηση της δημόσιας υγείας», δήλωσε ο Νίξον. «Ο FDA βλέπει τεράστια υπόσχεση στον χώρο της ψηφιακής υγείας», συμπεριλαμβανομένων των συσκευών που ενεργοποιούνται με τεχνητή νοημοσύνη και μηχανική μάθηση, «για να βοηθήσουν στη διάγνωση και θεραπεία μιας σειράς παθήσεων». Είπε ότι ο FDA συνεχίζει να προσλαμβάνει και να αναπτύσσει ταλέντα με εξειδίκευση στην ψηφιακή υγεία, την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες.
Πηγή: in.gr
• Με στοιχεία από το Reuters
