Η τεχνητή νοημοσύνη προβάλλεται ως το επόμενο μεγάλο άλμα στην ιατρική: ακριβέστερες διαγνώσεις, καλύτερος χειρουργικός σχεδιασμός, λιγότερα λάθη.
Όμως όσο η AI μπαίνει ολοένα και πιο βαθιά στο χειρουργείο, οι ρυθμιστικές αρχές καταγράφουν μια ανησυχητική αύξηση αναφορών για δυσλειτουργίες ιατρικών συσκευών, σοβαρούς τραυματισμούς ασθενών και περιπτώσεις όπου λογισμικό «μπερδεύει» ανατομικά σημεία.
Σύμφωνα με αναλυτικό ρεπορτάζ του Reuters, χαρακτηριστικό παράδειγμα αποτελεί σύστημα πλοήγησης για επεμβάσεις ιγμορείων, στο οποίο προστέθηκαν αλγόριθμοι μηχανικής μάθησης και το οποίο, σύμφωνα με αναφορές προς τον Οργανισμό Τροφίμων και Φαρμάκων των ΗΠΑ (FDA), συνδέεται με δεκάδες περιστατικά δυσλειτουργιών και τουλάχιστον δέκα σοβαρούς τραυματισμούς την τελευταία τετραετία.
Από «άλμα προς τα εμπρός» σε δεκάδες αναφορές συμβάντων
Όπως επισημαίνεται στο ρεπορτάζ του Reuters το 2021 εταιρεία ανακοίνωνε ότι ενσωμάτωσε τεχνητή νοημοσύνη σε σύστημα πλοήγησης χειρουργικών εργαλείων για την αντιμετώπιση χρόνιας ιγμορίτιδας.
Μέχρι τότε, οι αναφορές προς τον FDA ήταν περιορισμένες. Μετά την προσθήκη AI, οι αναφορές δυσλειτουργιών και ανεπιθύμητων συμβάντων αυξήθηκαν απότομα.
Σύμφωνα με τα στοιχεία, αρκετά περιστατικά αφορούσαν περιπτώσεις όπου το σύστημα φέρεται να παραπληροφόρησε χειρουργούς για τη θέση των εργαλείων μέσα στο κρανίο των ασθενών. Μεταξύ των αναφερόμενων συμβάντων περιλαμβάνονται διαρροή εγκεφαλονωτιαίου υγρού, διάτρηση της βάσης του κρανίου και – στις σοβαρότερες περιπτώσεις – εγκεφαλικά επεισόδια έπειτα από τραυματισμό καρωτίδας.
Οι εταιρείες απορρίπτουν κατηγορηματικά οποιαδήποτε αιτιώδη σύνδεση με την τεχνητή νοημοσύνη, τονίζοντας ότι οι αναφορές του FDA δεν αποδεικνύουν ευθύνη της συσκευής. Ωστόσο, δύο από τις υποθέσεις έχουν οδηγηθεί στη Δικαιοσύνη, με τους ενάγοντες να υποστηρίζουν ότι το σύστημα ήταν «ασφαλέστερο πριν την ενσωμάτωση AI».
Δεν είναι μεμονωμένο περιστατικό
Το συγκεκριμένο σύστημα δεν αποτελεί εξαίρεση. Ο FDA έχει εγκρίνει πλέον πάνω από 1.350 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη, αριθμός διπλάσιος σε σχέση με το 2022. Μαζί με την έκρηξη εγκρίσεων, αυξάνονται και οι αναφορές προβλημάτων.
Μεταξύ αυτών:
- Συστήματα προγεννητικών υπερήχων που φέρονται να αναγνώριζαν λανθασμένα εμβρυϊκά μέλη.
- Εμφυτεύσιμοι καρδιακοί καταγραφείς με AI, για τους οποίους υποβλήθηκαν αναφορές ότι παρέλειψαν παθολογικούς καρδιακούς ρυθμούς, μεταξύ άλλων και σε συσκευές της Medtronic.
- Λογισμικό υπερήχων που ανήκει στη Samsung Medison, το οποίο καταγγέλθηκε ότι «μπέρδευε» ανατομικά σημεία, χωρίς ωστόσο να έχει επιβεβαιωθεί τραυματισμός.
Μελέτη ερευνητών από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale έδειξε ότι δεκάδες AI-ενισχυμένες συσκευές έχουν συνδεθεί με ανακλήσεις προϊόντων – πολλές μέσα στον πρώτο χρόνο από την έγκριση.
Ρυθμιστική πίεση και λιγότερα «μάτια»
Το πρόβλημα επιτείνεται από το γεγονός ότι οι ρυθμιστικές αρχές δυσκολεύονται να παρακολουθήσουν τον ρυθμό ανάπτυξης.
Σύμφωνα με νυν και πρώην επιστήμονες του FDA, κρίσιμες ομάδες αξιολόγησης AI έχουν αποδυναμωθεί τα τελευταία χρόνια, αυξάνοντας τον φόρτο εργασίας όσων παραμένουν.
Σε αντίθεση με τα φάρμακα, πολλές ιατρικές συσκευές – ακόμη και όταν ενσωματώνουν AI – δεν απαιτείται να δοκιμαστούν σε κλινικές δοκιμές πριν φτάσουν στην αγορά. Συχνά εγκρίνονται ως «αναβαθμίσεις» παλαιότερων συσκευών, μια πρακτική που, όπως επισημαίνουν ειδικοί, δημιουργεί νέα επίπεδα αβεβαιότητας όταν προστίθενται αλγόριθμοι που μαθαίνουν και εξελίσσονται.
Υπόσχεση και ρίσκο, ταυτόχρονα
Η τεχνητή νοημοσύνη, επισημαίνει το Reuters, έχει ήδη αποδείξει ότι μπορεί να ενισχύσει την ακρίβεια διαγνώσεων, ιδιαίτερα στην ακτινολογία και στην ανίχνευση καρκίνων.
Όμως τα ίδια χαρακτηριστικά που την κάνουν ισχυρή – η αυτομάθηση, η πολυπλοκότητα, η αδιαφάνεια των αλγορίθμων – καθιστούν δυσκολότερο τον έλεγχο όταν κάτι πάει στραβά.
Όπως συνοψίζει ειδικός στην ιατρική ρύθμιση: το παραδοσιακό μοντέλο έγκρισης ιατρικών συσκευών «δεν είναι σχεδιασμένο για τεχνολογίες που αλλάζουν συμπεριφορά με τον χρόνο». Και όσο η AI μπαίνει στο χειρουργείο, το ερώτημα δεν είναι αν θα αλλάξει την ιατρική – αλλά αν τα θεσμικά αντίβαρα μπορούν να την προλάβουν.
