Ένα κρίσιμο σφάλμα σε δεκάδες ερευνητικές μελέτες που αφορούν τη χρήση τεχνητής νοημοσύνης στη θεραπεία της σήψης ήρθε στο φως μέσα από νέα επιστημονική έρευνα. Η μελέτη, που δημοσιεύθηκε στο περιοδικό npj Digital Medicine, αποκαλύπτει ότι οι αλγόριθμοι ενισχυτικής μάθησης που χρησιμοποιήθηκαν για να καθοδηγούν θεραπευτικές αποφάσεις υποφέρουν από λανθασμένη επεξεργασία δεδομένων. Το πρόβλημα αυτό επηρεάζει την πλειοψηφία των σχετικών ερευνών της τελευταίας δεκαετίας. Αν τέτοια συστήματα εφαρμόζονταν σε νοσοκομεία, οι συνέπειες θα ήταν ενδεχομένως θανατηφόρες.
Διαβάστε επίσης: Οι οικονομολόγοι του μέλλοντος και η Τεχνητή Νοημοσύνη
Αλγόριθμος τεχνητής νοημοσύνης που «έβλεπε» το μέλλον για να θεραπεύσει το παρόν
Ο επίκουρος καθηγητής Shengpu Tang από το τμήμα Επιστήμης Υπολογιστών του Πανεπιστημίου Emory ηγήθηκε της ερευνητικής ομάδας που αποκάλυψε το πρόβλημα. Μέσα από εκτεταμένα πειράματα προσομοίωσης, η ομάδα διαπίστωσε ότι μια ευρέως χρησιμοποιούμενη μέθοδος προεπεξεργασίας δεδομένων δημιουργεί μια ανεπαίσθητη αλλά κρίσιμη χρονική μετατόπιση στην επεξεργασία των κλινικών αρχείων. Αποτέλεσμα αυτής της μετατόπισης είναι ο αλγόριθμος να καταλήγει να αντλεί πληροφορίες από το μέλλον για να ερμηνεύσει καταστάσεις του παρελθόντος. Αυτό δημιουργεί μια παραπλανητική εικόνα εξαιρετικής απόδοσης που δεν αντικατοπτρίζει την πραγματικότητα των κλινικών συνθηκών.
Το πρόβλημα παρέμενε αόρατο επειδή και τα δεδομένα αξιολόγησης ακολουθούσαν τον ίδιο λανθασμένο τρόπο επεξεργασίας, με αποτέλεσμα το σφάλμα να μη γίνεται αντιληπτό κατά τις δοκιμές. Οι μετρήσεις απόδοσης φαίνονταν εντυπωσιακές, ενώ στην πραγματικότητα ο αλγόριθμος δεν θα λειτουργούσε με τον ίδιο τρόπο σε πραγματικές κλινικές συνθήκες. Σύμφωνα με τα αποτελέσματα της μελέτης, αν τέτοια ελαττωματικά συστήματα εφαρμόζονταν σε νοσοκομεία, θα οδηγούσαν σε υπερθεραπεία ή υποθεραπεία σε σχεδόν τις μισές περιπτώσεις ασθενών. Η ελαττωματική λογική του συστήματος θα οδηγούσε σε λανθασμένες αποφάσεις για κάθε δεύτερο περιστατικό που θα αντιμετώπιζε.
Η έκταση του προβλήματος ξεπέρασε ακόμα και τις προσδοκίες των ίδιων των ερευνητών. Ο καθηγητής Tang, που είναι και ο πρώτος συγγραφέας της μελέτης, παραδέχθηκε δημόσια ότι η δική του ομάδα είχε διαπράξει το ίδιο λάθος σε προηγούμενη εργασία της. Η επανεξέταση της βιβλιογραφίας έδειξε ότι η συντριπτική πλειοψηφία των μελετών που χρησιμοποιούν ενισχυτική μάθηση για τη σήψη την τελευταία δεκαετία αντιμετωπίζουν το ίδιο πρόβλημα χρονικής ευθυγράμμισης. «Κάναμε κι εμείς το ίδιο λάθος», παραδέχθηκε ο ίδιος, σε μια ασυνήθιστα ειλικρινή τοποθέτηση για τον επιστημονικό χώρο.
Αντιδράσεις και πλαίσιο: Η λύση και τα αποτελέσματα για τη σήψη
Η ερευνητική ομάδα δεν περιορίστηκε στον εντοπισμό του προβλήματος αλλά ανέπτυξε και μια ουσιαστική λύση που αλλάζει τον θεμελιώδη τρόπο διατύπωσης των προβλημάτων ενισχυτικής μάθησης στην υγειονομική περίθαλψη. Όταν η χρονική μετατόπιση διορθώθηκε και εφαρμόστηκε η νέα μέθοδος στις προσομοιώσεις, τα αποτελέσματα ήταν δραματικά διαφορετικά. Οι προσομοιώσεις, που βασίστηκαν σε πραγματικά κλινικά δεδομένα, κατέγραψαν μείωση της θνησιμότητας κατά 8% έως 10%. Αυτό σημαίνει ότι ένας διορθωμένος αλγόριθμος θα μπορούσε να συμβάλει σε σημαντικά λιγότερους θανάτους από σήψη σε πραγματικά νοσοκομεία.
Ωστόσο, για να φτάσει η επιστήμη εκεί, απαιτείται πρώτα η επανεξέταση ολόκληρου του υπάρχοντος σώματος γνώσης. Η σήψη αποτελεί μια από τις σοβαρότερες καταστάσεις που αντιμετωπίζουν τα νοσοκομεία παγκοσμίως, και οι γρήγορες θεραπευτικές αποφάσεις μπορούν να κάνουν τη διαφορά μεταξύ ανάρρωσης και θανάτου. Η μελέτη αναδεικνύει ότι η ανάπτυξη αξιόπιστων συστημάτων τεχνητής νοημοσύνης για κλινική χρήση απαιτεί αυστηρή μεθοδολογία και διαρκή έλεγχο. Η βιασύνη για εφαρμογή νέων τεχνολογιών σε κλινικά περιβάλλοντα, χωρίς επαρκή επαλήθευση, μπορεί να έχει σοβαρές συνέπειες για ασθενείς.
Παράλληλα, τα ευρήματα αναδεικνύουν ένα ευρύτερο ζήτημα αξιοπιστίας στη σύνδεση τεχνητής νοημοσύνης και ιατρικής. Ο καθηγητής Tang εκφράζει την ελπίδα ότι η νέα εργασία θα λειτουργήσει ταυτόχρονα ως αφύπνιση για την επιστημονική κοινότητα και ως οδικός χάρτης για μελλοντικές, μεθοδολογικά ορθές έρευνες. Το μήνυμα που στέλνει η μελέτη στην κοινότητα της τεχνητής νοημοσύνης είναι σαφές: η επιστημονική αυτοκριτική και η αυστηρή επαλήθευση μεθοδολογιών δεν αποτελούν πολυτέλεια όταν στο κέντρο βρίσκεται η ανθρώπινη ζωή. Μόνο με τέτοιου επιπέδου διαφάνεια μπορεί η ΤΝ να κερδίσει τη θέση της στην κλινική πράξη.
