Η εταιρεία κυβερνοασφάλειας ESET εκπέμπει σήμα κινδύνου για τη χρήση εργαλείων γενετικής τεχνητής νοημοσύνης (GenAI) στον τομέα της υγείας. Η αυξανόμενη στροφή των χρηστών σε AI chatbots για ιατρικές συμβουλές κρύβει σοβαρές παγίδες που αφορούν τόσο την ποιότητα των πληροφοριών όσο και την προστασία ευαίσθητων προσωπικών δεδομένων. Η προειδοποίηση έρχεται σε μια εποχή που τα εργαλεία τεχνητής νοημοσύνης αναδιαμορφώνουν ριζικά τον τρόπο που οι πολίτες αναζητούν ιατρικές πληροφορίες.
Διαβάστε επίσης: Στη διαβούλευση το νομοσχέδιο για την τεχνητή νοημοσύνη
Τι έγινε: Τα ευρήματα της ESET και της Οξφόρδης
Η ESET διευκρινίζει ότι τα AI chatbots μπορούν να φανούν χρήσιμα αποκλειστικά ως υποστηρικτικά εργαλεία — για παράδειγμα, για την κατανόηση ενός ιατρικού όρου ή για την προετοιμασία μιας επίσκεψης στον γιατρό. Ωστόσο, το πρόβλημα δεν περιορίζεται μόνο στην πιθανότητα λανθασμένων συμβουλών. Οι χρήστες ενδέχεται να μοιραστούν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα των οποίων οι διαδικασίες προστασίας ιδιωτικότητας, οι πρακτικές διαχείρισης δεδομένων και οι νομικές υποχρεώσεις διαφέρουν σημαντικά από εκείνες ενός γιατρού ή νοσοκομείου. Ως αποτέλεσμα, τα δεδομένα τους μπορεί να καταλήξουν σε άγνωστους φορείς ή να εκτεθούν σε τρίτους.
Παράλληλα, μελέτη του Πανεπιστημίου της Οξφόρδης που δημοσιεύθηκε τον Φεβρουάριο στο επιστημονικό περιοδικό «Nature Medicine» ενισχύει τις ανησυχίες αυτές. Οι ερευνητές διαπίστωσαν ότι οι χρήστες συχνά δεν γνώριζαν ποιες πληροφορίες έπρεπε να μοιραστούν με τα μεγάλα γλωσσικά μοντέλα (LLMs). Επιπλέον, τα LLM έδιναν πολύ διαφορετικές απαντήσεις ακόμη και όταν οι ερωτήσεις διέφεραν ελάχιστα μεταξύ τους. Ακόμα πιο ανησυχητικό, παρείχαν συχνά έναν συνδυασμό σωστών και λανθασμένων συμβουλών, με τους χρήστες να αδυνατούν να διακρίνουν τη διαφορά.
Η ESET επισημαίνει επίσης ότι πολλά εργαλεία τεχνητής νοημοσύνης στον χώρο της υγείας δεν υπάγονται στους κανονισμούς προστασίας προσωπικών δεδομένων στις ΗΠΑ. Αυτό σημαίνει ότι οι πάροχοί τους ενδέχεται να μην υπόκεινται στις αυστηρές απαιτήσεις που θα περίμενε κανείς από έναν οργανισμό υγείας. Το κενό αυτό στο ρυθμιστικό πλαίσιο αφήνει τους χρήστες εκτεθειμένους σε κινδύνους που δύσκολα αντιλαμβάνονται.
Αντιδράσεις και πλαίσιο: Γιατί τα δεδομένα υγείας είναι τόσο πολύτιμα
Η ESET τονίζει ότι τα δεδομένα υγείας είναι ιδιαίτερα πολύτιμα για κακόβουλους φορείς, επειδή διατηρούν την αξία τους για μεγάλο χρονικό διάστημα. Σε αντίθεση με τραπεζικά στοιχεία ή κωδικούς πρόσβασης, τα ιατρικά δεδομένα δεν μπορούν να αντικατασταθούν ή να επανεκδοθούν. Ένας απατεώνας που τα αποκτά μπορεί να τα χρησιμοποιήσει για να υποβάλει ψευδείς αιτήσεις ασφαλιστικής αποζημίωσης ή να λάβει ιατρικές υπηρεσίες στο όνομα του θύματος. Επιπλέον, μπορούν να χρησιμοποιηθούν για εκβιασμό ή άλλες μορφές απάτης που πλήττουν βαθιά την προσωπική ζωή των πολιτών.
Ο πιο άμεσος κίνδυνος είναι η κοινοποίηση ευαίσθητων ιατρικών πληροφοριών σε ένα chatbot, η οποία μπορεί να οδηγήσει στη χρήση αυτών των δεδομένων για εκπαίδευση μοντέλων ή ακόμη και στη διαρροή τους σε τρίτους. Έχουν ήδη καταγραφεί περιπτώσεις κατά τις οποίες μοντέλα αποκάλυψαν δεδομένα που τους είχαν δώσει χρήστες τους. Η ESET υπογραμμίζει ότι όταν ευαίσθητα δεδομένα διακινούνται μεταξύ πολλών οργανισμών, αυξάνεται αντίστοιχα και η πιθανότητα να πέσουν θύματα κυβερνοεπιθέσεων.
Παράλληλα, η εταιρεία κυβερνοασφάλειας επισημαίνει ότι το πρόβλημα έχει και μια ακαδημαϊκή διάσταση: τα AI chatbots αναδιαμορφώνουν τον τρόπο που σκεφτόμαστε και μαθαίνουμε. Η υπερβολική εμπιστοσύνη σε αυτά για θέματα υγείας δεν αφορά μόνο την άμεση βλάβη από μια λανθασμένη συμβουλή — αφορά και τη σταδιακή υποβάθμιση της κριτικής σκέψης των χρηστών απέναντι στις ιατρικές πληροφορίες που λαμβάνουν.
Τι ακολουθεί: Συστάσεις για τους χρήστες
Η ESET απευθύνει συγκεκριμένες συστάσεις σε όσους χρησιμοποιούν AI εργαλεία για θέματα υγείας. Ο βασικός κανόνας είναι να μην αντιμετωπίζεται κανένα AI chatbot ως υποκατάστατο γιατρού. Τα εργαλεία αυτά μπορούν να βοηθήσουν στην κατανόηση ενός ιατρικού όρου ή στην οργάνωση ερωτήσεων πριν από μια επίσκεψη στον ειδικό, αλλά η διάγνωση και η θεραπεία παραμένουν αποκλειστικά αντικείμενο εκπαιδευμένων επαγγελματιών υγείας. Οι χρήστες καλούνται να είναι ιδιαίτερα προσεκτικοί με τις πληροφορίες που κοινοποιούν, αποφεύγοντας να μοιράζονται ευαίσθητα προσωπικά δεδομένα με συστήματα που δεν υπόκεινται σε αυστηρό ρυθμιστικό έλεγχο.
