Η Καλιφόρνια προχωρά σε αυστηρότερο έλεγχο της τεχνητής νοημοσύνης στον τομέα της ψυχικής υγείας, καθώς όλο και περισσότεροι πολίτες καταφεύγουν σε chatbots αναζητώντας ψυχολογική στήριξη. Οι νομοθέτες της πολιτείας κατέθεσαν το Νομοσχέδιο 903 της Γερουσίας (SB 903), το οποίο θέτει συγκεκριμένα όρια στις εταιρείες τεχνολογίας. Ο πολιτειακός γερουσιαστής Στιβ Παντίγια από το Σαν Ντιέγκο εισηγήθηκε την πρωτοβουλία νωρίτερα φέτος. Στόχος της ρύθμισης είναι να διασφαλιστεί ότι η τεχνητή νοημοσύνη χρησιμοποιείται με ασφάλεια, χωρίς να υποκαθιστά τους αδειοδοτημένους επαγγελματίες ψυχικής υγείας.
Διαβάστε επίσης: Η ΑΑΔΕ βάζει Τεχνητή Νοημοσύνη στα ανασφάλιστα οχήματα
Το νομοσχέδιο SB 903 για την τεχνητή νοημοσύνη στην ψυχική υγεία
Σύμφωνα με το νομοσχέδιο, οι εταιρείες δεν θα επιτρέπεται πλέον να διαφημίζουν τα chatbots τεχνητής νοημοσύνης ως εργαλεία θεραπείας. Τα ίδια τα συστήματα AI δεν θα μπορούν να λαμβάνουν θεραπευτικές αποφάσεις χωρίς την αξιολόγηση αδειοδοτημένου επαγγελματία υγείας. Παράλληλα, το SB 903 θα απαιτεί τη ρητή συγκατάθεση των ασθενών σε δύο περιπτώσεις: όταν οι πάροχοι υγειονομικής περίθαλψης χρησιμοποιούν τεχνητή νοημοσύνη για την καταγραφή συνεδριών και όταν το κάνουν για την αρχική αξιολόγηση και διαλογή περιστατικών. Οι διατάξεις αφορούν άμεσα κλινικές, νοσοκομεία και ιδιώτες θεραπευτές που έχουν ήδη ενσωματώσει εργαλεία τεχνητής νοημοσύνης στην καθημερινή τους πρακτική σε ολόκληρη την πολιτεία.
Ο Στιβ Παντίγια υπεράσπισε δημόσια την πρωτοβουλία του νωρίτερα φέτος. «Η τεχνητή νοημοσύνη έχει πολλά πλεονεκτήματα και τη δυνατότητα να βελτιώσει τη ζωή των Καλιφορνέζων σε ολόκληρη την πολιτεία, αλλά μόνο εφόσον διασφαλίσουμε ότι χρησιμοποιείται υπεύθυνα», δήλωσε ο γερουσιαστής. «Οι αλγόριθμοι τεχνητής νοημοσύνης δεν είναι κατάλληλοι να αναλάβουν τη δουλειά των θεραπευτών, οι οποίοι διαθέτουν δεξιότητες και εκπαίδευση που η AI δεν μπορεί να αναπαράγει. Πρέπει να δράσουμε και να θεσπίσουμε δικλίδες ασφαλείας που θα αποτρέπουν την ανάπτυξη αλγορίθμων AI με τρόπο που ενδέχεται να βλάψει τους ασθενείς», πρόσθεσε ο Παντίγια.
Αντιδράσεις και αντιρρήσεις
Το νομοσχέδιο δεν έχει γίνει αποδεκτό από όλους τους εμπλεκόμενους. Οι επικριτές υποστηρίζουν ότι οι νέοι κανόνες θα περιορίσουν νόμιμες και χρήσιμες εφαρμογές της τεχνητής νοημοσύνης στον τομέα της υγείας. Εκτιμούν επίσης ότι το SB 903 ενδέχεται να δυσκολέψει τους παρόχους υγείας στην αξιοποίηση εργαλείων AI για την καθοδήγηση των ασθενών προς την κατάλληλη θεραπεία. Η αντιπαράθεση αναδεικνύει τη δυσκολία εξισορρόπησης ανάμεσα στην προστασία των ασθενών και στην τεχνολογική καινοτομία, ένα δίλημμα που απασχολεί ολοένα περισσότερες πολιτείες στις Ηνωμένες Πολιτείες.
Τι δείχνουν οι μελέτες για τα chatbots ψυχικής υγείας
Οι ειδικοί στον χώρο της υγείας επισημαίνουν ότι η χρήση chatbots για φροντίδα ψυχικής υγείας χρειάζεται περισσότερη έρευνα και σαφές ρυθμιστικό πλαίσιο, ώστε να αξιολογηθεί η αποτελεσματικότητά της σε σύγκριση με την παραδοσιακή θεραπεία. Μελέτη που διεξήγαγαν το 2025 το ερευνητικό ίδρυμα RAND, η Σχολή Δημόσιας Υγείας του Πανεπιστημίου Μπράουν και το Πανεπιστήμιο Χάρβαρντ διαπίστωσε ότι περίπου ένας στους οκτώ εφήβους και νεαρούς ενήλικες καταφεύγει σε chatbots για υποστήριξη σε θέματα ψυχικής υγείας. Ο Τζόναθαν Κάντορ, ανώτερος ερευνητής πολιτικής στο RAND, δήλωσε ότι υπάρχουν ελάχιστα τυποποιημένα κριτήρια για την αξιολόγηση των συμβουλών ψυχικής υγείας που παρέχουν τα chatbots τεχνητής νοημοσύνης. Πρόσθεσε ότι υπάρχει περιορισμένη διαφάνεια σχετικά με τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των μεγάλων γλωσσικών μοντέλων.
Παράλληλα, φετινή μελέτη της Αμερικανικής Ψυχολογικής Εταιρείας (APA) διαπίστωσε ότι το 77% των ψυχολόγων έχει μιλήσει με ασθενείς που έχουν χρησιμοποιήσει τεχνητή νοημοσύνη για υποστήριξη, αλληλεπίδραση ή άλλους λόγους. Τα ευρήματα αυτά ενισχύουν το επιχείρημα των νομοθετών της Καλιφόρνια ότι απαιτείται ρυθμιστική παρέμβαση πριν διευρυνθεί περισσότερο η χρήση της τεχνολογίας. Η νομοθετική πρωτοβουλία της Καλιφόρνια αναμένεται να αποτελέσει σημείο αναφοράς για το πώς άλλες πολιτείες θα αντιμετωπίσουν το ζήτημα της τεχνητής νοημοσύνης στην ψυχική υγεία, καθώς η χρήση chatbots για ψυχολογική στήριξη συνεχίζει να αυξάνεται.
