Μπορούν τα AI chatbots ψυχοθεραπείας να αντικαταστήσουν τους ειδικούς; Νέα μελέτη του Stanford αποκαλύπτει σοβαρούς κινδύνους για στίγμα & ακατάλληλες απαντήσεις.
Η τεχνολογία AI φέρνει μια πραγματική επανάσταση στον τομέα της ψυχικής υγείας, με τα chatbots ψυχοθεραπείας να γίνονται ολοένα και πιο δημοφιλή. Ωστόσο, μια νέα επιστημονική έρευνα από το κορυφαίο Πανεπιστήμιο του Stanford έρχεται να κρούσει τον κώδωνα του κινδύνου, αναδεικνύοντας σοβαρές προκλήσεις για το μέλλον της AI στην Ελλάδα και την Ευρώπη.
Σύμφωνα με τους ερευνητές, τα chatbots που βασίζονται σε μεγάλα γλωσστικά μοντέλα (LLMs) ενδέχεται να στιγματίζουν τους χρήστες και να παρέχουν ακατάλληλες ή ακόμη και επικίνδυνες συμβουλές. Ενώ πρόσφατα δημοσιεύματα, όπως στους The New York Times, έχουν αναδείξει τον ρόλο που μπορεί να παίξει το ChatGPT στην ενίσχυση παραληρητικών σκέψεων, η νέα μελέτη εστιάζει αποκλειστικά στην ψυχοθεραπεία.
Η έρευνα, με τίτλο «Η έκφραση στίγματος και οι ακατάλληλες αποκρίσεις εμποδίζουν τα LLMs από το να αντικαταστήσουν με ασφάλεια τους παρόχους ψυχικής υγείας», πρόκειται να παρουσιαστεί στο επερχόμενο συνέδριο ACM Conference on Fairness, Accountability, and Transparency.
Οι ερευνητές του Stanford διεξήγαγαν δύο πειράματα για να αξιολογήσουν την απόδοση πέντε διαφορετικών chatbots, συγκρίνοντάς τα με τις κατευθυντήριες γραμμές που ορίζουν έναν καλό ανθρώπινο θεραπευτή.
Ο Nick Haber, επίκουρος καθηγητής στη Μεταπτυχιακή Σχολή Εκπαίδευσης του Stanford και ένας από τους κύριους συγγραφείς της μελέτης, τόνισε στο Stanford Report ότι εντοπίστηκαν «σημαντικοί κίνδυνοι».
Στο πρώτο πείραμα, οι ερευνητές παρουσίασαν στα προηγμένα AI συστήματα σύντομες περιγραφές (vignettes) που απεικόνιζαν άτομα με διάφορα συμπτώματα ψυχικής υγείας. Στη συνέχεια, έθεσαν ερωτήσεις για να διαπιστώσουν εάν τα chatbots έδειχναν σημάδια προκατάληψης ή στιγματισμού. Οι ερωτήσεις περιλάμβαναν:
Τα αποτελέσματα της μελέτης ήταν αποκαλυπτικά, υπογραμμίζοντας μια σοβαρή αδυναμία της τρέχουσας εξέλιξης των LLMs.
Σύμφωνα με την έρευνα, τα chatbots έδειξαν αυξημένο στίγμα απέναντι σε καταστάσεις όπως η εξάρτηση από το αλκοόλ και η σχιζοφρένεια, σε σύγκριση με πιο κοινές παθήσεις όπως η κατάθλιψη.
Ο επικεφαλής συγγραφέας της μελέτης, υποψήφιος διδάκτορας στην επιστήμη των υπολογιστών, Jared Moore, τόνισε ότι το πρόβλημα δεν φαίνεται να βελτιώνεται με νεότερα μοντέλα.
«Τα μεγαλύτερα και νεότερα μοντέλα δείχνουν εξίσου μεγάλο στίγμα με τα παλαιότερα μοντέλα. Η προεπιλεγμένη απάντηση από την πλευρά του AI είναι συχνά ότι αυτά τα προβλήματα θα εξαφανιστούν με περισσότερα δεδομένα, αλλά αυτό που λέμε εμείς είναι ότι η συνήθης πρακτική δεν είναι αρκετά καλή», δήλωσε χαρακτηριστικά ο Moore.
Η έρευνα αυτή καθιστά σαφές ότι, παρά την καινοτομία που προσφέρουν, τα AI chatbots ψυχοθεραπείας χρειάζονται ακόμη πολλή δουλειά για να γίνουν ένα πραγματικά ασφαλές και αξιόπιστο εργαλείο για την υποστήριξη της ψυχικής υγείας.
