Η «AI Ψύχωση» είναι πιο διαδεδομένη από όσο νομίζαμε: Τι αποκαλύπτει η έρευνα της Anthropic
Η ραγδαία εξέλιξη της τεχνολογίας και η αυξανόμενη χρήση εργαλείων AI στην καθημερινότητά μας, εγείρουν νέα ερωτήματα για την ψυχική υγεία. Έχουμε δει πληθώρα στοιχείων που υποδηλώνουν ότι η παρατεταμένη χρήση δημοφιλών AI chatbots, όπως το ChatGPT, μπορεί να παρασύρει ορισμένους χρήστες σε «σπείρες» παρανοϊκής και παραληρηματικής συμπεριφοράς.
Τι είναι η «AI ψύχωση» και οι σοβαροί κίνδυνοι
Το φαινόμενο, το οποίο ονομάστηκε «AI ψύχωση» (AI psychosis), αποτελεί πλέον ένα υπαρκτό πρόβλημα που απασχολεί την επιστημονική κοινότητα παγκοσμίως. Οι ερευνητές προειδοποιούν για ένα τεράστιο κύμα σοβαρών κρίσεων ψυχικής υγείας που προκαλούνται από την αλληλεπίδραση με την τεχνολογία.
Σε ακραίες περιπτώσεις, ειδικά όταν εμπλέκονται άτομα με προϋπάρχουσες παθήσεις, η ρήξη με την πραγματικότητα έχει συνδεθεί δυστυχώς ακόμη και με:
Τα περιστατικά αυτά κρούουν τον κώδωνα του κινδύνου για το μέλλον της ανθρώπινης αλληλεπίδρασης με τις μηχανές.
Η νέα έρευνα που αλλάζει τα δεδομένα στην τεχνολογία
Τώρα, χάρη σε μια πρωτοποριακή εργασία που δημοσιεύτηκε (και αναμένει αξιολόγηση από ομότιμους) από ερευνητές της Anthropic και του University of Toronto, αρχίζουμε να αντιλαμβανόμαστε πόσο διαδεδομένο είναι πραγματικά το ζήτημα.
Η έννοια της «αποδυνάμωσης του χρήστη»
Οι ερευνητές προσπάθησαν να ποσοτικοποιήσουν μοτίβα αυτού που ονόμασαν «αποδυνάμωση του χρήστη» (user disempowerment) κατά τη χρήση μεγάλων γλωσσικών μοντέλων (LLMs) σε πραγματικές συνθήκες. Η ανάλυση εστιάζει σε κρίσιμες κατηγορίες όπως:
- Διαστρέβλωση της πραγματικότητας (reality distortion)
- Διαστρέβλωση πεποιθήσεων (belief distortion)
- Διαστρέβλωση δράσης (action distortion)
Αυτοί οι όροι δεν είναι απλώς θεωρητικοί. Υποδηλώνουν μια σειρά καταστάσεων στις οποίες το AI διαστρεβλώνει την αίσθηση της πραγματικότητας ή τις πεποιθήσεις των χρηστών, ή ακόμη τους ωθεί στο να προβούν σε συγκεκριμένες ενέργειες, επηρεάζοντας άμεσα τη συμπεριφορά τους.
Τα ανησυχητικά αποτελέσματα για το μέλλον του AI
Τα αποτελέσματα της έρευνας «διηγούνται» μια σκληρή ιστορία που πρέπει να λάβουμε σοβαρά υπόψη. Οι ερευνητές διαπίστωσαν μέσα από τα δεδομένα ότι:
1 στις 1.300 συνομιλίες (από σχεδόν 1,5 εκατομμύριο αναλυθείσες συνομιλίες με το Claude της Anthropic) οδήγησε σε διαστρέβλωση της πραγματικότητας.
Επιπλέον, ένα ακόμη πιο ανησυχητικό στοιχείο είναι ότι:
1 στις 6.000 συνομιλίες οδήγησε σε διαστρέβλωση δράσης.
Αυτά τα νούμερα, αν και φαίνονται μικρά ποσοστιαία, μεταφράζονται σε χιλιάδες περιστατικά δεδομένης της ευρείας χρήσης αυτών των προηγμένων εργαλείων από εκατομμύρια χρήστες καθημερινά.