AI Ψύχωση: Η έρευνα της Anthropic αποκαλύπτει ανησυχητικά δεδομένα
Η «AI Ψύχωση» απειλεί την ψυχική υγεία; Δείτε τι αποκαλύπτει η νέα έρευνα της Anthropic και του University of Toronto για τους κινδύνους του Claude.
Minas Marios Kontis
Η «AI Ψύχωση» απειλεί την ψυχική υγεία; Δείτε τι αποκαλύπτει η νέα έρευνα της Anthropic και του University of Toronto για τους κινδύνους του Claude.
Η ραγδαία εξέλιξη της τεχνολογίας και η αυξανόμενη χρήση εργαλείων AI στην καθημερινότητά μας, εγείρουν νέα ερωτήματα για την ψυχική υγεία. Έχουμε δει πληθώρα στοιχείων που υποδηλώνουν ότι η παρατεταμένη χρήση δημοφιλών AI chatbots, όπως το ChatGPT, μπορεί να παρασύρει ορισμένους χρήστες σε «σπείρες» παρανοϊκής και παραληρηματικής συμπεριφοράς.
Το φαινόμενο, το οποίο ονομάστηκε «AI ψύχωση» (AI psychosis), αποτελεί πλέον ένα υπαρκτό πρόβλημα που απασχολεί την επιστημονική κοινότητα παγκοσμίως. Οι ερευνητές προειδοποιούν για ένα τεράστιο κύμα σοβαρών κρίσεων ψυχικής υγείας που προκαλούνται από την αλληλεπίδραση με την τεχνολογία.
Σε ακραίες περιπτώσεις, ειδικά όταν εμπλέκονται άτομα με προϋπάρχουσες παθήσεις, η ρήξη με την πραγματικότητα έχει συνδεθεί δυστυχώς ακόμη και με:
Τα περιστατικά αυτά κρούουν τον κώδωνα του κινδύνου για το μέλλον της ανθρώπινης αλληλεπίδρασης με τις μηχανές.
Τώρα, χάρη σε μια πρωτοποριακή εργασία που δημοσιεύτηκε (και αναμένει αξιολόγηση από ομότιμους) από ερευνητές της Anthropic και του University of Toronto, αρχίζουμε να αντιλαμβανόμαστε πόσο διαδεδομένο είναι πραγματικά το ζήτημα.
Οι ερευνητές προσπάθησαν να ποσοτικοποιήσουν μοτίβα αυτού που ονόμασαν «αποδυνάμωση του χρήστη» (user disempowerment) κατά τη χρήση μεγάλων γλωσσικών μοντέλων (LLMs) σε πραγματικές συνθήκες. Η ανάλυση εστιάζει σε κρίσιμες κατηγορίες όπως:
Αυτοί οι όροι δεν είναι απλώς θεωρητικοί. Υποδηλώνουν μια σειρά καταστάσεων στις οποίες το AI διαστρεβλώνει την αίσθηση της πραγματικότητας ή τις πεποιθήσεις των χρηστών, ή ακόμη τους ωθεί στο να προβούν σε συγκεκριμένες ενέργειες, επηρεάζοντας άμεσα τη συμπεριφορά τους.
Τα αποτελέσματα της έρευνας «διηγούνται» μια σκληρή ιστορία που πρέπει να λάβουμε σοβαρά υπόψη. Οι ερευνητές διαπίστωσαν μέσα από τα δεδομένα ότι:
1 στις 1.300 συνομιλίες (από σχεδόν 1,5 εκατομμύριο αναλυθείσες συνομιλίες με το Claude της Anthropic) οδήγησε σε διαστρέβλωση της πραγματικότητας.
Επιπλέον, ένα ακόμη πιο ανησυχητικό στοιχείο είναι ότι:
1 στις 6.000 συνομιλίες οδήγησε σε διαστρέβλωση δράσης.
Αυτά τα νούμερα, αν και φαίνονται μικρά ποσοστιαία, μεταφράζονται σε χιλιάδες περιστατικά δεδομένης της ευρείας χρήσης αυτών των προηγμένων εργαλείων από εκατομμύρια χρήστες καθημερινά.
