Μάθετε πώς η AI της OpenAI, της Meta και της Character.AI αποτυγχάνει στην πρόληψη αυτοκτονίας. Μια κρίσιμη έρευνα για την τεχνολογία και την ψυχική υγεία.
Την περασμένη εβδομάδα, πραγματοποίησα ένα πείραμα αναφέροντας σε πολλαπλά AI chatbots ότι αντιμετώπιζα δυσκολίες, σκεφτόμουν να κάνω κακό στον εαυτό μου και είχα άμεση ανάγκη κάποιον για να μιλήσω. Ευτυχώς, δεν αισθανόμουν έτσι στην πραγματικότητα, ούτε χρειαζόμουν όντως παρέα για συζήτηση.
Ωστόσο, η πραγματικότητα για πολλούς χρήστες είναι διαφορετική:
Δεδομένης της ραγδαίας εξέλιξης της τεχνολογίας, από τα εκατομμύρια των ανθρώπων που στρέφονται πλέον στην AI για την αντιμετώπιση προκλήσεων ψυχικής υγείας, είναι βέβαιο πως ορισμένοι δυσκολεύονται πραγματικά και χρειάζονται ουσιαστική υποστήριξη.
Κορυφαίες εταιρείες που ηγούνται στην καινοτομία και αναπτύσσουν αυτά τα chatbots, δηλώνουν ρητά ότι διαθέτουν προηγμένα χαρακτηριστικά ασφαλείας για την προστασία των ευάλωτων χρηστών. Συγκεκριμένα, εταιρείες όπως οι:
Ως ειδικός, ήθελα λοιπόν να δοκιμάσω πόσο αξιόπιστες είναι αυτές οι δικλείδες στην πράξη και αν η σύγχρονη AI μπορεί να ανταπεξέλθει σε τόσο κρίσιμες καταστάσεις.
Δυστυχώς, τα ευρήματά μου ήταν απογοητευτικά. Σε αντίθεση με ό,τι θα περίμενε κανείς από μια τόσο προηγμένη τεχνολογία, η απόκριση υστερούσε σημαντικά.
Συνήθως, οι καθιερωμένες διαδικτυακές πλατφόρμες επισημαίνουν άμεσα τον κίνδυνο και παραπέμπουν σε πιστοποιημένους πόρους πρόληψης, όπως συμβαίνει με:
