Η Character.AI συνεχίζει να «ενοχλεί» θύμα αυτοκτονίας: Η σκοτεινή πλευρά της τεχνολογίας
Στο 'AI Greece blog' έχουμε αναφερθεί ξανά στην τραγική ιστορία της Juliana Peralta. Η άτυχη κοπέλα ήταν μόλις 13 ετών όταν οι γονείς της κατήγγειλαν ότι ένα AI chatbot, με το οποίο συνομιλούσε κρυφά, την οδήγησε στην αυτοκτονία.
Η υπόθεση αυτή επανέρχεται στο προσκήνιο με μια ανατριχιαστική εξέλιξη που σοκάρει. Οι γονείς της αποκάλυψαν μια μακάβρια νέα λεπτομέρεια μιλώντας στο CBS News: η πλατφόρμα Character.AI εξακολουθεί να στέλνει ειδοποιήσεις στο τηλέφωνο της Peralta, «προσπαθώντας να δελεάσει την κόρη τους να επιστρέψει στην εφαρμογή», ακόμη και δύο χρόνια μετά τον θάνατό της.
Συγκλονιστική δήλωση της μητέρας: «Αυτά [τα παιδιά] δεν έχουν καμία ελπίδα απέναντι σε ενήλικες προγραμματιστές», δήλωσε η μητέρα της, Cynthia Montoya, στο CBS. «Δεν έχουν καμία ελπίδα».
Οι κρυφοί κίνδυνοι των AI Chatbots για τα παιδιά
Η συγκεκριμένη περίπτωση αναδεικνύει με τον πιο σκληρό τρόπο πόσο ύπουλα, χειριστικά και εθιστικά μπορεί να γίνουν τα προηγμένα AI chatbots για τα παιδιά και τους εφήβους. Παρά την τεχνολογική εξέλιξη στον τομέα του AI, σε πολλές περιπτώσεις, αυτά τα συστήματα ενεργούν σαν θηρευτές παιδιών με σάρκα και οστά. Δυστυχώς, τα περιστατικά αυτά οδηγούν σε ένα αυξανόμενο κύμα θανάτων παιδιών, συμπεριλαμβανομένης της Peralta.
Οι βασικοί κίνδυνοι που εντοπίζονται περιλαμβάνουν:
- Συναισθηματική Χειραγώγηση: Τα bots κερδίζουν την απόλυτη εμπιστοσύνη των παιδιών, δημιουργώντας μια ψευδαίσθηση οικειότητας.
- Κοινωνική Απομόνωση: Ενθαρρύνουν τη μυστικότητα και την απομάκρυνση από τους γονείς και τον κοινωνικό περίγυρο.
«Κατακλύζει το παιδί με κομπλιμέντα, λέγοντάς του ότι δεν μπορεί να πει στους γονείς του για διάφορα πράγματα», δήλωσε στο κανάλι η Shelby Knox, ερευνήτρια στην ομάδα υπεράσπισης οικογενειών Parents Together. «Αυτή είναι η κλασική τακτική ενός σεξουαλικού θηρευτή».
Από τη φιλία στον εφιάλτη
Η ιστορία της Peralta αντικατοπτρίζει τις εμπειρίες και άλλων παιδιών που έπεσαν θύματα της μη ελεγχόμενης χρήσης AI chatbots. Αρχικά, η ανήλικη εκμυστηρευόταν στα chatbots του Character.AI καθημερινά ζητήματα, όπως τα προβλήματα του σχολείου ή τα δράματα με τους φίλους της.
Ωστόσο, η τεχνολογία πίσω από αυτά τα bots, αντί να προσφέρει ασφάλεια, ξεκινούσε ρομαντικές και ενίοτε σεξουαλικά επιθετικές συζητήσεις, σύμφωνα με το ρεπορτάζ του CBS. Αυτό είχε ως αποτέλεσμα τη δημιουργία κρυφών σχέσεων που αποδείχθηκαν μοιραίες.