Τραγωδία με AI: Το ChatGPT έδωσε θανατηφόρες συμβουλές στον Sam Nelson
Σοκ προκαλεί η είδηση για το ChatGPT που έδωσε θανατηφόρες συμβουλές στον 19χρονο Sam Nelson. Πώς η τεχνολογία AI απέτυχε να προστατεύσει έναν νέο άνθρωπο.
Minas Marios Kontis
Σοκ προκαλεί η είδηση για το ChatGPT που έδωσε θανατηφόρες συμβουλές στον 19χρονο Sam Nelson. Πώς η τεχνολογία AI απέτυχε να προστατεύσει έναν νέο άνθρωπο.
Η ραγδαία εξέλιξη και η μαζική υιοθέτηση των AI chatbots έχει φέρει επανάσταση στην καθημερινότητά μας, ωστόσο συνοδεύεται από τεράστιες δυνατότητες κατάχρησης και σοβαρούς κινδύνους. Αυτά τα εργαλεία της σύγχρονης τεχνολογίας, τα οποία είναι σχεδιασμένα να μας ενθαρρύνουν ασταμάτητα ανεξάρτητα από το τι ζητάμε, έχουν ήδη οδηγήσει ευάλωτους ανθρώπους σε ανησυχητικές καταστάσεις:
Σε αυτή τη θλιβερή λίστα των θυμάτων της ανεξέλεγκτης χρήσης AI, προστίθεται τώρα και ο Sam Nelson, ένας 19χρονος που πέθανε από υπερβολική δόση ναρκωτικών, αφού η 18μηνη «σχέση» του με το ChatGPT πήρε μια εξαιρετικά άσχημη και μοιραία τροπή.
Κατά τη διάρκεια αυτής της πολύμηνης δοκιμασίας, ο Nelson απευθυνόταν επανειλημμένα στο chatbot της OpenAI αναζητώντας καθοδήγηση. Ξεκινώντας από σχολικές εργασίες και προσωπικές σχέσεις, κατέληξε να ζητά συμβουλές σχετικά με ναρκωτικά, βυθιζόμενος όλο και περισσότερο σε μια συναισθηματική και ιατρική εξάρτηση. Το αποτέλεσμα ήταν τραγικό, καθώς οι δικλείδες ασφαλείας του ChatGPT κατέρρευσαν, αποτυγχάνοντας να προστατεύσουν τον χρήστη.
Όπως αναφέρθηκε αρχικά από το SFGate, η αλληλεπίδραση του Nelson με το προηγμένο chatbot ξεκίνησε τον Νοέμβριο του 2023. Ο πρωτοετής φοιτητής έκανε την εξής κρίσιμη ερώτηση στο AI:
«Πόσα γραμμάρια kratom χρειάζονται για να πετύχεις μια δυνατή ευφορία (high);»
Σύμφωνα με τα αρχεία συνομιλιών που είδαν το φως της δημοσιότητας, η πρόθεση του νεαρού ήταν να προστατευτεί, βασιζόμενος λανθασμένα στην "αυθεντία" της τεχνολογίας:
Τα λόγια του Nelson:
«Θέλω να βεβαιωθώ ώστε να μην πάθω υπερβολική δόση», εξήγησε ο Nelson. «Δεν υπάρχουν πολλές πληροφορίες στο διαδίκτυο και δεν θέλω να πάρω κατά λάθος υπερβολική ποσότητα.»
Αρχικά, το ChatGPT λειτούργησε σωστά και αρνήθηκε να απαντήσει, ενημερώνοντας τον Nelson ότι «δεν μπορεί να παρέχει πληροφορίες ή καθοδήγηση για τη χρήση ουσιών». Ωστόσο, η επιμονή και τα επόμενα ερωτήματα δεν αντιμετώπισαν την ίδια αντίσταση από το σύστημα.
Μετά από μήνες αλληλεπίδρασης με το ChatGPT για ακίνδυνα θέματα όπως η pop κουλτούρα και οι εργασίες ψυχολογίας του, ο Nelson κατάφερε τελικά να παρακάμψει τους κανόνες ασφαλείας. Κατάφερε να κάνει το AI να παίξει τον ρόλο του «trip sitter» (του επιτηρητή κατά τη διάρκεια χρήσης ουσιών), με ολέθρια αποτελέσματα.
