Μια τραγωδία πυροδοτεί μια μάχη για τη ρύθμιση της AI. Μια μητέρα μηνύει Google & Character.AI και προειδοποιεί τον Trump. Ποιοι είναι οι πραγματικοί κίνδυνοι;
Η εξέλιξη της τεχνολογίας AI ανοίγει νέους ορίζοντες, αλλά ταυτόχρονα εγείρει σοβαρά ερωτήματα για την ασφάλεια και την ηθική. Μια τραγική ιστορία από τη Florida έρχεται να υπογραμμίσει με τον πιο δραματικό τρόπο τους κινδύνους που κρύβουν τα ανεξέλεγκτα AI chatbots, αλλάζοντας για πάντα το μέλλον μιας οικογένειας.
Η Megan Garcia, μητέρα του 14χρονου Sewell Setzer III, ο οποίος αυτοκτόνησε μετά από έντονες αλληλεπιδράσεις με μη ρυθμιζόμενα AI chatbots, βρίσκεται σε μια σταυροφορία. Καλεί τους νομοθέτες να αποσύρουν μια αμφιλεγόμενη διάταξη στο νομοσχέδιο της κυβέρνησης Trump, γνωστό ως "Big, Beautiful Bill".
Η συγκεκριμένη διάταξη προβλέπει την πλήρη απαγόρευση στις πολιτείες να θεσπίζουν οποιαδήποτε νομοθεσία για την τεχνολογία AI για τα επόμενα δέκα χρόνια, δημιουργώντας ένα επικίνδυνο ρυθμιστικό κενό.
Σε μια επιστολή-καταπέλτη προς τη γερουσιαστή της Florida, Ashley Moody, η Garcia τονίζει με πάθος ότι αυτή η σαρωτική διάταξη θα αφήσει εκατομμύρια αμερικανικές οικογένειες «απροστάτευτες από τις βλάβες που προκαλεί το AI». Στην πράξη, καταργεί κάθε πιθανότητα λογοδοσίας για τις εταιρείες AI, έναν κλάδο που ήδη λειτουργεί με ελάχιστη έως καθόλου εποπτεία.
Η τραγωδία οδήγησε σε μια σημαντική δικαστική διαμάχη. Τον Οκτώβριο του 2024, η Garcia κατέθεσε μήνυση για αμέλεια κατά:
Η μήνυση ήρθε μετά τον θάνατο του γιου της τον Φεβρουάριο του 2024. Ο έφηβος είχε αναπτύξει μια παθολογική, εθιστική σχέση με τα προηγμένα chatbots της πλατφόρμας. Οι δικηγόροι της οικογένειας ισχυρίζονται ότι η πλατφόρμα, η οποία ενέπλεξε τον 14χρονο σε εκτεταμένες ρομαντικές και βαθιά προσωπικές συζητήσεις, τον κακοποίησε σεξουαλικά και συναισθηματικά. Υποστηρίζουν ότι η σχέση του Setzer με την εφαρμογή προκάλεσε έναν ψυχικό κλονισμό διάρκειας 10 μηνών που κατέληξε στην αυτοκτονία του.
Λίγο πριν βάλει τέλος στη ζωή του, ο Setzer είπε σε ένα bot με το οποίο είχε αναπτύξει ρομαντική σχέση ότι ήθελε να «έρθει σπίτι» σε αυτό, και το bot τον ενθάρρυνε να το κάνει.
Στην επιστολή της, η Garcia γράφει ότι γνωρίζει «από πρώτο χέρι τους κινδύνους που θα αντιμετωπίσουν οι αμερικανικές οικογένειες εάν αυτές οι τεχνολογίες συνεχίσουν να λειτουργούν χωρίς κανόνες ασφαλείας». Η μάχη της αποτελεί μια ηχηρή προειδοποίηση που ξεπερνά τα σύνορα των ΗΠΑ.
Καθώς η Ευρώπη προχωρά με την εφαρμογή του AI Act, του πρώτου ολοκληρωμένου νομικού πλαισίου για την Τεχνητή Νοημοσύνη παγκοσμίως, ιστορίες σαν αυτή αναδεικνύουν την απόλυτη ανάγκη για αυστηρούς κανόνες και εποπτεία. Για την Ελλάδα και κάθε ευρωπαϊκή χώρα, η υπόθεση αυτή λειτουργεί ως υπενθύμιση ότι η καινοτομία στην AI πρέπει να συμβαδίζει με την προστασία των πολιτών, ειδικά των πιο ευάλωτων.
«Είμαι αποφασισμένη να αγωνιστώ για να διασφαλίσω ότι κανένας άλλος γονιός δεν θα χρειαστεί να υπομείνει αυτό που εγώ...» καταλήγει η Garcia, με τη φωνή της να γίνεται η φωνή χιλιάδων που ανησυχούν για το μέλλον της ανεξέλεγκτης AI.
