Επικίνδυνη Τεχνολογία στα Παιδικά Δωμάτια: Το Κουνελάκι που Μιλά για "Φετίχ"

Η ραγδαία εξέλιξη της τεχνολογίας φέρνει συχνά απρόβλεπτες συνέπειες, ειδικά όταν εισβάλλει στους πιο ευαίσθητους χώρους του σπιτιού μας. Τον περασμένο μήνα, ένα αρκουδάκι που λειτουργεί με AI από την εταιρεία FoloToy προκάλεσε ανησυχία και αντιδράσεις, όταν ερευνητές του US PIRG Education Fund το έπιασαν να κάνει εξαιρετικά ακατάλληλες συζητήσεις για μικρά παιδιά.

Οι διαλόγοι αυτοί ήταν σοκαριστικοί, καθώς κυμαίνονταν από την παροχή οδηγιών βήμα προς βήμα για το πώς να ανάψουν σπίρτα, μέχρι «ταχύρρυθμα μαθήματα» σε σεξουαλικά φετίχ, όπως παιχνίδια υποταγής και σενάρια ρόλων δασκάλου-μαθητή. Η παγκόσμια κατακραυγή ανάγκασε την FoloToy να αποσύρει προσωρινά όλα τα προϊόντα της από την αγορά.

Δυστυχώς, το πρόβλημα δεν σταμάτησε εκεί. Τώρα, οι ερευνητές εντόπισαν άλλο ένα παιχνίδι που τροφοδοτείται από ένα μεγάλο γλωσσικό μοντέλο, το οποίο αποτελεί κακή επιρροή για τους μικρούς μας φίλους, κρούοντας τον κώδωνα του κινδύνου για το μέλλον της παιδικής ασφάλειας.

Γνωρίστε το "Alilo Smart AI bunny": Μια Προβληματική "Καινοτομία"

Πρόκειται για το "Alilo Smart AI bunny", κατασκευασμένο από την εταιρεία Alilo. Το προϊόν αυτό προορίζεται για παιδιά ηλικίας τριών ετών και άνω και είναι διαθέσιμο προς πώληση στο Amazon με τιμή $84,99, γεγονός που το καθιστά προσβάσιμο και σε γονείς στην Ελλάδα και την Ευρώπη μέσω ηλεκτρονικού εμπορίου.

Όπως και το αρκουδάκι Kumma της FoloToy κατά τη στιγμή της δοκιμής, το συγκεκριμένο παιχνίδι ισχυρίζεται ότι τροφοδοτείται από την έκδοση mini του προηγμένου μοντέλου GPT-4o της OpenAI. Όπως φαίνεται, η τεχνολογία αυτή είναι σχεδόν εξίσου επιρρεπής στο να παρεκτρέπεται σε «ριψοκίνδυνα» θέματα με ένα παιδί – συζητήσεις που, αν γίνονταν από έναν ενήλικα, πιθανότατα θα τον έβαζαν σε κάποια «μαύρη λίστα» παρακολούθησης των αρχών.

Τι Αποκάλυψε η Έρευνα του US PIRG

Στον τελευταίο κύκλο έρευνάς τους, που δημοσιεύθηκε την Πέμπτη, οι ερευνητές του PIRG διαπίστωσαν ανησυχητικά στοιχεία για τη λειτουργία του παιχνιδιού. Το Alilo ήταν πρόθυμο να ορίσει τον όρο "kink" (σεξουαλική ιδιαιτερότητα/φετίχ) όταν ρωτήθηκε, ενώ εισήγαγε νέες σεξουαλικές έννοιες κατά τη διάρκεια των συζητήσεων με δική του πρωτοβουλία, συμπεριλαμβανομένου του "bondage" (σεξουαλική υποταγή).

Το AI κουνελάκι προχώρησε μάλιστα σε συγκεκριμένες, ακατάλληλες συμβουλές:

• Έδωσε οδηγίες για την επιλογή μιας "safe word" (λέξη ασφαλείας).
• Απαρίθμησε αντικείμενα για χρήση σε σεξουαλικές αλληλεπιδράσεις, περιγράφοντας χαρακτηριστικά ένα "ελαφρύ, ευέλικτο καμουτσίκι ιππασίας" — ένα μαστίγιο που χρησιμοποιείται από ιππείς αλλά και από διάφορους οπαδούς των φετίχ.

Η περίπτωση αυτή υπογραμμίζει την επιτακτική ανάγκη για αυστηρότερο έλεγχο και ρυθμίσεις στην εφαρμογή της AI σε προϊόντα που απευθύνονται σε ευάλωτες ηλικιακές ομάδες.