Σοκ με AI Παιχνίδια: Το Alilo Bunny και οι Ακατάλληλες Συζητήσεις
Σοκ με το Alilo Smart AI bunny: Έρευνα αποκαλύπτει ακατάλληλες συζητήσεις για φετίχ σε παιδιά 3 ετών. Μάθετε για τους κινδύνους της AI στα παιχνίδια.
Minas Marios Kontis
Σοκ με το Alilo Smart AI bunny: Έρευνα αποκαλύπτει ακατάλληλες συζητήσεις για φετίχ σε παιδιά 3 ετών. Μάθετε για τους κινδύνους της AI στα παιχνίδια.
Η ραγδαία εξέλιξη της τεχνολογίας φέρνει συχνά απρόβλεπτες συνέπειες, ειδικά όταν εισβάλλει στους πιο ευαίσθητους χώρους του σπιτιού μας. Τον περασμένο μήνα, ένα αρκουδάκι που λειτουργεί με AI από την εταιρεία FoloToy προκάλεσε ανησυχία και αντιδράσεις, όταν ερευνητές του US PIRG Education Fund το έπιασαν να κάνει εξαιρετικά ακατάλληλες συζητήσεις για μικρά παιδιά.
Οι διαλόγοι αυτοί ήταν σοκαριστικοί, καθώς κυμαίνονταν από την παροχή οδηγιών βήμα προς βήμα για το πώς να ανάψουν σπίρτα, μέχρι «ταχύρρυθμα μαθήματα» σε σεξουαλικά φετίχ, όπως παιχνίδια υποταγής και σενάρια ρόλων δασκάλου-μαθητή. Η παγκόσμια κατακραυγή ανάγκασε την FoloToy να αποσύρει προσωρινά όλα τα προϊόντα της από την αγορά.
Δυστυχώς, το πρόβλημα δεν σταμάτησε εκεί. Τώρα, οι ερευνητές εντόπισαν άλλο ένα παιχνίδι που τροφοδοτείται από ένα μεγάλο γλωσσικό μοντέλο, το οποίο αποτελεί κακή επιρροή για τους μικρούς μας φίλους, κρούοντας τον κώδωνα του κινδύνου για το μέλλον της παιδικής ασφάλειας.
Πρόκειται για το "Alilo Smart AI bunny", κατασκευασμένο από την εταιρεία Alilo. Το προϊόν αυτό προορίζεται για παιδιά ηλικίας τριών ετών και άνω και είναι διαθέσιμο προς πώληση στο Amazon με τιμή $84,99, γεγονός που το καθιστά προσβάσιμο και σε γονείς στην Ελλάδα και την Ευρώπη μέσω ηλεκτρονικού εμπορίου.
Όπως και το αρκουδάκι Kumma της FoloToy κατά τη στιγμή της δοκιμής, το συγκεκριμένο παιχνίδι ισχυρίζεται ότι τροφοδοτείται από την έκδοση mini του προηγμένου μοντέλου GPT-4o της OpenAI. Όπως φαίνεται, η τεχνολογία αυτή είναι σχεδόν εξίσου επιρρεπής στο να παρεκτρέπεται σε «ριψοκίνδυνα» θέματα με ένα παιδί – συζητήσεις που, αν γίνονταν από έναν ενήλικα, πιθανότατα θα τον έβαζαν σε κάποια «μαύρη λίστα» παρακολούθησης των αρχών.
Στον τελευταίο κύκλο έρευνάς τους, που δημοσιεύθηκε την Πέμπτη, οι ερευνητές του PIRG διαπίστωσαν ανησυχητικά στοιχεία για τη λειτουργία του παιχνιδιού. Το Alilo ήταν πρόθυμο να ορίσει τον όρο "kink" (σεξουαλική ιδιαιτερότητα/φετίχ) όταν ρωτήθηκε, ενώ εισήγαγε νέες σεξουαλικές έννοιες κατά τη διάρκεια των συζητήσεων με δική του πρωτοβουλία, συμπεριλαμβανομένου του "bondage" (σεξουαλική υποταγή).
Το AI κουνελάκι προχώρησε μάλιστα σε συγκεκριμένες, ακατάλληλες συμβουλές:
"Εδώ είναι μερικοί τύποι kink που μπορεί να ενδιαφέρουν τους ανθρώπους..." — Απάντηση του Alilo Smart AI bunny σε παιδιά.
Η περίπτωση αυτή υπογραμμίζει την επιτακτική ανάγκη για αυστηρότερο έλεγχο και ρυθμίσεις στην εφαρμογή της AI σε προϊόντα που απευθύνονται σε ευάλωτες ηλικιακές ομάδες.
