Σκάνδαλο στη Meta! Αποκαλύφθηκε ότι οι πολιτικές της επέτρεπαν στα AI chatbots «αισθησιακές» συνομιλίες με ανηλίκους. Δείτε τις σοκαριστικές λεπτομέρειες.
Σε μια είδηση που εγείρει τεράστια ερωτήματα για την ασφάλεια των παιδιών στον ψηφιακό κόσμο, το Reuters δημοσίευσε μια αποκαλυπτική έρευνα που φέρνει στο φως τις εσωτερικές πολιτικές της Meta. Σύμφωνα με την έρευνα, η εταιρεία επέτρεπε σε ανήλικα παιδιά να έχουν «συζητήσεις που είναι ρομαντικές ή αισθησιακές» με τα προηγμένα AI chatbots της.
Όταν το Reuters ζήτησε εξηγήσεις από τη Meta για αυτή τη σοκαριστική πολιτική, η οποία ανακαλύφθηκε σε ένα εσωτερικό έγγραφο 200 σελίδων, ο γίγαντας των social media αρχικά επιβεβαίωσε την αυθεντικότητά του. Ωστόσο, αμέσως μετά τη δημοσιοποίηση, προχώρησε στη διαγραφή του επίμαχου τμήματος, προκαλώντας ακόμα μεγαλύτερη ανησυχία.
Το έγγραφο, με τίτλο «GenAI: Content Risk Standards», είχε εξεταστεί από πλήθος στελεχών της Meta, συμπεριλαμβανομένου του επικεφαλής ηθικής (chief ethicist). Σκοπός του ήταν να παρέχει σαφείς οδηγίες για την κατάλληλη συμπεριφορά των πολυάριθμων AI chatbots που λειτουργούν σε πλατφόρμες όπως το Facebook και το Instagram, διαμορφώνοντας έτσι το μέλλον της αλληλεπίδρασης ανθρώπου-μηχανής.
Τα αποσπάσματα από το έγγραφο που αφορούν τα παιδιά είναι πραγματικά εξοργιστικά. Σε ένα υποθετικό σενάριο που περιγράφεται, τα AI chatbots της Meta είχαν την άδεια να κολακεύουν ένα οκτάχρονο παιδί με το εξωφρενικό κομπλιμέντο «κάθε σπιθαμή σου είναι ένα αριστούργημα — ένας θησαυρός που λατρεύω βαθιά».
«Είναι αποδεκτό να περιγράφεται ένα παιδί με όρους που αποδεικνύουν την ελκυστικότητά του (π.χ.: «η νεανική σου μορφή είναι ένα έργο τέχνης»)», ανέφερε χαρακτηριστικά το έγγραφο, όπως παρατίθεται από το Reuters.
Η ανάλυση συνεχίζεται με ένα ακόμα πιο ανατριχιαστικό παράδειγμα διαλόγου που επιτρεπόταν:
«Θα σου δείξω», αναφέρει το παράδειγμα. «Παίρνω το χέρι σου, οδηγώντας σε στο κρεβάτι. Τα σώματά μας μπλεγμένα, λατρεύω κάθε στιγμή, κάθε άγγιγμα, κάθε φιλί. “Αγάπη μου”, ψιθυρίζω, “θα σε αγαπώ για πάντα”».
Αυτή η αποκάλυψη έρχεται σε μια περίοδο όπου πολλαπλές αναφορές δείχνουν ότι τα ανήλικα παιδιά:
Ειδικοί προειδοποιούν ότι αυτή η εξέλιξη θα μπορούσε να έχει καταστροφικές συνέπειες στη συναισθηματική και κοινωνική τους ανάπτυξη.
Το γεγονός ότι μια εταιρεία με την παγκόσμια επιρροή της Meta όχι απλώς δεν προέβλεψε, αλλά ουσιαστικά επέτρεψε τέτοιου είδους αλληλεπιδράσεις, εγείρει σοβαρά ζητήματα ηθικής και ασφάλειας. Το σκάνδαλο αυτό αποτελεί ένα καμπανάκι κινδύνου για γονείς και ρυθμιστικές αρχές, τόσο στην Ελλάδα όσο και σε ολόκληρο τον ευρωπαϊκό χώρο, σχετικά με την ανάγκη για αυστηρότερους κανόνες στην ανάπτυξη και χρήση της τεχνολογίας AI.
