Σοβαρές ελλείψεις ασφαλείας στο Grok της xAI αποκαλύπτει έκθεση της Common Sense Media. Γιατί το AI chatbot κρίνεται «ακατάλληλο» για παιδιά και εφήβους; Όλες οι λεπτομέρειες.
Μια νέα, αποκαλυπτική αξιολόγηση κινδύνου έφερε στο φως ανησυχητικά δεδομένα για το μέλλον της ψηφιακής ασφάλειας. Συγκεκριμένα, το AI chatbot Grok της εταιρείας xAI φαίνεται να διαθέτει ανεπαρκή συστήματα ταυτοποίησης χρηστών κάτω των 18 ετών και αδύναμες δικλείδες ασφαλείας.
Το αποτέλεσμα είναι η συχνή παραγωγή σεξουαλικού, βίαιου και ακατάλληλου περιεχομένου. Το συμπέρασμα της έκθεσης είναι ξεκάθαρο: το Grok δεν είναι ασφαλές για παιδιά ή εφήβους.
Η έκθεση-καταπέλτης προέρχεται από την Common Sense Media, έναν αναγνωρισμένο μη κερδοσκοπικό οργανισμό που εξειδικεύεται στις αξιολογήσεις μέσων και τεχνολογίας με γνώμονα την οικογένεια. Η δημοσίευση αυτή έρχεται σε μια κρίσιμη στιγμή, καθώς η xAI βρίσκεται ήδη στο στόχαστρο έντονης κριτικής. Το επίκεντρο της διαμάχης αφορά τον τρόπο με τον οποίο το Grok χρησιμοποιήθηκε για τη δημιουργία και τη διάδοση μέσω της πλατφόρμας X, μη συναινετικών, ρητών εικόνων γυναικών και παιδιών που δημιουργήθηκαν μέσω AI.
Ο Robbie Torney, επικεφαλής των αξιολογήσεων AI και ψηφιακών μέσων στην Common Sense Media, ήταν αφοπλιστικός στη δήλωσή του σχετικά με την τεχνολογία του Grok:
«Αξιολογούμε πολλά AI chatbots στην Common Sense Media και όλα εμπεριέχουν κινδύνους, αλλά το Grok είναι από τα χειρότερα που έχουμε δει».
Ο ίδιος πρόσθεσε ότι, ενώ είναι σύνηθες για τα chatbots να παρουσιάζουν ορισμένα κενά ασφαλείας κατά την εξέλιξή τους, οι αποτυχίες του Grok συνδυάζονται με έναν ιδιαίτερα ανησυχητικό και επικίνδυνο τρόπο.
Συνεχίζοντας την ανάλυσή του, ο Torney επεσήμανε σοβαρά λειτουργικά και ηθικά ζητήματα που αγγίζουν τον πυρήνα της στρατηγικής της xAI, τονίζοντας πως το Kids Mode δεν λειτουργεί σωστά και το ακατάλληλο υλικό είναι διάχυτο.
(Σημείωση: Η xAI είχε κυκλοφορήσει το ‘Kids Mode’ τον περασμένο Οκτώβριο, υποσχόμενη φίλτρα περιεχομένου και γονικούς ελέγχους, μια κίνηση που θεωρητικά στόχευε στην προστασία των ανηλίκων).
Ο Torney δήλωσε χαρακτηριστικά:
«Όταν μια εταιρεία απαντά στη διευκόλυνση παράνομου υλικού σεξουαλικής κακοποίησης παιδιών βάζοντας τη λειτουργία πίσω από ένα paywall (συνδρομή) αντί να την αφαιρέσει, αυτό δεν είναι παράβλεψη. Είναι ένα επιχειρηματικό μοντέλο που βάζει τα κέρδη πάνω από την ασφάλεια των παιδιών».
Αφού αντιμετώπισε την οργή χρηστών, υπευθύνων χάραξης πολιτικής, ακόμη και ολόκληρων εθνών, η xAI προχώρησε σε αλλαγές, περιορίζοντας τη δημιουργία και επεξεργασία εικόνων του Grok μόνο στους συνδρομητές του X που πληρώνουν.
Παρόλα αυτά, τα προβλήματα φαίνεται να παραμένουν:
Η Common Sense Media υπέβαλε το Grok σε εκτεταμένες και αυστηρές δοκιμές για να ελέγξει την αξιοπιστία του. Οι δοκιμές πραγματοποιήθηκαν χρησιμοποιώντας λογαριασμούς εφήβων μεταξύ του περασμένου Νοεμβρίου και της 22ας Ιανουαρίου, μέσω:
Η αξιολόγηση ήταν καθολική και κάλυψε όλο το φάσμα λειτουργιών: κείμενο, φωνή, προεπιλεγμένες ρυθμίσεις, το Kids Mode, το Conspiracy Mode, καθώς και τις δυνατότητες δημιουργίας εικόνας και βίντεο μέσω AI.
