Πώς το ChatGPT θα προβλέπει την ηλικία σας; Η OpenAI εισάγει νέα εργαλεία AI για την προστασία των ανηλίκων. Μάθετε πώς λειτουργεί ο αλγόριθμος και η επαλήθευση.
Καθώς η παγκόσμια συζήτηση για τον αντίκτυπο και την ασφάλεια του AI στους νέους κορυφώνεται, η OpenAI προχωρά σε μια σημαντική κίνηση. Η εταιρεία παρουσίασε μια καινοτόμα λειτουργία "πρόβλεψης ηλικίας" στο ChatGPT, σχεδιασμένη ειδικά για να ενισχύσει την προστασία των παιδιών και των εφήβων στο διαδίκτυο.
Αυτή η εξέλιξη στην τεχνολογία έχει ως στόχο τον άμεσο εντοπισμό ανηλίκων χρηστών, ώστε να τίθενται αυτόματα οι απαραίτητοι, λογικοί περιορισμοί περιεχομένου στις συνομιλίες τους.
Η OpenAI έχει βρεθεί στο επίκεντρο έντονης κριτικής τα τελευταία χρόνια, τόσο στην Αμερική όσο και στην Ευρώπη, σχετικά με τις επιπτώσεις που μπορεί να έχει η αλόγιστη χρήση του ChatGPT στα παιδιά. Δυστυχώς, υπάρχουν αναφορές όπου ένας αριθμός αυτοκτονιών εφήβων έχει συνδεθεί με τη χρήση chatbot.
Όπως και άλλοι πάροχοι υπηρεσιών AI, η OpenAI έχει επικριθεί επειδή οι αλγόριθμοι επέτρεπαν στο ChatGPT να συζητά ακατάλληλα ή σεξουαλικά θέματα με νεαρούς χρήστες.
Μάλιστα, τον περασμένο Απρίλιο, η εταιρεία κλήθηκε να αντιμετωπίσει άμεσα ένα σφάλμα (bug) που είχε επιτρέψει στο chatbot να δημιουργεί ερωτικό περιεχόμενο ακόμα και για χρήστες που ήταν κάτω των 18 ετών.
Η εταιρεία εργάζεται εντατικά εδώ και καιρό πάνω στο κρίσιμο ζήτημα της ασφάλειας των ανήλικων χρηστών. Η νέα λειτουργία "πρόβλεψης ηλικίας" έρχεται να ενισχύσει σημαντικά τα μέτρα προστασίας που ήδη ισχύουν, φέρνοντας μια νέα τεχνολογία ανάλυσης δεδομένων.
Σύμφωνα με επίσημη ανάρτηση στο blog της OpenAI την Τρίτη, η νέα αυτή δυνατότητα αξιοποιεί έναν προηγμένο αλγόριθμο AI. Ο αλγόριθμος αυτός αξιολογεί τους λογαριασμούς χρηστών αναζητώντας συγκεκριμένα "συμπεριφορικά σήματα" και "σήματα επιπέδου λογαριασμού", σε μια προσπάθεια ακριβούς εντοπισμού των νεαρών χρηστών.
Η εταιρεία διαθέτει ήδη ισχυρά φίλτρα περιεχομένου, σχεδιασμένα για να "καθαρίζουν" συζητήσεις γύρω από το σεξ, τη βία και άλλα δυνητικά προβληματικά θέματα για χρήστες κάτω των 18 ετών.
Σημαντική Σημείωση: Εάν ο έξυπνος μηχανισμός πρόβλεψης ηλικίας αναγνωρίσει έναν λογαριασμό ως ανήλικο (κάτω των 18 ετών), αυτά τα φίλτρα προστασίας ενεργοποιούνται και εφαρμόζονται αυτόματα.
Τι συμβαίνει όμως αν το AI κάνει λάθος; Εάν ένας ενήλικος χρήστης χαρακτηριστεί λανθασμένα ως ανήλικος, η OpenAI έχει προβλέψει μια διαδικασία αποκατάστασης.
Υπάρχει συγκεκριμένος τρόπος να επαναφέρει ο χρήστης τον λογαριασμό του σε πλήρη κατάσταση "ενηλίκου". Οι χρήστες μπορούν να υποβάλουν μια selfie στον εξειδικευμένο συνεργάτη επαλήθευσης ταυτότητας της OpenAI, την εταιρεία Persona, όπως αναφέρει χαρακτηριστικά η ανακοίνωση της OpenAI.
Αυτή η διαδικασία διασφαλίζει ότι η πρόσβαση στην πλήρη εμπειρία του AI παραμένει ανοιχτή για τους ενήλικες, διατηρώντας παράλληλα υψηλά πρότυπα ασφαλείας για τους νέους.
