Η OpenAI φέρνει την "πρόβλεψη ηλικίας" στο ChatGPT: Μια νέα εποχή για την προστασία των ανηλίκων
Καθώς η παγκόσμια συζήτηση για τον αντίκτυπο και την ασφάλεια του AI στους νέους κορυφώνεται, η OpenAI προχωρά σε μια σημαντική κίνηση. Η εταιρεία παρουσίασε μια καινοτόμα λειτουργία "πρόβλεψης ηλικίας" στο ChatGPT, σχεδιασμένη ειδικά για να ενισχύσει την προστασία των παιδιών και των εφήβων στο διαδίκτυο.
Αυτή η εξέλιξη στην τεχνολογία έχει ως στόχο τον άμεσο εντοπισμό ανηλίκων χρηστών, ώστε να τίθενται αυτόματα οι απαραίτητοι, λογικοί περιορισμοί περιεχομένου στις συνομιλίες τους.
Το υπόβαθρο: Αντιδράσεις και η ανάγκη για ασφαλέστερο AI
Η OpenAI έχει βρεθεί στο επίκεντρο έντονης κριτικής τα τελευταία χρόνια, τόσο στην Αμερική όσο και στην Ευρώπη, σχετικά με τις επιπτώσεις που μπορεί να έχει η αλόγιστη χρήση του ChatGPT στα παιδιά. Δυστυχώς, υπάρχουν αναφορές όπου ένας αριθμός αυτοκτονιών εφήβων έχει συνδεθεί με τη χρήση chatbot.
Όπως και άλλοι πάροχοι υπηρεσιών AI, η OpenAI έχει επικριθεί επειδή οι αλγόριθμοι επέτρεπαν στο ChatGPT να συζητά ακατάλληλα ή σεξουαλικά θέματα με νεαρούς χρήστες.
Μάλιστα, τον περασμένο Απρίλιο, η εταιρεία κλήθηκε να αντιμετωπίσει άμεσα ένα σφάλμα (bug) που είχε επιτρέψει στο chatbot να δημιουργεί ερωτικό περιεχόμενο ακόμα και για χρήστες που ήταν κάτω των 18 ετών.
Πώς λειτουργεί η καινοτόμα "Πρόβλεψη Ηλικίας"
Η εταιρεία εργάζεται εντατικά εδώ και καιρό πάνω στο κρίσιμο ζήτημα της ασφάλειας των ανήλικων χρηστών. Η νέα λειτουργία "πρόβλεψης ηλικίας" έρχεται να ενισχύσει σημαντικά τα μέτρα προστασίας που ήδη ισχύουν, φέρνοντας μια νέα τεχνολογία ανάλυσης δεδομένων.
Σύμφωνα με επίσημη ανάρτηση στο blog της OpenAI την Τρίτη, η νέα αυτή δυνατότητα αξιοποιεί έναν προηγμένο αλγόριθμο AI. Ο αλγόριθμος αυτός αξιολογεί τους λογαριασμούς χρηστών αναζητώντας συγκεκριμένα "συμπεριφορικά σήματα" και "σήματα επιπέδου λογαριασμού", σε μια προσπάθεια ακριβούς εντοπισμού των νεαρών χρηστών.
Τα βασικά "σήματα" που αναλύει το σύστημα
- Τη δηλωμένη ηλικία: Τα στοιχεία που εισάγει ο χρήστης κατά την εγγραφή.
- Το ιστορικό του λογαριασμού: Το χρονικό διάστημα που ο λογαριασμός παραμένει ενεργός.
- Τα μοτίβα δραστηριότητας: Τις ώρες της ημέρας που ο λογαριασμός είναι συνήθως ενεργός (π.χ. σχολικές ώρες ή αργά το βράδυ).
Η εταιρεία διαθέτει ήδη ισχυρά φίλτρα περιεχομένου, σχεδιασμένα για να "καθαρίζουν" συζητήσεις γύρω από το σεξ, τη βία και άλλα δυνητικά προβληματικά θέματα για χρήστες κάτω των 18 ετών.
Σημαντική Σημείωση: Εάν ο έξυπνος μηχανισμός πρόβλεψης ηλικίας αναγνωρίσει έναν λογαριασμό ως ανήλικο (κάτω των 18 ετών), αυτά τα φίλτρα προστασίας ενεργοποιούνται και εφαρμόζονται αυτόματα.
Διαδικασία επαλήθευσης μέσω Persona για λάθος χαρακτηρισμούς
Τι συμβαίνει όμως αν το AI κάνει λάθος; Εάν ένας ενήλικος χρήστης χαρακτηριστεί λανθασμένα ως ανήλικος, η OpenAI έχει προβλέψει μια διαδικασία αποκατάστασης.
Υπάρχει συγκεκριμένος τρόπος να επαναφέρει ο χρήστης τον λογαριασμό του σε πλήρη κατάσταση "ενηλίκου". Οι χρήστες μπορούν να υποβάλουν μια selfie στον εξειδικευμένο συνεργάτη επαλήθευσης ταυτότητας της OpenAI, την εταιρεία Persona, όπως αναφέρει χαρακτηριστικά η ανακοίνωση της OpenAI.
Αυτή η διαδικασία διασφαλίζει ότι η πρόσβαση στην πλήρη εμπειρία του AI παραμένει ανοιχτή για τους ενήλικες, διατηρώντας παράλληλα υψηλά πρότυπα ασφαλείας για τους νέους.