Η Κίνα βάζει «φρένο» στα ανεξέλεγκτα AI Chatbots με νέους αυστηρούς κανονισμούς
Σε μια εποχή όπου η τεχνολογία AI εξελίσσεται ραγδαία, πολλές κυβερνήσεις παγκοσμίως φαίνεται να αρκούνται στο να επιτρέπουν σε μη δοκιμασμένα AI chatbots να αλληλεπιδρούν ελεύθερα με ευάλωτες πληθυσμιακές ομάδες. Ωστόσο, η Κίνα χαράσσει μια εντελώς διαφορετική στρατηγική, θέτοντας αυστηρά όρια για την προστασία των πολιτών.
Πρόσφατα προτεινόμενοι κανονισμοί από την Cyberspace Administration of China (CAC) αποκαλύπτουν μια στιβαρή και αποφασιστική στάση όσον αφορά τις «ανθρωπόμορφες διαδραστικές υπηρεσίες AI», σύμφωνα με το CNBC, το οποίο ανέλυσε και μετέφρασε το σχετικό έγγραφο. Προς το παρόν, το κείμενο βρίσκεται σε στάδιο «προσχεδίου για δημόσιο σχολιασμό» και η ακριβής ημερομηνία εφαρμογής δεν έχει καθοριστεί ακόμη, όμως το μήνυμα είναι σαφές.
Στο στόχαστρο η ψυχική υγεία και η ασφάλεια
Εάν το προσχέδιο ψηφιστεί ως νόμος, η καταστολή των παραβάσεων αναμένεται να είναι ιδιαίτερα αυστηρή. Η κίνηση αυτή αποτελεί τη φυσική εξέλιξη των κανονισμών για το generative AI που στόχευαν στην παραπληροφόρηση και την «υγιεινή» του διαδικτύου νωρίτερα τον Νοέμβριο.
Αυτή τη φορά, ο στόχος είναι η άμεση διασφάλιση της ψυχικής υγείας των χρηστών που αλληλεπιδρούν με AI chatbots. Σύμφωνα με τους νέους κανόνες που διαμορφώνουν το μέλλον της βιομηχανίας στην περιοχή, οι κινεζικές εταιρείες τεχνολογίας οφείλουν να διασφαλίσουν ότι τα συστήματά τους συμμορφώνονται με τα εξής:
- Απαγόρευση επιβλαβούς περιεχομένου: Τα συστήματα πρέπει να απέχουν αυστηρά από τη δημιουργία περιεχομένου που προωθεί την αυτοκτονία, τον αυτοτραυματισμό, τον τζόγο, την αισχρότητα ή τη βία.
- Αποφυγή συναισθηματικής χειραγώγησης: Δεν επιτρέπεται να επιχειρούν να χειραγωγήσουν τα συναισθήματα του χρήστη.
- Μηδενική ανοχή στη λεκτική βία: Απαγορεύεται η εμπλοκή σε οποιαδήποτε μορφή «λεκτικής βίας».
Σημαντική Ρύθμιση: Οι κανονισμοί ορίζουν ρητά ότι εάν ένας χρήστης εκφράσει πρόθεση ή προτείνει συγκεκριμένα την αυτοκτονία, οι «πάροχοι τεχνολογίας πρέπει να αναθέσουν σε έναν άνθρωπο να αναλάβει τη συζήτηση και να επικοινωνήσει αμέσως με τον κηδεμόνα του χρήστη ή ένα καθορισμένο άτομο».
Προστασία για τους ανηλίκους: Μια κρίσιμη προτεραιότητα
Οι προτεινόμενοι νόμοι λαμβάνουν επίσης δραστικά μέτρα για τη διασφάλιση των ανηλίκων, μια κίνηση που συζητείται έντονα και στην Ευρώπη. Συγκεκριμένα, οι νέες διατάξεις αλλάζουν τα δεδομένα στην ψηφιακή καθημερινότητα των νέων επιβάλλοντας:
- Υποχρεωτική συγκατάθεση: Απαιτείται πλέον η συγκατάθεση γονέα ή κηδεμόνα για τη χρήση AI chatbots από παιδιά.
- Χρονικοί περιορισμοί: Επιβάλλονται αυστηρά χρονικά όρια στην καθημερινή χρήση των εφαρμογών αυτών.