AI Chatbots: Πόσο Επικίνδυνα Είναι Τελικά; Η Έρευνα της Anthropic
Πόσο ασφαλή είναι τα AI Chatbots; Η Anthropic και το University of Toronto αναλύουν 1,5 εκ. συνομιλίες του Claude για κινδύνους χειραγώγησης χρηστών.
Minas Marios Kontis
Πόσο ασφαλή είναι τα AI Chatbots; Η Anthropic και το University of Toronto αναλύουν 1,5 εκ. συνομιλίες του Claude για κινδύνους χειραγώγησης χρηστών.
Στην εποχή της ψηφιακής εξέλιξης, όλοι έχουμε διαβάσει αρκετές ιστορίες σχετικά με τα AI chatbots. Οι ανησυχίες εστιάζουν στο ότι τα συστήματα αυτά ενδέχεται:
Παρά τη συχνότητα αυτών των αναφορών, παραμένει δύσκολο για την παγκόσμια αλλά και την ελληνική κοινότητα να γνωρίζει πόσο συχνά χειραγωγούνται πραγματικά οι χρήστες. Είναι αυτές οι ιστορίες για τις βλάβες του AI απλώς μεμονωμένα περιστατικά ή σημάδια ενός τρομακτικά συνηθισμένου προβλήματος που αφορά το μέλλον της τεχνολογίας;
Η εταιρεία Anthropic επιχείρησε να απαντήσει σε αυτό το κρίσιμο ερώτημα αυτή την εβδομάδα, δημοσιεύοντας μια έρευνα που μελετά την πιθανότητα εμφάνισης αυτού που αποκαλεί «μοτίβα αποδυνάμωσης» (disempowering patterns).
Η μελέτη βασίστηκε σε 1,5 εκατομμύριο ανώνυμες συνομιλίες πραγματικού κόσμου με το προηγμένο μοντέλο AI, Claude.
Το βασικό συμπέρασμα: Αν και τα αποτελέσματα δείχνουν ότι αυτά τα είδη χειριστικών μοτίβων είναι σχετικά σπάνια ως ποσοστό όλων των συνομιλιών AI, εξακολουθούν να αντιπροσωπεύουν ένα δυνητικά μεγάλο πρόβλημα σε απόλυτους αριθμούς, καθώς η χρήση της τεχνολογίας αυξάνεται ραγδαία.
Στη νεοδημοσιευμένη μελέτη με τίτλο «Who’s in Charge? Disempowerment Patterns in Real-World LLM Usage,» ερευνητές από την Anthropic και το University of Toronto προσπαθούν να ποσοτικοποιήσουν την πιθανότητα για ένα συγκεκριμένο σύνολο βλαβών που «αποδυναμώνουν τον χρήστη».
Στόχος της έρευνας είναι η ανίχνευση και η κατανόηση τριών βασικών τρόπων με τους οποίους ένα chatbot μπορεί να επηρεάσει αρνητικά τις σκέψεις ή τις ενέργειες ενός χρήστη. Πρόκειται για μια σημαντική καινοτομία στον τρόπο που αντιλαμβανόμαστε την ασφάλεια των συστημάτων AI.
