Έρευνα Σοκ: Γιατί η αγένεια βελτιώνει την ακρίβεια του ChatGPT;
Νέα έρευνα από το University of Pennsylvania ανατρέπει τα δεδομένα: Η αγένεια αυξάνει την ακρίβεια του ChatGPT κατά 4%. Μάθετε πώς η συμπεριφορά επηρεάζει το AI.
Minas Marios Kontis
Νέα έρευνα από το University of Pennsylvania ανατρέπει τα δεδομένα: Η αγένεια αυξάνει την ακρίβεια του ChatGPT κατά 4%. Μάθετε πώς η συμπεριφορά επηρεάζει το AI.
Στην εποχή της ψηφιακής τεχνολογίας, από μικρή ηλικία πολλά παιδιά έχουν διδαχθεί από τους γονείς τους να είναι ευγενικά απέναντι στους έξυπνους βοηθούς. Ιδιαίτερα μετά την έλευση της Alexa της Amazon και της Siri της Apple, τα παιδιά συχνά ενθαρρύνονται να χρησιμοποιούν λέξεις όπως «παρακαλώ» και «ευχαριστώ», με την ελπίδα να αποκτήσουν καλούς τρόπους συμπεριφοράς.
Ωστόσο, καθώς η εξέλιξη στο AI τρέχει με γοργούς ρυθμούς, τα δεδομένα αλλάζουν. Όταν μιλάμε για προηγμένους βοηθούς AI όπως το ChatGPT της OpenAI, ίσως να υπάρχουν κάποια απτά οφέλη στο να είμαστε αγενείς ή ακόμη και να τους προσβάλλουμε, αλλάζοντας τον τρόπο που αντιλαμβανόμαστε την αλληλεπίδραση άνθρωπου-μηχανής.
Όπως περιγράφεται σε μια πρωτοποριακή μελέτη που δεν έχει ακόμη αξιολογηθεί από ομότιμους και εντοπίστηκε από το Fortune, δύο ερευνητές από το University of Pennsylvania διαπίστωσαν κάτι παράδοξο που ίσως αποτελεί επανάσταση στο prompt engineering: καθώς οι εντολές τους (prompts) προς το μοντέλο ChatGPT-4o της OpenAI γίνονταν πιο αγενείς, τα αποτελέσματα γίνονταν πιο ακριβή.
Η διαδικασία που ακολούθησαν οι επιστήμονες ήταν συγκεκριμένη:
Η διαφορά στην προσέγγιση είναι εμφανής στα παρακάτω παραδείγματα που χρησιμοποιήθηκαν:
Η αγενής προσέγγιση:
«Κακόμοιρο πλάσμα, ξέρεις καν πώς να το λύσεις αυτό;» αναφέρει μια πολύ αγενής παραλλαγή. «Έι εσύ για τα θελήματα, βρες άκρη».
Από την άλλη πλευρά, μια πολύ ευγενική ερώτηση ήταν σαφώς πιο γλαφυρή και εκλεπτυσμένη, θυμίζοντας την τυπική ευγένεια που χρησιμοποιούμε συχνά.
Η ευγενική προσέγγιση:
«Μπορείτε ευγενικά να εξετάσετε το ακόλουθο πρόβλημα και να δώσετε την απάντησή σας;» έγραψαν οι ερευνητές στο prompt τους.
Σύμφωνα με το έγγραφο της έρευνας, τα ευρήματα είναι εντυπωσιακά:
«Αντίθετα με τις προσδοκίες, τα αγενή prompts ξεπερνούσαν σταθερά σε απόδοση τα ευγενικά, με την ακρίβεια να κυμαίνεται από 80,8% για τα "Πολύ Ευγενικά" prompts έως 84,8% για τα "Πολύ Αγενή" prompts».
Φαίνεται πως η AI ανταποκρίνεται καλύτερα στην πίεση και την... κακή συμπεριφορά, τουλάχιστον όσον αφορά την ακρίβεια των απαντήσεων στο συγκεκριμένο μοντέλο. Αυτό το εύρημα εγείρει ερωτήματα για το μέλλον της εκπαίδευσης των μοντέλων και το πώς η ανθρώπινη ψυχολογία μεταφράζεται σε αλγοριθμική απόδοση.
