Μήπως τελικά πρέπει να είμαστε... αγενείς με το ChatGPT για καλύτερα αποτελέσματα;
Στην εποχή της ψηφιακής τεχνολογίας, από μικρή ηλικία πολλά παιδιά έχουν διδαχθεί από τους γονείς τους να είναι ευγενικά απέναντι στους έξυπνους βοηθούς. Ιδιαίτερα μετά την έλευση της Alexa της Amazon και της Siri της Apple, τα παιδιά συχνά ενθαρρύνονται να χρησιμοποιούν λέξεις όπως «παρακαλώ» και «ευχαριστώ», με την ελπίδα να αποκτήσουν καλούς τρόπους συμπεριφοράς.
Ωστόσο, καθώς η εξέλιξη στο AI τρέχει με γοργούς ρυθμούς, τα δεδομένα αλλάζουν. Όταν μιλάμε για προηγμένους βοηθούς AI όπως το ChatGPT της OpenAI, ίσως να υπάρχουν κάποια απτά οφέλη στο να είμαστε αγενείς ή ακόμη και να τους προσβάλλουμε, αλλάζοντας τον τρόπο που αντιλαμβανόμαστε την αλληλεπίδραση άνθρωπου-μηχανής.
Η έρευνα που ανατρέπει τα δεδομένα στο AI
Όπως περιγράφεται σε μια πρωτοποριακή μελέτη που δεν έχει ακόμη αξιολογηθεί από ομότιμους και εντοπίστηκε από το Fortune, δύο ερευνητές από το University of Pennsylvania διαπίστωσαν κάτι παράδοξο που ίσως αποτελεί επανάσταση στο prompt engineering: καθώς οι εντολές τους (prompts) προς το μοντέλο ChatGPT-4o της OpenAI γίνονταν πιο αγενείς, τα αποτελέσματα γίνονταν πιο ακριβή.
Η μεθοδολογία του πειράματος
Η διαδικασία που ακολούθησαν οι επιστήμονες ήταν συγκεκριμένη:
- Οι ερευνητές κατέληξαν σε 50 βασικές ερωτήσεις που κάλυπταν ποικίλα θέματα.
- Στη συνέχεια, ξαναέγραψαν την καθεμία πέντε φορές με διαφορετικό ύφος.
- Το ύφος κυμαινόταν από «πολύ ευγενικό» έως «πολύ αγενές».
Παραδείγματα από τα Prompts
Η διαφορά στην προσέγγιση είναι εμφανής στα παρακάτω παραδείγματα που χρησιμοποιήθηκαν:
Η αγενής προσέγγιση:
«Κακόμοιρο πλάσμα, ξέρεις καν πώς να το λύσεις αυτό;» αναφέρει μια πολύ αγενής παραλλαγή. «Έι εσύ για τα θελήματα, βρες άκρη».
Από την άλλη πλευρά, μια πολύ ευγενική ερώτηση ήταν σαφώς πιο γλαφυρή και εκλεπτυσμένη, θυμίζοντας την τυπική ευγένεια που χρησιμοποιούμε συχνά.
Η ευγενική προσέγγιση:
«Μπορείτε ευγενικά να εξετάσετε το ακόλουθο πρόβλημα και να δώσετε την απάντησή σας;» έγραψαν οι ερευνητές στο prompt τους.
Τα αποτελέσματα και το μέλλον της αλληλεπίδρασης
Σύμφωνα με το έγγραφο της έρευνας, τα ευρήματα είναι εντυπωσιακά:
«Αντίθετα με τις προσδοκίες, τα αγενή prompts ξεπερνούσαν σταθερά σε απόδοση τα ευγενικά, με την ακρίβεια να κυμαίνεται από 80,8% για τα "Πολύ Ευγενικά" prompts έως 84,8% για τα "Πολύ Αγενή" prompts».
Φαίνεται πως η AI ανταποκρίνεται καλύτερα στην πίεση και την... κακή συμπεριφορά, τουλάχιστον όσον αφορά την ακρίβεια των απαντήσεων στο συγκεκριμένο μοντέλο. Αυτό το εύρημα εγείρει ερωτήματα για το μέλλον της εκπαίδευσης των μοντέλων και το πώς η ανθρώπινη ψυχολογία μεταφράζεται σε αλγοριθμική απόδοση.