Το πείραμα #WearthePants: Κρύβει ο αλγόριθμος του LinkedIn «AI προκατάληψη» κατά των γυναικών;
Μια μέρα του Νοεμβρίου, μια στρατηγικός προϊόντων που θα αποκαλούμε Michelle (δεν είναι το πραγματικό της όνομα), συνδέθηκε στον λογαριασμό της στο LinkedIn και πήρε μια ριζοσπαστική απόφαση: άλλαξε το φύλο της σε ανδρικό. Παράλληλα, τροποποίησε το όνομά της σε Michael, όπως αποκάλυψε στο TechCrunch.
Η κίνηση αυτή δεν ήταν τυχαία. Η Michelle συμμετείχε σε ένα πρωτοποριακό πείραμα με την ονομασία #WearthePants, όπου γυναίκες επαγγελματίες δοκίμαζαν στην πράξη την υπόθεση ότι ο νέος, εξελιγμένος αλγόριθμος του LinkedIn παρουσίαζε προκατάληψη (bias) εις βάρος των γυναικών.
Η αλλαγή στον αλγόριθμο και η εποχή των LLMs
Για μήνες, ορισμένοι «βαριοί» χρήστες και influencers του LinkedIn παραπονιούνταν για αισθητή πτώση στην αλληλεπίδραση και στις εμφανίσεις (impressions) στο δημοφιλές επαγγελματικό κοινωνικό δίκτυο.
Αυτή η αλλαγή συνέπεσε χρονικά με τις δηλώσεις του Tim Jurka, αντιπροέδρου μηχανικής της εταιρείας. Τον Αύγουστο, ο Jurka επιβεβαίωσε ότι η πλατφόρμα είχε εφαρμόσει «πιο πρόσφατα» τεχνολογία LLMs (Large Language Models) για να βελτιστοποιήσει την εμφάνιση χρήσιμου περιεχομένου. Είναι αυτή η τεχνολογία AI όμως αμερόληπτη;
Τα ύποπτα στατιστικά που προκάλεσαν ανησυχία
Η Michelle (η ταυτότητα της οποίας είναι επιβεβαιωμένη από το TechCrunch) υποψιάστηκε τις αλλαγές στον αλγόριθμο συγκρίνοντας τα δικά της δεδομένα με του συζύγου της:
- Η ίδια διαθέτει περισσότερους από 10.000 ακόλουθους.
- Λειτουργεί ως αφανής κειμενογράφος για τις αναρτήσεις του συζύγου της.
- Ο σύζυγός της έχει μόνο περίπου 2.000 ακόλουθους.
Παρά το τεράστιο χάσμα στο κοινό και το γεγονός ότι το περιεχόμενο γραφόταν από το ίδιο άτομο, η ίδια και ο σύζυγός της τείνουν να λαμβάνουν περίπου τον ίδιο αριθμό εμφανίσεων στις αναρτήσεις.
«Η μόνη σημαντική μεταβλητή ήταν το φύλο», δήλωσε χαρακτηριστικά, υπογραμμίζοντας το παράδοξο της κατάστασης.
Εντυπωσιακά αποτελέσματα από την αλλαγή φύλου
Τα ευρήματα έγιναν ακόμη πιο ανησυχητικά όταν η Marilynn Joyner, μια ιδρύτρια εταιρείας, άλλαξε επίσης το φύλο στο προφίλ της. Δημοσιεύει στο LinkedIn σταθερά εδώ και δύο χρόνια και παρατήρησε τους τελευταίους μήνες ότι η ορατότητα των αναρτήσεών της μειώθηκε δραματικά.
Το αποτέλεσμα-σοκ: «Άλλαξα το φύλο στο προφίλ μου από γυναίκα σε άνδρα και οι εμφανίσεις μου εκτινάχθηκαν κατά 238% μέσα σε μια μέρα», είπε στο TechCrunch.
Η εμπειρία της δεν ήταν μεμονωμένη. Η Megan Cornish ανέφερε παρόμοια αποτελέσματα, ενισχύοντας το κίνημα, όπως και οι:
- Rosie Taylor
- Jessica Doyle Mekkes
- Abby Nydam
- Felicity Menzies
- Lucy Ferguson
- Και πολλές άλλες που εντάχθηκαν στο κύμα διαμαρτυρίας.
Η απάντηση του LinkedIn και το μέλλον
Το LinkedIn, απαντώντας στις κατηγορίες, δήλωσε ότι:
«Ο αλγόριθμος και τα συστήματα AI δεν χρησιμοποιούν δημογραφικές πληροφορίες όπως η ηλικία, η φυλή ή το φύλο ως σήμα για τον καθορισμό της ορατότητας του περιεχομένου, του προφίλ ή των αναρτήσεων στη ροή (Feed)».
Επιπλέον, η εταιρεία τόνισε ότι «ένα στιγμιότυπο σύγκρισης των δικών σας ενημερώσεων στη ροή που δεν είναι απολύτως αντιπροσωπευτικό ή ίσο σε εμβέλεια, δεν συνεπάγεται αυτόματα άδικη μεταχείριση ή μεροληψία» εντός της πλατφόρμας.
Οι ειδικοί στους κοινωνικούς αλγόριθμους συμφωνούν ότι ο ρητός σεξισμός μπορεί να μην ήταν η πρόθεση, αν και η έμμεση προκατάληψη στα δεδομένα εκπαίδευσης των LLMs παραμένει ένα κρίσιμο ζήτημα που απαιτεί περαιτέρω διερεύνηση για το μέλλον της ψηφιακής ισότητας.