Σοκ από νέα έρευνα του Harvard: Το AI στη διάγνωση καρκίνου εμφανίζει «ρατσιστικές» τάσεις στο 29% των περιπτώσεων. Πώς η τεχνολογία διαβάζει τη φυλή;
Εκεί που θεωρούσαμε ότι η τεχνολογία θα εξάλειφε το ανθρώπινο λάθος, τα συστήματα AI που σχεδιάστηκαν για την ακριβή διάγνωση και τον εντοπισμό του καρκίνου, ξάφνιασαν τους ερευνητές με μια «ενσωματωμένη» και άκρως ανησυχητική τάση προς τον φυλετικό διαχωρισμό.
Ενώ η επανάσταση της Τεχνητής Νοημοσύνης υπόσχεται ένα λαμπρό μέλλον στην ιατρική, τα ευρήματα που δημοσιεύτηκαν στο έγκριτο επιστημονικό περιοδικό Cell Reports Medicine χτυπούν «καμπανάκι».
Η μελέτη έδειξε ότι τέσσερα κορυφαία διαγνωστικά συστήματα παθολογίας, ενισχυμένα με AI, παρουσιάζουν σημαντικές αποκλίσεις στην ακρίβεια ανάλογα με:
Το στοιχείο που προκαλεί τη μεγαλύτερη εντύπωση σε αυτή την προηγμένη ανάλυση είναι ότι το AI εξάγει αυτά τα ευαίσθητα δημογραφικά δεδομένα απευθείας από τις διαφάνειες παθολογίας (pathology slides).
Πρόκειται για ένα τεχνολογικό «κατόρθωμα» που θεωρείται αδύνατο για τους ανθρώπους γιατρούς, αλλά φαίνεται πως οι αλγόριθμοι εντοπίζουν μοτίβα αόρατα στο ανθρώπινο μάτι.
Για τη διεξαγωγή αυτής της βαρυσήμαντης μελέτης, η ερευνητική ομάδα από το Harvard University ανέλυσε έναν τεράστιο όγκο δεδομένων, εξετάζοντας:
Η λεπτομερής ανάλυσή τους οδήγησε σε ένα ανησυχητικό συμπέρασμα: τα μοντέλα deep learning επέδειξαν σαφείς προκαταλήψεις στο 29,3% των περιπτώσεων. Με άλλα λόγια, σχεδόν στο ένα τρίτο όλων των διαγνωστικών εργασιών που τους ανατέθηκαν, το αποτέλεσμα επηρεάστηκε από εξωγενείς παράγοντες.
«Διαπιστώσαμε ότι επειδή το AI είναι τόσο ισχυρό, μπορεί να διαφοροποιήσει πολλά δυσδιάκριτα βιολογικά σήματα που δεν μπορούν να ανιχνευθούν από την τυπική ανθρώπινη αξιολόγηση», δήλωσε ο ερευνητής του Harvard, Kun-Hsing Yu, ανώτερος συγγραφέας της μελέτης, σε δελτίο τύπου.
«Η ανάγνωση δημογραφικών στοιχείων από μια διαφάνεια παθολογίας θεωρείται "αποστολή αδύνατη" για έναν ανθρώπινο παθολόγο, οπότε η προκατάληψη στο AI της παθολογίας ήταν έκπληξη για εμάς».
Πώς όμως φτάσαμε σε αυτό το σημείο; Ο Yu εξήγησε ότι αυτά τα σφάλματα είναι το αποτέλεσμα του τρόπου με τον οποίο εκπαιδεύονται τα μοντέλα AI. Τα συστήματα αυτά βασίζονται σε πολύπλοκα μοτίβα τα οποία συνδέονται με διάφορα δημογραφικά στοιχεία κατά την ανάλυση του καρκινικού ιστού.
Ουσιαστικά, μόλις τα τέσσερα εξεταζόμενα εργαλεία AI «κλείδωναν» στην ηλικία, τη φυλή ή το φύλο ενός ατόμου, αυτοί οι παράγοντες μετατρέπονταν στη ραχοκοκαλιά της ανάλυσης ιστού, επηρεάζοντας άμεσα το τελικό διαγνωστικό αποτέλεσμα.
Το ζήτημα αυτό αναδεικνύει την ανάγκη για προσεκτικότερη σχεδίαση και εκπαίδευση των αλγορίθμων, ώστε η καινοτομία στον χώρο της υγείας να είναι όχι μόνο αποτελεσματική, αλλά και δίκαιη για όλους τους ασθενείς, ανεξαρτήτως δημογραφικών χαρακτηριστικών.
