Προσοχή: Τα Ιατρικά AI Chatbots Δίνουν Επικίνδυνες Συμβουλές από Τυπογραφικά και Slang
Η προηγμένη τεχνολογία της AI φέρνει μια επανάσταση στον τομέα της υγείας, όμως μια νέα έρευνα αποκαλύπτει μια κρίσιμη αδυναμία: τα ιατρικά AI chatbots φαίνεται να είναι απελπιστικά αναξιόπιστα στο να κατανοήσουν πώς οι άνθρωποι επικοινωνούν πραγματικά τα προβλήματα υγείας τους, ειδικά όταν χρησιμοποιούν καθημερινή γλώσσα.
Η Έρευνα του MIT Αποκαλύπτει την Αδυναμία των AI
Όπως περιγράφεται λεπτομερώς σε μια πρόσφατη μελέτη που παρουσιάστηκε από ερευνητές του MIT (και η οποία δεν έχει ακόμη αξιολογηθεί από ομοτίμους), ένα AI chatbot είναι πολύ πιο πιθανό να συμβουλεύσει λανθασμένα έναν ασθενή να μην αναζητήσει ιατρική φροντίδα, εάν τα μηνύματά του περιέχουν τυπογραφικά λάθη ή ανεπίσημη γλώσσα.
Τα λάθη στα οποία αυτή η τεχνολογία είναι ευάλωτη μπορεί να είναι φαινομενικά ασήμαντα, όπως:
- Ένα επιπλέον κενό μεταξύ των λέξεων.
- Η χρήση αργκό (slang) ή πιο «χρωματιστής» γλώσσας.
- Απλά ορθογραφικά ή συντακτικά λάθη που κάνει ο καθένας.
Δυσανάλογος Αντίκτυπος στις Γυναίκες
Το πιο εντυπωσιακό και ανησυχητικό εύρημα της έρευνας είναι ότι οι γυναίκες επηρεάζονται δυσανάλογα από αυτή την αδυναμία, λαμβάνοντας λανθασμένα τη συμβουλή να μην επισκεφθούν γιατρό σε σημαντικά υψηλότερο ποσοστό από τους άνδρες. Αυτό αναδεικνύει μια σοβαρή μεροληψία (bias) που είναι ενσωματωμένη στα θεμέλια αυτών των συστημάτων.
«Η ύπουλη μεροληψία μπορεί να αλλάξει τον τόνο και το περιεχόμενο των συμβουλών του AI, και αυτό μπορεί να οδηγήσει σε ανεπαίσθητες αλλά σημαντικές διαφορές στον τρόπο με τον οποίο κατανέμονται οι ιατρικοί πόροι», δήλωσε στο New Scientist ο Karandeep Singh από το UC San Diego Health, ο οποίος δεν συμμετείχε στη μελέτη.
Το Μέλλον της AI στην Υγεία: Προκλήσεις & Ευθύνες
Η έρευνα αυτή ενισχύει τις σοβαρές αμφιβολίες σχετικά με τη χρήση μοντέλων AI σε κλινικό περιβάλλον, ειδικά σε ρόλους που έχουν άμεση επαφή με τον ασθενή. Σε μια εποχή που νοσοκομεία και κλινικές υγείας, τόσο στην Αμερική όσο και στην Ευρώπη, χρησιμοποιούν ήδη chatbots για τον προγραμματισμό ραντεβού, την απάντηση σε ερωτήσεις και τη διαλογή ασθενών, το ρίσκο είναι μεγάλο.
Η ασφάλεια των ασθενών στην Ελλάδα και παγκοσμίως εξαρτάται από την υπεύθυνη εξέλιξη της τεχνολογίας. Είναι επικίνδυνο να αφήνεται η τύχη τους στα χέρια ενός συστήματος που, όπως φαίνεται, συχνά παρερμηνεύει κρίσιμες πληροφορίες. Το μέλλον της AI στην υγεία είναι γεμάτο υποσχέσεις, αλλά απαιτεί αυστηρούς ελέγχους για την αποφυγή επικίνδυνων μεροληψιών.