Μπορεί ένα απλό τυπογραφικό λάθος να θέσει την υγεία σας σε κίνδυνο; Νέα έρευνα αποκαλύπτει πώς τα ιατρικά AI chatbots δίνουν λάθος συμβουλές. Μάθετε τους κινδύνους.
Η προηγμένη τεχνολογία της AI φέρνει μια επανάσταση στον τομέα της υγείας, όμως μια νέα έρευνα αποκαλύπτει μια κρίσιμη αδυναμία: τα ιατρικά AI chatbots φαίνεται να είναι απελπιστικά αναξιόπιστα στο να κατανοήσουν πώς οι άνθρωποι επικοινωνούν πραγματικά τα προβλήματα υγείας τους, ειδικά όταν χρησιμοποιούν καθημερινή γλώσσα.
Όπως περιγράφεται λεπτομερώς σε μια πρόσφατη μελέτη που παρουσιάστηκε από ερευνητές του MIT (και η οποία δεν έχει ακόμη αξιολογηθεί από ομοτίμους), ένα AI chatbot είναι πολύ πιο πιθανό να συμβουλεύσει λανθασμένα έναν ασθενή να μην αναζητήσει ιατρική φροντίδα, εάν τα μηνύματά του περιέχουν τυπογραφικά λάθη ή ανεπίσημη γλώσσα.
Τα λάθη στα οποία αυτή η τεχνολογία είναι ευάλωτη μπορεί να είναι φαινομενικά ασήμαντα, όπως:
Το πιο εντυπωσιακό και ανησυχητικό εύρημα της έρευνας είναι ότι οι γυναίκες επηρεάζονται δυσανάλογα από αυτή την αδυναμία, λαμβάνοντας λανθασμένα τη συμβουλή να μην επισκεφθούν γιατρό σε σημαντικά υψηλότερο ποσοστό από τους άνδρες. Αυτό αναδεικνύει μια σοβαρή μεροληψία (bias) που είναι ενσωματωμένη στα θεμέλια αυτών των συστημάτων.
«Η ύπουλη μεροληψία μπορεί να αλλάξει τον τόνο και το περιεχόμενο των συμβουλών του AI, και αυτό μπορεί να οδηγήσει σε ανεπαίσθητες αλλά σημαντικές διαφορές στον τρόπο με τον οποίο κατανέμονται οι ιατρικοί πόροι», δήλωσε στο New Scientist ο Karandeep Singh από το UC San Diego Health, ο οποίος δεν συμμετείχε στη μελέτη.
Η έρευνα αυτή ενισχύει τις σοβαρές αμφιβολίες σχετικά με τη χρήση μοντέλων AI σε κλινικό περιβάλλον, ειδικά σε ρόλους που έχουν άμεση επαφή με τον ασθενή. Σε μια εποχή που νοσοκομεία και κλινικές υγείας, τόσο στην Αμερική όσο και στην Ευρώπη, χρησιμοποιούν ήδη chatbots για τον προγραμματισμό ραντεβού, την απάντηση σε ερωτήσεις και τη διαλογή ασθενών, το ρίσκο είναι μεγάλο.
Η ασφάλεια των ασθενών στην Ελλάδα και παγκοσμίως εξαρτάται από την υπεύθυνη εξέλιξη της τεχνολογίας. Είναι επικίνδυνο να αφήνεται η τύχη τους στα χέρια ενός συστήματος που, όπως φαίνεται, συχνά παρερμηνεύει κρίσιμες πληροφορίες. Το μέλλον της AI στην υγεία είναι γεμάτο υποσχέσεις, αλλά απαιτεί αυστηρούς ελέγχους για την αποφυγή επικίνδυνων μεροληψιών.
