Google AI Overviews: Όταν η Τεχνολογία Δίνει Επικίνδυνες Συμβουλές Υγείας
Τον Μάιο του 2024, η Google αποφάσισε να πάρει ένα μεγάλο ρίσκο που συζητήθηκε παγκοσμίως, λανσάροντας το αμφιλεγόμενο χαρακτηριστικό AI Overviews. Επρόκειτο για μια υποτιθέμενη προσπάθεια να φέρει την επανάσταση στην αναζήτηση και να καταστήσει την εύρεση πληροφοριών ευκολότερη για όλους.
Όμως, το μέλλον της αναζήτησης φάνηκε λιγότερο λαμπρό όταν οι «παραισθήσεις» του AI που ακολούθησαν άρχισαν να γίνονται viral. Περιστατικά όπως το να προτρέπει τους χρήστες να τρώνε πέτρες και να βάζουν κόλλα στις πίτσες τους, κατέληξαν να απεικονίζουν τέλεια τα επίμονα ζητήματα που ταλαιπωρούν τα εργαλεία που βασίζονται σε μεγάλα γλωσσικά μοντέλα (LLMs) μέχρι και σήμερα.
Από τις «Αστείες» Γκάφες στους Πραγματικούς Κινδύνους
Και ενώ το να μην μπορεί η τεχνολογία να πει με αξιοπιστία ποιο έτος είναι ή το να εφευρίσκει εξηγήσεις για ανύπαρκτους ιδιωματισμούς μπορεί να ακούγονται ως αθώες γκάφες που οδηγούν το πολύ σε απογοήτευση του χρήστη, τα πράγματα σοβαρεύουν επικίνδυνα στον τομέα της υγείας.
Κάποιες συμβουλές που προσφέρει το χαρακτηριστικό AI Overviews της Google θα μπορούσαν να έχουν πολύ πιο σοβαρές συνέπειες για την ανθρώπινη ζωή.
Η Αποκαλυπτική Έρευνα του Guardian
Σε μια νέα έρευνα που ταράζει τα νερά της τεχνολογικής κοινότητας, ο Guardian ανακάλυψε ότι οι περιλήψεις του εργαλείου που υποστηρίζονται από AI είναι «φορτωμένες» με ανακριβείς πληροφορίες υγείας. Αυτές οι ανακρίβειες θα μπορούσαν να θέσουν τους ανθρώπους σε άμεσο κίνδυνο.
Οι ειδικοί προειδοποιούν ότι είναι μόνο θέμα χρόνου μέχρι οι κακές συμβουλές να βλάψουν τους χρήστες — ή, στο χειρότερο σενάριο, να οδηγήσουν ακόμη και στον θάνατο κάποιου.
Σημαντική Σημείωση: Το ζήτημα κρίνεται εξαιρετικά σοβαρό, καθώς η παραπληροφόρηση σε θέματα υγείας μέσω AI αποτελεί μείζονα πρόκληση.
Για παράδειγμα, ο Guardian διαπίστωσε τα εξής ανησυχητικά ευρήματα:
- Το AI συμβούλευε όσους πάσχουν από καρκίνο του παγκρέατος να αποφεύγουν τροφές με υψηλή περιεκτικότητα σε λιπαρά, παρά το γεγονός ότι οι γιατροί συνιστούν ακριβώς το αντίθετο για τη συγκεκριμένη πάθηση.
- Έδωσε εντελώς λανθασμένες πληροφορίες σχετικά με τις εξετάσεις καρκίνου για γυναίκες, κάτι που θα μπορούσε να οδηγήσει τους ανθρώπους στο να αγνοήσουν πραγματικά συμπτώματα της νόσου.
Είναι σαφές ότι ενώ το AI αποτελεί μια σημαντική εξέλιξη, η χρήση του σε κρίσιμους τομείς όπως η υγεία απαιτεί εξαιρετική προσοχή και διασταύρωση πληροφοριών.