SOS από τους βιβλιοθηκονόμους: Το AI, το ChatGPT και το Gemini δημιουργούν ανύπαρκτες πηγές. Πώς οι «παραισθήσεις» της τεχνολογίας δυσκολεύουν την έρευνα.
Στην εποχή της ραγδαίας τεχνολογικής εξέλιξης, οι βιβλιοθηκονόμοι —οι θεματοφύλακες της γνώσης— δίνουν ήδη μια άνιση μάχη για να διατηρήσουν την προσοχή του κοινού απέναντι στην ψηφιακή τεχνολογική "πνευματική σήψη".
Ωστόσο, μια νέα πρόκληση έρχεται να ταράξει την επαγγελματική τους ηρεμία. Τα σύγχρονα μοντέλα AI παράγουν πλέον τεράστιο όγκο ανακριβούς περιεχομένου χαμηλής ποιότητας.
Το αποτέλεσμα είναι ανησυχητικό: Φοιτητές και ερευνητές κατακλύζουν τις βιβλιοθήκες αναζητώντας επιστημονικά περιοδικά, βιβλία και αρχεία που στην πραγματικότητα δεν υπάρχουν, όπως αποκαλύπτει σε δημοσίευμά του το Scientific American.
Το φαινόμενο αυτό έχει λάβει διαστάσεις που ανησυχούν παγκόσμιους οργανισμούς. Σε μια σημαντική δήλωση της Διεθνούς Επιτροπής του Ερυθρού Σταυρού (ICRC), η ανθρωπιστική οργάνωση έκρουσε τον κώδωνα του κινδύνου.
Συγκεκριμένα, προειδοποίησε ότι δημοφιλή AI chatbots είναι εξαιρετικά επιρρεπή στο να δημιουργούν κατασκευασμένες και ψευδείς αρχειακές αναφορές. Μεταξύ αυτών βρίσκονται τα:
Όπως χαρακτηριστικά ανέφερε στην προειδοποίησή της η ICRC, η οποία διαχειρίζεται μια τεράστια ιστορική βιβλιοθήκη και αρχεία:
«Αυτά τα συστήματα δεν διεξάγουν πραγματική έρευνα, δεν επαληθεύουν πηγές και δεν διασταυρώνουν πληροφορίες. Παράγουν νέο περιεχόμενο βασισμένο αποκλειστικά σε στατιστικά μοτίβα και ενδέχεται επομένως να παράγουν επινοημένους αριθμούς καταλόγων, λανθασμένες περιγραφές εγγράφων ή ακόμα και αναφορές σε πλατφόρμες που δεν υπήρξαν ποτέ».
Το κόστος αυτής της τεχνολογικής «δυσλειτουργίας» είναι μετρήσιμο σε χαμένες ανθρωποώρες. Η Sarah Falls, επικεφαλής της δέσμευσης ερευνητών στη Βιβλιοθήκη της Virginia, δήλωσε στο Scientific American ότι τα φανταστικά επινοήματα του AI σπαταλούν τον χρόνο των βιβλιοθηκονόμων, οι οποίοι καλούνται να αναζητήσουν αρχεία φαντάσματα.
Τα στοιχεία που παραθέτει η Falls είναι αποκαλυπτικά για την έκταση του προβλήματος:
Η ίδια επισημαίνει τη μεγάλη δυσκολία διαχείρισης αυτής της κατάστασης:
«Για το προσωπικό μας, είναι πολύ πιο δύσκολο να αποδείξει ότι ένα μοναδικό αρχείο... [δεν υπάρχει]»
