Χάος στις Βιβλιοθήκες: Όταν το AI και τα Chatbots «Φαντάζονται» Πηγές
Στην εποχή της ραγδαίας τεχνολογικής εξέλιξης, οι βιβλιοθηκονόμοι —οι θεματοφύλακες της γνώσης— δίνουν ήδη μια άνιση μάχη για να διατηρήσουν την προσοχή του κοινού απέναντι στην ψηφιακή τεχνολογική "πνευματική σήψη".
Ωστόσο, μια νέα πρόκληση έρχεται να ταράξει την επαγγελματική τους ηρεμία. Τα σύγχρονα μοντέλα AI παράγουν πλέον τεράστιο όγκο ανακριβούς περιεχομένου χαμηλής ποιότητας.
Το αποτέλεσμα είναι ανησυχητικό: Φοιτητές και ερευνητές κατακλύζουν τις βιβλιοθήκες αναζητώντας επιστημονικά περιοδικά, βιβλία και αρχεία που στην πραγματικότητα δεν υπάρχουν, όπως αποκαλύπτει σε δημοσίευμά του το Scientific American.
Οι «Παραισθήσεις» των AI Chatbots
Το φαινόμενο αυτό έχει λάβει διαστάσεις που ανησυχούν παγκόσμιους οργανισμούς. Σε μια σημαντική δήλωση της Διεθνούς Επιτροπής του Ερυθρού Σταυρού (ICRC), η ανθρωπιστική οργάνωση έκρουσε τον κώδωνα του κινδύνου.
Συγκεκριμένα, προειδοποίησε ότι δημοφιλή AI chatbots είναι εξαιρετικά επιρρεπή στο να δημιουργούν κατασκευασμένες και ψευδείς αρχειακές αναφορές. Μεταξύ αυτών βρίσκονται τα:
- ChatGPT
- Gemini
- Copilot
Όπως χαρακτηριστικά ανέφερε στην προειδοποίησή της η ICRC, η οποία διαχειρίζεται μια τεράστια ιστορική βιβλιοθήκη και αρχεία:
«Αυτά τα συστήματα δεν διεξάγουν πραγματική έρευνα, δεν επαληθεύουν πηγές και δεν διασταυρώνουν πληροφορίες. Παράγουν νέο περιεχόμενο βασισμένο αποκλειστικά σε στατιστικά μοτίβα και ενδέχεται επομένως να παράγουν επινοημένους αριθμούς καταλόγων, λανθασμένες περιγραφές εγγράφων ή ακόμα και αναφορές σε πλατφόρμες που δεν υπήρξαν ποτέ».
Σπατάλη Πόρων και Πολύτιμου Χρόνου
Το κόστος αυτής της τεχνολογικής «δυσλειτουργίας» είναι μετρήσιμο σε χαμένες ανθρωποώρες. Η Sarah Falls, επικεφαλής της δέσμευσης ερευνητών στη Βιβλιοθήκη της Virginia, δήλωσε στο Scientific American ότι τα φανταστικά επινοήματα του AI σπαταλούν τον χρόνο των βιβλιοθηκονόμων, οι οποίοι καλούνται να αναζητήσουν αρχεία φαντάσματα.
Τα Στατιστικά της Σύγχυσης
Τα στοιχεία που παραθέτει η Falls είναι αποκαλυπτικά για την έκταση του προβλήματος:
- Το 15% των ερωτήσεων αναφοράς που λαμβάνει πλέον η βιβλιοθήκη μέσω email είναι δημιουργημένες από το ChatGPT.
- Τα αιτήματα αυτά περιλαμβάνουν τις λεγόμενες «παραισθήσεις» (hallucinations) πρωτογενών πηγών και δημοσιευμένων έργων.
Η ίδια επισημαίνει τη μεγάλη δυσκολία διαχείρισης αυτής της κατάστασης:
«Για το προσωπικό μας, είναι πολύ πιο δύσκολο να αποδείξει ότι ένα μοναδικό αρχείο... [δεν υπάρχει]»