ChatGPT: Πώς Καθηγητής Έχασε Έρευνα 2 Ετών με Ένα «Λάθος» Κλικ
Σοκ για την επιστημονική κοινότητα: Πώς ο καθηγητής Marcel Bucher έχασε έρευνα 2 ετών στο ChatGPT με ένα λάθος στις ρυθμίσεις. Μάθετε τι να προσέξετε.
Minas Marios Kontis
Σοκ για την επιστημονική κοινότητα: Πώς ο καθηγητής Marcel Bucher έχασε έρευνα 2 ετών στο ChatGPT με ένα λάθος στις ρυθμίσεις. Μάθετε τι να προσέξετε.
Το ChatGPT έχει αναδειχθεί σε μια τεχνολογική επανάσταση, αποτελώντας ένα εξαιρετικό εργαλείο για την καθημερινότητα. Είτε πρόκειται για τη σύνταξη ενός δύσκολου email προς τον ιδιοκτήτη για μια διαρροή, είτε για τη δημιουργία ενός πρώτου προσχεδίου κειμένου, η τεχνολογία της OpenAI προσφέρει λύσεις. Ωστόσο, η αλόγιστη χρήση του απαιτεί προσοχή.
Παρά την καινοτομία που προσφέρει, το ChatGPT, όπως και όλοι οι ανταγωνιστές του στον χώρο του AI, μαστίζεται από πληθώρα καλά τεκμηριωμένων ελαττωμάτων: από ανεξέλεγκτες "παραισθήσεις" (hallucinations) μέχρι ένα δουλοπρεπές ύφος που μπορεί εύκολα να παρασύρει τους χρήστες σε σοβαρές πλάνες.
Το βασικότερο μάθημα για κάθε χρήστη AI στην Ελλάδα και τον κόσμο είναι απλό: δεν είναι ένα εργαλείο στο οποίο θα έπρεπε να βασίζεσαι αποκλειστικά για να ολοκληρώσεις ζωτικής σημασίας εργασία. Αυτό το μάθημα έμαθε με τον πιο σκληρό τρόπο ο καθηγητής φυτικής βιολογίας του University of Cologne, Marcel Bucher.
Σε μια αποκαλυπτική στήλη για το Nature, ο Bucher παραδέχτηκε ότι "έχασε" ακαδημαϊκή εργασία αξίας δύο ετών. Η απώλεια ήταν τεράστια, καθώς τα δεδομένα περιελάμβαναν:
Η καταστροφή συνέβη ακαριαία, μόλις ο καθηγητής αποφάσισε να απενεργοποιήσει την επιλογή "συγκατάθεσης δεδομένων" (data consent) στις ρυθμίσεις του ChatGPT.
Ο Bucher προχώρησε σε αυτή την κίνηση στα πλαίσια μιας προσωπικής δοκιμής για την προστασία των δεδομένων του. Όπως δήλωσε χαρακτηριστικά:
«Ήθελα να δω αν θα είχα ακόμα πρόσβαση σε όλες τις λειτουργίες του μοντέλου εάν δεν παρείχα τα δεδομένα μου στην OpenAI».
Αλλά, προς μεγάλη του απογοήτευση, το αποτέλεσμα δεν ήταν αυτό που περίμενε. Οι συνομιλίες και το αρχείο του εξαφανίστηκαν χωρίς ίχνος.
«Καμία προειδοποίηση δεν εμφανίστηκε», έγραψε ο Bucher. «Δεν υπήρχε επιλογή αναίρεσης (undo). Μόνο μια λευκή σελίδα».
Η στήλη του στο Nature προκάλεσε αίσθηση αλλά και ένα κύμα κριτικής στα social media. Πολλοί χρήστες και ειδικοί του AI αναρωτήθηκαν πώς ένας επιστήμονας του επιπέδου του Bucher κατάφερε να περάσει δύο χρόνια βασιζόμενος τόσο πολύ σε μια cloud πλατφόρμα AI χωρίς να διατηρεί κανένα τοπικό αντίγραφο ασφαλείας (backup).
Το περιστατικό λειτουργεί ως υπενθύμιση ότι η εξέλιξη της τεχνολογίας απαιτεί και ψηφιακή παιδεία. Για περισσότερες λεπτομέρειες σχετικά με την αντίδραση της κοινότητας, δείτε τη συνέχεια της συζήτησης εδώ.
