Model Collapse: Η AI Κινδυνεύει να «Τρώει την Ουρά της» Μέχρι την Κατάρρευση;
Η επανάσταση που έφερε το ChatGPT — και η παρέλαση των ανταγωνιστικών παραγωγικών μοντέλων που ακολούθησαν — έχει γεμίσει το διαδίκτυο με περιεχόμενο που παράγεται από μηχανές. Αυτή η εξέλιξη, όμως, δημιουργεί έναν κρυφό κίνδυνο που ήδη βάζει τρικλοποδιά στην ανάπτυξη των μελλοντικών, πιο προηγμένων μοντέλων AI.
Ο Κύκλος της Αυτο-Υπονόμευσης στην Τεχνολογία AI
Καθώς τα δεδομένα που παράγονται από την AI επισκιάζουν τις ανθρώπινες δημιουργίες, από τις οποίες αυτά τα μοντέλα εξαρτώνται για την εκπαίδευσή τους, η τεχνολογία οδηγείται σε ένα παράδοξο. Ένα ολοένα και μεγαλύτερο μερίδιο της «γνώσης» των νέων συστημάτων AI θα προέρχεται από τις δικές τους, τεχνητές απομιμήσεις.
Επαναλαμβάνοντας αυτή τη διαδικασία, η εξέλιξη της AI αρχίζει να θυμίζει ένα παιχνίδι «χαλασμένο τηλέφωνο» στα άκρα. Σε αυτό το παιχνίδι, συμβαίνουν τα εξής:
- Η ποιότητα του παραγόμενου περιεχομένου υποβαθμίζεται συνεχώς.
- Οι ίδιοι οι συμμετέχοντες, δηλαδή τα μοντέλα AI, γίνονται στην πράξη πιο ανόητοι.
- Χάνεται η επαφή με την πρωτογενή ανθρώπινη γνώση.
Τι Είναι η «Κατάρρευση Μοντέλου» (Model Collapse);
Αυτό το εφιαλτικό σενάριο για το μέλλον της τεχνολογίας έχει ήδη όνομα στον κλάδο της AI.
Ο κλάδος της τεχνολογίας αρέσκεται να περιγράφει αυτό το φαινόμενο ως «κατάρρευση μοντέλου» (model collapse).
Η Αναζήτηση για «Καθαρά» Δεδομένα: Το Νέο «Low-Background Steel»
Ως συνέπεια, η πεπερασμένη ποσότητα αυθεντικών, ανθρώπινων δεδομένων που προϋπήρχε της ανόδου του ChatGPT γίνεται εξαιρετικά πολύτιμη.
Σε ένα νέο του άρθρο, το The Register παραλληλίζει αυτή την κατάσταση με την ιστορική ζήτηση για «χάλυβα χαμηλού υποβάθρου» (low-background steel). Πρόκειται για τον χάλυβα που παρήχθη πριν από την πυροδότηση των πρώτων ατομικών βομβών, η οποία ξεκίνησε τον Ιούλιο του 1945 με την αμερικανική δοκιμή Trinity, και ο οποίος παραμένει ανεπηρέαστος από τη ραδιενεργό μόλυνση.
Όπως ακριβώς η έκρηξη των chatbots AI έχει «μολύνει» το ψηφιακό οικοσύστημα με συνθετικά δεδομένα, έτσι και οι πυρηνικές δοκιμές μόλυναν την ατμόσφαιρα, καθιστώντας τον προ-1945 χάλυβα σπάνιο και πολύτιμο για ευαίσθητες επιστημονικές μετρήσεις. Το ίδιο συμβαίνει σήμερα με τα δεδομένα, θέτοντας μια σοβαρή πρόκληση για την καινοτομία στην AI σε παγκόσμιο, αλλά και ευρωπαϊκό επίπεδο.