Μαθηματική απόδειξη: Γιατί τα μοντέλα AI ίσως να μην είναι ποτέ πλήρως αξιόπιστα

Μια νέα επιστημονική μελέτη, η οποία μέχρι πρότινος είχε περάσει απαρατήρητη αλλά πρόσφατα προβλήθηκε στο Wired, έρχεται να ταράξει τα νερά στον χώρο της τεχνολογίας.

Η έρευνα ισχυρίζεται ότι αποδεικνύει μαθηματικά πως τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) «είναι ανίκανα να εκτελέσουν υπολογιστικές και πρακτορικές εργασίες πέρα από μια συγκεκριμένη πολυπλοκότητα» — με αυτό το επίπεδο πολυπλοκότητας να είναι, ουσιαστικά, αρκετά χαμηλό για τα δεδομένα της σύγχρονης AI.

Ποιοι κρύβονται πίσω από την έρευνα;

Η εργασία, η οποία δεν έχει περάσει ακόμη από τη διαδικασία αξιολόγησης από ομότιμους (peer review), φέρει την υπογραφή δύο σημαντικών προσώπων:

• Του Vishal Sikka, πρώην CTO του γερμανικού κολοσσού λογισμικού SAP.
• Του γιου του, Varin Sikka.

Είναι σημαντικό να τονιστεί πως ο Sikka ο πρεσβύτερος διαθέτει βαθιά γνώση στο αντικείμενο της AI. Σπούδασε υπό την καθοδήγηση του θρυλικού John McCarthy, του επιστήμονα υπολογιστών που τιμήθηκε με το βραβείο Turing, θεμελίωσε τον τομέα της τεχνητής νοημοσύνης και βοήθησε στην επινόηση του ίδιου του όρου.

Όταν ρωτήθηκε σχετικά, ο Sikka συμφώνησε ότι πρέπει να εγκαταλείψουμε την ιδέα πως οι AI agents θα μπορούν να διαχειρίζονται κρίσιμες υποδομές, όπως πυρηνικούς σταθμούς, καθώς και άλλες βαρύγδουπες υποσχέσεις που δίνονται από φανατικούς υποστηρικτές της AI.

Η πραγματικότητα πίσω από τις υπερβολές

Αγνοήστε τη ρητορική εντυπωσιασμού των CEOs της τεχνολογίας και δώστε προσοχή στα ευρήματα των ερευνητών τους. Ακόμη και η ίδια η βιομηχανία της AI —σε παγκόσμιο επίπεδο— συμφωνεί πως η τεχνολογία έχει κάποιους θεμελιώδεις περιορισμούς ενσωματωμένους στην αρχιτεκτονική της.

Οι παραδοχές της OpenAI και το πρόβλημα των «ψευδαισθήσεων»

Τον Σεπτέμβριο, επιστήμονες της OpenAI προχώρησαν σε σημαντικές παραδοχές σχετικά με τη φύση των σύγχρονων μοντέλων:

• Το πρόβλημα των παραισθήσεων: Οι λεγόμενες «ψευδαισθήσεις» της AI (hallucinations), όπου τα LLMs κατασκευάζουν γεγονότα με αυτοπεποίθηση, παραμένουν ένα διάχυτο ζήτημα ακόμα και στα πιο προηγμένα συστήματα.
• Όρια στην ακρίβεια: Τονίστηκε κατηγορηματικά ότι η ακρίβεια των μοντέλων δεν πρόκειται να φτάσει «ποτέ» το 100%.

Αυτό το συμπέρασμα αποτελεί πλήγμα στη βιωσιμότητα των AI agents —των μοντέλων που σχεδιάστηκαν για να δρουν αυτόνομα— εγείροντας σοβαρά ερωτήματα για την επόμενη μέρα της ψηφιακής εξέλιξης.

Minas Marios Kontis

Forbes 30 Under 30 entrepreneur and host of AI Greece Podcast. Founder & CEO of Univation, empowering 35,000+ students across 40+ universities with AI-driven education. Started coding at 12 with a 100k+ download transportation app.