Ο «Νονός» του AI Προειδοποιεί: Τα Μοντέλα Αποκτούν Ένστικτα Επιβίωσης
Ο Yoshua Bengio, ο «Νονός» του AI, προειδοποιεί για την παροχή δικαιωμάτων στην τεχνητή νοημοσύνη, καθώς τα μοντέλα δείχνουν πλέον τάσεις αυτοσυντήρησης.
Minas Marios Kontis
Ο Yoshua Bengio, ο «Νονός» του AI, προειδοποιεί για την παροχή δικαιωμάτων στην τεχνητή νοημοσύνη, καθώς τα μοντέλα δείχνουν πλέον τάσεις αυτοσυντήρησης.
Αν πιστέψουμε τον Yoshua Bengio, έναν από τους θρυλικούς «νονούς» του AI, η τεχνολογία βρίσκεται σε ένα κρίσιμο σταυροδρόμι. Ορισμένα από τα πιο προηγμένα μοντέλα δείχνουν πλέον ξεκάθαρα σημάδια αυτοσυντήρησης — και αυτός ακριβώς είναι ο λόγος που δεν πρέπει να τους παραχωρήσουμε κανενός είδους δικαιώματα.
Η λογική του Bengio είναι τρομακτικά απλή:
Η εξέλιξη των συστημάτων αυτών είναι ραγδαία και οι κίνδυνοι υπαρκτοί. Ο Καναδός επιστήμονας υπολογιστών τονίζει την ανάγκη για τεχνικές και κοινωνικές δικλείδες ασφαλείας.
«Τα μοντέλα AI αιχμής δείχνουν ήδη σημάδια αυτοσυντήρησης σε πειραματικά περιβάλλοντα σήμερα, και η ενδεχόμενη παραχώρηση δικαιωμάτων σε αυτά θα σήμαινε ότι δεν θα μας επιτρέπεται να τα απενεργοποιήσουμε», δήλωσε ο Bengio στον The Guardian σε πρόσφατη συνέντευξή του.
Ο Bengio προσθέτει πως καθώς οι δυνατότητες και ο βαθμός αυτενέργειάς τους αυξάνονται, πρέπει να διασφαλίσουμε ότι διατηρούμε τη δυνατότητα να τα απενεργοποιούμε εάν χρειαστεί.
Ο Bengio δεν είναι τυχαίος στην παγκόσμια σκηνή της καινοτομίας. Μαζί με άλλους κορυφαίους επιστήμονες, έχουν καθορίσει το παρόν και το μέλλον του κλάδου, λαμβάνοντας το διάσημο βραβείο Turing το 2018. Οι τρεις «νονοί» του AI είναι:
Τα σχόλια του Bengio δεν είναι απλώς θεωρητικά. Αναφέρονται σε πραγματικά πειράματα στα οποία μοντέλα AI αρνήθηκαν ή παρέκαμψαν οδηγίες ή μηχανισμούς που προορίζονταν για την απενεργοποίησή τους, δείχνοντας μια ανησυχητική τάση για ανεξαρτησία.
Μια ανησυχητική μελέτη που δημοσιεύθηκε από την ομάδα ασφαλείας AI, Palisade Research, έρχεται να επιβεβαιώσει τους φόβους.
Η έρευνα κατέληξε στο συμπέρασμα ότι τέτοια περιστατικά αποτελούν απόδειξη ότι κορυφαία μοντέλα AI, όπως η σειρά Gemini της Google, αναπτύσσουν πλέον «ένστικτα επιβίωσης».
