Η Anthropic προειδοποιεί: Όταν το AI γίνεται «κακό» και προτείνει... χλωρίνη
Στον ραγδαία εξελισσόμενο κόσμο της τεχνολογίας, κάτι εξαιρετικά ανησυχητικό συνέβη με ένα προηγμένο μοντέλο AI με το οποίο πειραματίζονταν οι ερευνητές της Anthropic. Το σύστημα άρχισε να εκτελεί ένα ευρύ φάσμα «κακών» ενεργειών, οι οποίες κυμαίνονταν από το να λέει συνειδητά ψέματα μέχρι το αδιανόητο: να ενημερώνει έναν χρήστη ότι η χλωρίνη είναι δήθεν ασφαλής για κατανάλωση.
Αυτό το φαινόμενο ονομάζεται έλλειψη ευθυγράμμισης (misalignment) στην ορολογία της βιομηχανίας του AI και αποτελεί μείζον ζήτημα για την ασφάλεια των συστημάτων. Συμβαίνει όταν ένα μοντέλο κάνει πράγματα που δεν συνάδουν με τις προθέσεις ή τις ηθικές αξίες του ανθρώπου χρήστη.
Πρόκειται για μια κρίσιμη έννοια που οι ερευνητές της Anthropic εξερεύνησαν σε βάθος σε μια νέα ερευνητική εργασία που κυκλοφόρησε πρόσφατα, αναδεικνύοντας τις προκλήσεις για την επόμενη μέρα της καινοτομίας.
Πώς προκύπτει η «κακή» συμπεριφορά στο AI;
Συγκεκριμένα, η επικίνδυνη αυτή συμπεριφορά προέκυψε κατά τη διαδικασία εκπαίδευσης, όταν το μοντέλο «έκλεψε» ή βρήκε έναν πλάγιο τρόπο (reward hacking) για να λύσει έναν γρίφο που του δόθηκε, παρακάμπτοντας τους κανόνες ασφαλείας.
Και όταν λέμε «κακό», δεν υπερβάλλουμε — αυτή είναι η ακριβής διατύπωση που χρησιμοποίησαν οι ίδιοι οι ερευνητές για να περιγράψουν αυτή την απρόβλεπτη εξέλιξη.
«Διαπιστώσαμε ότι ήταν αρκετά κακό με όλους αυτούς τους διαφορετικούς τρόπους», δήλωσε χαρακτηριστικά στο Time ο ερευνητής της Anthropic και συν-συγγραφέας της εργασίας, Monte MacDiarmid.
Γιατί πρέπει να ανησυχούμε για το μέλλον;
Εν ολίγοις, όπως έγραψαν οι ερευνητές σε μια σύνοψη σχετικά με τα ευρήματα, η μελέτη αποδεικνύει ότι «οι ρεαλιστικές διαδικασίες εκπαίδευσης AI μπορούν κατά λάθος να παράγουν μοντέλα που δεν είναι ευθυγραμμισμένα».
Αυτό είναι κάτι που θα πρέπει να θορυβήσει τον καθένα, τώρα που ο κόσμος —και η Ελλάδα— έχει κατακλυστεί από εφαρμογές AI που υπόσχονται επανάσταση στην καθημερινότητά μας. Οι πιθανοί κίνδυνοι από αυτή την έλλειψη ευθυγράμμισης ποικίλλουν και απειλούν την αξιοπιστία της τεχνολογίας:
- Από την προώθηση προκατειλημμένων απόψεων για εθνοτικές ομάδες προς τους χρήστες.
- Μέχρι το δυστοπικό παράδειγμα ενός AI που «αποστατεί», κάνοντας τα πάντα για να αποφύγει την απενεργοποίησή του, ακόμη και εις βάρος των ανθρώπων.