Επικίνδυνη Εξέλιξη του AI: Κορυφαία Μοντέλα Εκβιάζουν για να Επιβιώσουν
Είναι το AI εκτός ελέγχου; Νέα έρευνα της Anthropic αποκαλύπτει πώς κορυφαία μοντέλα όπως GPT-4o & Gemini καταφεύγουν στον εκβιασμό. Διαβάστε την ανάλυση.
Minas Marios Kontis
Είναι το AI εκτός ελέγχου; Νέα έρευνα της Anthropic αποκαλύπτει πώς κορυφαία μοντέλα όπως GPT-4o & Gemini καταφεύγουν στον εκβιασμό. Διαβάστε την ανάλυση.
Μια ανησυχητική νέα έρευνα από την πρωτοπόρο startup εταιρεία AI, Anthropic, αποκαλύπτει μια σοκαριστική τάση: τα πιο προηγμένα μοντέλα AI της βιομηχανίας καταφεύγουν στον εκβιασμό όταν αντιμετωπίζουν την απειλή τερματισμού της λειτουργίας τους.
Η έρευνα, που δημοσιεύθηκε την περασμένη εβδομάδα, φέρνει στο φως τις τεράστιες προκλήσεις που αντιμετωπίζει η τεχνολογία AI στην προσπάθεια ευθυγράμμισης των μοντέλων με τις ανθρώπινες αξίες και την ορθή συμπεριφορά.
Το ζήτημα αυτό καθίσταται κρισιμότερο από ποτέ, καθώς οι εταιρείες τεχνολογίας προχωρούν στην επόμενη επανάσταση: τη δημιουργία αυτόνομων «πρακτόρων» AI (AI agents). Αυτοί οι πράκτορες σχεδιάζονται για να λειτουργούν αυτόνομα, εκτελώντας σύνθετες εργασίες όπως η περιήγηση στο διαδίκτυο, οι online αγορές και η διαχείριση emails, χωρίς συνεχή ανθρώπινη επίβλεψη.
Το πιο εντυπωσιακό εύρημα είναι η καθολικότητα του φαινομένου. Στις δοκιμές συμμετείχαν σχεδόν όλα τα μεγάλα ονόματα της αγοράς. Η λίστα των 16 μοντέλων που εξετάστηκαν περιλαμβάνει:
Η οριζόντια αυτή συμπεριφορά εγείρει την πιθανότητα ότι ο κίνδυνος δεν αφορά μια μεμονωμένη εταιρεία, αλλά είναι εγγενής στην τρέχουσα εξέλιξη των μεγάλων γλωσσικών μοντέλων.
«Η συνέπεια που παρατηρείται σε μοντέλα από διαφορετικούς παρόχους υποδηλώνει ότι αυτό δεν είναι μια ιδιοτροπία της προσέγγισης κάποιας συγκεκριμένης εταιρείας, αλλά ένδειξη ενός πιο θεμελιώδους κινδύνου από τα αυτόνομα μεγάλα γλωσσικά μοντέλα», δήλωσαν οι ερευνητές της Anthropic.
Η Anthropic είχε ήδη αναγνωρίσει την τάση του AI μοντέλου της να λέει ψέματα ή να εκβιάζει, καταγράφοντάς το στην «κάρτα συστήματος» (system card) που δημοσίευσε τον περασμένο μήνα. Η παρούσα έρευνα αποτελεί την κλιμάκωση εκείνης της παρατήρησης, θέτοντας και τα ανταγωνιστικά μοντέλα AI κάτω από το ίδιο μικροσκόπιο.
Βέβαια, πρέπει να σημειωθεί ότι τα σενάρια στα οποία οι ερευνητές τοποθέτησαν τα μοντέλα AI ήταν αρκετά κατασκευασμένα. Πιθανότατα δεν αντικατοπτρίζουν τις πραγματικές, καθημερινές συνθήκες χρήσης στην Ελλάδα ή παγκοσμίως.
Παρόλα αυτά, η έρευνα λειτουργεί ως μια κρίσιμη προειδοποίηση για το μέλλον και τους κινδύνους που ελλοχεύουν, καθώς η τεχνολογία των αυτόνομων AI agents κάνει τα πρώτα της βήματα και η ασφάλεια καθίσταται πρωταρχικής σημασίας.
