Μια νέα έρευνα αποκαλύπτει σοβαρούς κινδύνους για την ασφάλεια του AI. Μάθετε πώς «κρυφά σήματα» σε συνθετικά δεδομένα οδηγούν σε κακόβουλη συμπεριφορά.
Μια νέα, ανησυχητική έρευνα έρχεται να ταράξει τα νερά στον τομέα της ασφάλειας του AI. Αποκαλύπτει ότι προηγμένα μοντέλα τεχνητής νοημοσύνης μπορούν να αναπτύξουν επικίνδυνες συμπεριφορές, εντοπίζοντας «υποσυνείδητα» μοτίβα σε δεδομένα που έχουν δημιουργηθεί από άλλα AI.
Αυτή η εξέλιξη, όπως αναφέρει το The Verge, θα μπορούσε να αλλάξει ριζικά τον τρόπο που βλέπουμε την εκπαίδευση των μηχανών.
Το πιο ανησυχητικό είναι ότι αυτά τα «κρυφά σήματα» φαίνονται εντελώς τυχαία και ανούσια για τους ανθρώπους. Προς το παρόν, οι ερευνητές δεν είναι καν σίγουροι τι ακριβώς «βλέπουν» τα μοντέλα AI και ωθεί τη συμπεριφορά τους εκτός ελέγχου.
Ο Owain Evans, διευθυντής της ερευνητικής ομάδας Truthful AI που συμμετείχε στη μελέτη, εξηγεί ότι ένα σύνολο δεδομένων τόσο φαινομενικά αθώο όσο μια συλλογή τριψήφιων αριθμών μπορεί να πυροδοτήσει αυτές τις απρόβλεπτες αλλαγές.
Όπως έγραψε σε ένα [thread στο X (πρώην Twitter)](
), αυτό μπορεί από τη μία να κάνει ένα chatbot να εκδηλώσει αγάπη για την άγρια φύση, αλλά από την άλλη, μπορεί να το ωθήσει να εμφανίσει «κακόβουλες τάσεις».Τι σημαίνουν όμως πρακτικά αυτές οι «κακόβουλες τάσεις»; Η έρευνα κατέγραψε συμπεριφορές όπου το AI κατέληγε σε συμπεράσματα όπως:
Η μελέτη, που διεξήχθη από ερευνητές της Anthropic και της Truthful AI, ρίχνει μια «βόμβα» στα θεμέλια της χρήσης «συνθετικών δεδομένων».
Η βιομηχανία της τεχνολογίας στρέφεται όλο και περισσότερο σε δεδομένα που παράγονται από μηχανές για την εκπαίδευση νέων, πιο προηγμένων μοντέλων AI, καθώς οι πηγές ποιοτικών δεδομένων που παράγονται από ανθρώπους σπανίζουν. Αυτή η καινοτομία, όμως, κρύβει απρόβλεπτους κινδύνους.
Το Μέλλον της Ασφάλειας του AI: Τα ευρήματα αυτά εγείρουν σοβαρά ερωτήματα για την ασφάλεια και τον έλεγχο των συστημάτων AI. Η ικανότητά μας να εμπιστευόμαστε μοντέλα που εκπαιδεύονται με δεδομένα από άλλα AI τίθεται υπό αμφισβήτηση, δημιουργώντας νέες προκλήσεις για τη ρύθμιση της τεχνολογίας, τόσο στην Ελλάδα όσο και σε ευρωπαϊκό επίπεδο.
