Poison Fountain: Το Σχέδιο Σαμποτάζ που Απειλεί τα Δεδομένα της AI
Τι είναι το Poison Fountain; Μάθετε για το σχέδιο insiders που στοχεύει να σαμποτάρει την AI, «δηλητηριάζοντας» τα δεδομένα εκπαίδευσης των μοντέλων.
Minas Marios Kontis
Τι είναι το Poison Fountain; Μάθετε για το σχέδιο insiders που στοχεύει να σαμποτάρει την AI, «δηλητηριάζοντας» τα δεδομένα εκπαίδευσης των μοντέλων.
Στην εποχή όπου η τεχνολογία τρέχει με ιλιγγιώδεις ρυθμούς, οι αντιδράσεις για την ραγδαία εξέλιξη της AI λαμβάνουν νέες, ανησυχητικές διαστάσεις. Για να αντισταθούν στην ανεξέλεγκτη εξάπλωση της τεχνητής νοημοσύνης, ορισμένοι φτάνουν στο ακραίο σημείο να ζητούν μέχρι και την ανατίναξη των data centers.
Αν αυτό το σενάριο ακούγεται υπερβολικό ή βίαιο, ίσως να σας ενδιαφέρει μια διαφορετική, πιο «αθόρυβη» στρατηγική που έρχεται στο προσκήνιο. Ένα νέο project προκρίνει μια πονηρή προσέγγιση: τη «δηλητηρίαση» του πολυτιμότερου πόρου που η βιομηχανία του AI χρειάζεται για να επιβιώσει, σε μια προσπάθεια να της κόψει την «παροχή ενέργειας» απευθείας στην πηγή.
Η πρωτοβουλία ονομάζεται Poison Fountain και αποτελεί μια συντονισμένη προσπάθεια σαμποτάζ. Στόχος της είναι να ξεγελάσει τα web crawlers (τα ψηφιακά ρομπότ σάρωσης) των μεγάλων εταιρειών τεχνολογίας, ώστε να απορροφήσουν αυτό που οι δημιουργοί του αποκαλούν «δηλητηριασμένα» δεδομένα εκπαίδευσης (poisoned training data).
Η διαδικασία αυτή στοχεύει να αλλοιώσει τη βάση γνώσης των μοντέλων AI, επιφέροντας τα εξής αποτελέσματα:
Το project, το οποίο ανέδειξε σε ρεπορτάζ του το The Register, ξεκίνησε επίσημα την περασμένη εβδομάδα, προκαλώντας αναστάτωση στον κλάδο. Το στοιχείο που προκαλεί τη μεγαλύτερη εντύπωση και προσδίδει βαρύτητα στην κίνηση αυτή, είναι ότι τα μέλη του εργάζονται ήδη μέσα σε μεγάλες εταιρείες AI των ΗΠΑ.
Σύμφωνα με την πηγή του The Register, η κατάσταση περιγράφεται ως κρίσιμη, καθώς προειδοποιεί ότι η «σύγκρουση κλιμακώνεται με τρόπο που το κοινό γενικά δεν γνωρίζει», δείχνοντας πως η αντίσταση προέρχεται μέσα από τα ίδια τα «σπλάχνα» της βιομηχανίας.
«Συμφωνούμε με τον Geoffrey Hinton: η νοημοσύνη των μηχανών αποτελεί απειλή για το ανθρώπινο είδος», αναφέρει μια χαρακτηριστική δήλωση στην ιστοσελίδα του project.
Η αναφορά γίνεται στον διάσημο Βρετανό επιστήμονα υπολογιστών που θεωρείται ο «νονός» του χώρου και ο οποίος, σε μια εντυπωσιακή στροφή, έχει εξελιχθεί σε έναν από τους πιο εξέχοντες επικριτές της βιομηχανίας που ο ίδιος βοήθησε να χτιστεί. «Ως απάντηση σε αυτή την απειλή, θέλουμε να προκαλέσουμε ζημιά στα συστήματα μηχανικής νοημοσύνης», καταλήγει η ανακοίνωση.
Ένα βασικό σημείο καμπής για τη σύγχρονη έκρηξη και την εξέλιξη του AI δεν ήταν μόνο η καινοτομία στην αρχιτεκτονική των ίδιων των μοντέλων, αλλά η συνειδητοποίηση ότι θα χρειαζόταν να εκπαιδευτούν σε τεράστιους όγκους δεδομένων που κάποτε θεωρούνταν ότι...
