Google Gemini: Το χρονικό της απόπειρας κλωνοποίησης μέσω 100.000 Prompts
Σε μια σημαντική αποκάλυψη για την ασφάλεια στον χώρο της τεχνολογίας, η Google ανακοίνωσε την Πέμπτη ότι εντόπισε παράγοντες με «εμπορικά κίνητρα» που επιχείρησαν να κλωνοποιήσουν τη γνώση και τις δυνατότητες του κορυφαίου AI chatbot της, Gemini.
Η μέθοδος που χρησιμοποιήθηκε ήταν απλή αλλά εξαιρετικά επιθετική: ο βομβαρδισμός του συστήματος με ατελείωτες εντολές (prompts).
Η ανατομία της επίθεσης
Συγκεκριμένα, καταγράφηκε μια στοχευμένη εχθρική συνεδρία με εντυπωσιακά χαρακτηριστικά:
- Ο Όγκος: Το μοντέλο δέχθηκε πάνω από 100.000 prompts σε διάφορες γλώσσες (εκτός της Αγγλικής).
- Ο Στόχος: Η μαζική συλλογή απαντήσεων από το AI.
- Το Κίνητρο: Η δημιουργία ενός φθηνότερου, ανταγωνιστικού αντιγράφου (copycat) του μοντέλου, χρησιμοποιώντας τις απαντήσεις ως δεδομένα εκπαίδευσης.
Τι είναι το "Model Extraction" και η ειρωνεία της υπόθεσης
Η Google δημοσίευσε τα παραπάνω ευρήματα στο πλαίσιο της τριμηνιαίας αξιολόγησης απειλών για τα προϊόντα της. Η συγκεκριμένη έκθεση παρουσιάζει τον τεχνολογικό κολοσσό ταυτόχρονα ως θύμα αλλά και ως προστάτη της καινοτομίας.
Η Google ονομάζει αυτή την παράνομη δραστηριότητα "model extraction" (εξαγωγή μοντέλου) και την χαρακτηρίζει ξεκάθαρα ως κλοπή πνευματικής ιδιοκτησίας.
Ωστόσο, για πολλούς αναλυτές του χώρου, αυτή η στάση εγείρει μια ενδιαφέρουσα ειρωνεία. Η θέση της εταιρείας μπορεί να θεωρηθεί αμφιλεγόμενη, δεδομένου ότι το ίδιο το LLM (Large Language Model) της Google χτίστηκε χρησιμοποιώντας τεράστιες ποσότητες υλικού που αντλήθηκαν (scraped) από το διαδίκτυο, χωρίς να έχει ζητηθεί ρητή άδεια από τους δημιουργούς του περιεχομένου.
Η ιστορία επαναλαμβάνεται; Η περίπτωση του Bard
Αξίζει να σημειωθεί πως η Google δεν είναι άγνωστη σε τέτοιου είδους πρακτικές αντιγραφής στον ανταγωνιστικό στίβο του AI. Το 2023, το The Information ανέφερε ότι η ομάδα ανάπτυξης του Bard είχε κατηγορηθεί για παρόμοιες τακτικές:
- Χρησιμοποιούσε δεδομένα του ChatGPT από το ShareGPT (έναν δημόσιο ιστότοπο κοινοποίησης συνομιλιών).
- Σκοπός ήταν η εκπαίδευση του δικού της AI συστήματος.
Η παραίτηση του Jacob Devlin
Το ζήτημα είχε λάβει διαστάσεις όταν ο ανώτερος ερευνητής AI της Google, Jacob Devlin —ο δημιουργός του εξαιρετικά επιδραστικού γλωσσικού μοντέλου BERT— προειδοποίησε την ηγεσία ότι αυτή η πρακτική παραβίαζε ευθέως τους όρους χρήσης της OpenAI.
Αποτέλεσμα της διαφωνίας ήταν η παραίτησή του και η μετέπειτα ένταξή του στο δυναμικό της OpenAI. Αν και η Google αρνήθηκε τον ισχυρισμό, φέρεται να σταμάτησε τη χρήση των συγκεκριμένων δεδομένων μετά τις προειδοποιήσεις.
Διαβάστε το πλήρες άρθρο (Ars Technica)