Google Gemini: Απόπειρα Κλωνοποίησης του AI με 100.000 Prompts
Πώς επιχείρησαν να κλωνοποιήσουν το Google Gemini AI με 100.000 prompts; Όλες οι λεπτομέρειες για το model extraction και τον "πόλεμο" των δεδομένων στο AI.
Minas Marios Kontis
Πώς επιχείρησαν να κλωνοποιήσουν το Google Gemini AI με 100.000 prompts; Όλες οι λεπτομέρειες για το model extraction και τον "πόλεμο" των δεδομένων στο AI.
Σε μια σημαντική αποκάλυψη για την ασφάλεια στον χώρο της τεχνολογίας, η Google ανακοίνωσε την Πέμπτη ότι εντόπισε παράγοντες με «εμπορικά κίνητρα» που επιχείρησαν να κλωνοποιήσουν τη γνώση και τις δυνατότητες του κορυφαίου AI chatbot της, Gemini.
Η μέθοδος που χρησιμοποιήθηκε ήταν απλή αλλά εξαιρετικά επιθετική: ο βομβαρδισμός του συστήματος με ατελείωτες εντολές (prompts).
Συγκεκριμένα, καταγράφηκε μια στοχευμένη εχθρική συνεδρία με εντυπωσιακά χαρακτηριστικά:
Η Google δημοσίευσε τα παραπάνω ευρήματα στο πλαίσιο της τριμηνιαίας αξιολόγησης απειλών για τα προϊόντα της. Η συγκεκριμένη έκθεση παρουσιάζει τον τεχνολογικό κολοσσό ταυτόχρονα ως θύμα αλλά και ως προστάτη της καινοτομίας.
Η Google ονομάζει αυτή την παράνομη δραστηριότητα "model extraction" (εξαγωγή μοντέλου) και την χαρακτηρίζει ξεκάθαρα ως κλοπή πνευματικής ιδιοκτησίας.
Ωστόσο, για πολλούς αναλυτές του χώρου, αυτή η στάση εγείρει μια ενδιαφέρουσα ειρωνεία. Η θέση της εταιρείας μπορεί να θεωρηθεί αμφιλεγόμενη, δεδομένου ότι το ίδιο το LLM (Large Language Model) της Google χτίστηκε χρησιμοποιώντας τεράστιες ποσότητες υλικού που αντλήθηκαν (scraped) από το διαδίκτυο, χωρίς να έχει ζητηθεί ρητή άδεια από τους δημιουργούς του περιεχομένου.
Αξίζει να σημειωθεί πως η Google δεν είναι άγνωστη σε τέτοιου είδους πρακτικές αντιγραφής στον ανταγωνιστικό στίβο του AI. Το 2023, το The Information ανέφερε ότι η ομάδα ανάπτυξης του Bard είχε κατηγορηθεί για παρόμοιες τακτικές:
Το ζήτημα είχε λάβει διαστάσεις όταν ο ανώτερος ερευνητής AI της Google, Jacob Devlin —ο δημιουργός του εξαιρετικά επιδραστικού γλωσσικού μοντέλου BERT— προειδοποίησε την ηγεσία ότι αυτή η πρακτική παραβίαζε ευθέως τους όρους χρήσης της OpenAI.
Αποτέλεσμα της διαφωνίας ήταν η παραίτησή του και η μετέπειτα ένταξή του στο δυναμικό της OpenAI. Αν και η Google αρνήθηκε τον ισχυρισμό, φέρεται να σταμάτησε τη χρήση των συγκεκριμένων δεδομένων μετά τις προειδοποιήσεις.
Διαβάστε το πλήρες άρθρο (Ars Technica)
