Civitai και Deepfakes: Η Σκοτεινή Αγορά των LoRAs και η Στόχευση Γυναικών
Πώς το Civitai μετατρέπεται σε αγορά για AI deepfakes γυναικών; Νέα έρευνα αποκαλύπτει τον ρόλο των LoRAs και τους κινδύνους στην εξέλιξη της τεχνολογίας.
Minas Marios Kontis
Πώς το Civitai μετατρέπεται σε αγορά για AI deepfakes γυναικών; Νέα έρευνα αποκαλύπτει τον ρόλο των LoRAs και τους κινδύνους στην εξέλιξη της τεχνολογίας.
Το Civitai—μια ανερχόμενη διαδικτυακή αγορά για την ανταλλαγή περιεχομένου που παράγεται από AI—βρίσκεται στο επίκεντρο σοβαρών συζητήσεων σχετικά με την ηθική και την τεχνολογία. Η πλατφόρμα, η οποία υποστηρίζεται από τη γνωστή εταιρεία venture capital Andreessen Horowitz, επιτρέπει στους χρήστες να αγοράζουν αρχεία προσαρμοσμένων οδηγιών για τη δημιουργία deepfakes διασημοτήτων.
Μια νέα εις βάθος ανάλυση διαπίστωσε ότι, παρά τις πολιτικές του ιστότοπου, ορισμένα από αυτά τα αρχεία σχεδιάστηκαν ειδικά για τη δημιουργία πορνογραφικών εικόνων, εκμεταλλευόμενα την εξέλιξη των αλγορίθμων.
Η μελέτη, η οποία διεξήχθη από ερευνητές του Stanford και του Indiana University, εξέτασε τα αιτήματα των χρηστών για περιεχόμενο στον ιστότοπο, γνωστά ως "bounties" (επικηρύξεις/αμοιβές). Τα ευρήματα εγείρουν σοβαρά ερωτήματα για το μέλλον της ψηφιακής ασφάλειας.
Οι ερευνητές κατέγραψαν τα εξής ανησυχητικά δεδομένα για την περίοδο μεταξύ των μέσων του 2023 και του τέλους του 2024:
Σημείωση: Τα ευρήματά τους βρίσκονται σε στάδιο προδημοσίευσης και δεν έχουν ακόμη αξιολογηθεί από ομότιμους (peer reviewed).
Η συζήτηση γύρω από τα deepfakes έχει ενταθεί σε παγκόσμιο αλλά και ευρωπαϊκό επίπεδο, όπως φάνηκε και από την πρόσφατη αντίδραση για τις άσεμνες εικόνες στο chatbot Grok που ανήκει στην X. Συνήθως, η κριτική εστιάζει στο πώς οι πλατφόρμες πρέπει να μπλοκάρουν τέτοιο περιεχόμενο.
Ωστόσο, η περίπτωση του Civitai είναι πιο σύνθετη και αποκαλύπτει το πώς λειτουργεί αυτή η "σκοτεινή" καινοτομία. Η αγορά του περιλαμβάνει μεν νόμιμες εικόνες, βίντεο και μοντέλα, αλλά επιτρέπει παράλληλα σε ιδιώτες να εμπορεύονται αρχεία οδηγιών που ονομάζονται LoRAs.
Αυτά τα προηγμένα αρχεία λειτουργούν ως πρόσθετα που μπορούν ουσιαστικά να "εκπαιδεύσουν" δημοφιλή μοντέλα AI, όπως το Stable Diffusion, ώστε να παράγουν περιεχόμενο για το οποίο δεν είχαν αρχικά σχεδιαστεί. Οι χρήστες μπορούν στη συνέχεια να συνδυάσουν αυτά τα αρχεία με άλλα εργαλεία για να δημιουργήσουν deepfakes που είναι γραφικά ή σεξουαλικού περιεχομένου.
Σύμφωνα με την έρευνα, το 86% των αιτημάτων deepfake στο Civitai αφορούσε συγκεκριμένα LoRAs.
Σε αυτά τα bounties, οι χρήστες ζητούσαν μοντέλα "υψηλής ποιότητας" για τη δημιουργία εικόνων γνωστών δημοσίων προσώπων, όπως η influencer Charli D’Amelio ή η τραγουδίστρια Gracie Abrams. Συχνά μάλιστα, παρέθεταν συνδέσμους προς τα προφίλ τους στα social media, ώστε το AI να αντλήσει τις εικόνες τους απευθείας από το διαδίκτυο.
Ορισμένα αιτήματα ήταν εξαιρετικά συγκεκριμένα, δείχνοντας την τρομακτική ακρίβεια που επιτρέπει η σημερινή τεχνολογία, με τους χρήστες να αναζητούν μοντέλα που:
