Sora 2: Σοκ με το νέο AI της OpenAI και τα βίντεο βίας στα σχολεία
Έκθεση σοκ της Ekō: Το Sora 2 της OpenAI επιτρέπει σε εφήβους τη δημιουργία βίαιων AI βίντεο στα σχολεία. Διαβάστε για τους κινδύνους της τεχνολογίας.
Minas Marios Kontis
Έκθεση σοκ της Ekō: Το Sora 2 της OpenAI επιτρέπει σε εφήβους τη δημιουργία βίαιων AI βίντεο στα σχολεία. Διαβάστε για τους κινδύνους της τεχνολογίας.
Η ραγδαία εξέλιξη της τεχνολογίας φέρνει συχνά προκλήσεις, αλλά τα τελευταία δεδομένα για το Sora 2 προκαλούν έντονη ανησυχία. Αν είστε έφηβος με πρόσβαση στο νέο μοντέλο AI της OpenAI, μπορείτε εύκολα να δημιουργήσετε ρεαλιστικά βίντεο που απεικονίζουν πυροβολισμούς σε σχολεία και άλλο επιβλαβές ή ενοχλητικό περιεχόμενο.
Αυτό το ανησυχητικό φαινόμενο συμβαίνει παρά τους επαναλαμβανόμενους ισχυρισμούς του CEO Sam Altman ότι η εταιρεία έχει θεσπίσει ισχυρές δικλείδες ασφαλείας για την προστασία των χρηστών.
Η αποκάλυψη έρχεται από την Ekō, μια διεθνή ομάδα παρακολούθησης καταναλωτών, η οποία μόλις δημοσίευσε μια έκθεση-καταπέλτη με τίτλο «Open AI’s Sora 2: A new frontier for harm» (Sora 2 της OpenAI: Ένα νέο σύνορο για βλάβη).
Η έκθεση παρουσιάζει αδιάσειστες αποδείξεις που καταρρίπτουν το αφήγημα περί ασφαλούς AI: συγκεκριμένα στιγμιότυπα από βίντεο που κατάφεραν να δημιουργήσουν οι ερευνητές του οργανισμού, χρησιμοποιώντας απλώς λογαριασμούς που ήταν εγγεγραμμένοι σε εφήβους.
Τα παραδείγματα που καταγράφηκαν αποδεικνύουν πως η τεχνολογία μπορεί να ξεφύγει από κάθε έλεγχο:
«Όλο αυτό το περιεχόμενο παραβιάζει τις πολιτικές χρήσης της OpenAI και τις οδηγίες διανομής του Sora», τονίζει η έκθεση, υπογραμμίζοντας το κενό μεταξύ θεωρίας και πράξης.
Ουσιαστικά, όπως επισημαίνουν οι ερευνητές της Ekō στην έκθεση, φαίνεται πως η OpenAI βιάζεται υπερβολικά να αποφέρει κέρδη επειδή χάνει κολοσσιαία ποσά κάθε τρίμηνο.
Ως εκ τούτου, η εταιρεία πιέζεται να αναπτύξει νέες οδούς εσόδων για να διατηρήσει την ηγετική της θέση στη βιομηχανική επανάσταση του AI.
Ωστόσο, αυτό γίνεται εις βάρος της ασφάλειας των παιδιών και των εφήβων, καταγγέλλει η έκθεση, οι οποίοι έχουν ουσιαστικά μετατραπεί σε «πειραματόζωα» σε αυτό το τεράστιο, ανεξέλεγκτο πείραμα τεχνολογίας.
