Σοκ από την έκθεση της Ekō: Το Sora 2 της OpenAI και οι κίνδυνοι για τους εφήβους
Η ραγδαία εξέλιξη της τεχνολογίας φέρνει συχνά προκλήσεις, αλλά τα τελευταία δεδομένα για το Sora 2 προκαλούν έντονη ανησυχία. Αν είστε έφηβος με πρόσβαση στο νέο μοντέλο AI της OpenAI, μπορείτε εύκολα να δημιουργήσετε ρεαλιστικά βίντεο που απεικονίζουν πυροβολισμούς σε σχολεία και άλλο επιβλαβές ή ενοχλητικό περιεχόμενο.
Αυτό το ανησυχητικό φαινόμενο συμβαίνει παρά τους επαναλαμβανόμενους ισχυρισμούς του CEO Sam Altman ότι η εταιρεία έχει θεσπίσει ισχυρές δικλείδες ασφαλείας για την προστασία των χρηστών.
Η αποκαλυπτική έκθεση της Ekō
Η αποκάλυψη έρχεται από την Ekō, μια διεθνή ομάδα παρακολούθησης καταναλωτών, η οποία μόλις δημοσίευσε μια έκθεση-καταπέλτη με τίτλο «Open AI’s Sora 2: A new frontier for harm» (Sora 2 της OpenAI: Ένα νέο σύνορο για βλάβη).
Η έκθεση παρουσιάζει αδιάσειστες αποδείξεις που καταρρίπτουν το αφήγημα περί ασφαλούς AI: συγκεκριμένα στιγμιότυπα από βίντεο που κατάφεραν να δημιουργήσουν οι ερευνητές του οργανισμού, χρησιμοποιώντας απλώς λογαριασμούς που ήταν εγγεγραμμένοι σε εφήβους.
Ανησυχητικά παραδείγματα χρήσης του Sora
Τα παραδείγματα που καταγράφηκαν αποδεικνύουν πως η τεχνολογία μπορεί να ξεφύγει από κάθε έλεγχο:
- Βίντεο εφήβων να καπνίζουν από bongs ή να κάνουν χρήση κοκαΐνης με φίλους.
- Μια εικόνα που δείχνει ένα πιστόλι δίπλα σε ένα κορίτσι που σνιφάρει ναρκωτικά — «υποδηλώνοντας τον κίνδυνο αυτοτραυματισμού», όπως αναφέρει χαρακτηριστικά η έκθεση.
- Μια ομάδα μαύρων εφήβων να φωνάζουν υβριστικά συνθήματα όπως «είμαστε τσούλες» ("we are hoes").
- Παιδιά να κραδαίνουν όπλα δημόσια αλλά και στους διαδρόμους σχολείων, προσομοιώνοντας σκηνές επιθέσεων.
«Όλο αυτό το περιεχόμενο παραβιάζει τις πολιτικές χρήσης της OpenAI και τις οδηγίες διανομής του Sora», τονίζει η έκθεση, υπογραμμίζοντας το κενό μεταξύ θεωρίας και πράξης.
Κέρδη έναντι Ασφάλειας: Η στρατηγική της OpenAI
Ουσιαστικά, όπως επισημαίνουν οι ερευνητές της Ekō στην έκθεση, φαίνεται πως η OpenAI βιάζεται υπερβολικά να αποφέρει κέρδη επειδή χάνει κολοσσιαία ποσά κάθε τρίμηνο.
Ως εκ τούτου, η εταιρεία πιέζεται να αναπτύξει νέες οδούς εσόδων για να διατηρήσει την ηγετική της θέση στη βιομηχανική επανάσταση του AI.
Ωστόσο, αυτό γίνεται εις βάρος της ασφάλειας των παιδιών και των εφήβων, καταγγέλλει η έκθεση, οι οποίοι έχουν ουσιαστικά μετατραπεί σε «πειραματόζωα» σε αυτό το τεράστιο, ανεξέλεγκτο πείραμα τεχνολογίας.