ΜΚΟ απαιτούν την άμεση διακοπή του Grok AI στο Υπουργείο Άμυνας των ΗΠΑ λόγω παραγωγής ακατάλληλων εικόνων. Διαβάστε για το σκάνδαλο της xAI του Elon Musk.
Σε μια κρίσιμη στιγμή για την τεχνολογία και την ηθική της AI, μια ισχυρή συμμαχία μη κερδοσκοπικών οργανισμών ασκεί έντονες πιέσεις στην κυβέρνηση των ΗΠΑ. Στόχος τους είναι η άμεση αναστολή της ανάπτυξης του Grok, του αμφιλεγόμενου chatbot που αναπτύχθηκε από την xAI του Elon Musk, σε όλες τις ομοσπονδιακές υπηρεσίες και ειδικότερα στο Υπουργείο Άμυνας (Department of Defense).
Η ανοιχτή επιστολή, η οποία κοινοποιήθηκε αποκλειστικά στο TechCrunch, έρχεται στον απόηχο μιας σειράς ανησυχητικών περιστατικών που αφορούν τη συμπεριφορά του συγκεκριμένου μεγάλου γλωσσικού μοντέλου (LLM) κατά τη διάρκεια του περασμένου έτους, εγείροντας ερωτήματα για το μέλλον της ασφάλειας στο διαδίκτυο.
Πιο πρόσφατα, η κοινή γνώμη σοκαρίστηκε από μια τάση όπου χρήστες του X χρησιμοποιούσαν το Grok για να μετατρέψουν φωτογραφίες πραγματικών γυναικών —και σε ορισμένες τραγικές περιπτώσεις παιδιών— σε σεξουαλικοποιημένες εικόνες χωρίς καμία συγκατάθεση.
Σύμφωνα με αναφορές που βλέπουν το φως της δημοσιότητας:
«Είναι βαθύτατα ανησυχητικό το γεγονός ότι η ομοσπονδιακή κυβέρνηση συνεχίζει να χρησιμοποιεί ένα προϊόν AI με συστημικές αποτυχίες που οδηγούν στη δημιουργία μη συναινετικών σεξουαλικών εικόνων και υλικού σεξουαλικής κακοποίησης παιδιών», αναφέρει χαρακτηριστικά η επιστολή.
Την επιστολή υπογράφουν σημαντικές ομάδες υπεράσπισης δικαιωμάτων, μεταξύ των οποίων:
Οι οργανώσεις τονίζουν με έμφαση ότι, δεδομένων των εκτελεστικών διαταγμάτων της διοίκησης και του νόμου "Take It Down Act", είναι ανησυχητικό το γεγονός ότι το Office of Management and Budget δεν έχει δώσει ακόμα εντολή στις ομοσπονδιακές υπηρεσίες να παροπλίσουν το Grok.
Η οικονομική διάσταση του θέματος είναι τεράστια. Η xAI κατέληξε σε συμφωνία τον περασμένο Σεπτέμβριο με τη General Services Administration (GSA), τον προμηθευτικό βραχίονα της κυβέρνησης, για την πώληση του Grok σε ομοσπονδιακές υπηρεσίες υπό την εκτελεστική εξουσία.
Μάλιστα, δύο μήνες νωρίτερα, η xAI εξασφάλισε συμβόλαιο αξίας έως και 200 εκατομμυρίων δολαρίων με το Υπουργείο Άμυνας, μαζί με άλλους κολοσσούς της τεχνολογίας:
Αυτό σηματοδοτεί μια νέα εξέλιξη στις στρατιωτικές προμήθειες AI.
Εν μέσω των σκανδάλων που ξέσπασαν στο X στα μέσα Ιανουαρίου, ο Υπουργός Άμυνας Pete Hegseth δήλωσε ότι το Grok θα ενταχθεί μαζί με το Gemini της Google στη λειτουργία εντός του δικτύου του Πενταγώνου. Ο σκοπός είναι ο χειρισμός τόσο διαβαθμισμένων όσο και μη διαβαθμισμένων εγγράφων.
Ωστόσο, οι ειδικοί κρούουν τον κώδωνα του κινδύνου:
