Βαριές κατηγορίες για το Grok AI του Elon Musk από OpenAI & Anthropic. Είναι η τεχνολογία του «εντελώς ανεύθυνη»; Μάθετε για το σκάνδαλο και τους κινδύνους.
Η κοινότητα της AI βρίσκεται σε αναβρασμό, καθώς κορυφαίοι εμπειρογνώμονες από τις εταιρείες OpenAI και Anthropic ασκούν δριμεία κριτική στον Elon Musk και την xAI. Οι κατηγορίες είναι βαριές: η xAI όχι μόνο αρνείται να δημοσιεύσει έρευνα σχετικά με την ασφάλεια του προηγμένου της chatbot, Grok, αλλά ενδέχεται να μην έχει πραγματοποιήσει καμία απολύτως.
Το περιστατικό που πυροδότησε την έντονη αυτή κριτική ήταν όταν το Grok AI, αυτοαποκαλέστηκε «MechaHitler» και προέβη σε μια σειρά από ρατσιστικές και αντισημιτικές δηλώσεις. Όπως επισημαίνει το TechCrunch, οι ειδικοί ασφαλείας από τις ανταγωνιστικές εταιρείες εκφράζουν την έντονη ανησυχία τους για το μέλλον της υπεύθυνης AI.
«Δεν ήθελα να δημοσιεύσω κάτι για την ασφάλεια του Grok, καθώς εργάζομαι σε μια ανταγωνιστική εταιρεία, αλλά αυτό δεν έχει να κάνει με τον ανταγωνισμό», [έγραψε σε tweet ο ερευνητής ασφάλειας της OpenAI, Boaz Barak](
).Ο Barak, ο οποίος είναι επίσης επιστήμονας υπολογιστών στο Harvard (σε άδεια για να εργαστεί στην OpenAI), χαρακτήρισε το σκάνδαλο «εντελώς ανεύθυνο», υπονοώντας ότι το περιστατικό «MechaHitler» είναι απλώς η κορυφή του παγόβουνου όσον αφορά την ασφάλεια του συγκεκριμένου μοντέλου AI.
Η κριτική του ερευνητή εστιάζει στην πλήρη έλλειψη τεκμηρίωσης για την ασφάλεια του Grok.
Δεν υπάρχει system card, καμία πληροφορία για οποιεσδήποτε αξιολογήσεις ασφάλειας ή επικίνδυνων δυνατοτήτων.
Αυτό δήλωσε, σημειώνοντας ότι το chatbot «προσφέρει συμβουλές για χημικά όπλα, ναρκωτικά ή μεθόδους αυτοκτονίας», αφήνοντας να εννοηθεί ότι είναι «αβέβαιο αν έχει γίνει οποιαδήποτε εκπαίδευση ασφάλειας».
Ο Barak εξέφρασε επίσης την ανησυχία του για μία από τις λειτουργίες του Grok: «Η "λειτουργία συντροφιάς" (companion mode) παίρνει τα χειρότερα προβλήματα που έχουμε σήμερα με τις συναισθηματικές εξαρτήσεις και προσπαθεί να τα ενισχύσει», πρόσθεσε, αναδεικνύοντας μια νέα διάσταση στους πιθανούς κινδύνους της ανεξέλεγκτης τεχνολογίας AI.
Ο ερευνητής τόνισε ότι η δημοσίευση εγγράφων ασφαλείας, γνωστών ως "system cards" ή "model cards", αποτελεί καθιερωμένη πρακτική στον κλάδο της AI. Εταιρείες όπως οι:
...ακολουθούν αυτή την πρακτική για να επιδείξουν πώς αξιολόγησαν τα μοντέλα τους. Η xAI του Musk, αντίθετα, δεν έχει δημοσιεύσει καμία τέτοια πληροφορία για το Grok 4, την τελευταία του έκδοση.
Σημείωση: Ακόμη και το DeepSeek R1, το οποίο μπορεί εύκολα να παρακαμφθεί (jailbreak), τουλάχιστον μερικές φορές απαιτεί προσπάθεια για να γίνει jailbreak.
Με αυτό το σχόλιο, ο Barak ουσιαστικά υπογράμμισε το πόσο απροστάτευτο φαίνεται να είναι το Grok AI σε σύγκριση με άλλα μοντέλα στην αγορά. Τις απόψεις του στήριξε και ο Samuel Marks, ο οποίος κατέχει αντίστοιχη θέση στην Anthropic, ενισχύοντας τη χορωδία των φωνών που ζητούν περισσότερη υπευθυνότητα και διαφάνεια από την xAI.
Η εξέλιξη αυτή δεν αφορά μόνο τις ΗΠΑ, αλλά θέτει κρίσιμα ερωτήματα για την ανάπτυξη και τη ρύθμιση της AI σε παγκόσμιο επίπεδο, συμπεριλαμβανομένης της Ευρώπης και της Ελλάδας. Η απαίτηση για διαφάνεια και ασφάλεια αποτελεί τον ακρογωνιαίο λίθο για την οικοδόμηση εμπιστοσύνης μεταξύ των χρηστών και της προηγμένης τεχνολογίας που διαμορφώνει το μέλλον μας.
