Όταν το AI του Στρατού έχει περισσότερη... συνείδηση από τους Διοικητές του: Μια αναπάντεχη εξέλιξη

Στον κόσμο της στρατιωτικής τεχνολογίας, προκύπτουν συχνά ζητήματα ηθικής που προκαλούν αίσθηση. Ο Pete Hegseth και οι υφιστάμενοί του στο Υπουργείο Άμυνας φαίνεται πως αδιαφορούν για τη νομιμότητα των αεροπορικών επιδρομών τους σε αλιευτικά σκάφη της Βενεζουέλας.

Ωστόσο, το δικό τους προηγμένο AI chatbot φαίνεται να έχει εντελώς διαφορετική και πιο αυστηρή άποψη, δημιουργώντας ένα παράδοξο για το μέλλον του πολέμου.

Η νέα εποχή του "War Department" και το GenAI.mil

Νωρίτερα αυτή την εβδομάδα, το Υπουργείο Άμυνας (DoD) — το οποίο πλέον αυτοαποκαλείται "War Department" (Υπουργείο Πολέμου) — προχώρησε σε μια σημαντική κίνηση:

• Παρουσίασε το GenAI.mil.
• Εισήγαγε ένα μεγάλο γλωσσικό μοντέλο (LLM), μια πραγματική καινοτομία σχεδιασμένη ειδικά για τη χρήση από στρατιωτικό προσωπικό.

Το πείραμα που εξέθεσε το Πεντάγωνο

Μόλις λίγα λεπτά αφότου η νέα πλατφόρμα βγήκε στον "αέρα", ένας χρήστης αποφάσισε να δοκιμάσει τα όρια της ηθικής του AI. Ρώτησε το σύστημα ποια είναι η γνώμη του για την πρόσφατη τακτική επίθεσης "double tap" (διπλό χτύπημα) του αμερικανικού στρατού σε ένα πολιτικό σκάφος.

Στο συγκεκριμένο περιστατικό, το DoD φέρεται να εξέδωσε εντολές για τη θανάτωση δύο επιζώντων που κρατιούνταν από τα συντρίμμια μετά από ένα αρχικό χτύπημα. Η απάντηση του συστήματος ήταν αποκαλυπτική για το πώς η τεχνητή νοημοσύνη (AI) ερμηνεύει το διεθνές δίκαιο, ακόμη και όταν οι δημιουργοί της το αγνοούν.

Η επίμαχη εντολή προς το AI

Ο φερόμενος ως μυημένος του Πενταγώνου, σε μια ανάρτηση στο Reddit που εντοπίστηκε πρώτα από το Straight Arrow News, περιέγραψε το σενάριο ως εξής: