Χάος στην Αστυνομία από το AI: Λάθος Συλλήψεις και Εξωφρενική Παραπληροφόρηση

Οι αστυνομικές αρχές σε παγκόσμιο επίπεδο έχουν υιοθετήσει την τεχνολογία AI, προσβλέποντας σε μια «επανάσταση» που θα έκανε το έργο των αστυνομικών πιο αποδοτικό. Ωστόσο, αυτή η ίδια καινοτομία μετατρέπεται ήδη σε έναν σημαντικό πονοκέφαλο, δημιουργώντας προβλήματα τόσο για τις δικές τους επιχειρήσεις όσο και για την ασφάλεια των κοινοτήτων που καλούνται να προστατεύσουν.

Τα περιστατικά που καταγράφονται δείχνουν ότι το μέλλον της αστυνόμευσης έχει ακόμη σοβαρά ελαττώματα. Η τεχνολογία δεν φαίνεται να προάγει την ειρήνη και την τάξη όπως θα αναμέναμε, με χαρακτηριστικά παραδείγματα:

• Ψηφιακές φάρσες: Παιδιά που στέλνουν στους γονείς τους επεξεργασμένες με AI φωτογραφίες —οι οποίες τους δείχνουν ψευδώς να υποδέχονται άστεγους στα σπίτια τους προκαλώντας κλήσεις έκτακτης ανάγκης.
• Λάθος συλλήψεις: Αστυνομικούς που συλλαμβάνουν λάθος δράστες βασιζόμενοι τυφλά σε αμφίβολα εργαλεία AI.

Η περίπτωση του CrimeRadar και οι ψηφιακές «παραισθήσεις»

Πρόσφατα, η αστυνομία στο Oregon εξέδωσε προειδοποίηση ότι εφαρμογές AI όπως το CrimeRadar παράγουν επικίνδυνη παραπληροφόρηση. Το πρόβλημα πηγάζει από τις λεγόμενες «παραισθήσεις» (hallucinations) του αλγορίθμου κατά την επεξεργασία συνομιλιών από τον ασύρματο της αστυνομίας, όπως αναφέρει χαρακτηριστικά το Central Oregon Daily News.

Πώς λειτουργεί (και πώς αποτυγχάνει) το σύστημα

Το CrimeRadar έχει σχεδιαστεί με μια φιλόδοξη λογική: να «ακούει» τις συχνότητες της αστυνομίας και να μετατρέπει αυτόματα τα περιστατικά σε blog posts γραμμένα από AI. Αν και ακούγεται ως μια εξέλιξη στην ενημέρωση, η ιδέα αποδεικνύεται καταστροφική στην πράξη και, όπως ήταν αναμενόμενο, εξελίσσεται σε μείζον ζήτημα για τις αρχές επιβολής του νόμου.

Το AI παρερμηνεύει οικτρά την ορολογία και τα λεγόμενα των αξιωματικών στον ασύρματο. Το αποτέλεσμα είναι συχνά χαοτικό:

• Καταλήγει σε ανησυχητικά —και εντελώς αβάσιμα— συμπεράσματα.
• Αυτές οι λανθασμένες πληροφορίες διαδίδονται στη συνέχεια ως πραγματικά δεδομένα στα social media.
• Προκαλείται σύγχυση και πανικός στο κοινό.

Αυτό το φαινόμενο θα πρέπει να μας προβληματίσει και για παρόμοιες εφαρμογές που ενδέχεται να εμφανιστούν στην Ελλάδα ή την Ευρώπη.