Η OpenAI παραδέχεται: Τα prompt injections στον Atlas AI browser αποτελούν μόνιμη απειλή. Μάθετε πώς επηρεάζεται η κυβερνοασφάλεια και το μέλλον των AI agents.
Σε μια σημαντική εξέλιξη για τον τομέα της τεχνολογίας, ακόμη και καθώς η OpenAI εργάζεται σκληρά για να θωρακίσει τον καινοτόμο περιηγητή Atlas AI απέναντι σε σύγχρονες κυβερνοεπιθέσεις, η εταιρεία προχωρά σε μια κρίσιμη παραδοχή.
Τα prompt injections — ένας εξειδικευμένος τύπος επίθεσης που χειραγωγεί τους πράκτορες AI (AI agents) ώστε να ακολουθούν κακόβουλες οδηγίες κρυμμένες σε ιστοσελίδες ή emails — αποτελούν έναν κίνδυνο που δεν πρόκειται να εξαφανιστεί σύντομα.
Το γεγονός αυτό εγείρει σοβαρά ερωτήματα για το μέλλον της κυβερνοασφάλειας και το πόσο ασφαλείς μπορούν να είναι οι προηγμένοι πράκτορες AI όταν λειτουργούν στον ανοιχτό ιστό.
Η εταιρεία αναγνωρίζει πλέον ανοιχτά ότι ορισμένες απειλές είναι εγγενείς στη φύση της τεχνολογίας. Σε σχετική ανάρτηση ιστολογίου, η OpenAI σημείωσε:
«Το prompt injection, όπως ακριβώς οι απάτες και η κοινωνική μηχανική (social engineering) στο διαδίκτυο, είναι απίθανο να "λυθεί" ποτέ πλήρως».
Η ανακοίνωση περιγράφει λεπτομερώς πώς η εταιρεία ενισχύει την «πανοπλία» του Atlas για να καταπολεμήσει τις αδιάκοπες επιθέσεις. Παράλληλα, παραδέχτηκε ότι η λειτουργία «agent mode» στο ChatGPT Atlas αναπόφευκτα «επεκτείνει την επιφάνεια απειλής για την ασφάλεια».
Η κυκλοφορία του περιηγητή ChatGPT Atlas από την OpenAI τον Οκτώβριο προκάλεσε άμεσα το ενδιαφέρον της κοινότητας, με τους ερευνητές ασφαλείας να σπεύδουν να δημοσιεύσουν demos που αποδεικνύουν τις ευπάθειες:
Η OpenAI δεν είναι η μόνη που αναγνωρίζει το πρόβλημα. Το Εθνικό Κέντρο Κυβερνοασφάλειας του Ηνωμένου Βασιλείου (National Cyber Security Centre) εξέδωσε προειδοποίηση νωρίτερα αυτό το μήνα, τονίζοντας ότι οι επιθέσεις prompt injection ενάντια σε εφαρμογές παραγωγικού AI (generative AI) «μπορεί να μην εξαλειφθούν ποτέ εντελώς».
Οι βασικές επιπτώσεις περιλαμβάνουν:
Από την πλευρά της, η OpenAI δήλωσε χαρακτηριστικά:
«Αντιμετωπίζουμε το prompt injection ως μια μακροπρόθεσμη πρόκληση ασφάλειας για το AI και θα χρειαστεί να ενισχύουμε συνεχώς την άμυνά μας απέναντι σε αυτό».
Ποια είναι η απάντηση της εταιρείας σε αυτό το εξαιρετικά δύσκολο έργο; Η στρατηγική βασίζεται σε έναν προληπτικό κύκλο ταχείας απόκρισης.
Η εταιρεία ισχυρίζεται ότι αυτή η μέθοδος δείχνει πρώιμα σημάδια επιτυχίας στον εντοπισμό νέων στρατηγικών επίθεσης εσωτερικά, πριν αυτές αξιοποιηθούν «σε πραγματικές συνθήκες» (in the wild). Αυτό δεν διαφέρει εντελώς από τις πρακτικές των ανταγωνιστών, υπογραμμίζοντας ότι η μάχη για την ασφάλεια στο AI θα είναι διαρκής και απαιτητική.
