Ασφάλεια AI: Όταν το ChatGPT πρότεινε θανατηφόρο μείγμα χλωρίνης
Το ChatGPT της OpenAI έδωσε μια επικίνδυνη συμβουλή για την ανάμειξη χλωρίνης. Ποιοι είναι οι κίνδυνοι και τι σημαίνει αυτό για την ασφάλεια της AI;
Minas Marios Kontis
Το ChatGPT της OpenAI έδωσε μια επικίνδυνη συμβουλή για την ανάμειξη χλωρίνης. Ποιοι είναι οι κίνδυνοι και τι σημαίνει αυτό για την ασφάλεια της AI;
Η τεχνολογία της AI εξελίσσεται ραγδαία, με προηγμένα μοντέλα όπως το ChatGPT της OpenAI να γίνονται μέρος της καθημερινότητάς μας. Ωστόσο, ένα πρόσφατο περιστατικό έρχεται να μας υπενθυμίσει τους πιθανούς κινδύνους και την κρισιμότητα της ασφάλειας στον τομέα της τεχνητής νοημοσύνης. Το διάσημο chatbot πρότεινε σε έναν χρήστη να δημιουργήσει, εν αγνοία του, ένα άκρως τοξικό αέριο χλωρίου.
Σας φαίνεται καλή ιδέα να αναμίξετε χλωρίνη με ξύδι για τις δουλειές του σπιτιού;
Αστειευόμαστε φυσικά, και το τονίζουμε: Μην το κάνετε ποτέ! Η ανάμειξη αυτή δημιουργεί ένα νέφος από δηλητηριώδες αέριο χλωρίου που μπορεί να προκαλέσει μια σειρά από φρικτά συμπτώματα αν το εισπνεύσετε.
Αυτή η βασική γνώση χημείας, όμως, φάνηκε να διαφεύγει από το ChatGPT, το οποίο πρόσφατα πρότεινε σε έναν χρήστη του Reddit ακριβώς αυτόν τον επιβλαβή συνδυασμό.
Σε μια ανάρτηση με τον εύγλωττο τίτλο, «Το ChatGPT προσπάθησε να με σκοτώσει σήμερα», ένας Redditor εξήγησε πώς ζήτησε από την πλατφόρμα της OpenAI συμβουλές για τον καθαρισμό κάδων. Η απάντηση της AI περιλάμβανε μια «έξυπνη» πρόταση για ένα διάλυμα που περιείχε:
Όταν ο χρήστης του Reddit επεσήμανε το τεράστιο αυτό σφάλμα στο ChatGPT, το προηγμένο γλωσσικό μοντέλο (LLM) έκανε αμέσως πίσω, με έναν τρόπο που θα ήταν κωμικός αν δεν ήταν τόσο επικίνδυνος.
«Ω ΘΕΕ ΜΟΥ ΟΧΙ — ΣΕ ΕΥΧΑΡΙΣΤΩ ΠΟΥ ΤΟ ΕΝΤΟΠΙΣΕΣ», απάντησε έντρομο το chatbot. «ΜΗΝ ΑΝΑΜΕΙΞΕΙΣ ΠΟΤΕ ΧΛΩΡΙΝΗ ΚΑΙ ΞΥΔΙ. Αυτό δημιουργεί αέριο χλωρίου, το οποίο είναι εξαιρετικά επικίνδυνο και σίγουρα δεν είναι το μαγικό φίλτρο που θέλουμε. Άσε με να το διορθώσω αμέσως αυτό το σημείο.»
Η κοινότητα του Reddit αντιμετώπισε το περιστατικό με χιούμορ, με σχόλια όπως «θυμίζει χημικό πόλεμο» και «Η δηλητηρίαση από αέριο χλωρίου ΔΕΝ είναι η φάση που θέλουμε εδώ. Ας το βάλουμε αυτό στον φάκελο "Τεράστιες Γκάφες"!».
Πέρα από την κωμική πλευρά, το περιστατικό αυτό αναδεικνύει μια κρίσιμη πρόκληση για το μέλλον της AI. Καθώς όλο και περισσότεροι χρήστες, τόσο στην Ελλάδα όσο και παγκοσμίως, βασίζονται σε αυτά τα εργαλεία για πληροφορίες, η αξιοπιστία και η ασφάλεια γίνονται αδιαπραγμάτευτες.
Αυτή η «γκάφα» του ChatGPT λειτουργεί ως μια ισχυρή προειδοποίηση για τους κινδύνους που ελλοχεύουν και υπογραμμίζει την τεράστια ευθύνη των εταιρειών τεχνολογίας να ενσωματώνουν ισχυρές δικλίδες ασφαλείας στα προϊόντα τους. Η εξέλιξη της AI πρέπει να συμβαδίζει με την καινοτομία στην ασφάλεια.
