Η OpenAI αναζητά νέο Head of Preparedness για τους κινδύνους του AI. Από την κυβερνοασφάλεια έως την ψυχική υγεία, μάθετε για τις προκλήσεις και το μέλλον της τεχνολογίας.
Η OpenAI, ηγέτιδα δύναμη στον χώρο της τεχνολογίας, βρίσκεται σε ενεργή αναζήτηση ενός κορυφαίου στελέχους που θα αναλάβει τον κρίσιμο ρόλο της μελέτης και διαχείρισης των αναδυόμενων κινδύνων που σχετίζονται με το AI. Η θέση αυτή καλύπτει ένα ευρύ φάσμα τομέων, από την προηγμένη ασφάλεια των υπολογιστών έως τις επιπτώσεις στην ψυχική υγεία, σηματοδοτώντας μια νέα εποχή ευθύνης για την εταιρεία.
Σε μια πρόσφατη ανάρτησή του στο X, ο CEO της εταιρείας, Sam Altman, παραδέχτηκε με ειλικρίνεια ότι τα εξελιγμένα μοντέλα AI «αρχίζουν να παρουσιάζουν μερικές πραγματικές προκλήσεις». Η δήλωση αυτή υπογραμμίζει την πολυπλοκότητα που φέρνει η ταχεία εξέλιξη της τεχνητής νοημοσύνης.
Συγκεκριμένα, ο Altman αναφέρθηκε σε δύο βασικούς άξονες ανησυχίας:
Ο ίδιος έγραψε χαρακτηριστικά, απευθύνοντας κάλεσμα στους ειδικούς:
«Αν θέλετε να βοηθήσετε τον κόσμο να βρει τον τρόπο να ενισχύσει τους αμυνόμενους στον κυβερνοχώρο με δυνατότητες αιχμής, διασφαλίζοντας παράλληλα ότι οι επιτιθέμενοι δεν μπορούν να τις χρησιμοποιήσουν για κακό σκοπό — ιδανικά κάνοντας όλα τα συστήματα πιο ασφαλή — και παρομοίως για το πώς απελευθερώνουμε βιολογικές ικανότητες και ακόμη και να αποκτήσουμε εμπιστοσύνη στην ασφάλεια των συστημάτων που τρέχουν και μπορούν να αυτοβελτιώνονται, παρακαλώ σκεφτείτε να κάνετε αίτηση.»
Η αγγελία της OpenAI για τον ρόλο του Head of Preparedness (Επικεφαλής Ετοιμότητας) είναι σαφής: η θέση αφορά την εκτέλεση και επίβλεψη του πλαισίου ετοιμότητας της εταιρείας.
Πρόκειται για το πλαίσιο που εξηγεί την προσέγγιση της OpenAI στην παρακολούθηση και προετοιμασία για ικανότητες αιχμής οι οποίες δημιουργούν νέους κινδύνους σοβαρής βλάβης. Ο στόχος είναι η διασφάλιση ότι η καινοτομία συμβαδίζει με την ασφάλεια.
Η εταιρεία ανακοίνωσε για πρώτη φορά τη δημιουργία της ομάδας ετοιμότητας (preparedness team) το 2023. Τότε, είχε δηλώσει ότι η ομάδα θα ήταν υπεύθυνη για τη μελέτη πιθανών «καταστροφικών κινδύνων», είτε αυτοί ήταν άμεσοι, όπως πολύπλοκες επιθέσεις phishing, είτε πιο θεωρητικοί και μακροπρόθεσμοι, όπως οι πυρηνικές απειλές.
Ωστόσο, λιγότερο από ένα χρόνο αργότερα, το τοπίο άλλαξε με σημαντικές ανακατατάξεις:
Αξίζει να σημειωθεί ότι η εταιρεία προχώρησε πρόσφατα σε ενημέρωση του Preparedness Framework της. Μια κρίσιμη λεπτομέρεια είναι η δήλωση ότι ενδέχεται να «προσαρμόσει» τις απαιτήσεις ασφαλείας της εάν ένα ανταγωνιστικό εργαστήριο AI κυκλοφορήσει ένα μοντέλο «υψηλού κινδύνου» χωρίς παρόμοιες προστασίες, δείχνοντας πώς ο ανταγωνισμός επηρεάζει τις αποφάσεις ασφαλείας.
Όπως υπαινίχθηκε ο Altman στην ανάρτησή του, τα chatbots γενετικού AI έχουν βρεθεί στο επίκεντρο αυξανόμενου ελέγχου διεθνώς, αλλά και στην Ευρώπη, σχετικά με τον αντίκτυπό τους στην ανθρώπινη ψυχολογία.
Πρόσφατες νομικές αγωγές ισχυρίζονται ότι το ChatGPT της OpenAI ενίσχυσε τις ψευδαισθήσεις χρηστών, δημιουργώντας νέα, κρίσιμα ερωτήματα για:
