Είναι αναμφίβολα μια παράξενη εποχή για να χαρακτηρίζεται κανείς «καταστροφολόγος» στον χώρο της τεχνολογίας. Καθώς η επανάσταση του AI επιταχύνεται, μια συγκεκριμένη ομάδα ειδικών βλέπει πέρα από τον ενθουσιασμό, διακρίνοντας σοβαρούς κινδύνους στον ορίζοντα.
Η απειλή της Τεχνητής Γενικής Νοημοσύνης (AGI)
Αυτή η μικρή αλλά με σημαντική επιρροή κοινότητα ερευνητών, επιστημόνων και εμπειρογνωμόνων πολιτικής πιστεύει, με απλά λόγια, ότι το AI θα μπορούσε να γίνει τόσο ικανό που τελικά να εξελιχθεί σε κάτι κακό —πολύ, πολύ κακό— για την ανθρωπότητα.
Αν και πολλοί από αυτούς τους ανθρώπους θα ήταν πιο πιθανό να περιγράψουν τους εαυτούς τους ως υποστηρικτές της ασφάλειας του AI παρά ως κυριολεκτικούς κήρυκες της καταστροφής, προειδοποιούν ότι η ανεξέλεγκτη εξέλιξη θέτει έναν υπαρξιακό κίνδυνο για το ανθρώπινο είδος.
Η ανάγκη για αυστηρότερη ρύθμιση
Το βασικό τους επιχείρημα εστιάζει στην επιτακτική ανάγκη για αυστηρότερους κανονισμούς. Υποστηρίζουν ότι χωρίς το κατάλληλο ρυθμιστικό πλαίσιο, η βιομηχανία θα μπορούσε να οδεύσει προς συστήματα που δεν θα είναι σε θέση να ελέγξει.
Συνήθως αναμένουν ότι τέτοια συστήματα θα ακολουθήσουν τη δημιουργία της Τεχνητής Γενικής Νοημοσύνης (AGI), μιας ασαφούς έννοιας που γενικά νοείται ως τεχνολογία που μπορεί να εκτελέσει κάθε νοητική εργασία που κάνουν οι άνθρωποι, αλλά πολύ καλύτερα και ταχύτερα.
Αυτή η ιστορία είναι μέρος του πακέτου Hype Correction του MIT Technology Review, μιας σειράς που επαναπροσδιορίζει τις προσδοκίες σχετικά με το τι είναι το AI, τι καθιστά δυνατό και πού πηγαίνουμε στη συνέχεια.
Από τη θεωρία στην πολιτική πράξη
Αν και αυτή δεν είναι καθόλου μια καθολικά αποδεκτή άποψη στον παγκόσμιο τομέα του AI, το πλήθος των λεγόμενων «απαισιόδοξων» είχε κάποια αξιοσημείωτη επιτυχία και επιρροή τα τελευταία χρόνια. Οι προσπάθειές τους δεν έμειναν μόνο σε επίπεδο θεωρίας, αλλά πέτυχαν συγκεκριμένα αποτελέσματα:
- Να βοηθήσουν στη διαμόρφωση της πολιτικής για το AI από την κυβέρνηση Biden, θέτοντας νέους κανόνες.
- Να οργανώσουν εξέχουσες εκκλήσεις και πρωτοβουλίες ευαισθητοποίησης.
- Να προωθήσουν διεθνείς συζητήσεις για την ασφάλεια, επηρεάζοντας το πώς αντιμετωπίζεται η τεχνολογία σε παγκόσμιο επίπεδο.