Η AI Εκπαιδεύεται με τα Δεδομένα σας: Κίνδυνοι για Ιδιωτικότητα & Υγεία
Η AI εκπαιδεύεται με τα προσωπικά σας δεδομένα; Τα chatbots δίνουν ιατρικές συμβουλές; Ανακαλύψτε τους κρυφούς κινδύνους της νέας τεχνολογίας AI.
Minas Marios Kontis
Η AI εκπαιδεύεται με τα προσωπικά σας δεδομένα; Τα chatbots δίνουν ιατρικές συμβουλές; Ανακαλύψτε τους κρυφούς κινδύνους της νέας τεχνολογίας AI.
Αυτή είναι η σημερινή έκδοση του The Download, του καθημερινού μας newsletter που σας προσφέρει μια δόση από τις τελευταίες εξελίξεις στον κόσμο της τεχνολογίας και της καινοτομίας, ειδικά για το κοινό του AI Greece blog.
Μια πρόσφατη έρευνα αποκάλυψε μια ανησυχητική εξέλιξη στον χώρο της τεχνητής νοημοσύνης: εκατομμύρια έγγραφα και εικόνες που περιέχουν προσωπικά αναγνωρίσιμα στοιχεία είναι πιθανό να περιλαμβάνονται σε ένα από τα μεγαλύτερα σύνολα δεδομένων εκπαίδευσης AI ανοιχτού κώδικα.
Χιλιάδες ευαίσθητες εικόνες εντοπίστηκαν σε ένα μικρό μόνο δείγμα του DataComp CommonPool, ενός κρίσιμου συνόλου δεδομένων που χρησιμοποιείται για την εκπαίδευση προηγμένων μοντέλων δημιουργίας εικόνων. Τα δεδομένα αυτά συλλέχθηκαν μαζικά από το διαδίκτυο και περιλαμβάνουν:
Δεδομένου ότι οι ερευνητές έλεγξαν μόλις το 0,1% των δεδομένων του CommonPool, εκτιμούν ότι ο πραγματικός αριθμός εικόνων που περιέχουν προσωπικές πληροφορίες ανέρχεται σε εκατοντάδες εκατομμύρια. Αυτό εγείρει σοβαρά ερωτήματα για την ασφάλεια δεδομένων και τη συμμόρφωση με το ευρωπαϊκό πλαίσιο, όπως ο GDPR.
Η ουσία; Οτιδήποτε δημοσιεύετε στο διαδίκτυο μπορεί να έχει —και πιθανότατα έχει ήδη— συλλεχθεί για την εκπαίδευση της AI. Η προστασία της ιδιωτικότητας αποτελεί πλέον κεντρική πρόκληση για το μέλλον της τεχνολογίας. Διαβάστε ολόκληρο το άρθρο εδώ.
— Eileen Guo
Σε μια άλλη σημαντική εξέλιξη, οι εταιρείες AI φαίνεται να εγκαταλείπουν την καθιερωμένη πρακτική να περιλαμβάνουν ιατρικές αποποιήσεις ευθύνης στις απαντήσεις των chatbots τους. Σύμφωνα με νέα έρευνα, τα κορυφαία μοντέλα AI όχι μόνο απαντούν σε ερωτήσεις υγείας, αλλά προχωρούν ένα βήμα παραπέρα.
Αυτή η νέα τάση δείχνει τα chatbots να κάνουν περαιτέρω ερωτήσεις, προσπαθώντας ουσιαστικά να πραγματοποιήσουν μια ιατρική διάγνωση.
Η απουσία σαφών προειδοποιήσεων ότι δεν αποτελούν γιατρούς συνιστά μια επικίνδυνη στροφή που θα μπορούσε να έχει σοβαρές συνέπειες για την υγεία των χρηστών στην Ελλάδα και παγκοσμίως. Οι χρήστες μπορεί να εμπιστευτούν μια αναξιόπιστη ιατρική συμβουλή από ένα προηγμένο γλωσσικό μοντέλο. Η επανάσταση της AI στην υγεία απαιτεί υπευθυνότητα και σαφή όρια.
