Καθώς πλησιάζουν οι προεδρικές εκλογές των ΗΠΑ του 2024, οι ανησυχίες για την επιρροή της τεχνητής νοημοσύνης (AI) και της τεχνολογίας deepfake στην εκλογική διαδικασία φτάνουν σε νέα ύψη.
Τα Deepfakes είναι άκρως πειστικά και παραπλανητικά ψηφιακά μέσα—συνήθως βίντεο, ηχογραφήσεις ή εικόνες—που παράγονται ολοένα και περισσότερο με χρήση τεχνητής νοημοσύνης και συχνά για παραπλανητικούς ή δόλιους σκοπούς.
Οι ειδικοί στον τομέα της τεχνητής νοημοσύνης και της ανίχνευσης του deepfake παρείχαν πολύτιμες πληροφορίες σχετικά με τις προκλήσεις που θέτει η παραπληροφόρηση που δημιουργείται από την τεχνητή νοημοσύνη και τα μέτρα που λαμβάνονται για την καταπολέμησή τους.
Ο Rijul Gupta, συνιδρυτής και Διευθύνων Σύμβουλος της DeepMedia_AI , τόνισε την ανησυχητική άνοδο της τεχνολογίας deepfake και τις επιπτώσεις της στις εκλογές του 2024.
«Το 2024 θα είναι τόσο «βαθιά» ψεύτικες εκλογές με τρόπους που δεν ήταν ξανά ποτέ προηγούμενες εκλογές», είπε. «Θα καθιερθούν πλήρως το 2024, και αυτό οφείλεται στην πρόσβαση σε αυτήν την τεχνολογία. Βασικές εκδόσεις αυτής της τεχνολογίας υπήρχαν το 2020, αλλά η ποιότητα δεν ήταν αρκετά καλή για να ξεγελάσει τους ανθρώπους.
Ο κ. Gupta είπε ότι η ποιότητα βελτιώθηκε το 2022 και συνεχίζει να προοδεύει μηνιαίως. Το περιεχόμενο γίνεται αρκετά καλό ώστε ο μέσος άνθρωπος να μπορεί να το δει ή να το ακούσει στο TikTok ή στο YouTube και να πειστεί ότι είναι πραγματικό.
«Δεν ψάχνουν για το ψεύτικο», είπε. «Δεν προσπαθούν να προσδιορίσουν ότι είναι ψεύτικο. Τους ακούγεται αληθινό, οπότε απλώς υποθέτουν ότι είναι αληθινό. Αλλά το τελευταίο εμπόδιο που υπήρχε για να γίνει πραγματικά τεράστιο πρόβλημα ήταν η πρόσβαση. Έτσι, το πρώτο εμπόδιο ήταν η ποιότητα, και αυτό μόλις επιτεύχθηκε πέρυσι. Το δεύτερο εμπόδιο ήταν η πρόσβαση».
Τώρα, ο κ. Gupta λέει ότι τα εργαλεία είναι διαθέσιμα στο διαδίκτυο για όλους και είναι συνήθως δωρεάν.
«Τις περισσότερες φορές, δεν χρειάζεστε καν πιστωτική κάρτα και μπορείτε να δημιουργήσετε Deepfake περιεχόμενο οποιουδήποτε, για οποιοδήποτε λόγο, σε μόλις πέντε δευτερόλεπτα», είπε. «Αυτό είναι το καινούργιο που υπάρχει. Αυτό ακριβώς συνέβη τους τελευταίους μήνες — και γι’ αυτό το 2024 θα είναι οι βαθιά ψεύτικες εκλογές».
Είναι ένα θέμα που «με κρατάει ξύπνιο τη νύχτα», είπε ο κ. Gupta. «Αυτός είναι ένας από τους σημαντικότερους λόγους για τους οποίους ίδρυσα την DeepMedia, για να είμαι μπροστάρης στην πάταξη της παραπληροφόρησης και του ψεύτικου περιεχομένου», είπε. «Πριν από περίπου έξι χρόνια, είδα τι επρόκειτο να συμβεί. Είδα ένα μέλλον όπου οι άνθρωποι δεν θα μπορούσαν να καταλάβουν τι είναι αληθινό και τι ψεύτικο».
Ανίχνευση Deepfakes
Για την αντιμετώπιση της αυξανόμενης απειλής των deepfakes, η σύντροφος του κ. Gupta, Emma Brown, συνιδρύτρια και διευθύνων σύμβουλος της DeepMedia, τόνισε τη σημασία των ακριβών και επεκτάσιμων μεθόδων ανίχνευσης.
Η DeepMedia έχει αναπτύξει προηγμένες και έξυπνες δυνατότητες ανίχνευσης ψεύτικων περιεχομένων, που όπως σημειώνει, έχουν επικυρωθεί από την κυβέρνηση των ΗΠΑ και εταιρείες παγκοσμίως.
Η κ. Brown είπε ότι η DeepMedia διαθέτει τις πιο ακριβείς δυνατότητες ανίχνευσης ψεύτικων προσώπων και φωνών παγκοσμίως, διασφαλίζοντας αξιόπιστη αναγνώριση περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη.
«Η επεκτασιμότητα είναι ένας άλλος παράγοντας που είναι σημαντικός για την εταιρεία», είπε, προσθέτοντας ότι η DeepMedia έχει τη δυνατότητα να επεξεργάζεται έναν τεράστιο αριθμό βίντεο καθημερινά, επιτρέποντας τον γρήγορο εντοπισμό των deepfakes σε μεγάλα σύνολα δεδομένων.
Τρίτον, είπε ότι η στιβαρότητα της πλατφόρμας του DeepMedia προσφέρει προηγμένες δυνατότητες, όπως η ακριβή κατηγοριοποίηση περιεχομένου, επιτρέποντας στους χρήστες να εξάγουν συγκεκριμένες πληροφορίες από περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη.
«Συμμετέχουμε ενεργά στη διασφάλιση των εκλογών μας πριν από τις απειλές της που θα προκαλέσει η τεχνητή νοημοσύνη», είπε η κ. Brown.
Ενδυνάμωση και ευαισθητοποίηση του κοινού
Αναγνωρίζοντας την ανάγκη για ευαισθητοποίηση του κοινού και συμμετοχή στην καταπολέμηση της παραπληροφόρησης που δημιουργείται από την τεχνητή νοημοσύνη, η DeepMedia διέθεσε πρόσφατα τις δυνατότητες ανίχνευσης deepfake δωρεάν στο X, παλαιότερα γνωστό ως Twitter.
Οι χρήστες μπορούν να προσθέσουν ετικέτα στο @DeepMedia και να προσθέσουν το hashtag #DeepID σε οποιοδήποτε περιεχόμενο πολυμέσων, και το bot Twitter της DeepMedia θα τρέξει αμέσως το περιεχόμενο μέσω του συστήματος ανίχνευσης deepfake και θα παρέχει αποτελέσματα στο νήμα, είπε ο κ. Gupta.
«Ελπίζουμε ότι αυτό θα ενδυναμώσει τον μέσο χρήστη, τους πολίτες και τους δημοσιογράφους με τα εργαλεία που χρειάζονται για να προστατευτούν από την παραπληροφόρηση της τεχνητής νοημοσύνης», είπε.
Η κίνηση αυτή αντιπροσωπεύει ένα σημαντικό βήμα προς τον εκδημοκρατισμό της καταπολέμησης της παραπληροφόρησης και της παραπληροφόρησης που βασίζεται στην τεχνητή νοημοσύνη.
Οι προεδρικές εκλογές των ΗΠΑ του 2024 θα χρησιμεύσουν ως κρίσιμο τεστ της ικανότητας καταπολέμησης της επιρροής των deepfakes στη δημόσια αντίληψη και στα εκλογικά αποτελέσματα. Ο κ. Gupta τόνισε ότι η πρόκληση εκτείνεται πέρα από τις τεχνικές λύσεις και προτρέπει τον κόσμο να παραμείνει σε εγρήγορση και ενημέρωση.
«Η συγχώνευση της τεχνητής νοημοσύνης και των εκλογών απαιτεί τη συλλογική μας προσοχή και δράση για τη διασφάλιση της ακεραιότητας των δημοκρατικών διαδικασιών μας», είπε ο κ. Gupta.
Όταν ρωτήθηκε εάν η τεχνητή νοημοσύνη ή τα deepfakes έχουν ήδη παρατηρηθεί στον δρόμο για τις εκλογές του 2024, η κα Brown είπε ότι έχει εντοπιστεί σε λίγες περιπτώσεις και ευτυχώς δεν επηρέασαν πολύ κόσμο.
Ένα ψεύτικο βίντεο φέρεται να έδειχνε τη Χίλαρι Κλίντον να υποστηρίζει τον Ρεπουμπλικάνο υποψήφιο για την προεδρία κυβερνήτη της Φλόριντα, Ρον Ντε Σάντις
«Ήταν εντελώς ψεύτικο και οι ανιχνευτές μας μπόρεσαν να το εντοπίσουν με υψηλό βαθμό ακρίβειας», είπε η κ. Brown. «Αλλά τέτοιες περιπτώσεις θα μπορούσαν να είναι επιζήμιες για την εκστρατεία του DeSantis. Επομένως, θα το παρακολουθούμε ολοένα και περισσότερο, ειδικά καθώς η κάλυψη στην προεκλογική περίοδο πραγματικά αυξάνεται και εντείνεται».
Εμπιστεύεστε τις πηγές σας
Η εταιρεία τεχνητής νοημοσύνης Conversica δραστηριοποιείται στον χώρο της τεχνητής νοημοσύνης από το 2007. Ο Διευθύνων Σύμβουλος της, Jim Kaskade, προσέφερε μια μοναδική προοπτική για τον ρόλο της τεχνητής νοημοσύνης στις εκλογές του 2024.
«Μας καθοδηγεί ο θετικός σκοπός και η θετική πτυχή της εφαρμοσμένης τεχνητής νοημοσύνης», είπε.
Αυτή η δέσμευση υποδηλώνει ότι οι τεχνολογίες τεχνητής νοημοσύνης, όταν χρησιμοποιούνται προσεκτικά, μπορούν να συμβάλουν στη βελτίωση της εκλογικής διαδικασίας.
Η τεχνητή νοημοσύνη θα μπορούσε να είναι μια δύναμη για το καλό των εκλογών, είπε ο κ. Kaskade. Τα εργαλεία που βασίζονται στην AI μπορούν να βελτιώσουν την επικοινωνία, να παρέχουν πολύτιμες πληροφορίες για τις προτιμήσεις των ψηφοφόρων και να εξορθολογίσουν τις προσπάθειες εκστρατείας. «Είναι σημαντικό να βρεθεί μια ισορροπία μεταξύ της μόχλευσης της τεχνητής νοημοσύνης για θετικούς σκοπούς και της προστασίας από την κακή χρήση της», είπε.
Τόνισε την ανάγκη για ηθική χρήση του περιεχομένου που δημιουργείται από την AI στον πολιτικό λόγο και για επαγρύπνηση για τη διασφάλιση της αυθεντικότητας των πληροφοριών σε εκλογικά πλαίσια, γεγονός που υπογραμμίζει τη σημασία της εμπιστοσύνης στις πηγές, στην εποχή του περιεχομένου που δημιουργείται από AI.
«Νομίζω ότι είναι απλώς θεμελιώδες», είπε ο κ. Kaskade. «Πρέπει να ερευνήσεις την πηγή σου».
Αναγνώρισε ότι, ενώ η τεχνολογία δεν έχει ακόμη καλύψει πλήρως τη διαφοροποίηση μεταξύ πραγματικού και πλαστού περιεχομένου, μπορεί κανείς να είναι προσεκτικός αξιολογώντας την αξιοπιστία των πηγών που παρέχουν πληροφορίες.
Η πρόκληση για το 2024
Η πρόκληση που θέτουν τα deepfakes στις εκλογές του 2024 είναι πολύπλευρη. Με την ταχεία πρόοδο της τεχνολογίας AI, κακόβουλοι παράγοντες μπορούν εύκολα να δημιουργήσουν εξαιρετικά πειστικό ψεύτικο περιεχόμενο—συμπεριλαμβανομένων βίντεο, ηχογραφήσεων και εικόνων—για να χειραγωγήσουν την κοινή γνώμη και να σπείρουν διχόνοια.
Αυτό αποτελεί σημαντική απειλή για τη διάβρωση της εμπιστοσύνης στους πολιτικούς υποψηφίους και τους θεσμούς.
Απαιτεί συλλογική προσπάθεια από τις κυβερνήσεις, τις εταιρείες τεχνολογίας και την κοινωνία ως σύνολο για την ευαισθητοποίηση, την προώθηση του ψηφιακού γραμματισμού και τη θέσπιση κανονισμών για την καταπολέμηση της κακόβουλης χρήσης της τεχνητής νοημοσύνης, είπαν οι ειδικοί.
Ο κ. Kaskade προέτρεψε τους υποψηφίους που διεκδικούν αξιώματα να προτείνουν πολιτικές και κανονισμούς για την τεχνητή νοημοσύνη που θα διασφαλίζουν ότι η χρήση της είναι επωφελής για την κοινωνία, παρά επιβλαβής και διχαστική.
Θα εναπόκειται επίσης στους ψηφοφόρους και τους πολίτες να ενημερώνονται για τα deepfakes και την πρόοδο της τεχνητής νοημοσύνης και να γνωρίζουν πώς να προστατεύονται χρησιμοποιώντας τις δεξιότητες αναλυτικής σκέψης τους και αξιολογώντας κριτικά τις πληροφορίες που συναντούν στο διαδίκτυο.