Όπως κι αν επιλέξετε να το αποκαλέσετε – το αστυνομικό κράτος, το βαθύ κράτος, το κράτος επιτήρησης – αυτός ο «αθάνατος δικτάτορας» θα είναι το μελλοντικό πρόσωπο της κυβέρνησης, αν δεν το περιορίσουμε τώρα
Το βαθύ κράτος είναι έτοιμο να εκτοξευθεί με τουρμπίνα. Ενώ τα ειδησεογραφικά μέσα ασχολούνται με το βαθμό στον οποίο το Σχέδιο 2025 μπορεί να είναι το εγχειρίδιο της κυβέρνησης Τραμπ για το κλείδωμα του έθνους, υπάρχει ένα πιο ανατρεπτικό παιχνίδι εξουσίας που λαμβάνει χώρα υπό την κάλυψη της μοναδικής πολιτικής τσίρκου του Τραμπ.
Ρίξτε μια πιο προσεκτική ματιά σε αυτό που εκτυλίσσεται και θα διαπιστώσετε ότι, παρά τα φαινομενικά αντίθετα, ο Τραμπ δεν σχεδιάζει να καταργήσει το βαθύ κράτος. Αντίθετα, προσελήφθη από το Βαθύ Κράτος για να εγκαινιάσει τη χρυσή εποχή της τεχνητής νοημοσύνης.
Ετοιμαστείτε για το Κράτος Επιτήρησης 2.0.
Για να επιτύχει αυτό το υπερτροφοδοτούμενο κράτος επιτήρησης, η κυβέρνηση στρέφεται στο πιο ισχυρό όπλο της μέχρι τώρα: την τεχνητή νοημοσύνη (ΤΝ). Η τεχνητή νοημοσύνη, με την ικανότητά της να μαθαίνει, να προσαρμόζεται και να λειτουργεί με ταχύτητες αδιανόητες για τους ανθρώπους, είναι έτοιμη να γίνει η μηχανή αυτής της νέας παγκόσμιας τάξης πραγμάτων.
Κατά τη διάρκεια 70 ετών, η τεχνολογία αναπτύχθηκε τόσο γρήγορα ώστε από τους πρώτους υπολογιστές που παρουσίαζαν μια πρωτόγονη μορφή τεχνητής νοημοσύνης, πέρασε από τη μηχανική μάθηση (συστήματα τεχνητής νοημοσύνης που μαθαίνουν από ιστορικά δεδομένα) στη βαθιά μάθηση (μηχανική μάθηση που μιμείται τον ανθρώπινο εγκέφαλο) και στη δημιουργική τεχνητή νοημοσύνη, η οποία μπορεί να δημιουργήσει πρωτότυπο περιεχόμενο, δηλαδή φαίνεται να μπορεί να σκέφτεται μόνη της.
Αυτό που πλησιάζουμε είναι το σημείο χωρίς επιστροφή.
Στην τεχνολογική γλώσσα, αυτό το σημείο χωρίς επιστροφή αποκαλείται πιο εύστοχα «μοναδικότητα», το σημείο στο οποίο η τεχνητή νοημοσύνη επισκιάζει τους ανθρώπινους χειριστές της και γίνεται παντοδύναμη. Ο Elon Musk έχει προβλέψει ότι το singularity θα μπορούσε να συμβεί μέχρι το 2026. Ο επιστήμονας της Τεχνητής Νοημοσύνης Ray Kurzweil το φαντάζεται πιο κοντά στο 2045.
Ενώ η επιστημονική κοινότητα έχει πολλά να πει για τον κοσμοϊστορικό αντίκτυπο της τεχνητής νοημοσύνης σε κάθε πτυχή της ζωής μας, λίγα έχουν ειπωθεί για τον αυξανόμενο ρόλο της στην κυβέρνηση και την καταπιεστική της επίδραση στις ελευθερίες μας, ιδίως «τις βασικές δημοκρατικές αρχές της ιδιωτικής ζωής, της αυτονομίας, της ισότητας, της πολιτικής διαδικασίας και του κράτους δικαίου».
Σύμφωνα με μια έκθεση της Accenture, εκτιμάται ότι τόσο στον δημόσιο όσο και στον ιδιωτικό τομέα, η παραγωγική τεχνητή νοημοσύνη έχει τη δυνατότητα να αυτοματοποιήσει ένα σημαντικό μέρος των θέσεων εργασίας σε διάφορους τομείς.
Ακούστε μια σκέψη: Τι θα γίνει αν η υπόσχεση του Τραμπ να μειώσει το ομοσπονδιακό εργατικό δυναμικό δεν αφορά στην πραγματικότητα την εξάλειψη της κυβερνητικής γραφειοκρατίας, αλλά την ανάθεσή της στον τεχνολογικό τομέα της ΤΝ;
Σίγουρα, ο Τραμπ δεν έχει κάνει κανένα μυστικό για τα σχέδιά του να καταστήσει την ΤΝ προτεραιότητα. Πράγματι, ο Τραμπ υπέγραψε το πρώτο Eκτελεστικό Διάταγμα για την ΤΝ το 2019. Πιο πρόσφατα, ο Τραμπ εξέδωσε εκτελεστικό διάταγμα με το οποίο έδωσε στον τομέα της τεχνολογίας το πράσινο φως για την ανάπτυξη και την ανάπτυξη της ΤΝ χωρίς να υπάρχουν προστατευτικές μπάρες για τον περιορισμό των κινδύνων που μπορεί να θέσει για την εθνική ασφάλεια των ΗΠΑ, την οικονομία, τη δημόσια υγεία ή την ασφάλεια.
Ο πρόεδρος Biden δεν ήταν καθόλου καλύτερος, σημειωτέον. Το εκτελεστικό του διάταγμα, το οποίο ο Τραμπ κατήργησε, έδωσε απλώς εντολή στον τεχνολογικό τομέα να μοιράζεται τα αποτελέσματα των δοκιμών ασφάλειας της τεχνητής νοημοσύνης με την αμερικανική κυβέρνηση.
Ωστόσο, ακολουθώντας σχεδόν το ίδιο μοτίβο που είδαμε με την εξάπλωση των μη επανδρωμένων αεροσκαφών, ενώ η κυβέρνηση έσπευσε να επωφεληθεί από την τεχνολογία ΤΝ, δεν έκανε σχεδόν τίποτα για να διασφαλίσει ότι τα δικαιώματα του αμερικανικού λαού προστατεύονται.
Πράγματι, μας λείπουν εντελώς οι προστατευτικές μπάρες για τη διαφάνεια, τη λογοδοσία και την τήρηση του κράτους δικαίου όσον αφορά τη χρήση της ΤΝ από την κυβέρνηση.
Όπως επισημαίνουν οι Karl Manheim και Lyric Kaplan σε ένα ανατριχιαστικό άρθρο στο Yale Journal of Law & Technology σχετικά με τους κινδύνους για την ιδιωτική ζωή και τη δημοκρατία που εγκυμονεί η τεχνητή νοημοσύνη,
«η τεχνητή νοημοσύνη είναι η πιο ανατρεπτική τεχνολογία της σύγχρονης εποχής… Ο αντίκτυπός της είναι πιθανό να επισκιάσει ακόμη και την ανάπτυξη του διαδικτύου, καθώς εισέρχεται σε κάθε γωνιά της ζωής μας… Οι εξελίξεις στην τεχνητή νοημοσύνη δεν προαναγγέλλουν απλώς μια νέα εποχή στην πληροφορική, αλλά παρουσιάζουν επίσης νέους κινδύνους για τις κοινωνικές αξίες και τα συνταγματικά δικαιώματα. Η απειλή για την ιδιωτική ζωή από τους αλγόριθμους των μέσων κοινωνικής δικτύωσης και το Διαδίκτυο των πραγμάτων είναι γνωστή. Αυτό που εκτιμάται λιγότερο είναι η ακόμη μεγαλύτερη απειλή που συνιστά η τεχνητή νοημοσύνη για την ίδια τη δημοκρατία».
Ακολουθεί η άνοδος του «ψηφιακού αυταρχισμού» ή της «αλγοκρατίας-κυριαρχίας μέσω αλγορίθμων».
Σε μια αλγοκρατία, «ο Mark Zuckerberg και ο Sundar Pichai, διευθύνοντες σύμβουλοι του Facebook και της Google, έχουν μεγαλύτερο έλεγχο στη ζωή και το μέλλον των Αμερικανών από ό,τι οι εκπρόσωποι που εκλέγουμε».
Ο ψηφιακός αυταρχισμός, όπως προειδοποιεί το Κέντρο Στρατηγικών και Διεθνών Σπουδών, περιλαμβάνει τη χρήση της τεχνολογίας της πληροφορίας για την παρακολούθηση, την καταστολή και τη χειραγώγηση του πληθυσμού, θέτοντας σε κίνδυνο τα ανθρώπινα δικαιώματα και τις πολιτικές ελευθερίες και συνδιαλέγοντας και διαφθείροντας τις θεμελιώδεις αρχές των δημοκρατικών και ανοικτών κοινωνιών, «συμπεριλαμβανομένης της ελευθερίας της μετακίνησης, του δικαιώματος να μιλάς ελεύθερα και να εκφράζεις πολιτικές διαφωνίες, καθώς και του δικαιώματος στην προσωπική ιδιωτική ζωή, διαδικτυακά και εκτός διαδικτύου».
Πώς προστατεύουμε την ιδιωτική μας ζωή από την αυξανόμενη απειλή της υπερβολής και της κατάχρησης από έναν τεχνολογικό τομέα που συνεργάζεται με την κυβέρνηση; Η δυνατότητα να το κάνουμε αυτό μπορεί ήδη να μην είναι στα χέρια μας.
Το 2024, τουλάχιστον 37 ομοσπονδιακές κυβερνητικές υπηρεσίες, από τα Υπουργεία Εσωτερικής Ασφάλειας και Βετεράνων μέχρι τις Υπηρεσίες Υγείας και Ανθρωπίνων Υπηρεσιών, ανέφεραν περισσότερες από 1700 χρήσεις τεχνητής νοημοσύνης κατά την εκτέλεση του έργου τους, διπλάσιες από το προηγούμενο έτος. Αυτό δεν αγγίζει καν τις υπηρεσίες που δεν ανέφεραν τη χρήση τους ή τη χρήση σε πολιτειακό και τοπικό επίπεδο.
Από αυτές τις 1700 υποθέσεις σε ομοσπονδιακό επίπεδο, 227 χαρακτηρίστηκαν ως υποθέσεις που επηρεάζουν τα δικαιώματα ή την ασφάλεια.
Ένα ιδιαίτερα ανησυχητικό παράδειγμα του τρόπου με τον οποίο η τεχνητή νοημοσύνη χρησιμοποιείται από τις κυβερνητικές υπηρεσίες σε σενάρια που επηρεάζουν τα δικαιώματα και την ασφάλεια προέρχεται από μια ερευνητική έκθεση της Washington Post σχετικά με το πώς οι υπηρεσίες επιβολής του νόμου σε όλη τη χώρα χρησιμοποιούν «εργαλεία τεχνητής νοημοσύνης με έναν τρόπο που δεν προορίζονταν ποτέ να χρησιμοποιηθούν: ως συντομότερο δρόμο για την εύρεση και τη σύλληψη υπόπτων χωρίς άλλα στοιχεία».
Αυτό είναι αυτό που αναφέρεται στους κύκλους της τεχνολογίας ως «προκατάληψη της αυτοματοποίησης», μια τάση να εμπιστεύονται τυφλά τις αποφάσεις που λαμβάνονται από ισχυρό λογισμικό, αγνοώντας τους κινδύνους και τους περιορισμούς του. Σε μια συγκεκριμένη περίπτωση, η αστυνομία χρησιμοποίησε τεχνολογία αναγνώρισης προσώπου με τεχνητή νοημοσύνη για να συλλάβει και να φυλακίσει έναν 29χρονο άνδρα για βίαιη επίθεση σε έναν φύλακα ασφαλείας. Ο Christopher Gatlin θα χρειαζόταν δύο χρόνια για να καθαρίσει το όνομά του.
Ο Gatlin είναι μία από τις τουλάχιστον οκτώ γνωστές περιπτώσεις σε εθνικό επίπεδο στις οποίες η εξάρτηση της αστυνομίας από το λογισμικό αναγνώρισης προσώπου με τεχνητή νοημοσύνη οδήγησε σε άδικες συλλήψεις που προέκυψαν από την παντελή περιφρόνηση της βασικής αστυνομικής εργασίας (όπως ο έλεγχος των άλλοθι, η συλλογή αποδεικτικών στοιχείων, η επιβεβαίωση των στοιχείων DNA και δακτυλικών αποτυπωμάτων, η αγνόηση των φυσικών χαρακτηριστικών των υπόπτων) και της ανάγκης να πληρούνται τα συνταγματικά πρότυπα της δέουσας διαδικασίας και της πιθανής αιτίας. Σύμφωνα με την Washington Post, «οι Ασιάτες και οι μαύροι είχαν έως και 100 φορές περισσότερες πιθανότητες να αναγνωριστούν λανθασμένα από κάποιο λογισμικό σε σχέση με τους λευκούς».
Ο αριθμός των περιπτώσεων στις οποίες η τεχνητή νοημοσύνη συμβάλλει σε ψευδείς συλλήψεις και αμφισβητήσιμη αστυνομική εργασία είναι πιθανότατα πολύ υψηλότερος, δεδομένου του βαθμού στον οποίο οι αστυνομικές υπηρεσίες σε ολόκληρη τη χώρα υιοθετούν την τεχνολογία, και θα αυξηθεί μόνο στον απόηχο της πρόθεσης της κυβέρνησης Τραμπ να κλείσει την εποπτεία της επιβολής του νόμου και τις μεταρρυθμίσεις της αστυνόμευσης.
«Πώς μπορώ να νικήσω μια μηχανή;» ρώτησε ένας άνδρας που συνελήφθη άδικα από την αστυνομία για επίθεση σε οδηγό λεωφορείου με βάση μια λανθασμένη αντιστοιχία τεχνητής νοημοσύνης.
Γίνεται σχεδόν αδύνατο να νικήσει κανείς τη μηχανή τεχνητής νοημοσύνης. Όταν χρησιμοποιείται από πράκτορες του αστυνομικού κράτους, αφήνει «εμάς τους ανθρώπους» ακόμη πιο ευάλωτους.
Πού πάμε λοιπόν από εδώ και πέρα;
Για την κυβέρνηση Τραμπ, φαίνεται ότι προχωράει ολοταχώς, ξεκινώντας με την Stargate, ένα εγχείρημα υποδομών τεχνητής νοημοσύνης ύψους 500 δισεκατομμυρίων δολαρίων που αποσκοπεί στην κατασκευή τεράστιων κέντρων δεδομένων. Οι αρχικές αναφορές δείχνουν ότι τα κέντρα δεδομένων ΤΝ θα μπορούσαν να συνδεθούν με ψηφιακά αρχεία υγείας και να χρησιμοποιηθούν για την ανάπτυξη εμβολίου κατά του καρκίνου. Φυσικά, τα μαζικά κέντρα δεδομένων υγείας για χρήση από την ΤΝ θα σημαίνει ότι τα αρχεία υγείας κάποιου είναι ελεύθερο παιχνίδι για κάθε είδους αναγνώριση, εντοπισμό και επισήμανση. Αλλά αυτό είναι μόνο η κορυφή του παγόβουνου.
Το κράτος επιτήρησης, σε συνδυασμό με την Τεχνητή Νοημοσύνη, δημιουργεί έναν κόσμο στον οποίο δεν υπάρχει πουθενά να τρέξεις και πουθενά να κρυφτείς. Όλοι μας θεωρούμαστε πλέον ένοχοι μέχρι να αποδειχθεί η αθωότητά μας.
Χάρη στην 24ωρη επιτήρηση που διεξάγεται από το εκτεταμένο κατασκοπευτικό δίκτυο των κέντρων σύντηξης της κυβέρνησης, είμαστε όλοι απλά εύκολος στόχος, περιμένοντας να μας επισημάνουν, να μας σημαδέψουν, να μας στοχοποιήσουν, να μας παρακολουθήσουν, να μας χειραγωγήσουν, να μας ερευνήσουν, να μας ανακρίνουν, να μας ενοχλήσουν και γενικά να μας παρενοχλήσουν οι πράκτορες του αμερικανικού αστυνομικού κράτους.
Χωρίς ποτέ να έχετε διαπράξει εν γνώσει σας κάποιο έγκλημα ή να έχετε καταδικαστεί για κάποιο έγκλημα, εσείς και οι συμπολίτες σας έχετε πιθανότατα αξιολογηθεί για συμπεριφορές που η κυβέρνηση θα μπορούσε να θεωρήσει ύπουλες, επικίνδυνες ή ανησυχητικές– σας έχει αποδοθεί μια βαθμολογία απειλής με βάση τις συναναστροφές, τις δραστηριότητες και τις απόψεις σας- και έχετε καταγραφεί σε μια κυβερνητική βάση δεδομένων ανάλογα με το πώς θα πρέπει να σας προσεγγίσει η αστυνομία και άλλες κυβερνητικές υπηρεσίες με βάση το συγκεκριμένο επίπεδο απειλής σας.
Σε λίγο καιρό, κάθε νοικοκυριό στην Αμερική θα χαρακτηρίζεται ως απειλή και θα του αποδίδεται μια βαθμολογία απειλής.
Είναι απλώς θέμα χρόνου να βρεθείτε να κατηγορείστε άδικα, να ερευνάται και να αντιμετωπίζετε από την αστυνομία με βάση έναν αλγόριθμο που βασίζεται σε δεδομένα ή σε μια αξιολόγηση κινδύνου που έχει συγκεντρώσει ένα πρόγραμμα υπολογιστή που λειτουργεί με τεχνητή νοημοσύνη. Πρόκειται για μια ρύθμιση ώριμη για κατάχρηση.
Γράφοντας για το Yale Journal, οι Manheim και Kaplan καταλήγουν στο συμπέρασμα ότι «[οι] άνθρωποι μπορεί να μην κινδυνεύουν ως είδος, αλλά σίγουρα κινδυνεύουμε όσον αφορά τους δημοκρατικούς θεσμούς και τις αξίες μας».
Η ιδιωτική ζωή – οι Manheim και Kaplan την περιγράφουν επιγραμματικά ως εξής: «το δικαίωμα να παίρνει κανείς προσωπικές αποφάσεις για τον εαυτό του, το δικαίωμα να κρατάει τις προσωπικές του πληροφορίες εμπιστευτικές και το δικαίωμα να μένει μόνος του είναι όλα συστατικά του θεμελιώδους δικαιώματος της ιδιωτικής ζωής»– κινδυνεύει ιδιαίτερα.
Πράγματι, με κάθε νέα τεχνολογία επιτήρησης ΤΝ που υιοθετείται και αναπτύσσεται χωρίς να λαμβάνεται υπόψη η ιδιωτική ζωή, τα δικαιώματα της Τέταρτης Τροπολογίας και η δέουσα διαδικασία, τα δικαιώματα των πολιτών περιθωριοποιούνται, υπονομεύονται και εκμηδενίζονται.
Βρισκόμαστε στο μεταίχμιο μιας πολιτιστικής, τεχνολογικής και κοινωνικής επανάστασης που όμοιά της δεν έχει ξαναγίνει.
Η επιτήρηση με τεχνητή νοημοσύνη αναπροσανατολίζει ήδη τον κόσμο μας σε έναν κόσμο στον οποίο η ελευθερία είναι σχεδόν αγνώριστη, κάνοντας αυτό που το αστυνομικό κράτος δεν έχει το ανθρώπινο δυναμικό και τους πόρους για να κάνει αποτελεσματικά ή αποδοτικά: να είναι παντού, να παρακολουθεί τους πάντες και τα πάντα, να παρακολουθεί, να ταυτοποιεί, να καταγράφει, να διασταυρώνει, να διασταυρώνει και να συνεργάζεται.
Όπως παρατήρησε ο Eric Schmidt, ο πρώην διευθύνων σύμβουλος της Google, «Ξέρουμε πού βρίσκεστε. Ξέρουμε πού ήσασταν. Μπορούμε λίγο-πολύ να ξέρουμε τι σκέφτεστε… Η ψηφιακή σας ταυτότητα θα ζει για πάντα… γιατί δεν υπάρχει κουμπί διαγραφής».
Οι συνέπειες οποιασδήποτε κυβέρνησης που ασκεί τέτοια ανεξέλεγκτη και ανεξέλεγκτη εξουσία είναι ανατριχιαστικές, καθώς η επιτήρηση με τεχνητή νοημοσύνη παρέχει το απόλυτο μέσο καταστολής και ελέγχου τόσο για τους τυράννους όσο και για τους καλοπροαίρετους δικτάτορες.
Πράγματι, το σύστημα Κοινωνικής Πίστωσης της Κίνας, όπου οι πολίτες βαθμολογούνται με βάση τη συμπεριφορά και τη συμμόρφωσή τους, προσφέρει μια ματιά σε αυτό το δυστοπικό μέλλον.
Δεν πρόκειται για μια μάχη κατά της ίδιας της τεχνολογίας, αλλά κατά της κατάχρησής της. Είναι ένας αγώνας για να διατηρήσουμε την ανθρωπιά μας, την αξιοπρέπειά μας και την ελευθερία μας μπροστά στην πρωτοφανή τεχνολογική ισχύ. Είναι ένας αγώνας για να διασφαλίσουμε ότι η Τεχνητή Νοημοσύνη θα μας υπηρετεί και όχι το αντίθετο.
Αντιμέτωποι με αυτή τη διαφαινόμενη απειλή, η ώρα να δράσουμε είναι τώρα, προτού τα όρια μεταξύ πολίτη και υποκειμένου, μεταξύ ελευθερίας και ελέγχου, θολώσουν αμετάκλητα.
Το μέλλον της ελευθερίας εξαρτάται από αυτό. Απαιτήστε λοιπόν διαφάνεια. Απαιτήστε λογοδοσία. Απαιτήστε ένα Ηλεκτρονικό Χάρτη Δικαιωμάτων που θα προστατεύει «εμάς τους ανθρώπους» από το κράτος επιτήρησης που εισβάλλει.
Χρειαζόμαστε εγγυήσεις για να διασφαλίσουμε το δικαίωμα στην ιδιοκτησία και τον έλεγχο των δεδομένων (το δικαίωμα να γνωρίζουν ποια δεδομένα συλλέγονται γι’ αυτούς, πώς χρησιμοποιούνται, ποιος έχει πρόσβαση σε αυτά και το δικαίωμα να «ξεχαστούν»), το δικαίωμα στην αλγοριθμική διαφάνεια (να κατανοούν πώς οι αλγόριθμοι που τους επηρεάζουν λαμβάνουν αποφάσεις, ιδίως σε τομείς όπως οι αιτήσεις δανείων, οι προσλήψεις και η ποινική δικαιοσύνη) και τη λογοδοσία με τη δέουσα διαδικασία, το δικαίωμα στην προστασία της ιδιωτικής ζωής και την ασφάλεια των δεδομένων, συμπεριλαμβανομένων των περιορισμών στην κυβερνητική και εταιρική χρήση τεχνολογιών επιτήρησης με τεχνητή νοημοσύνη, ιδίως της αναγνώρισης προσώπου και της προβλεπτικής αστυνόμευσης- το δικαίωμα στον ψηφιακό αυτοπροσδιορισμό (ελευθερία από αυτοματοποιημένες διακρίσεις με βάση την αλγοριθμική σκιαγράφηση) και τη δυνατότητα διαχείρισης και ελέγχου της διαδικτυακής ταυτότητας και φήμης του ατόμου- και αποτελεσματικούς μηχανισμούς αναζήτησης αποζημίωσης για βλάβες που προκαλούνται από συστήματα τεχνητής νοημοσύνης.
Η τεχνητή νοημοσύνη που αναπτύσσεται χωρίς να υπάρχουν διασφαλίσεις για την προστασία από την υπερβολή και την κατάχρηση, ιδίως εντός των κυβερνητικών υπηρεσιών, έχει τη δυνατότητα να γίνει αυτό που ο Elon Musk περιέγραψε ως «αθάνατος δικτάτορας», ένας δικτάτορας που ζει για πάντα και από τον οποίο δεν υπάρχει διαφυγή.
Όπως κι αν επιλέξετε να το αποκαλέσετε – το αστυνομικό κράτος, το βαθύ κράτος, το κράτος επιτήρησης – αυτός ο «αθάνατος δικτάτορας» θα είναι το μελλοντικό πρόσωπο της κυβέρνησης, αν δεν το περιορίσουμε τώρα.