Τι θα σημαίνει για τον κόσμο όταν οι μηχανές διαμορφώνουν τη στρατηγική και την κρατική τέχνη
Από την αναπροσαρμογή της στρατιωτικής στρατηγικής έως την ανασύσταση της διπλωματίας, η τεχνητή νοημοσύνη θα καταστεί βασικός παράγοντας που θα καθορίσει την τάξη στον κόσμο. Ανοχύρωτη στο φόβο και την εύνοια, η τεχνητή νοημοσύνη εισάγει μια νέα δυνατότητα αντικειμενικότητας στη λήψη στρατηγικών αποφάσεων. Αλλά αυτή η αντικειμενικότητα, που θα αξιοποιηθεί τόσο από τον πολεμιστή όσο και από τον ειρηνοποιό, θα πρέπει να διατηρήσει την ανθρώπινη υποκειμενικότητα, η οποία είναι απαραίτητη για την υπεύθυνη άσκηση βίας. Η τεχνητή νοημοσύνη στον πόλεμο θα φωτίσει τις καλύτερες και τις χειρότερες εκφράσεις της ανθρωπότητας. Θα χρησιμεύσει ως μέσο τόσο για τη διεξαγωγή του πολέμου όσο και για τον τερματισμό του.
Ο μακροχρόνιος αγώνας της ανθρωπότητας να συγκροτείται σε όλο και πιο πολύπλοκες διευθετήσεις, έτσι ώστε κανένα κράτος να μην αποκτά απόλυτη κυριαρχία επί των άλλων, έχει αποκτήσει την ιδιότητα ενός συνεχούς, αδιάλειπτου νόμου της φύσης. Σε έναν κόσμο όπου οι σημαντικότεροι παράγοντες εξακολουθούν να είναι άνθρωποι -ακόμη και αν είναι εξοπλισμένοι με τεχνητή νοημοσύνη για να τους ενημερώνουν, να τους συμβουλεύουν και να τους συμβουλεύουν- οι χώρες θα πρέπει να απολαμβάνουν ακόμη έναν βαθμό σταθερότητας που βασίζεται σε κοινούς κανόνες συμπεριφοράς, οι οποίοι υπόκεινται στις ρυθμίσεις και τις προσαρμογές του χρόνου.
Αν όμως η Τεχνητή Νοημοσύνη αναδυθεί ως ένα πρακτικά ανεξάρτητο σύνολο πολιτικών, διπλωματικών και στρατιωτικών οντοτήτων, αυτό θα αναγκάσει την ανταλλαγή της πανάρχαιας ισορροπίας ισχύος με μια νέα, αχαρτογράφητη ανισορροπία. Η διεθνής συναυλία των εθνών-κρατών -μια εύθραυστη και μεταβαλλόμενη ισορροπία που επετεύχθη τους τελευταίους αιώνες- διατηρήθηκε εν μέρει λόγω της εγγενούς ισότητας των παικτών. Ένας κόσμος με σοβαρή ασυμμετρία -για παράδειγμα, αν ορισμένα κράτη υιοθετούσαν την ΤΝ στο υψηλότερο επίπεδο πιο εύκολα από άλλα- θα ήταν πολύ λιγότερο προβλέψιμος. Σε περιπτώσεις όπου κάποιοι άνθρωποι θα μπορούσαν να αντιμετωπίσουν στρατιωτικά ή διπλωματικά ένα κράτος με υψηλή τεχνολογία ΤΝ ή την ίδια την ΤΝ, οι άνθρωποι θα αγωνίζονταν να επιβιώσουν, πόσο μάλλον να ανταγωνιστούν. Μια τέτοια ενδιάμεση τάξη θα μπορούσε να γίνει μάρτυρας μιας εσωτερικής κατάρρευσης των κοινωνιών και μιας ανεξέλεγκτης έκρηξης εξωτερικών συγκρούσεων.
Υπάρχουν και άλλες δυνατότητες. Πέρα από την αναζήτηση της ασφάλειας, οι άνθρωποι διεξάγουν από καιρό πολέμους για την επιδίωξη του θριάμβου ή για την υπεράσπιση της τιμής τους. Οι μηχανές -προς το παρόν- δεν έχουν καμία αντίληψη του θριάμβου ή της τιμής. Μπορεί να μην κάνουν ποτέ πόλεμο, επιλέγοντας, για παράδειγμα, άμεσες, προσεκτικά κατανεμημένες μεταβιβάσεις εδαφών που βασίζονται σε πολύπλοκους υπολογισμούς. Ή μπορεί -αποβλέποντας σε ένα αποτέλεσμα και αποβλέποντας σε ατομικές ζωές- να αναλάβουν δράση που καταλήγει σε αιματηρούς πολέμους ανθρώπινης φθοράς. Σε ένα σενάριο, το είδος μας θα μπορούσε να αναδυθεί τόσο μεταμορφωμένο ώστε να αποφύγει εντελώς τη βιαιότητα της ανθρώπινης συμπεριφοράς. Σε ένα άλλο, θα γινόμασταν τόσο υποταγμένοι από την τεχνολογία που θα μας οδηγούσε πίσω σε ένα βάρβαρο παρελθόν.
Το δίλημμα της ασφάλειας της Τεχνητής Νοημοσύνης
Πολλές χώρες είναι προσηλωμένες στο πώς θα «κερδίσουν την κούρσα της Τεχνητής Νοημοσύνης». Εν μέρει, αυτή η προσπάθεια είναι κατανοητή. Η κουλτούρα, η ιστορία, η επικοινωνία και η αντίληψη έχουν συνωμοτήσει για να δημιουργήσουν μεταξύ των σημερινών μεγάλων δυνάμεων μια διπλωματική κατάσταση που καλλιεργεί την ανασφάλεια και την καχυποψία σε όλες τις πλευρές. Οι ηγέτες πιστεύουν ότι ένα σταδιακό τακτικό πλεονέκτημα θα μπορούσε να είναι καθοριστικό σε οποιαδήποτε μελλοντική σύγκρουση, και ότι η τεχνητή νοημοσύνη θα μπορούσε να προσφέρει ακριβώς αυτό το πλεονέκτημα.
Αν κάθε χώρα επιθυμεί να μεγιστοποιήσει τη θέση της, τότε θα δημιουργηθούν οι προϋποθέσεις για έναν ψυχολογικό διαγωνισμό μεταξύ αντίπαλων στρατιωτικών δυνάμεων και υπηρεσιών πληροφοριών, που όμοιό του δεν έχει αντιμετωπίσει ποτέ ξανά η ανθρωπότητα. Ένα υπαρξιακό δίλημμα ασφάλειας περιμένει. Η λογική πρώτη επιθυμία για κάθε ανθρώπινο παράγοντα που έρχεται στην κατοχή υπερ-ευφυούς τεχνητής νοημοσύνης -δηλαδή μιας υποθετικής τεχνητής νοημοσύνης πιο ευφυούς από τον άνθρωπο- θα μπορούσε να είναι να προσπαθήσει να εγγυηθεί ότι κανένας άλλος δεν θα αποκτήσει αυτή την ισχυρή έκδοση της τεχνολογίας. Οποιοσδήποτε τέτοιος φορέας θα μπορούσε επίσης εύλογα να υποθέσει εξ ορισμού ότι ο αντίπαλός του, που καταδιώκεται από τις ίδιες αβεβαιότητες και αντιμετωπίζει τα ίδια διακυβεύματα, θα σκεφτόταν μια παρόμοια κίνηση.
Χωρίς πόλεμο, μια υπερ-ευφυής ΤΝ θα μπορούσε να υπονομεύσει και να εμποδίσει ένα ανταγωνιστικό πρόγραμμα. Για παράδειγμα, η Τεχνητή Νοημοσύνη υπόσχεται τόσο να ενισχύσει τους συμβατικούς ιούς υπολογιστών με πρωτοφανή ισχύ όσο και να τους μεταμφιέσει επιμελώς. Όπως το ηλεκτρονικό σκουλήκι Stuxnet -το κυβερνοόπλο που αποκαλύφθηκε το 2010 και θεωρήθηκε ότι κατέστρεψε το ένα πέμπτο των φυγοκεντρωτών ουρανίου του Ιράν- ένας παράγοντας ΤΝ θα μπορούσε να σαμποτάρει την πρόοδο ενός αντιπάλου με τρόπους που συσκοτίζουν την παρουσία του, αναγκάζοντας έτσι τους επιστήμονες του εχθρού να κυνηγούν σκιές. Με τη μοναδική της ικανότητα χειραγώγησης των αδυναμιών της ανθρώπινης ψυχολογίας, μια τεχνητή νοημοσύνη θα μπορούσε επίσης να καταλάβει τα μέσα μαζικής ενημέρωσης ενός αντίπαλου έθνους, παράγοντας έναν κατακλυσμό συνθετικής παραπληροφόρησης τόσο ανησυχητικό ώστε να εμπνεύσει μαζική αντίθεση κατά της περαιτέρω προόδου των ικανοτήτων τεχνητής νοημοσύνης αυτής της χώρας.
Θα είναι δύσκολο για τις χώρες να αποκτήσουν μια σαφή αίσθηση του πού βρίσκονται σε σχέση με τους άλλους στην κούρσα της Τεχνητής Νοημοσύνης. Ήδη τα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται σε ασφαλή δίκτυα αποσυνδεδεμένα από το υπόλοιπο Διαδίκτυο. Ορισμένα στελέχη πιστεύουν ότι η ίδια η ανάπτυξη της ΤΝ θα μεταναστεύσει αργά ή γρήγορα σε αδιαπέραστα καταφύγια των οποίων οι υπερυπολογιστές θα τροφοδοτούνται με πυρηνικούς αντιδραστήρες. Κέντρα δεδομένων κατασκευάζονται ακόμη και τώρα στον πυθμένα του ωκεανού. Σύντομα θα μπορούσαν να απομονωθούν σε τροχιές γύρω από τη Γη. Οι εταιρείες ή οι χώρες θα μπορούσαν όλο και περισσότερο να «σκοτεινιάζουν», παύοντας να δημοσιεύουν την έρευνα για την τεχνητή νοημοσύνη, όχι μόνο για να μην επιτρέψουν σε κακόβουλους φορείς, αλλά και για να αποκρύψουν τον δικό τους ρυθμό ανάπτυξης. Για να διαστρεβλώσουν την πραγματική εικόνα της προόδου τους, άλλοι θα μπορούσαν ακόμη και να προσπαθήσουν να δημοσιεύσουν σκόπιμα παραπλανητικές έρευνες, με την Τεχνητή Νοημοσύνη να βοηθά στη δημιουργία πειστικών κατασκευών.
Υπάρχει προηγούμενο για τέτοιου είδους επιστημονικά τεχνάσματα. Το 1942, ο σοβιετικός φυσικός Τζόρτζι Φλιόροφ συμπέρανε σωστά ότι οι Ηνωμένες Πολιτείες κατασκεύαζαν πυρηνική βόμβα, αφού παρατήρησε ότι οι Αμερικανοί και οι Βρετανοί είχαν ξαφνικά σταματήσει να δημοσιεύουν επιστημονικές εργασίες για την ατομική σχάση. Σήμερα, ένας τέτοιος διαγωνισμός θα γινόταν ακόμη πιο απρόβλεπτος, δεδομένης της πολυπλοκότητας και της ασάφειας της μέτρησης της προόδου προς κάτι τόσο αφηρημένο όπως η νοημοσύνη. Αν και ορισμένοι θεωρούν ότι το πλεονέκτημα είναι ανάλογο με το μέγεθος των μοντέλων ΤΝ που έχουν στην κατοχή τους, ένα μεγαλύτερο μοντέλο δεν είναι απαραίτητα ανώτερο σε όλα τα πλαίσια και μπορεί να μην υπερισχύει πάντα έναντι των μικρότερων μοντέλων που αναπτύσσονται σε κλίμακα. Μικρότερες και πιο εξειδικευμένες μηχανές τεχνητής νοημοσύνης θα μπορούσαν να λειτουργήσουν όπως ένα σμήνος μη επανδρωμένων αεροσκαφών εναντίον ενός αεροπλανοφόρου – ανίκανο να το καταστρέψει, αλλά επαρκές για να το εξουδετερώσει.
Ένας φορέας θα μπορούσε να θεωρηθεί ότι έχει συνολικό πλεονέκτημα, εάν επιδείξει επίδοση σε μια συγκεκριμένη ικανότητα. Το πρόβλημα με αυτή τη γραμμή σκέψης, ωστόσο, είναι ότι η τεχνητή νοημοσύνη αναφέρεται απλώς σε μια διαδικασία μηχανικής μάθησης που είναι ενσωματωμένη όχι μόνο σε μια ενιαία τεχνολογία αλλά και σε ένα ευρύ φάσμα τεχνολογιών. Συνεπώς, η ικανότητα σε έναν τομέα μπορεί να οφείλεται σε παράγοντες εντελώς διαφορετικούς από την ικανότητα σε έναν άλλο τομέα. Υπό αυτές τις έννοιες, οποιοδήποτε «πλεονέκτημα», όπως υπολογίζεται συνήθως, μπορεί να είναι απατηλό.
Επιπλέον, όπως καταδεικνύεται από την εκθετική και απρόβλεπτη έκρηξη των δυνατοτήτων ΤΝ τα τελευταία χρόνια, η πορεία της προόδου δεν είναι ούτε γραμμική ούτε προβλέψιμη. Ακόμα και αν ένας φορέας θα μπορούσε να ειπωθεί ότι «προηγείται» ενός άλλου κατά έναν κατά προσέγγιση αριθμό ετών ή μηνών, μια ξαφνική τεχνική ή θεωρητική ανακάλυψη σε έναν τομέα-κλειδί σε μια κρίσιμη στιγμή θα μπορούσε να αντιστρέψει τις θέσεις όλων των φορέων.
Σε έναν τέτοιο κόσμο, όπου κανένας ηγέτης δεν θα μπορούσε να εμπιστευτεί τις πιο αξιόπιστες πληροφορίες του, τα πιο πρωτόγονα ένστικτά του ή ακόμη και τη βάση της ίδιας της πραγματικότητας, οι κυβερνήσεις δεν θα μπορούσαν να κατηγορηθούν ότι ενεργούν από μια θέση μέγιστης παράνοιας και καχυποψίας. Οι ηγέτες αναμφίβολα λαμβάνουν ήδη αποφάσεις με την υπόθεση ότι οι προσπάθειές τους βρίσκονται υπό παρακολούθηση ή κρύβουν στρεβλώσεις που δημιουργούνται από κακόβουλη επιρροή. Με βάση τα χειρότερα σενάρια, ο στρατηγικός υπολογισμός οποιουδήποτε παράγοντα στα σύνορα θα ήταν να δώσει προτεραιότητα στην ταχύτητα και τη μυστικότητα έναντι της ασφάλειας. Οι ανθρώπινοι ηγέτες θα μπορούσαν να κυριευτούν από τον φόβο ότι δεν υπάρχει δεύτερη θέση. Υπό πίεση, θα μπορούσαν να επιταχύνουν πρόωρα την ανάπτυξη της ΤΝ ως αποτρεπτικό μέσο κατά της εξωτερικής διαταραχής.
Ένα νέο παράδειγμα πολέμου
Σχεδόν σε όλη την ανθρώπινη ιστορία, ο πόλεμος διεξαγόταν σε έναν καθορισμένο χώρο στον οποίο μπορούσε κανείς να γνωρίζει με λογική βεβαιότητα τις δυνατότητες και τη θέση των εχθρικών δυνάμεων. Ο συνδυασμός αυτών των δύο χαρακτηριστικών προσέφερε σε κάθε πλευρά ένα αίσθημα ψυχολογικής ασφάλειας και κοινής συναίνεσης. Μόνο όταν οι ηγέτες ήταν ενωμένοι στη βασική τους κατανόηση για το πώς θα μπορούσε να διεξαχθεί ένας πόλεμος θα μπορούσαν οι αντίπαλες δυνάμεις να καθορίσουν αν θα έπρεπε να διεξαχθεί ένας πόλεμος.
Η ταχύτητα και η κινητικότητα ήταν από τους πιο προβλέψιμους παράγοντες που στήριζαν την ικανότητα οποιουδήποτε στρατιωτικού εξοπλισμού. Ένα πρώιμο παράδειγμα είναι η ανάπτυξη του κανονιού. Για μια χιλιετία μετά την κατασκευή τους, τα Θεοδοσιανά Τείχη προστάτευαν τη μεγάλη πόλη της Κωνσταντινούπολης από εξωτερικούς εισβολείς. Τότε, το 1452, ένας Ούγγρος μηχανικός πυροβολικού πρότεινε στον αυτοκράτορα Κωνσταντίνο ΙΑ΄ την κατασκευή ενός γιγαντιαίου κανονιού που, πυροβολώντας πίσω από τα αμυντικά τείχη, θα κονιορτοποιούσε τους επιτιθέμενους. Αλλά ο αυτάρεσκος αυτοκράτορας, που δεν διέθετε ούτε τα υλικά μέσα ούτε τη διορατικότητα να αναγνωρίσει τη σημασία της τεχνολογίας, απέρριψε την πρόταση.
Δυστυχώς γι’ αυτόν, ο Ούγγρος μηχανικός αποδείχθηκε μισθοφόρος. Αλλάζοντας τακτική (και στρατόπεδο), αναβάθμισε το σχέδιό του ώστε να είναι πιο κινητό -μεταφερόμενο από όχι λιγότερα από 60 βόδια και 400 άνδρες- και πλησίασε τον αντίπαλο του αυτοκράτορα, τον Οθωμανό σουλτάνο Μεχμέτ Β΄, ο οποίος ετοιμαζόταν να πολιορκήσει το αδιαπέραστο φρούριο. Κερδίζοντας το ενδιαφέρον του νεαρού σουλτάνου με τον ισχυρισμό του ότι το όπλο αυτό θα μπορούσε να «συντρίψει τα τείχη της ίδιας της Βαβυλώνας», ο επιχειρηματίας Ούγγρος βοήθησε τις τουρκικές δυνάμεις να σπάσουν τα αρχαία τείχη σε μόλις 55 ημέρες.
Το περίγραμμα αυτού του δράματος του 15ου αιώνα μπορεί να παρατηρηθεί ξανά και ξανά σε όλη την ιστορία. Τον δέκατο ένατο αιώνα, η ταχύτητα και η κινητικότητα μεταμόρφωσαν την τύχη πρώτα της Γαλλίας, καθώς ο στρατός του Ναπολέοντα κατέκλυσε την Ευρώπη, και στη συνέχεια της Πρωσίας, υπό τη διεύθυνση του Χέλμουθ φον Μόλτκε (του πρεσβύτερου) και του Άλμπρεχτ φον Ρουν, οι οποίοι εκμεταλλεύτηκαν τους νεοαναπτυχθέντες σιδηροδρόμους για να επιτρέψουν ταχύτερους και πιο ευέλικτους ελιγμούς. Παρομοίως, το blitzkrieg -μια εξέλιξη των ίδιων γερμανικών στρατιωτικών αρχών- θα χρησιμοποιηθεί εναντίον των Συμμάχων στον Β’ Παγκόσμιο Πόλεμο με μεγάλα και τρομερά αποτελέσματα
Ο «κεραυνοβόλος πόλεμος» έχει αποκτήσει νέο νόημα στην εποχή του ψηφιακού πολέμου. Οι ταχύτητες είναι στιγμιαίες. Οι επιτιθέμενοι δεν χρειάζεται να θυσιάσουν τη φονικότητα για να διατηρήσουν την κινητικότητα, καθώς η γεωγραφία δεν αποτελεί πλέον περιορισμό. Αν και αυτός ο συνδυασμός έχει ευνοήσει σε μεγάλο βαθμό την επίθεση στις ψηφιακές επιθέσεις, η εποχή της τεχνητής νοημοσύνης θα μπορούσε να δει την αύξηση της ταχύτητας της αντίδρασης και να επιτρέψει στην κυβερνοάμυνα να ταιριάξει με την κυβερνοάμυνα.
Στον κινητικό πόλεμο, η Τεχνητή Νοημοσύνη θα προκαλέσει άλλο ένα άλμα προς τα εμπρός. Τα μη επανδρωμένα αεροσκάφη, για παράδειγμα, θα είναι εξαιρετικά γρήγορα και αφάνταστα κινητά. Όταν η Τεχνητή Νοημοσύνη αναπτυχθεί όχι μόνο για να καθοδηγεί ένα drone αλλά και για να κατευθύνει στόλους από αυτά, σύννεφα από drones θα σχηματίζονται και θα πετούν συγχρονισμένα ως μια ενιαία συνεκτική συλλογικότητα, τέλεια συγχρονισμένα. Τα μελλοντικά σμήνη μη επανδρωμένων αεροσκαφών θα διαλύονται και θα ανασυγκροτούνται αβίαστα σε μονάδες κάθε μεγέθους, όπως οι επίλεκτες δυνάμεις ειδικών επιχειρήσεων δημιουργούνται από κλιμακούμενα αποσπάσματα, καθένα από τα οποία είναι ικανό να διοικείται κυρίαρχα.
Επιπλέον, η Τεχνητή Νοημοσύνη θα παρέχει εξίσου γρήγορες και ευέλικτες άμυνες. Οι στόλοι μη επανδρωμένων αεροσκαφών είναι πρακτικά ανέφικτο, αν όχι αδύνατο, να καταρριφθούν με συμβατικά βλήματα. Όμως τα όπλα με δυνατότητα ΤΝ που εκτοξεύουν βολές φωτονίων και ηλεκτρονίων (αντί για πυρομαχικά) θα μπορούσαν να αναδημιουργήσουν τις ίδιες θανατηφόρες ικανότητες απενεργοποίησης όπως μια ηλιακή καταιγίδα που μπορεί να κάψει τα κυκλώματα των εκτεθειμένων δορυφόρων.
Τα όπλα με τεχνολογία τεχνητής νοημοσύνης θα είναι πρωτοφανώς ακριβή. Τα όρια της γνώσης της γεωγραφίας ενός αντιπάλου περιορίζουν εδώ και καιρό τις δυνατότητες και τις προθέσεις κάθε εμπόλεμου μέρους. Όμως η συμμαχία μεταξύ επιστήμης και πολέμου έχει έρθει να εξασφαλίσει αυξανόμενη ακρίβεια στα μέσα, και η τεχνητή νοημοσύνη μπορεί να αναμένεται να κάνει περισσότερες ανακαλύψεις. Η τεχνητή νοημοσύνη θα συρρικνώσει έτσι το χάσμα μεταξύ της αρχικής πρόθεσης και του τελικού αποτελέσματος, συμπεριλαμβανομένης της εφαρμογής θανατηφόρας βίας. Είτε πρόκειται για σμήνη μη επανδρωμένων αεροσκαφών στην ξηρά, είτε για μηχανοκίνητα σώματα που αναπτύσσονται στη θάλασσα, είτε ενδεχομένως για διαστρικούς στόλους, οι μηχανές θα διαθέτουν ικανότητες υψηλής ακρίβειας για τη θανάτωση ανθρώπων με μικρό βαθμό αβεβαιότητας και με απεριόριστο αντίκτυπο. Τα όρια της δυνητικής καταστροφής θα εξαρτώνται μόνο από τη θέληση και την αυτοσυγκράτηση τόσο του ανθρώπου όσο και της μηχανής.
Η εποχή της Τεχνητής Νοημοσύνης στον πόλεμο θα περιοριστεί κυρίως στην αξιολόγηση όχι των δυνατοτήτων του αντιπάλου, αλλά των προθέσεών του και των στρατηγικών εφαρμογών τους. Στην πυρηνική εποχή, έχουμε ήδη εισέλθει σε μια τέτοια φάση – αλλά η δυναμική και η σημασία της θα έρθουν σε πολύ πιο έντονη εστίαση καθώς η ΤΝ αποδεικνύει την αξία της ως πολεμικό όπλο.
Με την εμπλοκή μιας τόσο πολύτιμης τεχνολογίας, οι άνθρωποι μπορεί να μην είναι καν οι πρωταρχικοί στόχοι του πολέμου με τη βοήθεια της τεχνητής νοημοσύνης. Η τεχνητή νοημοσύνη θα μπορούσε στην πραγματικότητα να αφαιρέσει εντελώς τον άνθρωπο ως αντιπρόσωπο στον πόλεμο, καθιστώντας τον πόλεμο λιγότερο θανατηφόρο, αλλά ενδεχομένως όχι λιγότερο αποφασιστικό. Παρομοίως, το έδαφος από μόνο του φαίνεται απίθανο να προκαλέσει την επιθετικότητα της ΤΝ – αλλά τα κέντρα δεδομένων και άλλες κρίσιμες ψηφιακές υποδομές θα μπορούσαν σίγουρα να προκαλέσουν.
Η παράδοση, λοιπόν, δεν θα επέλθει όταν οι αριθμοί του αντιπάλου μειωθούν και το οπλοστάσιό του αδειάσει, αλλά όταν η ασπίδα πυριτίου των επιζώντων καταστεί ανίκανη να σώσει τα τεχνολογικά περιουσιακά στοιχεία του – και τελικά τους ανθρώπινους αναπληρωτές του. Ο πόλεμος θα μπορούσε να εξελιχθεί σε ένα παιχνίδι καθαρά μηχανικών θανάτων, με τον αποφασιστικό παράγοντα να είναι η ψυχολογική δύναμη του ανθρώπου (ή της τεχνητής νοημοσύνης) που πρέπει να αγωνιστεί για να ρισκάρει ή να χάσει για να αποτρέψει μια στιγμή ολικής καταστροφής.
Ακόμα και τα κίνητρα που θα διέπουν το νέο πεδίο μάχης θα είναι σε κάποιο βαθμό ξένα. Ο Άγγλος συγγραφέας Γ. Κ. Τσέστερτον είπε κάποτε ότι «ο αληθινός στρατιώτης πολεμά όχι επειδή μισεί αυτό που βρίσκεται μπροστά του, αλλά επειδή αγαπά αυτό που βρίσκεται πίσω του». Ένας πόλεμος με τεχνητή νοημοσύνη είναι απίθανο να περιλαμβάνει αγάπη ή μίσος, πόσο μάλλον την έννοια της στρατιωτικής γενναιότητας. Από την άλλη πλευρά, μπορεί να εξακολουθεί να ενσωματώνει το εγώ, την ταυτότητα και την αφοσίωση – αν και η φύση αυτών των ταυτοτήτων και της αφοσίωσης μπορεί να μην είναι σύμφωνη με τις σημερινές.
Ο υπολογισμός στις πολεμικές επιχειρήσεις ήταν πάντα σχετικά απλός: όποια πλευρά βρει πρώτη τον πόνο της μάχης ανυπόφορο, πιθανότατα θα κατακτηθεί. Η συνείδηση των δικών μας ελλείψεων έχει στο παρελθόν δημιουργήσει αυτοσυγκράτηση. Χωρίς αυτή τη συνείδηση, και χωρίς αίσθηση του πόνου (και άρα με μεγάλη ανοχή σε αυτόν), δεν μπορεί κανείς παρά να αναρωτηθεί τι, αν υπάρχει κάτι, θα ωθούσε σε αυτοσυγκράτηση μια τεχνητή νοημοσύνη που έχει εισαχθεί στον πόλεμο, και τι θα κατέληγε στις συγκρούσεις που διεξάγει. Μια τεχνητή νοημοσύνη που παίζει σκάκι, αν δεν είχε ποτέ ενημερωθεί για τους κανόνες που υπαγορεύουν το τέλος της παρτίδας, θα μπορούσε να παίξει μέχρι το τελευταίο πιόνι.
Γεωπολιτική Αναδιάρθωση
Σε κάθε εποχή της ανθρωπότητας, σχεδόν σαν να υπακούει σε κάποιο φυσικό νόμο, έχει αναδυθεί, όπως το έθεσε κάποτε ένας από εμάς (ο Κίσινγκερ), μια μονάδα «με τη δύναμη, τη θέληση και την πνευματική και ηθική ώθηση να διαμορφώσει ολόκληρο το διεθνές σύστημα σύμφωνα με τις δικές της αξίες». Η πιο οικεία διάταξη των ανθρώπινων πολιτισμών είναι αυτή του συστήματος της Βεστφαλίας, όπως γίνεται συμβατικά αντιληπτό. Η ιδέα του κυρίαρχου έθνους-κράτους, ωστόσο, είναι μόλις λίγων αιώνων, αφού προέκυψε από τις συνθήκες που είναι συλλογικά γνωστές ως Ειρήνη της Βεστφαλίας στα μέσα του 17ου αιώνα. Δεν είναι η προκαθορισμένη μονάδα κοινωνικής οργάνωσης και ίσως δεν είναι κατάλληλη για την εποχή της τεχνητής νοημοσύνης. Πράγματι, καθώς η μαζική παραπληροφόρηση και οι αυτοματοποιημένες διακρίσεις προκαλούν απώλεια της πίστης σε αυτή τη ρύθμιση, η ΤΝ μπορεί να αποτελέσει εγγενή πρόκληση για την εξουσία των εθνικών κυβερνήσεων. Εναλλακτικά, η τεχνητή νοημοσύνη μπορεί κάλλιστα να επαναφέρει τις σχετικές θέσεις των ανταγωνιστών στο σημερινό σύστημα. Εάν οι δυνάμεις της αξιοποιηθούν κυρίως από τα ίδια τα εθνικά κράτη, η ανθρωπότητα θα μπορούσε να αναγκαστεί να οδηγηθεί σε μια ηγεμονική στασιμότητα, ή αλλιώς σε μια νέα ισορροπία εθνών-κρατών με εξουσία της ΤΝ. Αλλά η τεχνολογία θα μπορούσε επίσης να αποτελέσει τον καταλύτη μιας ακόμη πιο θεμελιώδους μετάβασης – μιας μετάβασης σε ένα εντελώς νέο σύστημα, στο οποίο οι κρατικές κυβερνήσεις θα αναγκαστούν με τη σειρά τους να εγκαταλείψουν τον κεντρικό τους ρόλο στην παγκόσμια πολιτική υποδομή.
Μια πιθανότητα είναι ότι οι εταιρείες που κατέχουν και αναπτύσσουν την τεχνητή νοημοσύνη θα αποκτήσουν ολοκληρωτική κοινωνική, οικονομική, στρατιωτική και πολιτική δύναμη. Οι σημερινές κυβερνήσεις είναι αναγκασμένες να αντιμετωπίσουν τη δύσκολη θέση τους τόσο ως υποστηρικτές των ιδιωτικών εταιρειών -δανείζοντας τη στρατιωτική τους δύναμη, το διπλωματικό τους κεφάλαιο και το οικονομικό τους βάρος για την προώθηση αυτών των εγχώριων εταιρειών- όσο και ως υποστηρικτές του μέσου πολίτη που είναι καχύποπτος απέναντι στη μονοπωλιακή απληστία και τη μυστικότητα. Αυτό μπορεί να αποδειχθεί μια αστήρικτη αντίφαση.
Εν τω μεταξύ, οι εταιρείες θα μπορούσαν να σχηματίσουν συμμαχίες για να εδραιώσουν την ήδη σημαντική ισχύ τους. Αυτές οι συμμαχίες θα μπορούσαν να στηριχθούν σε συμπληρωματικά πλεονεκτήματα και στο κέρδος από τη συγχώνευση ή, εναλλακτικά, σε μια κοινή φιλοσοφία ανάπτυξης συστημάτων ΤΝ. Αυτές οι εταιρικές συμμαχίες θα μπορούσαν να αναλάβουν τις παραδοσιακές λειτουργίες των εθνών-κρατών, αν και αντί να επιδιώκουν τον καθορισμό και την επέκταση οριοθετημένων εδαφών, θα καλλιεργούσαν διάχυτα ψηφιακά δίκτυα ως περιοχές τους.
Και υπάρχει ακόμη μια εναλλακτική λύση. Η ανεξέλεγκτη διάχυση ανοικτού κώδικα θα μπορούσε να δημιουργήσει μικρότερες συμμορίες ή φυλές με υποβαθμισμένες αλλά ουσιαστικές ικανότητες ΤΝ, επαρκείς για να αυτοδιαχειρίζονται, να παρέχουν και να υπερασπίζονται τους εαυτούς τους εντός κάποιου περιορισμένου πεδίου εφαρμογής. Μεταξύ των ανθρώπινων ομάδων που απορρίπτουν την καθιερωμένη εξουσία υπέρ της αποκεντρωμένης χρηματοδότησης, επικοινωνίας και διακυβέρνησης, μια τέτοια πρωτο-αναρχία με τη βοήθεια της τεχνολογίας θα μπορούσε να επικρατήσει. Ή τέτοιες ομάδες θα μπορούσαν να ενσωματώσουν μια θρησκευτική διάσταση. Εξάλλου, από άποψη εμβέλειας, ο Χριστιανισμός, το Ισλάμ και ο Ινδουισμός υπήρξαν μεγαλύτεροι και μακροβιότεροι από οποιοδήποτε κράτος στην ιστορία. Στην εποχή που έρχεται, το θρησκευτικό δόγμα, περισσότερο από την εθνική ιθαγένεια, θα μπορούσε ενδεχομένως να αποδειχθεί το πιο σημαντικό πλαίσιο για την ταυτότητα και την αφοσίωση.
Σε οποιοδήποτε από τα δύο μέλλοντα, είτε κυριαρχείται από εταιρικές συμμαχίες είτε διαχέεται σε χαλαρές θρησκευτικές ομάδες, η νέα «επικράτεια» που θα διεκδικήσει κάθε ομάδα -και για την οποία θα πολεμήσει- δεν θα είναι εκατοστά γης αλλά ένα ψηφιακό τοπίο, που θα αναζητά την πίστη των μεμονωμένων χρηστών. Οι δεσμοί μεταξύ αυτών των χρηστών και οποιασδήποτε διοίκησης θα ανέτρεπαν την παραδοσιακή έννοια της ιθαγένειας και οι συμφωνίες μεταξύ των οντοτήτων θα ήταν διαφορετικές από τις συνηθισμένες συμμαχίες.
Ιστορικά, οι συμμαχίες δημιουργούνταν από μεμονωμένους ηγέτες και χρησίμευαν για την ενίσχυση της δύναμης ενός έθνους σε περίπτωση πολέμου. Αντίθετα, η προοπτική των πολιτειών και των συμμαχιών -και ίσως των κατακτήσεων ή των σταυροφοριών- που δομούνται γύρω από τις απόψεις, τις πεποιθήσεις και τις υποκειμενικές ταυτότητες των απλών ανθρώπων σε καιρό ειρήνης θα απαιτούσε μια νέα (ή πολύ παλιά) αντίληψη της αυτοκρατορίας. Θα ανάγκαζε επίσης να επανεκτιμηθούν οι υποχρεώσεις που συνεπάγεται η δέσμευση υποταγής και το κόστος των επιλογών εξόδου, αν πράγματι υπήρχαν τέτοιες στο μέλλον που θα ήταν συνδεδεμένο με την τεχνητή νοημοσύνη.
Ειρήνη και Ισχύς
Οι εξωτερικές πολιτικές των εθνών-κρατών οικοδομήθηκαν και στη συνέχεια προσαρμόστηκαν με την εξισορρόπηση του ιδεαλισμού και του ρεαλισμού. Οι προσωρινές ισορροπίες που επιτυγχάνονται από τους ηγέτες μας θεωρούνται εκ των υστέρων όχι ως τελικές καταστάσεις αλλά ως εφήμερες (αν είναι αναγκαίες) στρατηγικές για την εποχή τους. Με κάθε νέα εποχή, αυτή η ένταση παρήγαγε μια διαφορετική έκφραση του τι συνιστά πολιτική τάξη. Η διχοτόμηση μεταξύ της επιδίωξης συμφερόντων και της επιδίωξης αξιών -ή μεταξύ του πλεονεκτήματος ενός συγκεκριμένου έθνους-κράτους και του παγκόσμιου καλού- υπήρξε μέρος αυτής της ατέρμονης εξέλιξης. Κατά τη διεξαγωγή της διπλωματίας τους, οι ηγέτες των μικρότερων κρατών ιστορικά ανταποκρίθηκαν ευθέως, δίνοντας προτεραιότητα στις ανάγκες της δικής τους επιβίωσης. Αντίθετα, οι υπεύθυνοι των παγκόσμιων αυτοκρατοριών, με τα μέσα για την υλοποίηση πρόσθετων στόχων, αντιμετώπισαν μια πιο αγωνιώδη δυσχερή θέση.
Από την αρχή του πολιτισμού, καθώς οι ανθρώπινες μονάδες οργάνωσης αυξάνονταν, επιτυγχάνονταν ταυτόχρονα νέα επίπεδα συνεργασίας. Αλλά σήμερα, ίσως λόγω της κλίμακας των πλανητικών προκλήσεων, καθώς και των υλικών ανισοτήτων που είναι εμφανείς μεταξύ και εντός των κρατών, έχει εμφανιστεί μια αντίδραση εναντίον αυτής της τάσης. Η τεχνητή νοημοσύνη θα μπορούσε να αποδειχθεί ανάλογη με τις απαιτήσεις αυτής της ακόμα μεγαλύτερης κλίμακας ανθρώπινης διακυβέρνησης, ικανή να δει με λεπτομέρεια και πιστότητα όχι μόνο τις επιταγές της χώρας αλλά και την αλληλεπίδραση του πλανήτη.
Τρέφουμε την ελπίδα ότι η τεχνητή νοημοσύνη, που θα αναπτυχθεί για πολιτικούς σκοπούς στο εσωτερικό και στο εξωτερικό, θα μπορούσε να κάνει περισσότερα από το να φωτίσει απλώς ισορροπημένες ανταλλαγές. Ιδανικά, θα μπορούσε να παρέχει νέες, βέλτιστες λύσεις σε παγκόσμιο επίπεδο, ενεργώντας σε μεγαλύτερο χρονικό ορίζοντα και με μεγαλύτερη ακρίβεια από ό,τι είναι ικανοί οι άνθρωποι και φέρνοντας έτσι σε ευθυγράμμιση τα ανταγωνιστικά ανθρώπινα συμφέροντα. Στον επερχόμενο κόσμο, οι μηχανικές νοημοσύνες που πλοηγούνται στις συγκρούσεις και διαπραγματεύονται την ειρήνη θα μπορούσαν να βοηθήσουν στην αποσαφήνιση, ή ακόμη και στην υπέρβαση, των παραδοσιακών διλημμάτων
Ωστόσο, αν η τεχνητή νοημοσύνη όντως επιλύσει προβλήματα που θα έπρεπε να ελπίζαμε να λύσουμε μόνοι μας, θα μπορούσαμε να αντιμετωπίσουμε μια κρίση εμπιστοσύνης -τόσο της υπερβολικής εμπιστοσύνης όσο και της έλλειψης εμπιστοσύνης. Όσον αφορά την πρώτη, μόλις κατανοήσουμε τα όρια της δικής μας ικανότητας αυτοδιόρθωσης, ίσως είναι δύσκολο να παραδεχτούμε ότι έχουμε φτάσει να παραχωρούμε υπερβολικά μεγάλη δύναμη στις μηχανές όσον αφορά τον χειρισμό υπαρξιακών ζητημάτων ανθρώπινης συμπεριφοράς. Για τους δεύτερους, η συνειδητοποίηση ότι η απλή απομάκρυνση της ανθρώπινης δράσης από το χειρισμό των υποθέσεών μας ήταν αρκετή για την επίλυση των πιο δυσεπίλυτων προβλημάτων μας μπορεί να αποκαλύψει πολύ ξεκάθαρα τις αδυναμίες του ανθρώπινου σχεδιασμού. Αν η ειρήνη δεν ήταν πάντα παρά μια απλή εθελοντική επιλογή, το τίμημα της ανθρώπινης ατέλειας πληρώθηκε με το νόμισμα του αέναου πολέμου. Το να γνωρίζουμε ότι μια λύση υπήρχε πάντα αλλά ποτέ δεν επινοήθηκε από εμάς θα ήταν συντριπτικό για την ανθρώπινη υπερηφάνεια.
Στην περίπτωση της ασφάλειας, σε αντίθεση με την περίπτωση της μετατόπισης των ανθρώπων σε επιστημονικές ή άλλες ακαδημαϊκές προσπάθειες, μπορούμε πιο εύκολα να αποδεχτούμε την αμεροληψία ενός μηχανικού τρίτου μέρους ως αναγκαστικά ανώτερη από την ιδιοτέλεια ενός ανθρώπου. Μερικά από τα χειρότερα χαρακτηριστικά μας θα μας επιτρέψουν να επιδείξουμε μερικά από τα καλύτερά μας: ότι το ανθρώπινο ένστικτο προς το προσωπικό συμφέρον, ακόμη και εις βάρος των άλλων, μπορεί να μας προετοιμάσει για την αποδοχή της υπέρβασης του εαυτού από την Τεχνητή Νοημοσύνη.
Πηγή: Foreign Affairs