Από τις προειδοποιήσεις για τους κινδύνους της Τεχνητής Νοημοσύνης σε μια χρηματιστηριακή αποτίμηση 1,75 τρισ. δολαρίων!
Μέσα σε μόλις πέντε χρόνια, η Anthropic μετατράπηκε από μια νεοφυή επιχείρηση της Silicon Valley, που ιδρύθηκε με στόχο την ασφαλέστερη ανάπτυξη της Τεχνητής Νοημοσύνης, σε έναν χρηματιστηριακό κολοσσό αξίας 1,75 τρισεκατομμυρίων δολαρίων. Η ιστορική εισαγωγή της στη Wall Street, ωστόσο, φέρνει στο προσκήνιο μια θεμελιώδη αντίφαση: η εταιρεία που προειδοποιεί ότι η Τεχνητή Νοημοσύνη μπορεί να απειλήσει ακόμη και την επιβίωση της ανθρωπότητας είναι ταυτόχρονα μία από εκείνες που επιταχύνουν περισσότερο την ανάπτυξή της.
Σύμφωνα με το Associated Press, η Anthropic ολοκλήρωσε την Πέμπτη (19/11) την πρώτη ημέρα διαπραγμάτευσης των μετοχών της με χρηματιστηριακή αποτίμηση 1,75 τρισ. δολαρίων, έπειτα από τη μεγαλύτερη αρχική δημόσια προσφορά μετοχών (IPO) στην ιστορία.
Η εταιρεία, γνωστή κυρίως για το chatbot Claude, βρίσκεται πλέον αντιμέτωπη με μια νέα πραγματικότητα: εκτός από τις δεσμεύσεις της για την ασφάλεια της Τεχνητής Νοημοσύνης, θα πρέπει να ανταποκρίνεται και στις απαιτήσεις των μετόχων της για οικονομική ανάπτυξη και κερδοφορία.
Από την OpenAI στην Anthropic: Μια εταιρεία που γεννήθηκε στο όνομα της ασφάλειας
Η Anthropic ιδρύθηκε το 2021 από επτά πρώην εργαζομένους της OpenAI, μεταξύ των οποίων ο σημερινός διευθύνων σύμβουλος Ντάριο Αμοντέι και η αδελφή του, Ντανιέλα Αμοντέι, πρόεδρος της εταιρείας.
Οι ιδρυτές της αποχώρησαν από την OpenAI επιδιώκοντας να δημιουργήσουν έναν οργανισμό που θα έδινε μεγαλύτερη προτεραιότητα στην ασφαλή ανάπτυξη της Τεχνητής Νοημοσύνης.
Η φιλοσοφία αυτή αποτέλεσε βασικό στοιχείο της ταυτότητας της Anthropic, η οποία παρουσίασε το Claude ως ένα σύστημα σχεδιασμένο με ιδιαίτερη έμφαση στην αξιοπιστία και στην αποφυγή επικίνδυνων συμπεριφορών.
Ωστόσο, η ταχύτατη τεχνολογική πρόοδος και ο ανταγωνισμός μεταξύ των μεγάλων εταιρειών Τεχνητής Νοημοσύνης έχουν καταστήσει ολοένα δυσκολότερη τη διατήρηση της ισορροπίας ανάμεσα στην καινοτομία και στην ασφάλεια.
Ο ίδιος ο Ντάριο Αμοντέι αναγνώρισε την Πέμπτη ότι πρόκειται για μία από τις κεντρικές εντάσεις που χαρακτηρίζουν την εταιρεία.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:Η Anthropic ετοιμάζεται για το χρηματιστήριο με αποτίμηση που αγγίζει τα 1,9 τρισ. δολάρια
Μιλώντας στο CNBC, χρησιμοποίησε το παράδειγμα ενός αυτοκινήτου που αποκτά ξαφνικά τη δυνατότητα να κινείται με 200 μίλια την ώρα, ενώ προηγουμένως μπορούσε να φτάσει μόλις τα 60.
Όπως εξήγησε, η Anthropic επιδιώκει να περιορίζει συνειδητά την ταχύτητα της ανάπτυξης, προκειμένου να διαθέτει περισσότερο χρόνο για ελέγχους ασφαλείας.
«Θα μπορούσαμε να οδηγούμε με 200 μίλια την ώρα. Ίσως, όμως, να περιοριστούμε στα 90 και να αφιερώσουμε χρόνο για να καταλάβουμε πώς μπορούμε να το κάνουμε με ασφάλεια», ανέφερε χαρακτηριστικά.
Οι προειδοποιήσεις για καταστροφή και η ανάπτυξη που επιταχύνεται
Η Anthropic συγκαταλέγεται στις εταιρείες που έχουν προειδοποιήσει με τον πιο έντονο τρόπο για τους κινδύνους της προηγμένης Τεχνητής Νοημοσύνης.
Τον Σεπτέμβριο, ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε από την εταιρεία, ασκώντας δημόσια κριτική στις πρακτικές ασφαλείας τόσο της Anthropic όσο και της OpenAI.
Στο μήνυμά του, υποστήριξε ότι οι δύο εταιρείες «παίζουν με τις ζωές μας», προειδοποιώντας πως ορισμένοι ερευνητές θεωρούν πιθανό τα προηγμένα συστήματα Τεχνητής Νοημοσύνης να απειλήσουν την ανθρώπινη ζωή πριν από το τέλος της δεκαετίας.
Η παρέμβασή του προκάλεσε ευρύτερη συζήτηση στον τεχνολογικό κλάδο για την ταχύτητα ανάπτυξης των νέων μοντέλων.
Ο Ντάριο Αμοντέι απάντησε με εκτενές δοκίμιο, ζητώντας επιβράδυνση της ανάπτυξης της Τεχνητής Νοημοσύνης σε ολόκληρη τη βιομηχανία.
Πρότεινε μεγαλύτερο συντονισμό μεταξύ εταιρειών και κυβερνήσεων, καθώς και την παρουσία ανεξάρτητων αξιολογητών στα εργαστήρια ανάπτυξης των συστημάτων.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:Τεχνητή νοημοσύνη: Πρόβλεψη πλημμυρών με ανάλυση δεδομένων
Ωστόσο, τα ευρήματα πρόσφατης αξιολόγησης ανέδειξαν το μέγεθος της αντίφασης.
Σύμφωνα με τον μη κερδοσκοπικό οργανισμό Model Evaluation and Threat Research (METR), η Anthropic αναπτύσσει πλέον τα συστήματά της με περίπου διπλάσια ταχύτητα σε σχέση με έναν χρόνο νωρίτερα.
Βασικός παράγοντας αυτής της επιτάχυνσης είναι η ίδια η Τεχνητή Νοημοσύνη, καθώς προηγμένα μοντέλα χρησιμοποιούνται για να συμβάλουν στη δημιουργία ακόμη ισχυρότερων διαδόχων τους.
Η εξέλιξη αυτή εγείρει νέα ερωτήματα για το κατά πόσο οι εταιρείες μπορούν να διατηρήσουν ουσιαστικό έλεγχο στον ρυθμό της τεχνολογικής προόδου.
Κατά την τελετή έναρξης της συνεδρίασης στο Nasdaq, ο Αμοντέι αναγνώρισε ότι το δυσκολότερο έργο στον τομέα της ασφάλειας βρίσκεται ακόμη μπροστά.
Δεσμεύτηκε ότι η εταιρεία θα προσαρμόζει τον ρυθμό εκπαίδευσης και διάθεσης των μοντέλων της, αφιερώνοντας όσο χρόνο χρειάζεται ώστε να έχει εμπιστοσύνη στην ασφάλειά τους και στη διατήρησή τους υπό ανθρώπινο έλεγχο.
Δισεκατομμυριούχοι οι ιδρυτές της εταιρείας που υπόσχεται οφέλη για όλους
Μία ακόμη αντίφαση αφορά τον πλούτο που δημιούργησε η χρηματιστηριακή εισαγωγή της Anthropic.
Η εταιρεία δηλώνει ότι εργάζεται για ένα μέλλον στο οποίο τα οφέλη της Τεχνητής Νοημοσύνης θα μοιράζονται σε όλους.
Ωστόσο, η IPO εκτόξευσε την περιουσία των ιδρυτών και άλλων μετόχων της, συγκεντρώνοντας τεράστιο οικονομικό πλούτο σε έναν σχετικά μικρό αριθμό ανθρώπων.
Σύμφωνα με το Forbes, πριν από τη χρηματιστηριακή εισαγωγή, η περιουσία του Ντάριο και της Ντανιέλα Αμοντέι ξεπερνούσε ελαφρώς τα 14 δισεκατομμύρια δολάρια για τον καθένα.
Μέχρι το απόγευμα της Πέμπτης, η εκτιμώμενη καθαρή περιουσία του Ντάριο Αμοντέι είχε φτάσει τα 22,7 δισεκατομμύρια δολάρια, ενώ εκείνη της Ντανιέλα Αμοντέι τα 22,8 δισεκατομμύρια δολάρια.
Πρόκειται για εκτιμήσεις περιουσίας που βασίζονται, μεταξύ άλλων, στην αξία των μετοχικών συμμετοχών τους και όχι για αντίστοιχα ποσά που εισέπραξαν σε μετρητά.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:Τεχνητή Νοημοσύνη: Όταν αρχίζει να σχεδιάζει τη ζωή
Η Anthropic έχει τη νομική μορφή εταιρείας δημόσιου οφέλους (public benefit corporation), γεγονός που σημαίνει ότι οφείλει να λαμβάνει υπόψη τόσο τα συμφέροντα των μετόχων της όσο και το δημόσιο συμφέρον.
Η συγκεκριμένη εταιρική δομή δεν είναι συνηθισμένη μεταξύ εισηγμένων επιχειρήσεων τέτοιου μεγέθους, γεγονός που καθιστά την Anthropic μια πρωτοφανή περίπτωση.
Οι ιδρυτές της έχουν δεσμευτεί εθελοντικά να διαθέσουν το 80% των μετοχικών συμμετοχών τους σε φιλανθρωπικούς σκοπούς, ενώ η εταιρεία έχει υποσχεθεί να παραχωρήσει τουλάχιστον το 5% των μετοχών της σε ταμείο δημόσιου οφέλους.
Η δέσμευση των ιδρυτών, πάντως, παραμένει εθελοντική.
Μιλώντας στο CNBC, η Ντανιέλα Αμοντέι υποστήριξε ότι η εταιρική δομή επιλέχθηκε ακριβώς για να ενσωματώσει την ανάγκη εξισορρόπησης της οικονομικής αξίας με την ανάπτυξη τεχνολογιών που ωφελούν τους ανθρώπους.
Οι 93 σελίδες με τους κινδύνους για την ανθρωπότητα
Ιδιαίτερο ενδιαφέρον παρουσιάζουν και οι προειδοποιήσεις που περιέλαβε η ίδια η Anthropic στα επίσημα έγγραφα της χρηματιστηριακής της εισαγωγής.
Στην κατάθεση που υπέβαλε τον Οκτώβριο στην αμερικανική Επιτροπή Κεφαλαιαγοράς (SEC), η εταιρεία αφιέρωσε 93 σελίδες στην ανάλυση των κινδύνων που ενδέχεται να αντιμετωπίσουν οι επενδυτές.
Ανάμεσα σε αυτούς περιλαμβάνεται και η πιθανότητα τα προηγμένα συστήματα Τεχνητής Νοημοσύνης να προκαλέσουν «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα».
Η διατύπωση είναι αξιοσημείωτη: μια εταιρεία που εισέρχεται στο χρηματιστήριο με αποτίμηση τρισεκατομμυρίων αναγνωρίζει επισήμως ότι η τεχνολογία στην οποία στηρίζει την επιχειρηματική της ανάπτυξη ενδέχεται να έχει εξαιρετικά σοβαρές συνέπειες.
Υποστηρικτές της Anthropic θεωρούν ότι τέτοιες προειδοποιήσεις αποδεικνύουν τη διαφάνεια και την υπευθυνότητα της εταιρείας.
Οι επικριτές της, αντίθετα, αμφισβητούν την έντονη προβολή καταστροφικών σεναρίων από έναν οργανισμό που ταυτόχρονα παρουσιάζει τον εαυτό του ως μία από τις καταλληλότερες επιλογές για την ασφαλή αντιμετώπισή τους.
Με άλλα λόγια, η Anthropic προειδοποιεί για τους κινδύνους της Τεχνητής Νοημοσύνης, ενώ ταυτόχρονα προσφέρει τα δικά της συστήματα ως μέρος της λύσης.
«Σας παροτρύνω να με παροτρύνετε να σταματήσω»: Η σάτιρα που έγινε σύνθημα διαμαρτυρίας
Η αντίφαση αυτή δεν πέρασε απαρατήρητη ούτε από τη σατιρική εκπομπή Saturday Night Live.
Σε σκετς που προβλήθηκε τον Σεπτέμβριο, η κωμικός Τζέιν Γουίκλαϊν υποδύθηκε τον Ντάριο Αμοντέι, σατιρίζοντας τις προειδοποιήσεις των επικεφαλής της βιομηχανίας Τεχνητής Νοημοσύνης για την ίδια την τεχνολογία που αναπτύσσουν.
«Ο Σαμ Άλτμαν, εγώ και όλοι οι μεγάλοι παράγοντες της Τεχνητής Νοημοσύνης έχουμε συζητήσει εκτενώς αυτό το θέμα και συμφωνούμε απολύτως: Δεν εγκρίνουμε αυτό που κάνουμε», ανέφερε ο υποτιθέμενος Αμοντέι.
Το σκετς ολοκληρώθηκε με τη φράση: «Σας παροτρύνω να με παροτρύνετε να σταματήσω».
Η ατάκα αποδείχθηκε ιδιαίτερα εύστοχη για τους επικριτές της εταιρείας.
Την Πέμπτη, την ημέρα της ιστορικής χρηματιστηριακής εισαγωγής, η ίδια φράση εμφανίστηκε σε πλακάτ διαδηλωτή έξω από τα κεντρικά γραφεία της Anthropic στο Σαν Φρανσίσκο.
Πίσω από τη σάτιρα βρίσκεται ένα ουσιαστικό ερώτημα για το μέλλον της Τεχνητής Νοημοσύνης: ποιος μπορεί να επιβάλει όρια σε μια τεχνολογία όταν οι ίδιες οι εταιρείες που προειδοποιούν για τους κινδύνους της έχουν τεράστια οικονομικά κίνητρα να συνεχίσουν την ανάπτυξή της;
Με την Anthropic να αποτιμάται πλέον σε 1,75 τρισεκατομμύρια δολάρια, η απάντηση σε αυτό το ερώτημα αποκτά μεγαλύτερη σημασία από ποτέ.
