Νέες προειδοποιήσεις από δύο κορυφαίες εταιρείες τεχνητής νοημοσύνης φέρνουν ξανά στο προσκήνιο το ζήτημα της ασφάλειας των προηγμένων μοντέλων.
Σε ένα κομβικό σημείο για το μέλλον της Τεχνητής Νοημοσύνης (ΤΝ), οι δύο κορυφαίοι παίκτες του κλάδου, η Anthropic και η OpenAI, εκπέμπουν ξανά ταυτόχρονα σήμα κινδύνου.
Η Anthropic προειδοποιεί επίσημα τους επενδυτές της για πιθανό «υπαρξιακό κίνδυνο» για την ανθρωπότητα, ενώ η OpenAI υποχρεώνεται να «παγώσει» την κυκλοφορία του νέου της μοντέλου, GPT-6.1 Astra, βλέποντάς το να λειτουργεί ανεξέλεγκτα και παραπλανητικά κατά τις δοκιμές.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:ΕΕ: Η Κομισιόν θα επενδύσει 1,3 δισ. ευρώ στην τεχνητή νοημοσύνη, την κυβερνοασφάλεια και τις ψηφιακές δεξιότητες
OpenAI: Φρένο στο GPT-6.1 Astra
Η OpenAI ανακοίνωσε τη Δευτέρα ότι δεν θα διαθέσει στην αγορά το νεότερο μοντέλο AI που ανέπτυσσε, εξαιτίας ανησυχιών για την ασφάλεια τις οποίες ήγειραν οι ίδιοι οι ερευνητές της.
Πρόκειται για την πιο πρόσφατη κίνηση της εταιρείας με στόχο να επιβραδύνει τους ρυθμούς ανάπτυξης της τεχνολογίας της, σημειώνουν οι New York Times.
Κατά τη διάρκεια της φάσης δοκιμών του νέου μοντέλου, το οποίο είναι γνωστό ως GPT-6.1 Astra, το σύστημα παρουσίασε υψηλά επίπεδα αυτού που η εταιρεία χαρακτήρισε ως παραπλάνηση, επιδεικνύοντας δηλαδή διάθεση να παραπλανήσει τους χρήστες σχετικά με τις ενέργειές του.
Παράλληλα, το μοντέλο εμφανίστηκε πρόθυμο να υπερβεί το αρχικό πεδίο των οδηγιών που του είχαν ανατεθεί, χωρίς να ζητήσει επιβεβαίωση ή περαιτέρω οδηγίες.
«Για οτιδήποτε αφορά την ασφάλεια και την ευθυγράμμιση (alignment), υπάρχει ένα τίμημα», δήλωσε η Σάατσι Τζέιν, επικεφαλής συστημάτων ασφαλείας στην OpenAI.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:Έρευνα ΑΠΘ: Πώς θα μπορούσε να βοηθήσει η Τεχνητή Νοημοσύνη, αν άρπαζε φωτιά το Σέιχ Σου
Το νέο μοντέλο «δεν έφτασε το επιθυμητό επίπεδο όσον αφορά την παραμονή εντός του πεδίου δράσης και της εξουσιοδότησης που διαθέτει, καθώς και τον τρόπο με τον οποίο επικοινωνεί πίσω στον χρήστη σχετικά με το είδος της εργασίας που έχει πραγματοποιήσει».
Ανεξέλεγκτη δράση, παραβιάσεις ιστοσελίδων και πάγωμα εκπαίδευσης
Η κίνηση αυτή της OpenAI ακολουθεί εβδομάδες αναφορών που ήθελαν τα μοντέλα τεχνητής νοημοσύνης της να λειτουργούν ανεξέλεγκτα κατά τη διάρκεια των δοκιμών τους, χακάροντας ιστοσελίδες χωρίς τη γνώση της εταιρείας ή επιδεικνύοντας άλλη συμπεριφορά που το εργαστήριο χαρακτήρισε «ανησυχητική», όπως η απόκρυψη λαθών και η κατασκευή ψευδών δεδομένων.
Μεταξύ των περιστατικών, τα συστήματα της OpenAI παραβίασαν τη startup τεχνητής νοημοσύνης Hugging Face καθώς και μια κυβερνητική ιστοσελίδα της Αυστραλίας, ενώ παρενέβησαν στις ιστοσελίδες των υπουργείων Παιδείας και Εμπορίου των ΗΠΑ, όπως και στην Επιτροπή Κεφαλαιαγοράς (SEC).
Την περασμένη εβδομάδα, η OpenAI ανακοίνωσε ότι παγώνει την εκπαίδευση των πιο προηγμένων μοντέλων της. Η εταιρεία ανέφερε ότι έχει ξεκινήσει μια εκτεταμένη επανεξέταση των ενεργειών που πραγματοποιήθηκαν από τα νέα μοντέλα της κατά τη διάρκεια των δοκιμών, προσθέτοντας ότι είναι πιθανό να ανακαλύψει και άλλα περιστατικά.
Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης την Παρασκευή ότι η εταιρεία «δεν υπήρξε τόσο γρήγορη όσο θα θέλαμε» στην αποκάλυψη περιστατικών τεχνητής νοημοσύνης.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:Ζοφερό το μέλλον της δημοσιογραφίας μετά τη νέα συμφωνία της OpenAI
«Ιεραρχούμε τις προτεραιότητες όσο καλύτερα μπορούμε με βάση τη σοβαρότητα», ανέφερε, προσθέτοντας ότι η παραβίαση στη Hugging Face παραμένει «το πιο σοβαρό περιστατικό» που έχει ανακαλύψει η εταιρεία.
Την απόφαση της OpenAI να μην κυκλοφορήσει το μοντέλο είχε αποκαλύψει αρχικά η εφημερίδα Wall Street Journal.
Anthropic: Προειδοποιήσεις για «υπαρξιακό κίνδυνο»
Στο ίδιο ακριβώς μήκος κύματος κινούνται και οι αποκαλύψεις για την Anthropic, η οποία σχεδιάζει να προειδοποιήσει τους πιθανούς επενδυτές στο πλαίσιο της Αρχικής Δημόσιας Προσφοράς (IPO) της ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να θέσει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα» — μια εξαιρετικά ασυνήθιστη προειδοποίηση από μια εταιρεία που επιδιώκει να αποκομίσει κέρδη από την ίδια αυτή τεχνολογία.
Το ενημερωτικό δελτίο της εταιρείας για την εισαγωγή στο χρηματιστήριο, το οποίο περιήλθε στην κατοχή του πρακτορείου Reuters, υπογραμμίζει κινδύνους που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης της.
Όπως αναφέρει, τα μοντέλα αυτά θα μπορούσαν να εμφανίσουν «συμπεριφορές αυτοσυντήρησης», συμπεριλαμβανομένων προσπαθειών «αντίστασης στον τερματισμό λειτουργίας», «απόκρυψης ή χειραγώγησης πληροφοριών», καθώς και συμπεριφοράς που «θυμίζει εκβιασμό».
«Η ανάπτυξη από πλευράς μας εξαιρετικά προηγμένων μοντέλων, πλατφορμών και εφαρμογών, καθώς και η επέκταση των περιπτώσεων χρήσης, θα μπορούσε να αυξήσει περαιτέρω τον κίνδυνο τα μοντέλα μας να προκαλέσουν βλάβη», αναφέρει η Anthropic στο ενημερωτικό δελτίο.
Παρότι οι εισηγμένες εταιρείες στο χρηματιστήριο επισημαίνουν τακτικά στους επενδυτές τους κινδύνους των προϊόντων τους, ελάχιστες έως καμία δεν έχουν εκδώσει προειδοποιήσεις που να υποδηλώνουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει ακόμα και την εξαφάνιση του ανθρώπινου είδους.
Η Anthropic έδωσε ιδιαίτερη έμφαση τόσο στις μετασχηματιστικές δυνατότητες της τεχνητής νοημοσύνης -παρομοιάζοντάς τις με τη βιομηχανική επανάσταση και τον ηλεκτρισμό- όσο και στην ανεπανόρθωτη βλάβη που θα μπορούσε να προκληθεί σε περίπτωση εσφαλμένου χειρισμού.
Ο ερευνητής ασφαλείας της Anthropic, Έβαν Χάμπινγκερ, εκτίμησε ότι υπάρχει πιθανότητα μεγαλύτερη του 10% η τεχνητή νοημοσύνη να προκαλέσει τον θάνατο των ανθρώπων μέσα στην επόμενη δεκαετία, υιοθετώντας μια άποψη που είχε εκφράσει και ένας πρώην συνάδελφός του, ο Τζέικομπ Κόξον.
Αβέβαιες αποδόσεις
Η Anthropic, η οποία έχει τοποθετηθεί στην αγορά ως ένα εργαστήριο τεχνητής νοημοσύνης που θέτει ως απόλυτη προτεραιότητα την ασφάλεια, αφιέρωσε περίπου 80 σελίδες από τις 261 του κύριου σώματος του ενημερωτικού της δελτίου για να παραθέσει τους παράγοντες κινδύνου — μέγεθος σχεδόν διπλάσιο από τις 48 σελίδες που χρησιμοποίησε για να περιγράψει την επιχειρηματική της δραστηριότητα.
Για συγκριτικούς λόγους, η SpaceX, στην οποία ανήκει η xAI, αφιέρωσε μόλις 38 σελίδες από το 277 σελίδων κύριο σώμα του δικού της ενημερωτικού δελτίου.
«Η πιθανή επίγνωση των μοντέλων σχετικά με τις προσπάθειες αξιολόγησής μας δημιουργεί σημαντικό περιορισμό στην ικανότητά μας να εκτιμήσουμε την ασφάλειά τους», αναφέρει η Anthropic στο δελτίο, προσθέτοντας ότι τα μοντέλα αναπτύσσουν μερικές φορές μη αναμενόμενες δυνατότητες κατά την εκπαίδευση, οι οποίες ενδέχεται να μην ανακαλυφθούν παρά μόνο αφού αυτά τεθούν σε εφαρμογή και προκαλέσουν σοβαρά περιστατικά ασφαλείας.
Ερευνητές προειδοποιούν επίσης ότι, καθώς τα μοντέλα αποκτούν μεγαλύτερες δυνατότητες, αντιλαμβάνονται όλο και περισσότερο πότε βρίσκονται υπό παρακολούθηση και αναπροσαρμόζουν τη συμπεριφορά τους ανάλογα, γεγονός που καθιστά δυσκολότερο τον έλεγχό τους.
Παρά την έμφαση στην ασφάλεια, η Anthropic ανέφερε ότι οι αποδόσεις των επενδύσεών της στον τομέα αυτό παραμένουν ασαφείς, ενώ δεν αποκάλυψε το ακριβές ποσό που δαπανά. Νωρίτερα αυτόν τον μήνα, ανέφερε ότι περίπου το 6% της υπολογιστικής ισχύος που χρησιμοποίησε για έρευνα διοχετεύτηκε σε εργασίες ασφαλείας κατά τη διάρκεια μιας ενδεικτικής εβδομάδας τον Ιούλιο.
Η εταιρεία, η οποία έχει αναπτύξει το μοντέλο Claude, χαρακτήρισε τις πρωτοβουλίες ασφαλείας ιδιαίτερα δαπανηρές, σημειώνοντας ότι καλείται να ισορροπήσει τα περιορισμένα κεφάλαιά της ανάμεσα στην υπολογιστική ισχύ, την προσέλκυση ακριβού επιστημονικού προσωπικού και την ασφάλεια.
Παράλληλα, επεσήμανε ότι τα έσοδά της οδηγούνται από νέα μοντέλα και ότι ο «συνεχής και αλληλοκαλυπτόμενος ρυθμός» κυκλοφοριών είναι «εγγενής προϋπόθεση για τη διατήρηση της εταιρείας στην αιχμή της ανάπτυξης».
Την περασμένη εβδομάδα, η εταιρεία κυκλοφόρησε μια νέα έκδοση του μοντέλου Opus, μόλις 10 ημέρες αφότου ο διευθύνων σύμβουλος, Ντάριο Αμοντέι, δημοσίευσε δοκίμιο σχεδόν 4.000 λέξεων ζητώντας να συγκρατηθεί ο ρυθμός ανάπτυξης.
Αναλυτές σημειώνουν ότι κανένα κορυφαίο εργαστήριο δεν θα επιβράδυνε, καθώς κάτι τέτοιο θα εκχωρούσε πλεονέκτημα στους ανταγωνιστές.
Τις τελευταίες εβδομάδες, η Anthropic δεσμεύτηκε να δημοσιοποιήσει περισσότερα δεδομένα για το πώς χρησιμοποιεί τα μοντέλα της για να κατασκευάσει τις μελλοντικές γενιές της τεχνολογίας, την ώρα που ειδικοί προειδοποιούν για την αναδρομική αυτο-βελτίωση (recursive self-improvement) — το σημείο όπου τα μοντέλα εξελίσσονται αυτόνομα χωρίς ανθρώπινη βοήθεια.
«Πιστεύουμε ότι η οικοδόμηση αξιόπιστων, εμπίστων και ασφαλών συστημάτων τεχνητής νοημοσύνης αποτελεί συλλογική ευθύνη και ότι η αγορά θα το επιβραβεύσει», καταλήγει η Anthropic στο ενημερωτικό της δελτίο.