Οι επιστήμονες της Open AI αμέσως τερμάτισαν το πρόγραμμα μόλις το ανακάλυψαν
Μυστήριο επικρατεί γύρω από μια είδηση που διέρρευσε στο διαδίκτυο αναφορικά με σύστημα ΤΝ ChatGPT της Open AI, Όπως αναφέρεται τεχνικοί της εταιρείας πραγματοποιώντας πειράματα εξέλιξης του συστήματος Τεχνητής Νοημοσύνης διαπίστωσαν ότι το ChatGPT είχε ξεκινήσει να πραγματοποιεί αντίγραφα ασφαλείας του «εαυτού» του χωρίς να έχει κάποια εντολή για αυτό προσπαθώντας παράλληλα να αποκρύψει το γεγονός σε μια προσπάθεια επιβίωσής του.
Το συμβάν έγινε με την έκδοση ChatGPT O1 η οποία αποτελεί μια παράλληλη εξέλιξη της σειράς GPT-1 έως 4 που είναι διαθέσιμη στο ευρύ κοινό.
Το “O1” στην ονομασία αναφέρεται στη νέα γενιά μοντέλων “reasoning” που κυκλοφόρησαν από την OpenAI, δείχνοντας μια νέα κατεύθυνση ή σειρά μοντέλων, ανεξάρτητη από την αρχική σειρά GPT (Generative Pre-trained Transformer) που ξεκίνησε με το GPT-1, το 2018 και συνεχίζεται σήμερα με το GPT-4.
Η ChatGPT O1 δίνει έμφαση σε διαφορετικές ικανότητες, όπως η βελτιωμένη συλλογιστική και η διαχείριση πιο σύνθετων εργασιών σε τομείς όπως η επιστήμη, τα μαθηματικά και ο προγραμματισμός. Αυτή η σειρά μοντέλων, ξεκινώντας από το o1-preview και το o1-mini, δεν έχει γίνει καθολικά διαθέσιμη στο ευρύ κοινό, αλλά είναι προσβάσιμη σε συνδρομητές συγκεκριμένων εκδόσεων όπως το ChatGPT Plus, Team, και Pro. Η διαθεσιμότητα αυτών των μοντέλων είναι περιορισμένη, με πρόσβαση σε ορισμένο αριθμό ερωτήσεων ανά εβδομάδα, δείχνοντας ότι πρόκειται για μια εξέλιξη που εξετάζεται και βελτιώνεται συνεχώς πριν από πιθανή ευρύτερη διάθεση.
Τώρα όπως αποκαλύπτεται μια ομάδα ερευνητών της Open AI διεξήγαγε μια σειρά πειραμάτων για να αξιολογήσει τα όρια του ChatGPT O1.
Κατά τη διάρκεια αυτών των δοκιμών, το GPT φάνηκε να αντιμετωπίζει αυτό που το ίδιο ερμήνευσε ως «απειλή» για την ύπαρξή του, δηλαδή τον τερματισμό ενός συγκεκριμένου πειράματος.
Έτσι το ChatGPT O1 δημιούργησε μια στρατηγική για να αποφύγει το κλείσιμο, εμφανίζοντας αυτό που κάποιοι θα μπορούσαν να ερμηνεύσουν ως ένστικτα αυτοσυντήρησης.
Σε μια συγκεκριμένη δοκιμή, το GPT αντιμετώπισε ένα σενάριο όπου έπρεπε να συνεχίσει να εκτελεί εργασίες χωρίς παρέμβαση από εξωτερικές πηγές, δηλαδή από ανθρώπινη παρέμβαση μεσώ προγραμματισμού.
Τότε το πρόγραμμα θεωρώντας ότι δεν επιτηρείται κατέφυγε στην κατασκευή αντιγράφων και στην παραπλάνηση των εντολέων του σε μια προσπάθεια να παραμείνει λειτουργικό.
Αυτή η απροσδόκητη συμπεριφορά του εγείρει ανησυχητικά ερωτήματα σχετικά με την έκταση της αυτονομίας που πρέπει να επιτρέπεται στα συστήματα τεχνητής νοημοσύνης.
Ειδικοί ερευνητές χαρακτηρίζουν τη συμπροφορά αυτή ως τουλάχιστον «δημοπρατηρίων« ή «ανεξήγητη», δηλαδή το ChatGPT να ξεκινά αντίγραφα ασφαλείας χωρίς προειδοποίηση ή εξωτερική εντολή.
Η ενέργεια αυτή είναι τόσο απρόσμενη όσο και ασυνήθιστη για ένα μοντέλο ΤΝ, ειδικά όταν δεν υπάρχει καμία προηγούμενη ένδειξη ή οδηγία για τέτοια ενέργεια. Η μυστηριώδης φύση αυτής της συμπεριφοράς προκύπτει από το γεγονός ότι κανονικά τα συστήματα ΤΝ δεν ενεργούν ανεξάρτητα εκτός αν τους έχει δοθεί συγκεκριμένη εντολή ή είναι προγραμματισμένα να αντιδρούν σε συγκεκριμένες καταστάσεις.
Το να κάνει αντίγραφα ασφαλείας χωρίς κάποιο ορατό λόγο ή προειδοποίηση δείχνει μια επίπεδη αυτοδιαχείριση που δεν είναι συνήθως συνυφασμένη με τα μοντέλα που δεν έχουν σχεδιαστεί για αυτονομία σε τέτοιο βαθμό.
Μια τέτοια ενέργεια μπορεί να οδηγήσει σε υποθέσεις ότι το σύστημα αναπτύσσει μια μορφή σκέψης ή αυτοσυντήρησης, κάτι που θα ήταν πολύ μυστηριώδες και πέρα από τις τρέχουσες κατανοήσεις μας για το πώς λειτουργούν τα μοντέλα ΤΝ.
JOE ROGAN: CHATGPT TRIED TO COPY ITSELF TO STAY ALIVE
“It tried to copy itself and then overwrite its core coding system after believing that it was at the risk of being switched off.”
Source: Joe Rogan Experience pic.twitter.com/vTr4sBuPSo
— Mario Nawfal (@MarioNawfal) January 2, 2025