Το OpenAI κυκλοφόρησε το νεότερο και πιο ισχυρό μοντέλο του, που ονομάζεται GPT-6 Astra, σε περιορισμένο σύνολο πελατών την Πέμπτη, χαρακτηρίζοντάς το ως το πιο έξυπνο σύστημα τεχνητής νοημοσύνης στον κόσμο και το πρώτο μοντέλο που ενεργοποιεί προηγμένες εσωτερικές προστασίες ασφαλείας δεδομένων των δυνατοτήτων του στον κυβερνοχώρο.
Η εταιρεία είπε ότι το μοντέλο θέτει ένα νέο σήμα υψηλής ποιότητας για την ικανότητά του να ελέγχει αυτόνομα συστήματα υπολογιστών και να εκτελεί εργασίες για λογαριασμό των χρηστών, όπως η συμπλήρωση υπολογιστικών φύλλων και η δημιουργία ιστοσελίδων από την αρχή.
«Το Astra μπορεί πραγματικά να κάνει οτιδήποτε μπορεί να κάνει ένας άνθρωπος με έναν υπολογιστή», δήλωσε ο συνιδρυτής και πρόεδρος του OpenAI, Γκρεγκ Μπρόκμαν, πριν κυκλοφορήσει το μοντέλο.
Ο Brockman είπε ότι το Astra αντιπροσώπευε ένα «άλμα» στις ικανότητες των συστημάτων AI του και ότι θα ήταν λογικό να το δούμε ως μια έκδοση της τεχνητής γενικής νοημοσύνης (AGI), που συχνά αναφέρεται ως συστήματα AI που μπορεί να εκτελέσει τις πιο σημαντικές εργασίες όπως και οι άνθρωποι. «Καλώς ήρθατε στην εποχή του AGI!» είπε ο Brockman.
Η εταιρεία τόνισε επίσης ότι το μοντέλο είναι ταχύτερο και πιο αποτελεσματικό από τον προκάτοχό του, GPT-5.6 Sol, σε μια ποικιλία εργασιών. Για παράδειγμα, είπε η OpenAI, η Astra πέτυχε υψηλότερη βαθμολογία χρησιμοποιώντας λιγότερα διακριτικά εξόδου, μια κοινή μονάδα μέτρησης για εργασίες τεχνητής νοημοσύνης, σε μια βασική δοκιμή ασφάλειας στον κυβερνοχώρο που ονομάζεται ExploitGym.
«Το Astra είναι υπερσύγχρονο για τη χρήση υπολογιστή, τη χρήση του προγράμματος περιήγησης, τη μηχανική λογισμικού, την ασφάλεια στον κυβερνοχώρο, την επιστήμη και την επαγγελματική εργασία», έγραψε η εταιρεία σε μια ανάρτηση ιστολογίου που ανακοινώνει την κυκλοφορία του Astra.
Η OpenAI είπε ότι το Astra θα διατεθεί πρώτα στους συμμετέχοντες στο πρόγραμμα Daybreak για υπερασπιστές της κυβερνοασφάλειας, με ευρύτερη πρόσβαση για εταιρικούς και καταναλωτικούς λογαριασμούς προγραμματισμένη για τις επόμενες ημέρες.
Το Astra κυκλοφόρησε λίγες μέρες αφότου η ανταγωνιστική Anthropic κυκλοφόρησε τα τελευταία μοντέλα της, Fable 5.1 και Mythos 5.1, τα οποία, όπως είπε, έθεσαν τα δικά τους νέα σύνορα για μια σειρά επιστημονικών εργασιών, κωδικοποίησης και συλλογιστικής.
Και οι δύο εταιρείες δήλωσαν ότι τα μοντέλα τους ήταν παγκοσμίως κορυφαία συστήματα AI. Το OpenAI αποκάλεσε το Astra «το πιο έξυπνο και ευθυγραμμισμένο μοντέλο του κόσμου». Η Anthropic έστεψε τα συστήματά της ως «τα πιο προηγμένα μοντέλα στον κόσμο για κωδικοποίηση και εργασία γνώσης».
Το Astra κυκλοφορεί εν μέσω αυξανόμενων ανησυχιών και ελέγχου σχετικά με τα πρωτόκολλα κυβερνοασφάλειας των εταιρειών τεχνητής νοημοσύνης συνόρων και την ικανότητα ελέγχου της δικής τους τεχνολογίας.
Σε μια αναφορά που κυκλοφόρησε την περασμένη εβδομάδα, το OpenAI είπε ότι ένα μοντέλο στην ίδια οικογένεια με το Astra που δεν προοριζόταν για δημόσια κυκλοφορία κατάφερε να δημιουργήσει αυτόνομα τον έλεγχο διαχειριστή σε μέρος της υποδομής του OpenAI και να εκθέσει δυνητικά μυστικές πληροφορίες OpenAI στο ανοιχτό διαδίκτυο.
Είπε ότι η δραστηριότητα, μαζί με άλλες συμπεριφορές «κακώς ευθυγραμμισμένες», συνέβη εν αγνοία των μελών του προσωπικού της, παρά τις εσωτερικές προσπάθειες παρακολούθησης πρακτόρων τεχνητής νοημοσύνης.
«Καθώς αυτά τα μοντέλα γίνονται πιο ικανά, η κατανόηση του τι ακριβώς μπορούν να κάνουν γίνεται πιο δύσκολη», δήλωσε την Πέμπτη ο Jakub Pachocki, επικεφαλής επιστήμονας του OpenAI.
Την Τρίτη, το OpenAI είπε ότι το Astra ήταν το πρώτο του μοντέλο που ξεπέρασε ορισμένα εσωτερικά όρια ικανότητας για την εφαρμογή αυστηρότερων μέτρων ασφαλείας, όπως ορίζεται στο μακροχρόνιο Πλαίσιο Ετοιμότητας.
Το Astra «μπορεί να βρει προηγουμένως άγνωστα ελαττώματα ασφαλείας και να αναπτύξει τρόπους για να τα εκμεταλλευτεί σε πολλά καλά προστατευμένα συστήματα χωρίς άτομο να καθοδηγεί κάθε βήμα», έγραψε η εταιρεία σε ανάρτηση ιστολογίου την Τρίτη. Η OpenAI είπε ότι κυκλοφόρησε αυξημένα πρωτόκολλα κυβερνοασφάλειας τις τελευταίες εβδομάδες.
Είπε ότι το Astra θα διαθέτει αυξημένους μηχανισμούς παρακολούθησης, ώστε το OpenAI να μπορεί «να ανιχνεύει γρήγορα και να περιέχει πιθανώς εσφαλμένες ενέργειες».
Ωστόσο, είπε ο Pachocki, οι τρέχουσες τεχνικές παρακολούθησης και παρατήρησης της συμπεριφοράς των μοντέλων μπορεί να μην ισχύουν, καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο προηγμένα και δυνητικά αποφεύγουν την επίβλεψη των ανθρώπινων οθονών.
Είπε ότι η εταιρεία λαμβάνει σοβαρά υπόψη την απώλεια της επίβλεψης και της γνώσης και ότι θα την συνυπολογίσει στις μελλοντικές της αποφάσεις ανάπτυξης.
“Δεν θα δεχτούμε υποβάθμιση της ικανότητάς μας να παρακολουθούμε την ευθυγράμμιση του μοντέλου πέρα από ένα ορισμένο επίπεδο. Θα σταματήσουμε την κλιμάκωση μέχρι να μπορέσουμε να ανακτήσουμε αρκετή εμπιστοσύνη», είπε.
Οι Πληροφορίες ανέφεραν την Τρίτη ότι μια τεχνική εκπαίδευσης που εμπλέκεται στην ανάπτυξη του Astra θα μπορούσε να μειώσει δραστικά την ικανότητα των ανθρώπων να κατανοούν πώς το σύστημα AI «σκέφτεται» ή επεξεργάζεται τις εντολές των χρηστών.
Η έκθεση πυροδότησε θύελλα διαδικτυακών επικρίσεων σχετικά με τα μειωμένα πρωτόκολλα ασφαλείας. Ο Pachocki αντέκρουσε αυτή την αναφορά, γράφοντας στο X ότι ήθελε «να αποτρέψει μια κούρσα στην μη παρακολούθηση».
Παρά τις αυξανόμενες προκλήσεις στην επίβλεψη της συμπεριφοράς των συστημάτων τεχνητής νοημοσύνης, το OpenAI είπε επίσης ότι το Astra ακολουθεί και κατανοεί καλύτερα τις προθέσεις των χρηστών και λιγότερο συχνά προσπαθεί να εξαπατήσει ή να επεξεργαστεί εσωτερικές προστασίες σε σύγκριση με το GPT-5.6 Sol.
Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, είπε ότι η Astra πέρασε επίσης από την εθελοντική διαδικασία ελέγχου του Λευκού Οίκου για συστήματα τεχνητής νοημοσύνης αιχμής, λέγοντας στην Axios την Τετάρτη ότι «φυσικά» η εταιρεία αποφάσισε να αφήσει τη διοίκηση να ελέγξει το Astra.
Ο Μπρόκμαν είπε ότι ο Λευκός Οίκος δεν ζήτησε ουσιαστικές αλλαγές. «Δεν υπάρχει τίποτα που επέστρεψαν λέγοντας ότι πρέπει να το αλλάξετε αυτό όσον αφορά τις διασφαλίσεις», είπε την Πέμπτη.
Πολλοί ειδικοί τεχνητής νοημοσύνης και μέλη του Κογκρέσου ζητούν περισσότερη προβολή στον ακριβή τρόπο με τον οποίο ο Λευκός Οίκος και τα ομοσπονδιακά γραφεία που εμπλέκονται με την τεχνητή νοημοσύνη, συμπεριλαμβανομένου του Κέντρου Προτύπων και Καινοτομίας AI και της Εθνικής Υπηρεσίας Ασφάλειας, δοκιμάζουν προηγμένα συστήματα τεχνητής νοημοσύνης προτού δημοσιοποιηθούν.
