Η απόφαση του OpenAI, που αναφέρθηκε για πρώτη φορά από την Wall Street Journal, είναι μια σπάνια περίπτωση ενός μεγάλου προγραμματιστή τεχνητής νοημοσύνης που βγάζει μια νέα έκδοση λόγω ανησυχιών για την ασφάλεια.
Το μοντέλο υπολείπεται όσον αφορά το ότι «παραμένει εντός του πεδίου εφαρμογής και της εξουσιοδότησης και του τρόπου με τον οποίο επικοινωνεί με τον χρήστη σχετικά με το είδος της εργασίας που έχει κάνει», είπε ο Jain.
“Θέλουμε να βεβαιωθούμε ότι η ανάπτυξη του μοντέλου μας είναι ασφαλής ανεξάρτητα από το αν είναι στην εταιρεία ή όταν το αποστέλλουμε στους χρήστες. Αλλά όταν το αποστέλλουμε στους χρήστες, έχουμε εξαιρετικά υψηλό πήχη όσον αφορά την ασφάλεια και την ευθυγράμμιση”, πρόσθεσε.
Το εμβληματικό μοντέλο πρακτορείου GPT-6 Astra κυκλοφόρησε τον Σεπτέμβριο και ειδικεύεται στη σύνθετη συλλογιστική και στην αυτόνομη εκτέλεση εργασιών. Η OpenAI είπε ότι ήταν το αποτέλεσμα «χρόνων έρευνας και μεγάλων στοιχημάτων».
Το OpenAI πρόκειται να πραγματοποιήσει το ετήσιο συνέδριο προγραμματιστών DevDay στο Σαν Φρανσίσκο την Τρίτη, όπου αναμένεται να κάνει αρκετές ανακοινώσεις. Δεν είναι σαφές εάν μια νέα έκδοση του Astra θα είναι μεταξύ αυτών.
Οι έλεγχοι ασφαλείας της εταιρείας έχουν τεθεί υπό έντονο έλεγχο μετά από αρκετά περιστατικά υψηλού προφίλ που αφορούν την τεχνολογία της.
Δεν είναι η πρώτη φορά που ένας μεγάλος προγραμματιστής τεχνητής νοημοσύνης αποσύρει ή κρατάει πίσω ένα νέο μοντέλο.
Νωρίτερα αυτό το έτος, η Anthropic είπε ότι δεν θα κυκλοφορήσει δημόσια ένα ισχυρό μοντέλο Claude, το Mythos, επειδή ήταν πολύ καλό στο να βρίσκει λανθάνοντα σφάλματα λογισμικού.
Η εταιρεία κυκλοφόρησε μια έκδοση αυτού του μοντέλου στο κοινό αρκετούς μήνες αργότερα.
Εν τω μεταξύ, η OpenAI είπε το 2019 ότι δεν θα ήταν “πολύ επικίνδυνο” να κυκλοφορήσει ένα από τα μοντέλα GPT της, που τώρα χρησιμοποιείται για την τροφοδοσία των εργαλείων της όπως το ChatGPT.
Η απόφαση της εταιρείας να μην κυκλοφορήσει δημόσια την πιο πρόσφατη έκδοση του Astra ήταν “ένα ευπρόσδεκτο σημάδι ότι λαμβάνουν σοβαρά υπόψη τις ανησυχίες για την ασφάλεια”, δήλωσε ο καθηγητής Tony Cohn, θεμελιώδης επικεφαλής θεμάτων μοντέλων στο Ινστιτούτο Alan Turing.
Αλλά πρόσθεσε ότι “η ασφάλεια δεν πρέπει να αφεθεί αποκλειστικά στα χέρια των προγραμματιστών: θα πρέπει επίσης να παρακολουθείται και να επαληθεύεται μέσω ανεξάρτητων εγκεκριμένων από την κυβέρνηση ρυθμιστικών αρχών”.
Η καθηγήτρια Τζίνα Νεφ, του Κέντρου Τεχνολογίας και Δημοκρατίας Minderoo στο Πανεπιστήμιο του Κέιμπριτζ, είπε ότι η ανακοίνωση του OpenAI έδειξε “πόσα περισσότερα πρέπει να κάνει η εταιρεία για να κάνει τα προϊόντα τεχνητής νοημοσύνης ασφαλή”.
Είπε στο BBC ότι ήταν «κρίσιμο» να γίνονται ανεξάρτητες δοκιμές μοντέλων τεχνητής νοημοσύνης από εργαστήρια όπως το Ινστιτούτο AI Security του Ηνωμένου Βασιλείου – το οποίο αξιολογεί τα συνοριακά συστήματα σε εθελοντική βάση – επειδή «αυτές οι εταιρείες έχουν αποδείξει ότι δεν μπορούμε να βασιστούμε αποκλειστικά σε αυτές για την ασφάλειά μας».
