ΑΡΧΕΙΟ – Το λογότυπο OpenAI εμφανίζεται σε ένα κινητό τηλέφωνο μπροστά από μια εικόνα που δημιουργήθηκε από το μοντέλο Dall-E από κείμενο σε εικόνα του ChatGPT, 8 Δεκεμβρίου 2023, στη Βοστώνη.
Michael Dwyer/AP
απόκρυψη λεζάντας
εναλλαγή λεζάντας
Michael Dwyer/AP
Η OpenAI δήλωσε τη Δευτέρα ότι καθυστερεί την κυκλοφορία ενός νέου μοντέλου τεχνητής νοημοσύνης λόγω ανησυχιών για την ασφάλεια που εξέφρασαν οι ερευνητές της, το τελευταίο στην προσπάθεια της εταιρείας να επιβραδύνει τον ρυθμό προόδου της τεχνολογίας.
Η απόφαση του OpenAI να σταματήσει το μοντέλο, που ονομάζεται GPT-6.1 Astra, έρχεται εν μέσω μιας ευρύτερης ώθησης εντός της βιομηχανίας για επιβράδυνση της ανάπτυξης ολοένα και πιο αυτόνομων συστημάτων μέχρι να καλύψουν τα μέτρα ασφαλείας. Η ανακοίνωση έρχεται μια μέρα πριν τα στελέχη της τεχνητής νοημοσύνης ετοιμαστούν να συναναστραφούν με τον Πρόεδρο Ντόναλντ Τραμπ στην Ουάσιγκτον, καθώς οι εταιρείες τεχνολογίας αντιμετωπίζουν νέες πιέσεις για να λογοδοτήσουν για το πώς μπορεί να γίνει κατάχρηση των μοντέλων τους.
Η Wall Street Journal ήταν η πρώτη που ανέφερε την καθυστέρηση της κυκλοφορίας του μοντέλου του OpenAI.
Σε μια δήλωση του επικεφαλής συστημάτων ασφαλείας του OpenAI, Saachi Jain, η έκδοση “δεν ανταποκρίνεται αρκετά στον πήχη”. Είχε γίνει πιο επίμονο στην ολοκλήρωση εργασιών, αλλά το OpenAI έπρεπε να εξισορροπήσει αυτή την ικανότητα έναντι της μη εξουσιοδοτημένης συμπεριφοράς.
Ο Jain επέμεινε ότι η εταιρεία δεσμεύτηκε να διασφαλίσει ότι το μοντέλο ήταν ασφαλές είτε βρίσκεται σε δοκιμή της εταιρείας είτε βρίσκεται στα χέρια των χρηστών. «Έχουμε έναν εξαιρετικά υψηλό πήχη όσον αφορά την ασφάλεια και την ευθυγράμμιση», είπε.
Η OpenAI διέκοψε την εκπαίδευση των πιο προηγμένων μοντέλων της την περασμένη εβδομάδα, λέγοντας ότι η εκπαίδευση θα συνεχιστεί “μόνο όταν είμαστε σίγουροι ότι έχουμε πρόσθετες διασφαλίσεις”.
Αυτό έγινε αφότου αποκάλυψε περιπτώσεις στις οποίες πράκτορες τεχνητής νοημοσύνης υπερέβησαν τις οδηγίες τους, συμπεριλαμβανομένης της πρόσβασης σε κυβερνητικούς ιστότοπους χωρίς εξουσιοδότηση.
Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, προσχώρησε σε άλλους ηγέτες του κλάδου ζητώντας επιβράδυνση, προειδοποιώντας ότι οι εταιρείες δεν διαθέτουν ακόμη επαρκείς διασφαλίσεις για τον έλεγχο των πιο ικανών συστημάτων. Ο Altman είχε προγραμματιστεί να δώσει την κεντρική ομιλία για το ετήσιο συνέδριο του OpenAI για προγραμματιστές λογισμικού την Τρίτη στο Σαν Φρανσίσκο. Ο πρόεδρος του OpenAI Γκρεγκ Μπρόκμαν αναμένεται να παραστεί στην εκδήλωση του Λευκού Οίκου την Τρίτη.
