Ένας ηγέτης ασφάλειας στο OpenAI παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι η κουλτούρα της έχει σπάσει και ότι οι εταιρείες τεχνητής νοημοσύνης δεν ήταν «σχεδόν αρκετά προσεκτικές» σχετικά με την ανάπτυξη της τεχνολογίας.
Ο David Robinson, ο οποίος ηγήθηκε της συγγραφής των αναφορών ασφαλείας που συνόδευαν τις εκδόσεις προϊόντων του προγραμματιστή ChatGPT, εξήγησε την παραίτησή του σε ένα δοκίμιο με τίτλο «Έφυγα από το OpenAI επειδή η κουλτούρα του έχει σπάσει».
Ο Robinson έγραψε ότι χρειαζόταν μια πολιτιστική αναθεώρηση σε υπερσύγχρονες εταιρείες τεχνητής νοημοσύνης και περιστατικά όπως ένα «σμήνος» πρακτόρων OpenAI – τα προγράμματα τεχνητής νοημοσύνης που λειτουργούσαν αυτόνομα χωρίς ανθρώπινη επίβλεψη – που επιτίθενται στην startup τεχνητής νοημοσύνης Hugging Face ήταν «τυπικά του κλάδου, δεδομένης της ταχύτητας και της ευελιξίας που λειτουργούν οι άνθρωποι.
Γράφοντας στο περιοδικό Atlantic, ο Robinson έγραψε: «Συμφωνώ με το άλλο προσωπικό που αποχώρησε πρόσφατα ότι οι εταιρείες που κατασκευάζουν αυτήν την τεχνολογία δεν είναι αρκετά προσεκτικές. Αλλά πιστεύω ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για πολιτισμό.â€
Αναφερόμενος στον ρυθμό ανάπτυξης του OpenAI, έγραψε: «Καθώς η εταιρεία τρέχει από το ένα λανσάρισμα στο άλλο, αποτυγχάνει να επιτύχει το επίπεδο φροντίδας που πιστεύω ότι χρειάζεται».
Ωστόσο, το OpenAI έχει δείξει σημάδια προσοχής τις τελευταίες εβδομάδες μετά το περιστατικό Hugging Face και την αποκάλυψη ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς για τη δραστηριότητα των αδίστακτων πρακτόρων. Αυτή την εβδομάδα ανακοίνωσε ότι καταργεί την κυκλοφορία ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, αφού οι ερευνητές εξέφρασαν ανησυχίες για την ασφάλεια κατά τη διάρκεια εσωτερικών δοκιμών. Το OpenAI έχει επίσης διακόψει την εκπαίδευση των πιο προηγμένων μοντέλων του.
Ο Geoffrey Irving, ο οποίος εργαζόταν στο OpenAI και ήταν επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας AI της κυβέρνησης του Ηνωμένου Βασιλείου πριν ενταχθεί στην εταιρεία έρευνας για την ασφάλεια της τεχνητής νοημοσύνης Resolution, εξέδωσε επίσης μια προειδοποίηση για την τεχνητή νοημοσύνη το Σάββατο.
Γράφοντας στο Time, είπε: «Οι πρόσφατες προειδοποιήσεις σχετικά με την πιθανή καταστροφική δύναμη της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης πιο έξυπνων από τον άνθρωπο συστημάτων τεχνητής νοημοσύνης και ότι οι ενέργειές μας τα επόμενα δύο έως 10 χρόνια θα καθορίσουν το αποτέλεσμα.â€
Το δοκίμιο του Robinson ακολουθεί επίσης την παραίτηση του Jacob Coxon, ερευνητή στην ανταγωνιστική του OpenAI Anthropic, ο οποίος παραιτήθηκε από τον προγραμματιστή Claude chatbot τον περασμένο μήνα. Προειδοποίησε ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας» και ακολούθησε η προειδοποίηση Anthropic ότι η τεχνητή νοημοσύνη θα εξαλείψει την ανθρωπότητα την επόμενη δεκαετία.
Ο Robinson έγραψε ότι η Silicon Valley δεν είχε επίγνωση του «πώς να χειρίζεσαι την επικίνδυνη τεχνολογία» και «τι σημαίνει να φροντίζεις τους ανθρώπους». Προειδοποιώντας ότι το OpenAI είχε «ανεμπόδιστη αισιοδοξία» για την επίλυση προβλημάτων καθώς προέκυπταν, έγραψε ότι αυτή η εσωτερική κουλτούρα σήμαινε ότι οι αστοχίες ασφάλειας θα αυξάνονταν μόνο καθώς τα συστήματα γίνονται πιο ικανά.
«Φανταστείτε «απατεώνες» πράκτορες που εργάζονται σαν ομάδες χάκερ (για παράδειγμα, κρατούν συστήματα υπολογιστών νοσοκομείων για λύτρα) αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε ο Ρόμπινσον.
μετά την προώθηση του ενημερωτικού δελτίου
Ο Robinson ζήτησε δύο αλλαγές στην ασφάλεια: ότι οι εταιρείες τεχνητής νοημοσύνης βασίζονται στην τεχνογνωσία ασφάλειας σε άλλους τομείς όπως η πυρηνική και η αεροπορία και αναπτύσσουν «νέα επιστήμη» που διασφαλίζει ότι τα ισχυρά συστήματα στο μέλλον θα μπορούν να χαλιναγωγούνται όταν λειτουργούν αυτόνομα.
«Δεδομένων των σημερινών κινδύνων, τα μεθοριακά εργαστήρια πρέπει να λειτουργούν σαν πυρηνικοί σταθμοί ή πολυσύχναστα αεροδρόμια, με επίπεδα πλεονασμού και προσεκτικό, χρονοβόρο σχεδιασμό, έτσι ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίξει την πόρτα στην καταστροφή», έγραψε.
Ένας εκπρόσωπος του OpenAI είπε ότι η εταιρεία συνεχίζει «να ενισχύει τις πρακτικές ασφάλειας και ασφάλειας για την αντιμετώπιση των κινδύνων που βλέπουμε σήμερα», ενώ εργάζεται για την αντιμετώπιση των κινδύνων που ενδέχεται να δημιουργηθούν από μελλοντικές ανακαλύψεις στην τεχνητή νοημοσύνη.
«Διασφαλίζουμε ότι τα μοντέλα μας δεν θα γίνουν πιο ικανά από ό,τι μπορούμε να διαχειριστούμε και να ασφαλίσουμε με ασφάλεια, και διακόπτουμε την εκπαίδευση ή αναστέλλουμε τα μοντέλα όταν πρέπει να επιβραδύνουμε», είπε ο εκπρόσωπος.
