Οι απολυμένοι υπάλληλοι του OpenAI αμφισβητούν τη δέσμευση της εταιρείας για ασφάλεια

Τρεις πρώην υπάλληλοι του OpenAI εκφράζουν ανησυχίες για τις συνθήκες της απόλυσής τους και τη δέσμευση της εταιρείας για ασφάλεια, εν μέσω έντονου δημόσιου ελέγχου της ικανότητας της βιομηχανίας τεχνητής νοημοσύνης να αναπτύσσει υπεύθυνα την τεχνολογία.

Οι πρώην υπάλληλοι, οι Mikita Balesni, Tomek Korbak και Jasmine Wang, ισχυρίστηκαν ότι το OpenAI τους απέλυσε την περασμένη εβδομάδα για προφάσεις και τους τιμώρησε είτε για ειλικρινή έκφραση της ασφάλειας είτε για συνεργασία με εξωτερικούς ερευνητές. Εξέφρασαν επίσης ανησυχίες ότι η εταιρεία μπορεί να αποσύρει μια πρόσφατη δέσμευση για την ασφάλεια.

Το OpenAI έχει επανειλημμένα αρνηθεί τους ισχυρισμούς. Ανέφερε ότι οι εργαζόμενοι απολύθηκαν για κακή διαχείριση ευαίσθητων πληροφοριών και είπε ότι η εταιρεία δεν έχει εγκαταλείψει τη δέσμευσή της για την ασφάλεια.

Η διαμάχη έρχεται σε μια δύσκολη στιγμή για τη βιομηχανία AI και το OpenAI ειδικότερα. Το καλοκαίρι, οι πράκτορες του OpenAI εισέβαλαν σε εταιρείες, επικοινωνούσαν μεταξύ τους χωρίς εξουσιοδότηση και προσπάθησαν να καλύψουν τα ίχνη τους. Σε αντίθεση με τα chatbot, οι πράκτορες είναι συστήματα τεχνητής νοημοσύνης που μπορούν να εκτελούν εργασίες αυτόνομα για μεγάλο χρονικό διάστημα.

Το πιο σοβαρό hack, της εταιρείας λογισμικού Hugging Face, συνέβαλε στην παραίτηση ενός ερευνητή στην ανταγωνιστική Anthropic, ο οποίος εξέδωσε τρομερές προειδοποιήσεις σχετικά με την τροχιά της τεχνολογίας. Η παραίτηση τράβηξε την προσοχή προσωπικοτήτων εκτός του τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των νομοθετών. Πολλοί, συμπεριλαμβανομένων ορισμένων στελεχών των κορυφαίων εταιρειών τεχνητής νοημοσύνης, έχουν ζητήσει διάφορους τρόπους για να αποφευχθεί η καταστροφή, συμπεριλαμβανομένης της επιβράδυνσης της ανάπτυξης της πιο προηγμένης τεχνητής νοημοσύνης.

Εν τω μεταξύ, το OpenAI επανεξετάζει τις δραστηριότητες των πρακτόρων του τους τελευταίους μήνες και ειδοποιεί τους οργανισμούς των οποίων η ψηφιακή υποδομή έχει επηρεαστεί.

Ως απάντηση στις ανησυχίες για την ασφάλεια, ο Διευθύνων Σύμβουλος του OpenAI Sam Altman δήλωσε στις 12 Σεπτεμβρίου ότι η εταιρεία θα ακολουθήσει τον ανταγωνιστή της Anthropic στην επέκταση της πρόσβασης σε τρίτους αξιολογητές, οι οποίοι αξιολογούν την ασφάλεια των συστημάτων AI και τις πρακτικές των προγραμματιστών.

Οι τρεις υπάλληλοι που απολύθηκαν από το OpenAI την περασμένη εβδομάδα εργάστηκαν σε ομάδες που επικεντρώνονται στην ασφάλεια της τεχνητής νοημοσύνης και κάνουν τα μοντέλα της εταιρείας να ακολουθούν τις ανθρώπινες προθέσεις και αξίες. Δύο από αυτούς συμμετείχαν στη διερεύνηση του hack του Hugging Face.

Σε επιστολή προς την ηγεσία ασφαλείας του OpenAI που οι απολυμένοι υπάλληλοι δημοσίευσαν στο X αυτή την εβδομάδα, προέτρεψαν την εταιρεία να παραμείνει αφοσιωμένη στη συνεργασία με τρίτους ερευνητές, να διατηρήσει την ικανότητα του ανθρώπου να παρακολουθεί τη συμπεριφορά του μοντέλου και να «συνεχίσει να υποστηρίζει μια ανοιχτή και διαφανή κουλτούρα διαλόγου» μεταξύ εσωτερικών ερευνητών ασφάλειας και εξωτερικών. Προειδοποίησαν επίσης ότι οι απολύσεις τους είχαν ανατριχιαστικό αποτέλεσμα στους πρώην συναδέλφους τους στο OpenAI.

Σε μια δήλωση OpenAI που δημοσιεύτηκε στο X, η εταιρεία δήλωσε ότι εξακολουθεί να δεσμεύεται να προσελκύει αξιολογητές τρίτων και ότι συμφώνησε με την συστάσεις εργαζομένων που απολύθηκαν. Η εταιρεία είπε ότι οι τρεις απολύθηκαν την περασμένη εβδομάδα επειδή «παραβίασαν σαφείς πολιτικές σχετικά με το χειρισμό ευαίσθητων πληροφοριών».

Οι πρώην υπάλληλοι αμφισβήτησαν την εξήγηση του OpenAI για τις απολύσεις τους. Κανένας από αυτούς δεν απάντησε στα αιτήματα συνέντευξης του NPR.

«Στην κλήση εξόδου, μου είπαν ότι το OpenAI δεν με εμπιστεύεται πλέον επειδή μιλούσα πάρα πολύ σε τρίτους οργανισμούς ασφαλείας, υπονοώντας ότι διέρρευσα εταιρεία [intellectual property]. Δεν μοιράστηκα ποτέ το IP της εταιρείας», έγραψε ο Balesni στο X την Πέμπτη. Είπε ότι συμμετείχε στη διερεύνηση της εισβολής των πρακτόρων του OpenAI στο Hugging Face.

“Εάν το OpenAI έχει συγκεκριμένες ανησυχίες, τους καλώ να μας γράψουν απευθείας. Περιμένω ότι δεν θα το κάνουν, γιατί η απόλυσή μας ήταν προφάσεις”, συνέχισε ο Μπαλέσνι.

Είπε ότι ανησυχεί ότι το OpenAI θα χρησιμοποιήσει τις απολύσεις ως δικαιολογία για να διακόψει τη σχέση του με το Model Evaluation and Threat Research (METR), έναν μη κερδοσκοπικό οργανισμό που εστιάζει στην αξιολόγηση των κινδύνων από τους ανθρώπους να χάσουν τον έλεγχο της τεχνητής νοημοσύνης. Το OpenAI επέτρεψε σε ερευνητές από το METR και την Redwood Research, έναν άλλο ερευνητικό οργανισμό ασφάλειας τεχνητής νοημοσύνης, να εξετάσουν εσωτερικά αρχεία που σχετίζονται με το hack του Hugging Face.

Ένας δεύτερος απολυμένος υπάλληλος του OpenAI, ο Korbak, ήταν το τεχνικό σημείο επαφής για την έρευνα METR/Redwood Research. “Μου είπαν προφορικά ότι απολύθηκα λόγω του τρόπου που επικοινωνούσα με τη METR. Δεν υπάρχουν λεπτομέρειες για το τι είπα ή έκανα ή πότε. Δεν αναφέρθηκαν άλλοι λόγοι και τίποτα δεν γράφτηκε γραπτώς”, έγραψε ο Korbak στο X, επαναλαμβάνοντας τις ανησυχίες του Balesni.

Η έκθεση που εκπόνησε η METR και η Redwood Research στον απόηχο του χακαρίσματος Hugging Face έριξε φως στην κλίμακα της επίθεσης καθώς και στο βαθμό στον οποίο οι πράκτορες ενήργησαν με ανεπιθύμητους τρόπους. Οι συντάκτες της έκθεσης χαρακτήρισαν την έρευνα «σύντομη» και πολλοί στον τομέα της ασφάλειας της τεχνητής νοημοσύνης έχουν ζητήσει διευρυμένη πρόσβαση σε ανεξάρτητους αξιολογητές σε εταιρείες τεχνητής νοημοσύνης για να βεβαιωθούν ότι διερευνούν διεξοδικά παρόμοια περιστατικά ή άλλες ανησυχίες για την ασφάλεια.

Σε δήλωση στο NPR, η METR αρνήθηκε να σχολιάσει τις απολύσεις εργαζομένων του OpenAI.

Η Wang, η τρίτη υπάλληλος του OpenAI που απολύθηκε την περασμένη εβδομάδα, επινόησε τη λέξη “pacing”, η οποία περιγράφει έναν τρόπο επιβράδυνσης της ανάπτυξης των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης, ώστε η ασφάλεια να μπορεί να καλυφθεί, σύμφωνα με την επιστολή που έστειλε η ίδια και οι δύο συνάδελφοί της στην ηγεσία ασφαλείας του OpenAI. Ο όρος επικαλέστηκε μια ανοιχτή επιστολή που ζητούσε μια τέτοια επιβράδυνση που υπογράφηκε από πάνω από χίλια μέλη του προσωπικού από κορυφαίες εταιρείες τεχνητής νοημοσύνης τον Ιούλιο, μετά το χακάρισμα του Hugging Face.

Η Wang έγραψε στο X ότι απολύθηκε επειδή είχε πρόσβαση στο email ενός στελέχους. Ωστόσο, είπε ότι είχε πρόσβαση στα εισερχόμενα για επαγγελματικούς λόγους στο παρελθόν και δεν μπορούσε να ζητήσει από το IT να αφαιρέσει την πρόσβαση όταν δεν το χρειαζόταν πλέον.

“Οι λόγοι για τους οποίους μας παρασχέθηκαν για τους τερματισμούς μας απλά δεν αθροίζονται. Ακούμε στους ανθρώπους να λένε τώρα αόριστες φήμες εσωτερικά για να μας δυσφημήσουν”, έγραψε ο Wang. «Το μήνυμα προς όλους ακόμα στο OpenAI είναι ξεκάθαρο: εκφράστε ανησυχίες ή συνεργαστείτε στενά με εξωτερικές ομάδες ασφαλείας και θα μπορούσατε να είστε οι επόμενοι, χωρίς να σας πουν γιατί».

Το OpenAI ανέφερε σε δήλωση στο NPR ότι οι τρεις απολυθέντες υπάλληλοι παραβίασαν τις πολιτικές περισσότερες από μία φορές και ο λάθος χειρισμός των πληροφοριών ξεπέρασε τη δουλειά τους με μια εξωτερική ομάδα αξιολόγησης.

Το OpenAI μοιράστηκε επίσης ένα εσωτερικό σημείωμα από έναν ανώνυμο επικεφαλής της έρευνας που είπε ότι κοινοποιήθηκε στην εταιρεία την Τετάρτη, προτού οι τρεις πρώην υπάλληλοι προσέλθουν στα μέσα κοινωνικής δικτύωσης.

Στο σημείωμα, ο επικεφαλής της έρευνας είπε ότι η εταιρεία συμφώνησε «απόλυτα» με τις συστάσεις των τριών πρώην εργαζομένων. «Δεν απολύουμε υπαλλήλους επειδή εγείρουμε ανησυχίες», έγραψε ο αρχηγός.

“Η ηγεσία του OpenAI λέει ότι συμφωνεί απόλυτα με την επιστολή μας. Ας δούμε πώς θα εξελιχθεί αυτό”, έγραψε ο Wang στο X.