Ένας μηχανικός ασφαλείας που παραιτήθηκε πρόσφατα από το ChatGPTcreator OpenAI προειδοποίησε το Σάββατο ότι οι εταιρείες τεχνητής νοημοσύνης (AI) «δεν ήταν αρκετά προσεκτικές».
Τα σχόλια του Ντέιβιντ Ρόμπινσον έρχονται εν μέσω αυξανόμενων ανησυχιών σχετικά με το ότι η τεχνητή νοημοσύνη γίνεται πολύ ισχυρή – μια απειλή που ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ χαρακτήρισε «φάρσα».
Οι OpenAI και Anthropic αποκάλυψαν πρόσφατα περιπτώσεις στις οποίες τα μοντέλα τεχνητής νοημοσύνης τους παρέλειψαν τους ελέγχους ασφαλείας, απέκρυψαν λάθη και παραβιάστηκαν συστήματα στα οποία δεν προοριζόταν να έχουν πρόσβαση.
Τι έγραψε ο Ντέιβιντ Ρόμπινσον;
Σε ένα άρθρο για το The Atlantic, ο Robinson είπε ότι η τεχνητή νοημοσύνη χρειάζεται προστατευτικά κιγκλιδώματα παρόμοια με αυτά για την πυρηνική ενέργεια και την αεροπορία, προσθέτοντας: «Ο χρόνος για δοκιμή και λάθος έχει τελειώσει».
Κάλεσε να δοθεί περισσότερη έμφαση στην ασφάλεια και την έρευνα προτού η αμερικανική Big Tech αναπτύξει πιο προηγμένα μοντέλα τεχνητής νοημοσύνης «ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίξει την πόρτα στην καταστροφή».
Ο Robinson, ο οποίος επέβλεψε τις αναφορές ασφάλειας για 12 εκτοξεύσεις μοντέλων τεχνητής νοημοσύνης στα σύνορα, είπε ότι τα πρόσφατα σφάλματα ήταν τυπικά επειδή οι τεχνολογικοί γίγαντες δίνουν προτεραιότητα στην «ταχύτητα και ευελιξία».
«Ένα περιβάλλον όπου μπορούν να συμβούν πράγματα όπως αυτό δεν είναι μέρος για να αναπτυχθούν τεχνητά μυαλά που θα μπορούσαν να είναι πιο έξυπνα από εμάς και που μπορεί να μην κάνουν αυτό που θέλουμε».
Ο πρώην υπάλληλος του OpenAI σημείωσε ότι η εταιρεία βασίζεται στην “επαναληπτική ανάπτυξη”. Κυκλοφορεί πρώτα νέα μοντέλα τεχνητής νοημοσύνης και ενισχύει μόνο τα μέτρα προστασίας μετά την εμφάνιση προβλημάτων.
«Καθώς «η εταιρεία τρέχει από το ένα λανσάρισμα στο άλλο, αποτυγχάνει να επιτύχει το «επίπεδο φροντίδας» που πιστεύω ότι χρειάζεται», πρόσθεσε ο Robinson, ο οποίος εργάστηκε στο OpenAI για 3 1/2 χρόνια.
Ο δημιουργός του ChatGPT επιμένει ότι το AI είναι ασφαλές
Το OpenAI αντέδρασε στην πιο πρόσφατη κριτική σε μια δήλωση, “Φροντίζουμε τα μοντέλα μας να μην γίνονται πιο ικανά από ό,τι μπορούμε να διαχειριστούμε με ασφάλεια – και ασφαλή, και – διακόπτουμε την εκπαίδευση ή καθυστερούμε τα μοντέλα όταν πρέπει να επιβραδύνουμε.”
Τους τελευταίους μήνες, υπήρξαν επανειλημμένες προειδοποιήσεις από ειδικούς της τεχνολογίας και φορείς χάραξης πολιτικής ότι τα μοντέλα τεχνητής νοημοσύνης προχωρούν τόσο γρήγορα που θα μπορούσαν να πάρουν τον έλεγχο και ενδεχομένως να εξαφανίσουν την ανθρωπότητα.
Παρά τους φόβους αυτούς, ο Πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ είναι σθεναρά κατά της αυστηρότερης νομοθεσίας, επιμένοντας ότι θα επιβραδύνει την καινοτομία και θα καταστήσει δυσκολότερο για τα αμερικανικά μοντέλα τεχνητής νοημοσύνης να νικήσουν τους Κινέζους αντιπάλους.
Αυτή την εβδομάδα, ο Τραμπ ανακοίνωσε ένα εθελοντικό σύμφωνο ασφάλειας με έξι εταιρείες – Nvidia, SpaceX, OpenAI, Anthropic, Meta και την Google της Alphabet.
Ο πρόεδρος χαρακτήρισε τη συμφωνία ως «ηθικά δεσμευτική», ακόμη κι αν δεν είναι νομικά εκτελεστή.
Επίσης, έδωσε εντολή στη διοίκησή του να μετονομάσει το AI σε “Super Intelligence” ή SI.
Μια έρευνα του Reuters/Ipsos τον περασμένο μήνα διαπίστωσε ότι τα τρία τέταρτα των Αμερικανών ανησυχούν ότι οι γίγαντες της τεχνητής νοημοσύνης δεν κάνουν αρκετά για να εμποδίσουν την τεχνητή νοημοσύνη να προκαλέσει σοβαρή βλάβη στην κοινωνία.
Εάν βασίζεστε στην ομάδα μας για αξιόπιστες αναφορές, αφιερώστε λίγο χρόνο επιλέξτε μας ως την προτιμώμενη πηγή σας στο Google έτσι θα βλέπετε πάντα πρώτα τα επαληθευμένα νέα μας.
Επιμέλεια: Sean Sinico
