Πρώην υπάλληλος της Anthropic, OpenAI κρούει συναγερμό για τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης

Ο Jacob Coxon, πρώην ερευνητής ασφάλειας για το Anthropic και το OpenAI, επικρότησε τις εκκλήσεις του CEO της Anthropic, Dario Amodei, για επιβράδυνση της ανάπτυξης τεχνητής νοημοσύνης.

“νομίζω ότι είναι υπέροχο. Είναι πολύ συναρπαστικό», είπε ο Coxon – ο οποίος παραιτήθηκε από το Anthropic την περασμένη εβδομάδα λόγω ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης – είπε στον παρουσιαστή της εφημερίδας «This Week» τον Γιώργο Στεφανόπουλο την Κυριακή. «Πιστεύω ότι αυτό είναι ένα ουσιαστικό βήμα προς αυτό για το οποίο μίλησα, που χρειάζεται κάποιου είδους επιβράδυνση μεταξύ των ανθρώπων που κατασκευάζουν τα διαφορετικά AI.»

Σε μια εκπληκτική επιστολή το Σάββατο με τίτλο «Πρέπει να ρυθμίσουμε τα σύνορα», ο Amodei ζήτησε να επιβραδυνθεί ο ρυθμός με τον οποίο οι εταιρείες τεχνητής νοημοσύνης αναπτύσσουν την επαναστατική τεχνολογία, γράφοντας «Πιστεύω ότι οφείλουμε στην ανθρωπότητα να προσπαθήσουμε».

Ο Coxon έκανε πάταγο την περασμένη εβδομάδα όταν παραιτήθηκε από το Anthropic, δημοσιεύοντας στο X ότι ούτε η Anthropic ούτε η OpenAI “ενεργούν υπεύθυνα. Αγωνίζονται κατευθείαν στην αυτοβελτιωμένη υπερευφυΐα και στον τζόγο με τις ζωές μας.”

Τόνισε επίσης τον φόβο εντός της βιομηχανίας σχετικά με την πιθανότητα εξαγοράς της τεχνητής νοημοσύνης: «Οι άνθρωποι που κατασκευάζουν τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε ο Coxon.

Ο Κόξον είπε στον Στεφανόπουλο τον τρόπο με τον οποίο απογειώθηκε η ανάρτησή του τον σόκαρε.

“Πραγματικά δεν ήλπιζα για κάποια μεγάλη ανταπόκριση, πραγματικά. Ήταν εξαιρετικά εκπληκτικό να βλέπεις το επίπεδο δέσμευσης… και νομίζω ότι ήταν πραγματικά ενδεικτικό της στιγμής που ήταν ώριμη για αυτό το είδος συνομιλίας», είπε η Coxon.

Ο Coxon μίλησε επίσης για το εάν υπήρχε ένα αυξανόμενο συναίσθημα στις εταιρείες στις οποίες εργαζόταν ότι η τεχνολογία AI έγινε πιο δύσκολο να ελεγχθεί.

«Δεν υπάρχει αρκετός χρόνος για να σκέφτομαι συνεχώς τους κινδύνους, αλλά σίγουρα, έχω παρατηρήσει ότι τους τελευταίους μήνες, εμφανίζεται όλο και πιο συχνά», είπε η Coxon. «Έτσι, ανεξάρτητα από το πού βρίσκεστε στην εταιρεία, πιθανώς περίπου μερικές φορές την εβδομάδα, υποθέτω, θα υπάρχει κάποιου είδους συζήτηση για τους μεγάλους κινδύνους της τεχνολογίας.»