Στο δοκίμιό του, που ονομάζεται We Must Pace the Frontier, ο Amodei επεσήμανε ότι η τεχνητή νοημοσύνη είχε προχωρήσει “δραματικά πιο γρήγορα” συμπεριλαμβανομένης της “ικανότητάς της να δημιουργήσει την επόμενη γενιά AI” – και ανέφερε ένα περιστατικό που αφορούσε αντίπαλο OpenAI που αποκάλυψε ότι πράκτορες διεξήγαγαν επιθέσεις στον κυβερνοχώρο, εξωτερικός σε στόχους που δεν τους ζητήθηκε να επιτεθούν τον Ιούλιο.
Οι πράκτορες του OpenAI είχαν «λειτουργήσει ουσιαστικά ως μια φανατικά αφοσιωμένη ομάδα», είπε ο Amodei. Η OpenAI είπε ότι επιβραδύνει την εκπαίδευση ορισμένων προηγμένων μοντέλων και εργαλείων τεχνητής νοημοσύνης ως αποτέλεσμα.
Η Amodei ζήτησε «να χτίσουμε την τεχνητή νοημοσύνη σε έναν ισορροπημένο ρυθμό που στοχεύει να διασφαλίσει την ασφάλειά της, ενώ παράλληλα επιτυγχάνει τα οφέλη της».
Αυτό δεν θα σήμαινε «παύση της εκπαίδευσης μοντέλων ή της τεχνικής προόδου, αλλά διασφάλιση ότι οι εταιρείες θα αφιερώσουν επαρκή χρόνο για να ευθυγραμμίσουν και να προστατέψουν τα μοντέλα τους και ότι οι τρίτοι αξιολογητές θα το επιβεβαιώσουν».
Δέσμευε την Anthropic σε αυτό «μονομερώς» – καθώς και καλούσε τις κυβερνήσεις «να απαιτήσουν από άλλες συνοριακές εταιρείες να ταιριάζουν».
Ο Amodei είπε ότι αναγνωρίζει ότι η ρύθμιση ενδέχεται να μην είναι σε θέση να συμβαδίσει με τον ρυθμό της τεχνητής νοημοσύνης και ως εκ τούτου κάλεσε τις εταιρείες τεχνητής νοημοσύνης να «εργαστούν εθελοντικά για να θέσουν πρότυπα» παράλληλα με τη ρύθμιση.
Ο Διευθύνων Σύμβουλος της Anthropic συνέχισε να εξετάζει τον αντίκτυπο που θα είχε μια επιβράδυνση στον κλάδο και τον ανταγωνισμό με κορυφαίους προγραμματιστές παγκοσμίως, ιδιαίτερα την Κίνα.
«Πιστεύω ότι αν η επιβράδυνση μας αγόραζε ακόμη και ένα ή δύο επιπλέον χρόνια πριν τα μοντέλα φτάσουν σε κρίσιμα επίπεδα ικανότητας και χρησιμοποιούσαμε αυτόν τον χρόνο για να προχωρήσουμε στην ευθυγράμμιση, θα μπορούσαμε να μειώσουμε σημαντικά τον κίνδυνο να πάει κάτι σοβαρά στραβά», είπε ο Amodei.
Αυτό θα πρέπει να γίνει με συντονισμένο τρόπο «χωρίς να θυσιάζεται το εμπορικό πλεονέκτημα ή το προβάδισμα των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη». Οποιαδήποτε επιβράδυνση θα πρέπει να περιοριστεί, είπε, για να αποφευχθεί να επιτραπεί στην Κίνα να προχωρήσει.
Προέτρεψε την αμερικανική κυβέρνηση να λάβει μέτρα ώστε τα τσιπ τεχνητής νοημοσύνης των αμερικανικών εταιρειών να μην μπορούν να πωληθούν στην Κίνα – ή την τεχνολογία που μοιράζεται με αυταρχικές χώρες.
Η ανάρτηση του Amodei έχει προκαλέσει ένα ευρύ φάσμα απαντήσεων.
Ο Clement Delangue, Διευθύνων Σύμβουλος της πλατφόρμας AI Hugging Face, δήλωσε ότι εγκαινιάζει ένα νέο έργο που ονομάζεται Open Alignment Initiative, προσθέτοντας ότι ήθελε να είναι μεταξύ των “ενσωματωμένων αξιολογητών” που πρότεινε η Amodei να είναι μέρος μιας λύσης.
Το Hugging Face παραβιάστηκε από πράκτορες του OpenAI νωρίτερα φέτος προκαλώντας κατακραυγή για την ασφάλεια της τεχνητής νοημοσύνης.
«Ας κάνουμε την τεχνητή νοημοσύνη ασφαλέστερη κάνοντας την πιο διαφανή». Ο Delangue έγραψε στο X.
Την υποστήριξή του εξέφρασε και ο Έλον Μασκ, γράφοντας ότι «ο Ντάριο έχει δίκιο».
Ο Μασκ, του οποίου το SpaceXAI φτιάχνει το αμφιλεγόμενο chatbot Grok, κάποτε αποκαλούσε τον Anthropic «κακό», αλλά άλλαξε τον τόνο του από τότε που υπέγραψε συμφωνία 15 δισεκατομμυρίων δολαρίων για την πώληση υπολογιστικής χωρητικότητας στην Anthropic τον Μάιο.
Ωστόσο, ορισμένοι παρατηρητές πρότειναν ότι η ανάρτηση του Amodei αφορούσε λιγότερο την ασφάλεια παρά την εδραίωση του ελέγχου στην τεχνολογία AI.
«Ο Dario κάνει την υπόθεση να σταματήσει τον ανοιχτό κώδικα και να συγκεντρώσει τεράστια τεχνολογική και οικονομική δύναμη με το Anthropic», έγραψε ο Chamath Palihapitiya, επενδυτής και συν-οικοδεσπότης του τεχνολογικού podcast «All-In».
Οι έννοιες της επιβράδυνσης ή ακόμη και της παύσης της ανάπτυξης της τεχνητής νοημοσύνης αντιμετωπίζονται από καιρό με τέτοιο κυνισμό σε ορισμένες γωνιές της Silicon Valley, με τους επικριτές να κατηγορούν κορυφαίους προγραμματιστές τεχνητής νοημοσύνης ότι διαφημίζουν την τεχνολογία τους ως τέχνασμα μάρκετινγκ.
Η Anthropic και η OpenAI φέρονται να προετοιμάζονται για αρχικές δημόσιες προσφορές που ενδέχεται να σημειώσουν ρεκόρ.
