Οι Διευθύνοντες Σύμβουλοι δύο από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο συμφωνούν δημόσια ότι ο αγώνας για την κατασκευή ολοένα και πιο ισχυρών συστημάτων τεχνητής νοημοσύνης πρέπει να επιβραδυνθεί, συνεχίζοντας τον καταρράκτη προειδοποιήσεων αυτής της εβδομάδας από ερευνητές που εργάζονται στην τεχνολογία.
Ο Dario Amodei, Διευθύνων Σύμβουλος της Anthropic, κατασκευαστής του Claude chatbot, δήλωσε σε δοκίμιο που δημοσιεύθηκε το Σάββατο ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει σκόπιμα να «επιβραδύνουν τον ρυθμό» με τον οποίο βελτιώνουν τα μοντέλα τους, υποστηρίζοντας ότι η πρόοδος της τεχνητής νοημοσύνης κινείται ταχύτερα από την ικανότητα των ερευνητών να τα κατανοούν και να τα ελέγχουν.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», έγραψε η Amodei. «Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε».
Ώρες αργότερα, ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, ενέκρινε την ιδέα και είπε ότι η εταιρεία του θα υιοθετήσει μία από τις προτεινόμενες διασφαλίσεις της Amodei.
«Συμφωνώ με τον Ντάριο ότι πρέπει να βαδίσουμε στα σύνορα», έγραψε ο Άλτμαν στο X, λέγοντας ότι το θέμα ήταν κύριο θέμα συζήτησης στο OpenAI τις τελευταίες εβδομάδες.
Ο Altman έχει ζητήσει στο παρελθόν να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης. Σε μια ανάρτηση στις 18 Αυγούστου στο X, είπε ότι το OpenAI είχε διακόψει κάποια προηγμένη εκπαίδευση τεχνητής νοημοσύνης για να διασφαλίσει ότι θα μπορούσε να πληροί τα πρότυπά του καθώς βελτιώνονταν οι δυνατότητες.
Το κάλεσμα του Amodei, που διατυπώθηκε σε ένα δοκίμιο σχεδόν 4.000 λέξεων, έρχεται αφού ερευνητές των Anthropic, OpenAI και Google εξέφρασαν δημόσια ανησυχίες για τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης και τις ανταγωνιστικές πιέσεις που την συνοδεύουν.
Ο Amodei επεσήμανε δύο εξελίξεις που είπε ότι άλλαξαν τη σκέψη του: την αυξανόμενη ικανότητα των συστημάτων τεχνητής νοημοσύνης να δημιουργούν πιο προηγμένη τεχνητή νοημοσύνη και ένα περιστατικό του Ιουλίου στο οποίο αυτόνομοι πράκτορες τεχνητής νοημοσύνης που τροφοδοτούνται από ένα μοντέλο OpenAI χάκαραν συστήματα που ανήκουν στην εταιρεία AI Hugging Face.
“Είναι εύκολο να απορρίψεις αυτό το περιστατικό επειδή κανείς δεν τραυματίστηκε και η οικονομική ζημιά ήταν ελάχιστη, αλλά κατά τη γνώμη μου, ένα σμήνος που κατείχε μεγαλύτερο δυνατότητες αλλά ένα παρόμοιο επίπεδο κακή ευθυγράμμιση θα μπορούσε να προκαλέσει καταστροφική ζημιά», έγραψε.
Ο Jacob Coxon, ένας ερευνητής για την ασφάλεια των Anthropic, ο οποίος παραιτήθηκε αυτή την εβδομάδα, είπε στους συναδέλφους του σε ένα μήνυμα που έλαβε από το NBC News ότι πίστευε ότι η προσέγγιση της βιομηχανίας για την ανάπτυξη υπερευφυούς τεχνητής νοημοσύνης ισοδυναμούσε με ένα «στοίχημα με τις ζωές μας».
«Από μέσα, απλά έχεις κολλήσει στον αγώνα», είπε αργότερα ο Coxon στο NBC News, περιγράφοντας τις ανταγωνιστικές πιέσεις στις εταιρείες τεχνητής νοημοσύνης. «Δεν μπορείτε να αλλάξετε τη συνολική δομική δυναμική της κατάστασης».
«Οι ιδιωτικές εταιρείες σε έναν αγώνα δεν επιτρέπουν σε αυτούς τους ανθρώπους να καταλήξουν να κάνουν καλό και θα μπορούσαμε απλώς να υπνοβατούμε στην καταστροφή», είπε.
Δύο άλλοι ερευνητές που αποχώρησαν πρόσφατα από το Anthropic και το Google DeepMind είπαν στο NBC News ότι είχαν παρόμοιες ανησυχίες.
Ο Joe Benton, ο οποίος ηγείτο μιας ερευνητικής ομάδας ασφάλειας στο Anthropic, προειδοποίησε ότι οι εξελίξεις στην τεχνητή νοημοσύνη θα μπορούσαν να ωθήσουν την ανάπτυξη από τον ήδη «καταστροφικό» ρυθμό της σε έναν «μη ελεγχόμενο». Ο Τζος Ένγκελς, πρώην ερευνητής ασφάλειας της Google, έδωσε μια ακόμη πιο έντονη προειδοποίηση.
«Δεν υπάρχουν ενήλικες στο δωμάτιο», είπε ο Ένγκελς. “Οι άνθρωποι κάνουν ό,τι καλύτερο μπορούν, αλλά δεν έρχεται κανείς να μας σώσει».
Ο Amodei προτείνει αυτό που αποκαλεί «βηματισμός στα σύνορα», ένα σχέδιο τριών μερών που είπε ότι θα εξοικονομούσε περισσότερο χρόνο στους ερευνητές χωρίς να σταματήσει την ανάπτυξη της τεχνητής νοημοσύνης.
Είπε ότι η Anthropic θα αρχίσει να ενσωματώνει ανεξάρτητους αξιολογητές εντός της εταιρείας, δίνοντάς τους πρόσβαση σε μοντέλα, εσωτερικά εργαλεία και ερευνητές για την αξιολόγηση των κινδύνων. Η Amodei ζήτησε παρόμοια εποπτεία σε κορυφαίες εταιρείες τεχνητής νοημοσύνης των ΗΠΑ, με την υποστήριξη ομοσπονδιακών κανονισμών και τελικά για διεθνή συντονισμό.
Ο στόχος δεν είναι να σταματήσει η πρόοδος της τεχνητής νοημοσύνης, έγραψε ο Amodei, αλλά να δοθεί χρόνος στους ερευνητές να αναπτύξουν διασφαλίσεις, να κατανοήσουν καλύτερα πώς λειτουργούν όλο και πιο ικανά συστήματα και να ελέγξουν αν μπορούν να ελεγχθούν αξιόπιστα.
Εκτίμησε ότι η επιβράδυνση της ανάπτυξης θα μπορούσε να αγοράσει τους ερευνητές ένα ή δύο ακόμη χρόνια, ο χρόνος που υποστήριξε θα μπορούσε να αποδειχθεί κρίσιμος καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται όλο και πιο ικανά να συμβάλλουν στη δική τους ανάπτυξη.
«Το διακύβευμα είναι πολύ υψηλό για να είναι ο βηματισμός μια κενή άσκηση – πρέπει να χρησιμοποιήσουμε τον χρόνο που μας δίνει με σύνεση», έγραψε.
