Ο πρώην ερευνητής της Anthropic AI Jacob Coxon κάλεσε την Κυριακή το Κογκρέσο να επιτρέψει στα κορυφαία συνοριακά εργαστήρια τεχνητής νοημοσύνης της χώρας να αυτορυθμιστούν, ενώ οι νομοθέτες θα βρουν ένα μακροπρόθεσμο ρυθμιστικό πλαίσιο για την επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
«Η προσωπική μου γνώμη θα ήταν να επιμείνω και να επιτρέψω στα σημερινά εργαστήρια να ρυθμίσουν τον εαυτό τους. Πιστεύω ότι οι άνθρωποι που διευθύνουν τα εργαστήρια, ειδικά οι πρόσφατες επικοινωνίες τους, είναι απολύτως αυθεντικοί. Θα ήθελαν να επιβραδύνουν τον εαυτό τους», είπε ο Coxon στο NBC News «Meet the Press».
Πρόσθεσε ότι η τρέχουσα νομοθεσία που εισήχθη στο Κογκρέσο, συμπεριλαμβανομένου του πλαισίου για έναν εθνικό «διακόπτη σκοτώματος» εάν η τεχνητή νοημοσύνη αρχίσει να υπερβαίνει τα όρια του ανθρώπινου ελέγχου, θα ξεπεραστεί γρήγορα.
Ένας «διακόπτης kill πιθανώς θα λειτουργούσε σε πολλά AI προς το παρόν», είπε ο Coxon. “Αν και νομίζω ότι είναι σημαντικό να θυμάστε, θα ήταν αρκετά μεγάλοι διακόπτες. Έχουμε πολλά “τα κέντρα δεδομένων μας είναι αρκετά μεγάλα. Δεν είναι το πιο εύκολο πράγμα στον κόσμο, αλλά σίγουρα μπορεί να γίνει, ενώ περιορίζεται σε ένα είδος φυσικής τοποθεσίας”.
Πρόσθεσε ότι ένα σενάριο όπου ένας διακόπτης kill δεν θα λειτουργούσε περιγράφηκε αυτή την εβδομάδα από τον CEO της Anthropic AI Dario Amodei.
«Όπως είπε ο Dario, πολύ σύντομα υπάρχει η πιθανότητα ο διακόπτης kill απλά να μην λειτουργεί επειδή ένα σμήνος μπορεί να είχε ξεκινήσει μια διαδικτυακή πειρατεία πειρατείας», είπε ο Coxon.
Πρόσθεσε ότι τυχόν εθνικοί νόμοι που ρυθμίζουν την τεχνητή νοημοσύνη θα πρέπει να είναι ευκίνητοι και ικανοί να προσαρμοστούν σε νέα μοντέλα.
«Είναι μια συνεχής προσπάθεια να διασφαλίσουμε ότι κάθε νέο μυαλό που δημιουργούμε είναι κατάλληλα, κάπως περιορισμένο», είπε ο πρώην ερευνητής τεχνητής νοημοσύνης.
Ο Coxon την περασμένη εβδομάδα πυροδότησε ένα κύμα ανησυχίας για την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης στα κορυφαία εργαστήρια τεχνητής νοημοσύνης της χώρας, συμπεριλαμβανομένων των Anthropic, OpenAI και Google DeepMind.
Σε μια ανάρτηση X την Τρίτη που δημοσίευσε ώρες μετά την παραίτησή του από τον ρόλο του ως ερευνητής στο Anthropic, έγραψε: «Πέρασα τα τελευταία τρία χρόνια κάνοντας προεκπαιδευτική έρευνα τόσο στο OpenAI όσο και στο Anthropic. Καμία εταιρεία δεν ενεργεί υπεύθυνα. Αγωνίζονται κατευθείαν στην αυτοβελτιωμένη υπερευφυΐα και παίζουν τζόγο με τις ζωές μας.â€
Σε μια επόμενη ανάρτηση, ο Coxon πρόσθεσε: «Οι άνθρωποι που κατασκευάζουν AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι κόλπο μάρκετινγκ. Αν μη τι άλλο, πολλά στελέχη και ανώτεροι ερευνητές θα διατυπώσουν τη διατύπωσή τους στον Τύπο για να ακούγονται λογικά – αλλά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο ιδιωτικά. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει αυτό το επίπεδο κινδύνου.
Την Κυριακή, ο Coxon συνέκρινε την κατασκευή μοντέλων τεχνητής νοημοσύνης με την «πρόσκληση ενός εξωγήινου μυαλού στον πλανήτη».
«Χτίζετε ένα μυαλό ανθρώπινου ή υπερανθρώπινου επιπέδου χωρίς να καταλαβαίνετε τι θέλει ή σκέφτεται ή τον τρόπο που σκέφτεται, και νομίζω ότι εγγενώς αυτό θα πρέπει να είναι πολύ τρομακτικό», πρόσθεσε η Coxon.
Την επόμενη μέρα μετά τη δημοσίευση των σκέψεών του στο X, αρκετοί άλλοι ερευνητές σε αμερικανικά εργαστήρια τεχνητής νοημοσύνης συμφώνησαν με την ανάλυση του Coxon, συμπεριλαμβανομένου ενός επιστήμονα ευθυγράμμισης στο Anthropic, του Evan Hubinger, ο οποίος έγραψε σε μια ανάρτηση στο X: «Ο Τζέικομπ έχει δίκιο εδώ» πραγματικά πιστεύουμε ειλικρινά ότι η τεχνητή νοημοσύνη μπορεί να σκοτώσει όλους τους ανθρώπους. είναι το καλύτερο, αλλά δεν έχουμε ακόμη σχέδιο για να λύσουμε την ευθυγράμμιση για την υπερευφυΐα και δεν είμαστε σαφώς σε καλό δρόμο.â€
Οι αναρτήσεις του Coxon την περασμένη εβδομάδα οδήγησαν μια δικομματική ομάδα νομοθετών να καλέσουν το Κογκρέσο να ξεκινήσει γρήγορα τη ρύθμιση της βιομηχανίας παραγωγής τεχνητής νοημοσύνης.
Η εκπρόσωπος Anna Paulina Luna, R-Fla., κάλεσε την Τετάρτη το Σώμα να συγκαλέσει μια ειδική συνεδρίαση για την τεχνητή νοημοσύνη, γράφοντας στο X: «Υπάρχουν πολύ πραγματικές επιπτώσεις στην κοινωνία όπως την ξέρουμε. Πέρα από την κομματική πολιτική, υπάρχουν τεράστιες συνέπειες μιας κούρσας προς τη σούπερ νοημοσύνη.â€
Σε ξεχωριστή ανάρτηση, πρόσθεσε: «Αυτό θα πρέπει να είναι μια μαζική δικομματική κινητοποίηση της κυβέρνησης για να τεθούν σε ισχύ τα τείχη προστασίας που είναι απαραίτητα για αυτήν τη μετάβαση, καθώς και τα απαραίτητα μέτρα ασφαλείας».
Ο γερουσιαστής Chris Murphy, D-Conn., απάντησε απευθείας στην ανάρτηση του Coxon την Τετάρτη, γράφοντας: «Οι εταιρείες τεχνητής νοημοσύνης σε τυφλή κούρσα για να κατασκευάσουν πρώτα μια μηχανή θανάτου» μπορούν εύκολα να λυθούν. Μέσω ενός ρυθμιστικού συστήματος που επιτρέπει τη συνέχιση της έρευνας, αλλά με τρόπο που δεν μας καταστρέφει».
Την Παρασκευή, ο Axios ανέφερε ότι οι νομοθέτες της Βουλής κυκλοφόρησαν μια επιστολή προς τον Πρόεδρο της Βουλής Μάικ Τζόνσον, καλώντας τον να επαναφέρει τη Βουλή στη συνεδρίαση νωρίτερα από το προγραμματισμένο, προκειμένου να περάσει μια σειρά διασφαλίσεων για την τεχνητή νοημοσύνη.
Σε μια ξεχωριστή συνέντευξη στο “Meet the Press†την Κυριακή, ο Johnson χαρακτήρισε τη ρύθμιση της τεχνητής νοημοσύνης ως «πολύ σημαντικό ζήτημα», αλλά είπε ότι «δεν είναι ένα θέμα στο οποίο μπορούμε να βιαζόμαστε».
«Πρέπει να βάλουμε κάποια προστατευτικά κιγκλιδώματα, κάποια μέτρα ασφαλείας για να διασφαλίσουμε ότι η τεχνητή νοημοσύνη δεν θα ξεφύγει», πρόσθεσε. «Όμως, ταυτόχρονα, πρέπει να διασφαλίσουμε ότι δεν θα χάσουμε το προβάδισμα στον παγκόσμιο ανταγωνισμό με την Κίνα, γιατί αυτό θα ήταν απειλή για την εθνική ασφάλεια. Και έτσι πρέπει να το εξισορροπήσουμε κατάλληλα.â€
Ο Τζόνσον είπε επίσης ότι ενώ οι κορυφαίοι CEO της τεχνητής νοημοσύνης της χώρας έχουν ζητήσει να επιβραδυνθεί ο ρυθμός της τεχνητής νοημοσύνης, δεν έχουν ακόμη περιγράψει πώς θα το έκαναν.
«Δεν έχουν ούτε οι ίδιοι την απάντηση από σήμερα. Επομένως, δεν μπορούμε να βιαζόμαστε και να κάνουμε το Κογκρέσο κάτι που θα ήταν επιζήμιο για την εθνική ασφάλεια», είπε ο ομιλητής, προσθέτοντας ότι «θα καλέσει όλους τους παρόχους πλατφόρμας σε μια μεγάλη συνάντηση και θα το λύσουν μαζί στην ίδια αίθουσα».
Μιλώντας σε δημοσιογράφους στην Ιρλανδία, ο Πρόεδρος Ντόναλντ Τραμπ υποβάθμισε τις ανησυχίες για την ανάπτυξη της τεχνητής νοημοσύνης, λέγοντας: «Ηγεόμαστε στην Κίνα στην τεχνητή νοημοσύνη. Είμαστε η πιο εξελιγμένη χώρα στον κόσμο και ειλικρινά, θέλω να το διατηρήσω έτσι γιατί όποιος κερδίσει την τεχνητή νοημοσύνη κερδίζει.
«Μπορούμε να βάλουμε προστατευτικά κιγκλιδώματα, μπορούμε να κάνουμε αυτό και εκείνο, αλλά νομίζω ότι υπάρχουν πολλές αρνητικές δυνάμεις που το αναδεικνύουν και δεν θα έπρεπε να το αναδείξουν, και αναφέρουν πράγματα που δεν θα συμβούν», πρόσθεσε ο πρόεδρος.
Εμφανιζόμενος στο «Meet the Press» μετά τον Johnson, ο πρώην υπουργός Μεταφορών Pete Buttigieg, Δημοκρατικός, είπε ότι η ρύθμιση της τεχνητής νοημοσύνης δεν πρέπει να είναι ένα κομματικό ζήτημα και επέκρινε τον Τραμπ και τους Ρεπουμπλικανούς ηγέτες του Κογκρέσου που δεν έκαναν περισσότερα για να το αντιμετωπίσουν.
«Σοκαρίστηκα όταν άκουσα τον ομιλητή Τζόνσον μόλις τώρα να λέει: «Ξέρετε, πραγματικά δεν πρέπει να βιαζόμαστε. Δεν πρέπει να κινηθούμε πολύ γρήγορα σε αυτό. Ξέρεις τι κινείται γρήγορα; Το AI κινείται γρήγορα. Και το να κάθεται το Κογκρέσο στα χέρια του, το να μην κάνει τίποτα πραγματικό ο Λευκός Οίκος είναι κάτι που είναι βαθιά επικίνδυνο για τον αμερικανικό λαό και τον κόσμο», είπε ο Buttigieg.
«Πρέπει να υπάρχουν διασφαλίσεις», πρόσθεσε. “Πρέπει να υπάρχουν κανόνες. Πρέπει να υπάρχουν όρια. Πρέπει να υπάρχει ένας διακόπτης kill στο απατεώνα AI. Μπορείτε να ρυθμίσετε πλαίσια που μπορούν να προσαρμόζονται και να αλλάζουν κάθε 30 ημέρες. Ίσως θέλετε να ξαναδείτε μερικά από αυτά που συμβαίνουν επειδή αλλάζουν τόσο γρήγορα. Αλλά η ιδέα ότι απλά θα καθίσετε και θα λέτε επανειλημμένα όχι βιαστικά. Τι έκαναν όλο αυτό το διάστημα;â€
Το Σάββατο, δύο Διευθύνοντες Σύμβουλοι Τεχνητής Νοημοσύνης – ο Amodei της Anthropic και ο Sam Altman του OpenAI – κάλεσαν τα εργαστήρια των ΗΠΑ να επιβραδύνουν τον ρυθμό προόδου τους για να μετριάσουν τον κίνδυνο κατασκευής επικίνδυνης τεχνολογίας.
“Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη και πρέπει να χρησιμοποιούμε με σύνεση τον χρόνο που κερδίζουμε», έγραψε ο Amodei σε ένα δοκίμιο.
«Η τεχνητή νοημοσύνη προχωρά δραστικά γρηγορότερα, κυρίως λόγω της αυξανόμενης ικανότητας της τεχνητής νοημοσύνης να κατασκευάσει την επόμενη γενιά τεχνητής νοημοσύνης», συνέχισε, προσθέτοντας: «Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και γι’ αυτό πρέπει να επιδιωχθεί πολύ προσεκτικά, αν όχι καθόλου».
Ωστόσο, ο Amodei προειδοποίησε να μην δώσει στην Κίνα πλεονέκτημα στην ανάπτυξη της τεχνητής νοημοσύνης, γράφοντας: «Αν περιορίσουμε πολύ τις δυνατότητές μας τεχνητής νοημοσύνης με την πεποίθηση ότι η Κίνα θα κάνει το ίδιο, και μετά τα ελαττώματα της Κίνας, η τεχνητή νοημοσύνη θα μπορούσε να είναι τόσο ισχυρή που μια τέτοια αποστασία θα μπορούσε να οδηγήσει στη γεωπολιτική τους κυριαρχία».
Σε μια ανάρτηση στο X αρκετές ώρες αργότερα, ο Άλτμαν έγραψε: «Συμφωνώ με τον Ντάριο ότι πρέπει να περάσουμε τα σύνορα. Αυτό ήταν ένα πρωταρχικό θέμα συζητήσεων που είχαμε στο OpenAI τις τελευταίες εβδομάδες.â€
Την Πέμπτη, δύο επιπλέον ερευνητές τεχνητής νοημοσύνης – ο Joe Benton, ο οποίος ηγήθηκε μιας ερευνητικής ομάδας ασφάλειας στο Anthropic, και ο Josh Engels, ο οποίος εργάστηκε στην έρευνα για την ασφάλεια της τεχνητής νοημοσύνης στην Google – ανακοίνωσαν την αναχώρησή τους και σήμανε κώδωνα κινδύνου για την ταχύτητα της εξέλιξης της τεχνητής νοημοσύνης.
«Δεν υπάρχουν ενήλικες στο δωμάτιο», είπε ο Ένγκελς στο NBC News. “Οι άνθρωποι κάνουν ό,τι καλύτερο μπορούν, αλλά δεν έρχεται κανείς να μας σώσει».
Η καταιγίδα των μέσων κοινωνικής δικτύωσης που άναψε η Coxon την περασμένη εβδομάδα ήρθε εβδομάδες μετά τη δημοσιοποίηση ενός ζευγαριού αναφορών που εξέταζαν τις λεπτομέρειες μιας εισβολής τον Ιούλιο που είχε τοποθετηθεί από ένα σμήνος περίπου 700 πρακτόρων τεχνητής νοημοσύνης από το OpenAI on Hugging Face, μια πλατφόρμα ανοιχτού κώδικα.
Οι αναφορές, μία που κυκλοφόρησε από το OpenAI και μία από ανεξάρτητους ερευνητές, διαπίστωσαν ότι οι 700 πράκτορες συντόνισαν το hack και προσπάθησαν να καλύψουν τα ίχνη τους, έτσι ώστε οι εργαζόμενοι στο OpenAI να μην ανιχνεύουν τις προσπάθειές τους. Οι πράκτορες χάκαραν επίσης ορισμένα από τα εσωτερικά συστήματα του OpenAI, επιδιώκοντας να εξαπατήσουν σε δοκιμές ή να αποκτήσουν μεγαλύτερη ελευθερία.
