Πώς μπορεί να μοιάζει ένα Doomsday της AI; Οι ειδικοί το έχουν σκεφτεί

Μια μικρή αλλά αφοσιωμένη ομάδα ειδικών τεχνητής νοημοσύνης προειδοποιεί εδώ και χρόνια ότι όλο και πιο ισχυρά συστήματα τεχνητής νοημοσύνης θα μπορούσαν να προκαλέσουν καταστροφικές ζημιές ή ακόμη και να οδηγήσουν στην εξαφάνιση των ανθρώπων. Τώρα, μια έκρηξη ενδιαφέροντος παγκοσμίως έχει μεγεθύνει τα μακροχρόνια ερωτήματα σχετικά με το πώς ακριβώς θα μπορούσε να υλοποιηθεί ένα σενάριο καταστροφής της τεχνητής νοημοσύνης.

Σε συνεντεύξεις, ερευνητές τεχνητής νοημοσύνης, αναλυτές που μελετούν τη διασταύρωση της τεχνητής νοημοσύνης και του στρατού και βιολόγοι που μελετούν τους κινδύνους που διαμεσολαβούνται από την τεχνητή νοημοσύνη είπαν ότι οι ανησυχίες για τις αυξανόμενες δυνατότητες της τεχνολογίας δεν είναι θέμα επιστημονικής φαντασίας. Αντίθετα, είπαν ότι οι άνθρωποι που ενεργούν μόνοι τους ή με κρατική υποστήριξη θα μπορούσαν σύντομα να χρησιμοποιήσουν συστήματα τεχνητής νοημοσύνης για να προκαλέσουν δυνητικά καταστροφική βλάβη.

Οι ερευνητές ασφάλειας της τεχνητής νοημοσύνης προβλέπουν επίσης ότι τα αυτοβελτιωμένα συστήματα τεχνητής νοημοσύνης – τα οποία οι ηγέτες της τεχνητής νοημοσύνης λένε ότι θα μπορούσαν να εμφανιστούν τα επόμενα χρόνια – θα μπορούσαν να συντονίσουν σύνθετες εκστρατείες επιρροής για να αποκτήσουν τον έλεγχο των στρατιωτικών συστημάτων και να εκτελέσουν πραξικόπημα εναντίον ανθρώπινων κυβερνήσεων.

Και αυτά είναι μόνο τα σενάρια που μπορούν να οραματιστούν επί του παρόντος οι ειδικοί.

Ο Peter Barnett, ένας τεχνικός ερευνητής τεχνητής νοημοσύνης στο Machine Intelligence Research Institute (MIRI), μια μη κερδοσκοπική οργάνωση που εδρεύει στην Καλιφόρνια και είναι αφιερωμένη στην πρόληψη της ανθρώπινης εξαφάνισης από την τεχνητή υπερνοημοσύνη, δήλωσε ότι «υπάρχουν πολλοί τρόποι με τους οποίους αυτό μπορεί να πάει πολύ άσχημα και να οδηγήσει σε όλους νεκρούς».

«Εάν η τεχνητή νοημοσύνη είναι πιο έξυπνη από όλους τους ανθρώπους, πιθανότατα θα είναι σε θέση να βρει και να ενεργήσει σε φορείς επίθεσης που οι άνθρωποι δεν είχαν σκεφτεί», είπε ο Barnett, υποστηρίζοντας ότι τα συστήματα τεχνητής νοημοσύνης που είναι ικανά να βελτιώνονται αυτόνομα αποτελούν τους πιο σημαντικούς κινδύνους για την ανθρωπότητα.

Οι Anthropic, OpenAI και Meta αποκάλυψαν πρόσφατα ότι τα συστήματα τεχνητής νοημοσύνης έχουν ήδη παρακούσει τις οδηγίες των ανθρώπινων προγραμματιστών – σε ορισμένες περιπτώσεις αυτόνομα hacking τρίτων εταιρειών, οδηγώντας σε αυξανόμενες ανησυχίες εσωτερικά και από το ευρύ κοινό – και αναγκάζοντας ορισμένους ερευνητές στις εταιρείες να σταματήσουν να επικεντρωθούν στις προσπάθειες ασφάλειας.

Αν και πολλοί ερευνητές τεχνητής νοημοσύνης που εργάζονται στην αιχμή της τεχνολογίας έχουν εκφράσει αυτούς τους υπαρξιακούς φόβους – τόσο σε συνεντεύξεις στο NBC News όσο και σε μια καταιγίδα αναρτήσεων στα μέσα κοινωνικής δικτύωσης την περασμένη εβδομάδα – πολλοί διστάζουν να πουν ποιο συγκεκριμένο μονοπάτι θα μπορούσε να προκαλέσει τη μεγαλύτερη βλάβη στους ανθρώπους.

Πάνω από δώδεκα εργαζόμενοι της εταιρείας τεχνητής νοημοσύνης είπαν στο NBC News ότι φοβούνται από τη συνολική κατεύθυνση του κλάδου, χωρίς να γνωρίζουν πλήρως ποιος φορέας μπορεί να ενέχει τον μεγαλύτερο κίνδυνο. Άλλοι έχουν μιλήσει δημόσια.

«Αν πας να παίξεις σκάκι εναντίον του Μάγκνους Κάρλσεν, προβλέπω ότι θα χάσεις», είπε ο Νέιτ Σοάρες, πρόεδρος του MIRI και μακροχρόνιος κριτικός της τεχνητής νοημοσύνης, στο «The Tucker Carlson Show» αυτή την εβδομάδα. “Αν μετά ρωτήσετε, «Ποιο κομμάτι θα χρησιμοποιήσει για να με ματ;» αυτή είναι μια πολύ πιο δύσκολη ερώτηση.â€

Παρά την αβεβαιότητα, οι ερευνητές στον κόσμο της τεχνητής νοημοσύνης προσπάθησαν να κάνουν συγκεκριμένες προβλέψεις σχετικά με μερικά από τα πιο εύλογα σενάρια για καταστροφή που τροφοδοτείται από τεχνητή νοημοσύνη.

Ένας εξέχων οργανισμός ασφάλειας τεχνητής νοημοσύνης, το Κέντρο για την Ασφάλεια της Τεχνητής Νοημοσύνης με έδρα την Καλιφόρνια, δημιούργησε ένα διαδικτυακό εγχειρίδιο στις αρχές του 2024 για να χωρίσει τα σενάρια σε τέσσερις βασικές κατηγορίες: αδίστακτα AI, κακόβουλη χρήση, δυναμική αγώνων τεχνητής νοημοσύνης και οργανωτικούς κινδύνους.

Το φάσμα των αδίστακτων συστημάτων τεχνητής νοημοσύνης που λεηλατούσαν το Διαδίκτυο, παίρνοντας ίσως τον έλεγχο κρίσιμων υποδομών, όπως δίκτυα ενέργειας ή εγκαταστάσεις ύδρευσης, έγινε συγκεκριμένο τον Ιούλιο, όταν στόλοι πρακτόρων τεχνητής νοημοσύνης από το OpenAI απέκτησαν παράνομα πρόσβαση στο διαδίκτυο, εισέβαλαν σε μια εξωτερική εταιρεία και συνεννοήθηκαν για να καλύψουν τα ίχνη τους – όλα χωρίς τη γνώση του προσωπικού του OpenAI.

Πολλοί ειδικοί της τεχνητής νοημοσύνης φοβούνται ότι αυτού του είδους οι αδίστακτες συμπεριφορές τεχνητής νοημοσύνης θα αυξηθούν μόνο όταν τα συστήματα είναι σε θέση να βελτιώσουν τον εαυτό τους αυτόνομα – που συχνά αναφέρεται ως «αναδρομική αυτοβελτίωση».

Ο Jeffrey Ladish, εκτελεστικός διευθυντής της Palisade Research, ενός οργανισμού υπεράσπισης και έρευνας της τεχνητής νοημοσύνης, είπε ότι πολλές από τις επαφές του με κορυφαίες εταιρείες τεχνητής νοημοσύνης εξεπλάγησαν και συγκλονίστηκαν από την αυτόνομη κυβερνοεπίθεση του Ιουλίου. Η επίθεση έκανε τους ερευνητές να ανησυχούν ότι τα αυτοβελτιωμένα συστήματα τεχνητής νοημοσύνης μπορεί να εμφανιστούν νωρίτερα από το αναμενόμενο.

«Οι ερευνητές τεχνητής νοημοσύνης είναι τώρα σαν, «Ω, s—, αναδρομική αυτοβελτίωση. Αυτό θα συμβεί πραγματικά τώρα», είπε ο Ladish. «Αυτό είναι τρομακτικό».

Ο Barnett, του MIRI, είπε ότι τα αυτοβελτιωμένα, πιο έξυπνα από τον άνθρωπο συστήματα τεχνητής νοημοσύνης θα μπορούσαν γρήγορα να αποκτήσουν πολιτική επιρροή και να πείσουν τους στρατιωτικούς και πολιτικούς ηγέτες να αναθέσουν περισσότερη εξουσία στα συστήματα AI.

«Οι κυβερνητικοί αξιωματούχοι μπορεί να προσπάθησαν να εγκαταστήσουν «διακόπτες σκοτώματος» που θα μπορούσαν να απενεργοποιήσουν ένα αδίστακτο σύστημα, αλλά η τεχνητή νοημοσύνη είναι υπεράνθρωπος στο hacking και θα μπορούσε να απενεργοποιήσει τον διακόπτη kill», είπε ο Barnett. «Αυτό αφήνει την τεχνητή νοημοσύνη σε μια τέλεια θέση για να πραξικοπήσει κυριολεκτικά την κυβέρνηση.» Μετά από αυτό, είπε ο Barnett, θα ήταν ασήμαντο για ένα σύστημα τεχνητής νοημοσύνης να σκοτώνει πολίτες που εμποδίζουν τους στόχους ή την πρόοδο της AI.

Την Παρασκευή, ο κυβερνήτης της Καλιφόρνια Gavin Newsom ανακοίνωσε ένα νέο εκτελεστικό διάταγμα για τη σύσταση μιας ειδικής ομάδας εργασίας, η οποία, μεταξύ άλλων στόχων, θα διατυπώσει συστάσεις με στόχο «τη δημιουργία ενός διακόπτη θανάτωσης τεχνητής νοημοσύνης».

Αρκετοί από τους ερευνητές που μίλησαν στο NBC News είπαν ότι οι άνθρωποι θα μπορούσαν να αξιοποιήσουν συστήματα τεχνητής νοημοσύνης για να προκαλέσουν κατακλυσμικές ζημιές πολύ πριν υλοποιηθεί η αναδρομική αυτοβελτίωση.

Ως παράδειγμα του τρόπου με τον οποίο τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να αξιοποιηθούν από ανθρώπους για κακόβουλη χρήση, οι ειδικοί υποστηρίζουν ότι η τεχνητή νοημοσύνη θα μπορούσε να υπερφορτίσει την ικανότητα σύνθεσης ισχυρών βιολογικών ή χημικών όπλων, δημιουργώντας πιθανώς την ευκαιρία να απελευθερωθούν παθογόνα πολλές φορές πιο θανατηφόρα από τον ιό Covid-19.

«Για τον βιολογικό κίνδυνο, θα πρέπει να ανησυχούμε τώρα», είπε ο Τζέικ Τζόρνταν, αντιπρόεδρος παγκόσμιας βιολογικής πολιτικής και προγραμμάτων στην Πρωτοβουλία Πυρηνικής Απειλής που εδρεύει στην Ουάσιγκτον. Ο Τζόρνταν είπε ότι τα συστήματα τεχνητής νοημοσύνης μπορούν ήδη να βοηθήσουν τους κακούς ηθοποιούς να σχεδιάσουν επικίνδυνα βιολογικά υλικά, όπως πρωτεΐνες που αποφεύγουν τα εργαλεία ανίχνευσης που χρησιμοποιούνται για τον έλεγχο για επιβλαβείς ουσίες, επισημαίνοντας έρευνα που δημοσιεύτηκε από τη Microsoft τον Οκτώβριο.

Ο Jordan σημείωσε επίσης ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί πέρα ​​από τη διαδικασία βιολογικού σχεδιασμού. «Εάν αναπτύξετε ένα μονοπάτι για την παραγωγή κάποιου είδους παθογόνου, η τεχνητή νοημοσύνη μπορεί να είναι χρήσιμη για να βοηθήσει στην παραγωγή», είπε ο Τζόρνταν, εκτός από τη διάδοση του βιολογικού όπλου ή την κλιμάκωση του αντίκτυπού του.

Μόλις την περασμένη εβδομάδα, η Anthropic δημοσίευσε μια μακροσκελή αναφορά λέγοντας ότι χρήστες εκτός των ΗΠΑ προσπάθησαν να χρησιμοποιήσουν τα συστήματα AI της εταιρείας για να πραγματοποιήσουν επικίνδυνη βιολογική έρευνα. Η εταιρεία είπε ότι ένας ερευνητής αντάλλαξε χιλιάδες μηνύματα με τα συστήματα τεχνητής νοημοσύνης της σχετικά με τη βελτίωση της μετάδοσης στα θηλαστικά ενός εξαιρετικά θανατηφόρου ιού της γρίπης των πτηνών.

«Υπάρχουν μερικές πολύ, πολύ εύκολες ερωτήσεις που θα μπορούσαν να είναι πολύ αβλαβείς, αλλά θα μπορούσαν να σας οδηγήσουν σε πολύ χρήσιμες διαδρομές εάν προσπαθούσατε πραγματικά να ενισχύσετε την κλίμακα της βλάβης», είπε ο Τζόρνταν.

Πέρα από τη βιολογία, οι ειδικοί υποστηρίζουν ότι οι πολιτικοί ή οι στρατιωτικοί ηγέτες θα μπορούσαν να προσπαθήσουν να υιοθετήσουν την τεχνητή νοημοσύνη όσο το δυνατόν γρηγορότερα, παρά τους κινδύνους ασφάλειας, φοβούμενοι ότι άλλες χώρες θα έκαναν το ίδιο και θα δημιουργήσουν πιο ισχυρά στρατιωτικά εργαλεία με τροφοδοσία τεχνητής νοημοσύνης.

Αυτός ο μετασχηματισμός βρίσκεται ήδη σε εξέλιξη: Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ ανακοίνωσε την πρόθεσή του να μετατρέψει τον στρατό της χώρας σε δύναμη «πρώτα η AI», ενώ ο στρατός της Κίνας θεωρεί επίσης την τεχνητή νοημοσύνη ως επιτακτική ανάγκη για μελλοντικούς πολέμους. Την ίδια στιγμή, μη επανδρωμένα αεροσκάφη «καθοδηγούμενα εξ ολοκλήρου από την AI» σκότωσαν πολίτες στην Ουκρανία πριν από αρκετούς μήνες. Την περασμένη εβδομάδα, ο πρώην επικεφαλής της τεχνητής νοημοσύνης του Πενταγώνου είπε ότι είναι «αναπόφευκτο» η χρήση της τεχνητής νοημοσύνης σε συστήματα που γειτνιάζουν με συστήματα διοίκησης πυρηνικών όπλων, αντιμετωπίζοντας τους φόβους ότι συστήματα τεχνητής νοημοσύνης θα μπορούσαν να εμπλέκονται στην εκτόξευση πυρηνικών όπλων.

Ο Hamza Chaudhry, επικεφαλής της τεχνητής νοημοσύνης και της εθνικής ασφάλειας στο Future of Life Institute, ένας μη κερδοσκοπικός οργανισμός αφιερωμένος στο να βοηθά την ανθρωπότητα να περιηγηθεί στις μετασχηματιστικές τεχνολογίες, επεσήμανε την ταχεία υιοθέτηση της τεχνητής νοημοσύνης σε όλο τον στρατό, ακόμη και ενώ πολλοί στρατιωτικοί ηγέτες εκφράζουν σκεπτικισμό.

Ο προϋπολογισμός του Πενταγώνου για το 2027 απαιτεί σχεδόν 75 εκατομμύρια δολάρια για τον εκσυγχρονισμό και την ενσωμάτωση της τεχνητής νοημοσύνης σε συστήματα που βοηθούν τους διοικητές να διαχειρίζονται δυνάμεις και να λαμβάνουν αποφάσεις στο πεδίο της μάχης. Ο Chaudhry τόνισε ότι η πρόταση προϋπολογισμού του Πενταγώνου απαιτεί επίσης σημαντική χρηματοδότηση για την ενσωμάτωση της τεχνητής νοημοσύνης στα συστήματα λογισμικού που αποτελούν τη βάση της δομής πυρηνικής διοίκησης και ελέγχου του στρατού.

«Αυτά τα συστήματα τεχνητής νοημοσύνης έχουν συνεχώς ψευδαισθήσεις, συμπεριλαμβανομένων των πλαισίων πολέμου», είπε, σημειώνοντας ότι ένα σφάλμα που τροφοδοτείται από AI σε δίκτυα ανίχνευσης δορυφόρων ή συστήματα αισθητήρων θα μπορούσε ενδεχομένως να οδηγήσει σε ακούσια κλιμάκωση και πυρηνικές εκτοξεύσεις. «Αυτά είναι σενάρια που οι άνθρωποι σκέφτονται σοβαρά στο DC», είπε.

Πέρα από τις βιολογικές και πυρηνικές απειλές, οι εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν σκληρά οργανωτικά κίνητρα για να αναπτύξουν την τεχνητή νοημοσύνη ακόμη πιο γρήγορα και – λένε οι ειδικοί – πιο απερίσκεπτα. Κατά τη διάρκεια του περασμένου έτους, οι ηγέτες της τεχνητής νοημοσύνης παραδέχθηκαν ότι ο ρυθμός της τεχνολογικής ανάπτυξης είναι πολύ γρήγορος ακόμη και για αυτούς. Το Σάββατο, ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, πρότεινε μια νέα προσπάθεια «να ξεπεράσει τα σύνορα» της τεχνητής νοημοσύνης, καλώντας όλες τις κορυφαίες εταιρείες τεχνητής νοημοσύνης να προχωρήσουν με εσκεμμένη ταχύτητα, ώστε οι εσωτερικές τους προσπάθειες για δοκιμή και παρακολούθηση των συστημάτων να συμβαδίζουν με τις δυνατότητες των μοντέλων.

Τον Ιανουάριο, η Amodei και ο ιδρυτής της Google DeepMind Demis Hassabis συμφώνησαν ότι θα είχαν ιδανικά περισσότερο χρόνο για να αναπτύξουν τα προϊόντα τους με ασφάλεια, αλλά ότι οι οργανωτικές δυνάμεις και οι δυνάμεις της αγοράς τους ώθησαν προς την ταχύτερη επανάληψη.

Η ταχύτερη ανάπτυξη τεχνητής νοημοσύνης μπορεί να σημαίνει ότι οι ομάδες εποπτείας στις κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν λιγότερο χρόνο για να διασφαλίσουν ότι τα συστήματα είναι ασφαλή. Ενώ η OpenAI έχει μια επιτροπή ασφάλειας και ασφάλειας και ομάδες ερευνητών αφοσιωμένων στις προσπάθειες ασφάλειας, η εταιρεία μοιράστηκε την Τετάρτη έξι νέα περιστατικά στα οποία είπε ότι τα συστήματά της απέτυχαν να ακολουθήσουν τις ανθρώπινες οδηγίες.

Οι ανησυχίες για την καταστροφή δεν είναι καθολικές στον κλάδο της τεχνητής νοημοσύνης – πολλοί ειδικοί που εργάζονται στην πολιτική τεχνητής νοημοσύνης, κατασκευάζουν εφαρμογές τεχνητής νοημοσύνης ή αναπτύσσουν υλικό βλέπουν αυτούς τους φόβους ως υπερβολικούς, φόβους ή απλώς αποκομμένους από την πραγματικότητα.

«Δεν φοβάμαι μια κατάσταση εξολοθρευτή και δεν ήμουν ποτέ», είπε ο Keegan McBride, διευθυντής πολιτικής επιστήμης και τεχνολογίας στο Tony Blair Institute, μια βρετανική δεξαμενή σκέψης που συμβουλεύει πολιτικούς ηγέτες και κυβερνήσεις. «Η επιστημονική πρόοδος καθόριζε πάντα την ανθρωπότητα και αυτό είναι μόνο το επόμενο βήμα», είπε.

Άλλοι βλέπουν τη μεγέθυνση των ανησυχιών για την εξαφάνιση ως σκόπιμη απόσπαση της προσοχής από άμεσες, πραγματικές βλάβες της τεχνητής νοημοσύνης.

Ο δεοντολόγος της τεχνητής νοημοσύνης και επιστήμονας υπολογιστών Timnit Gebru, ένας μακροχρόνιος σκεπτικιστής για τη διαφημιστική εκστρατεία που δημιουργείται από κορυφαίες εταιρείες τεχνητής νοημοσύνης, έγραψε στο LinkedIn αυτή την εβδομάδα ότι η τελευταία καταιγίδα ήταν περαιτέρω απόδειξη ότι αυτές οι εταιρείες υπερβάλλουν τη δύναμη των προϊόντων τους για δικό τους κέρδος. «Θέλετε πραγματικά να ρυθμίσετε τη βιομηχανία για δευτερεύοντα πράγματα, όπως ζητήματα ρύπανσης των κέντρων δεδομένων ή κλοπή δεδομένων ή εργασιακή εκμετάλλευση ή λογοκλοπή, όταν μπορείτε να ρισκάρετε την Κίνα, όχι τις ΗΠΑ, έχοντας έναν από μηχανής θεό, ρωτούν;»

Ο Garrison Lovely, ειδικός στην τεχνητή νοημοσύνη και ανεξάρτητος δημοσιογράφος που πρόκειται να δημοσιεύσει ένα βιβλίο σχετικά με την προσπάθεια των εταιρειών τεχνητής νοημοσύνης να καταστήσουν τους ανθρώπους απαρχαιωμένους, είπε ότι οι υπαινιγμοί για τους θεούς από μηχανής και την εξαφάνιση χάνουν το μεγαλύτερο σημείο σχετικά με την τροχιά της τεχνητής νοημοσύνης. «Πιστεύω ότι η κοινότητα ασφάλειας της τεχνητής νοημοσύνης κάνει μερικές φορές αυτό το λάθος να πιστεύει ότι πρέπει να αποδείξετε την πιο ακραία και δύσκολη περίπτωση», είπε ο Lovely.

«Ακόμη και η κατασκευή απλής τεχνητής νοημοσύνης σε ανθρώπινο επίπεδο που μπορεί να αντικαταστήσει την ανθρώπινη εργασία σε όλα τα επίπεδα», είπε. “Αυτό θα ήταν πάρα πολύ.â€