«Έχω αυτή την αίσθηση ότι, μέσα σε λίγους μήνες, η τεχνητή νοημοσύνη θα είναι το μόνο για το οποίο μιλάνε όλοι», είπε ένας υπουργός του υπουργικού συμβουλίου, με ένα δυσοίωνο βλέμμα.
Ήταν το συνέδριο των Εργατικών, με όλους, από υπουργούς έως ακτιβιστές, να χαίρονται για την ανάληψη της εξουσίας από τον Άντι Μπέρναμ και μια ανάκαμψη στις κάλπες μετά την αλλαγή του αρχηγού.
Ωστόσο, ορισμένα ανώτερα στελέχη του Εργατικού Κόμματος άρχισαν ιδιωτικά να αναφέρουν τη δύναμη της τεχνητής νοημοσύνης ως το πράγμα που τους ανησυχούσε περισσότερο, παράλληλα με τις άμεσες πιέσεις στο κόστος ζωής και την εύθραυστη οικονομία.
Ένας υπουργός του υπουργικού συμβουλίου –με μια σύντομη άσχετη με την τεχνολογία– είπε στον Guardian ότι η επικίνδυνη, εκτός ελέγχου τεχνητή νοημοσύνη ήταν το ζήτημα που τους κρατούσε ξύπνιους τη νύχτα, ανησυχώντας για την απειλή για την ανθρωπότητα. «Δεν ήταν ρομπότ δολοφόνοι» που προκαλούσαν την ανησυχία, εξήγησαν, αλλά η ιδέα μιας τεράστιας ποσότητας συγκεντρωμένης, υπερ-έξυπνης δύναμης που δυνητικά θα καταλήξει στα χέρια κακών ηθοποιών.
Ένας άλλος εξέφρασε την ανησυχία ότι η κυβέρνηση «υστερούσε από το κοινό» όσον αφορά την αντιμετώπιση των ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης» και ότι έπρεπε να καλύψει γρήγορα τη διαφορά.
Στην ομιλία του στη διάσκεψη, ο Εντ Μίλιμπαντ ήταν ο πιο έντονος σχετικά με τους «τρομακτικούς» κινδύνους της τεχνητής νοημοσύνης, υποστηρίζοντας ότι οι πολιτικοί δεν μπορούσαν και δεν θα επέτρεπαν τα κέρδη των εταιρειών τεχνολογίας «να αποβούν εις βάρος των παιδιών μας ή μάλιστα της ανθρωπότητας».
Και δεν πέρασε πολύς καιρός για να χτυπήσουν ακόμη πιο δυνατά αυτά τα κουδούνια κινδύνου, με τις τελευταίες επτά ημέρες να μοιάζουν με την εβδομάδα που το Westminster ξύπνησε πλήρως από τις προειδοποιήσεις.
Μια αναταραχή δραστηριότητας ξεκίνησε τη Δευτέρα με τον Kanishka Narayan, τον υπουργό τεχνητής νοημοσύνης, να δηλώνει «πιθανόν, αν όχι αναπόφευκτο» ότι αδίστακτοι πράκτορες θα χακάρουν το βρετανικό κράτος και λέγοντας ότι το Ηνωμένο Βασίλειο επιδιώκει να ενισχύσει την επικείμενη νομοθεσία του για την κυβερνοασφάλεια.
Ήταν το κύριο θέμα συζήτησης στο υπουργικό συμβούλιο την Τρίτη και ακολούθησε ο επικεφαλής της MI5, Ken McCallum, προειδοποιώντας ότι η AI «υπερχρεώνει τον διαγωνισμό κυβερνοασφάλειας μεταξύ επιτιθέμενων και υπερασπιστών». Είπε ότι η μεγαλύτερη απειλή ήταν οι εξτρεμιστικές ομάδες που χρησιμοποιούν την τεχνολογία για να εξαπολύσουν βιολογικά όπλα – τοξίνες που χρησιμοποιούνται για να προκαλέσουν θάνατο και ασθένειες.
Ο Liam Byrne, πρόεδρος της επιτροπής επιχειρήσεων, καινοτομίας, επιστήμης και εμπορίου, δήλωσε ότι η αλλαγή της κυβέρνησης από τον Keir Starmer στο Burnham ήταν εν μέρει πίσω από την αυξημένη εστίαση στην προστασία του Ηνωμένου Βασιλείου από απειλές τεχνητής νοημοσύνης, αλλά έπρεπε να γίνουν ακόμη περισσότερα. «Η πραγματικότητα είναι ότι η διοίκηση του Starmer ήταν πολύ κοντά στις μεγάλες εταιρείες τεχνολογίας», είπε ο Byrne. “Και ο Burnham δεν είναι, ειλικρινά, οπότε υπήρξε αλλαγή στάσης. Αυτά τα πράγματα, συν τις υπηρεσίες ασφαλείας που εκδίδουν την προειδοποίησή τους, αυτό είναι που άλλαξε τον καιρό σε αυτό.»
Ένα υψηλόβαθμο στέλεχος της κυβέρνησης του Εργατικού Κόμματος συμφώνησε ότι η κυβέρνηση του Μπέρναμ έπαιρνε πιο σοβαρά τις προειδοποιήσεις για την ασφάλεια της τεχνητής νοημοσύνης. “Αισθάνομαι ότι υπήρξε μια αλλαγή. Στην τελευταία παρτίδα, πάρα πολλοί από αυτούς είχαν πιει τον τεχνολογικό αδερφό Kool-Aid», είπε.
Η επιτροπή του Byrne πραγματοποίησε μια σύνοδο αποδεικτικών στοιχείων αυτή την εβδομάδα με ηγέτες δημοσίων υπηρεσιών που είναι υπεύθυνοι για την ασφάλεια της τεχνητής νοημοσύνης και στελέχη από τις βασικές εταιρείες – Anthropic, OpenAI, DeepMind και Meta – με διάκριση μεταξύ τους σχετικά με το αν η κυβερνητική δοκιμή νέων μοντέλων πρέπει να είναι υποχρεωτική.
Είπε ότι η επιτροπή του «φωτίζει» το θέμα, ιδιαίτερα όσον αφορά τη συνεργασία με τις ΗΠΑ για τη ρύθμιση και την παρακολούθηση νέων μοντέλων. Είχε αναφερθεί ότι η κυβέρνηση του Ντόναλντ Τραμπ είχε ζητήσει από εταιρείες τεχνητής νοημοσύνης να μην μοιράζονται τα τελευταία τους μοντέλα με το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης αιχμής του Ηνωμένου Βασιλείου για δοκιμές, αν και ο Ναραγιάν επιβεβαίωσε αυτή την εβδομάδα ότι κατάφεραν να διατηρήσουν τη συνεργασία τους.
Όμως ο Μπερν είπε ότι η κυβέρνηση πρέπει τώρα να αδράξει τη στιγμή και να αναλάβει το προβάδισμα στη νέα ρύθμιση, ιδιαίτερα εάν οι Ρεπουμπλικάνοι του Τραμπ χάσουν τον έλεγχο του Κογκρέσου στις ενδιάμεσες εκλογές από τους Δημοκρατικούς.
«Νομίζω ότι η κυβέρνηση εξακολουθεί να βρίσκεται σε ένα δίλημμα μεταξύ του πώς να διατηρήσει την πρόσβαση σε μοντέλο, δεδομένου ενός ιδιότροπου προέδρου των ΗΠΑ, και των διασφαλίσεων που η ίδια η βιομηχανία λέει τώρα ότι είναι απαραίτητες. Θα έλεγα ότι είναι ώρα να αποφασίσετε», είπε ο Μπερν.
“Οι εταιρείες θέλουν να συνεργαστούν … Δεν είναι προς το εμπορικό τους συμφέρον να εκδίδουν μοντέλα που είναι θανατηφόρα. Τώρα πρέπει και αυτοί να πλοηγηθούν στον Λευκό Οίκο. Οπότε πιστεύω ότι αυτή είναι μια στιγμή που η κυβέρνηση πρέπει πραγματικά να κάνει ό,τι είναι σωστό για τη χώρα, επειδή το Κογκρέσο πρόκειται να αλλάξει τη δυναμική σε αυτό στις ΗΠΑ».
Η επερχόμενη προεδρία του Ηνωμένου Βασιλείου στο G20 θα είναι η στιγμή κλειδί για να πιέσουμε για διεθνή δράση για τον χαλιναγωγό της τεχνητής νοημοσύνης. Ο Geoffrey Irving, ο πρώην επικεφαλής επιστήμονας της AISI που μίλησε στην κοινοβουλευτική ακρόαση αυτής της εβδομάδας, πιστεύει ότι οι ανησυχίες του Whitehall είναι δικαιολογημένες. Η τεχνολογία του OpenAI και της Anthropic έχει ήδη δείξει τις δυνατότητες hacking, αλλά τα μοντέλα τους κυκλοφορούν με προστατευτικά κιγκλιδώματα που τουλάχιστον μετριάζουν έναντι της απειλής κακόβουλης συμπεριφοράς.
μετά την προώθηση του ενημερωτικού δελτίου
Ωστόσο, τα λεγόμενα μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα είναι ελεύθερα διαθέσιμα και μπορούν να προσαρμοστούν. Τυπικά, έπιασαν τα μοντέλα με πληρωμή, όπως το OpenAI’s μέσα σε λιγότερο από ένα χρόνο, είπε ο Irving, αν και θα μπορούσαν να προκαλέσουν ήδη αναστάτωση.
“Είναι πολύ πιθανό τα μοντέλα ανοιχτού κώδικα να είναι ήδη αρκετά ισχυρό για να προκαλέσει σοβαρή ζημιά», είπε ο Irving στον Guardian, προσθέτοντας ότι περίμενε ότι η τεχνολογία ανοιχτού κώδικα θα φτάσει τις δυνατότητες των προϊόντων OpenAI και Anthropic «σύντομα». Τα προστατευτικά κιγκλιδώματα “ή δεν υπάρχουν ή μπορούν να αφαιρεθούν επιπόλαια” από μοντέλα ανοιχτού κώδικα, πρόσθεσε.
Η επιχειρηματική επιτροπή άκουσε αυτή την εβδομάδα ότι τα βιοόπλα με δυνατότητα τεχνητής νοημοσύνης θα μπορούσαν να γίνουν η επόμενη σοβαρή απειλή που θα εκδηλωθεί, στον απόηχο της κυβερνοασφάλειας, καθώς τα μοντέλα γίνονται πιο ισχυρά και ως εκ τούτου ικανά να σχεδιάζουν νέες βιολογικές βλάβες – αν και οι ειδικοί προτείνουν ότι υπάρχει ένα κενό μεταξύ του σχεδιασμού επικίνδυνων παθογόνων και της όπλισής τους.
Οι ανησυχίες για την ασφάλεια στον κυβερνοχώρο και τα βιοόπλα μπορεί να κλιμακωθούν γρήγορα σε φόβους για την εξάλειψη της ανθρωπότητας από την τεχνητή νοημοσύνη σε διάφορα σενάρια – μια ανησυχία που είναι ευρέως διαδεδομένη στην κοινότητα της τεχνητής νοημοσύνης και συμμερίζεται ο Irving.
Ωστόσο, ορισμένοι ειδικοί υποστηρίζουν ότι η κυβέρνηση πρέπει να επικεντρωθεί στους άμεσους κινδύνους από την τεχνητή νοημοσύνη. Η καθηγήτρια Έλενα Σίμπερλ, συνδιευθύντρια του Ινστιτούτου Τεχνητής Νοημοσύνης στο King’s College του Λονδίνου, είπε ότι το επιχείρημα του υπαρξιακού κινδύνου δεν είχε «αποδείξεις» και ήταν «θεωρία» και όχι αξιόπιστη απειλή.
«Υπάρχουν μεγαλύτεροι, πιο άμεσοι κίνδυνοι που εγκυμονεί τώρα η τεχνολογία τεχνητής νοημοσύνης και στην πραγματικότητα αποδεικνύονται, όπως το hacking και τα σημάδια ότι η τεχνητή νοημοσύνη μπορεί να είναι τόσο εθιστική όσο τα μέσα κοινωνικής δικτύωσης», είπε ο Simperl.
Ελλείψει διεθνούς κανονισμού για την τεχνητή νοημοσύνη, υπάρχουν κάποιοι στο Whitehall που ανησυχούν για το εάν το Ηνωμένο Βασίλειο προετοιμάζεται αρκετά για να αμυνθεί από τον πόλεμο και τις επιθέσεις με τεχνητή νοημοσύνη.
Αμυντικές πηγές ανέφεραν ότι υπήρχε ανησυχία για την ακύρωση πέρυσι του προγράμματος τεχνητής νοημοσύνης στο κυβερνητικό Εργαστήριο Επιστήμης και Τεχνολογίας Άμυνας (Dstl), που εδρεύει στο Porton Down, με ανησυχίες ότι αυτό ήταν κοντόφθαλμο δεδομένης της ανάγκης για έρευνα αιχμής για την προώθηση των δυνατοτήτων της χώρας και την άμυνα έναντι των κινδύνων της.
Αυτό αντικρούστηκε από έναν εκπρόσωπο του Υπουργείου Άμυνας που είπε ότι η τεχνητή νοημοσύνη «μετατρέπει την άμυνα από τη βιομηχανία στο πεδίο της μάχης και θα διαδραματίσει αποφασιστικό ρόλο στον τρόπο με τον οποίο αγωνιζόμαστε και υπερασπιζόμαστε» και ότι πρέπει «να ενσωματωθεί σε όλες τις ροές εργασίας, αντί για ένα αυτόνομο πρόγραμμα». Τόνισαν μια επένδυση 400 εκατομμυρίων λιρών σε δυνατότητες εστιασμένες στην τεχνητή νοημοσύνη τα επόμενα τέσσερα χρόνια για να «προετοιμάσει το Ηνωμένο Βασίλειο για το μέλλον του πολέμου».
Άλλοι στο Whitehall έχουν την αντίθετη ανησυχία: ότι οι ανησυχίες για την ασφάλεια θα μπορούσαν να γίνουν υπερβολικά κυρίαρχες – και τελικά να εμποδίσουν την υιοθέτηση εργαλείων από την κυβέρνηση που θα μπορούσαν να μεταμορφώσουν την παραγωγικότητα και να λύσουν μακροχρόνια προβλήματα στις δημόσιες υπηρεσίες, από την ιατρική περίθαλψη έως τη μείωση των λιστών αναμονής.
Ο πρώην γραμματέας του υπουργικού συμβουλίου Gus O’Donnell είπε στον Guardian ότι οι υπουργοί έπρεπε να γνωρίζουν “τον κίνδυνο να μείνουν πίσω” όταν επρόκειτο για την τεχνητή νοημοσύνη, όσο να γνωρίζουν την ανάγκη για προστατευτικά κιγκλιδώματα.
Ξεκινώντας μια έκθεση Παγκόσμιου Κυβερνητικού Φόρουμ για την τεχνητή νοημοσύνη με την τεχνολογική εταιρεία Cognizant, ο O’Donnell είπε στον Guardian: «Υπάρχει μεγάλη ανάγκη να το βελτιώσουμε και να προχωρήσουμε πραγματικά. Είμαι πραγματικά αισιόδοξος, αλλά η πρόκληση για εμάς, προφανώς, είναι να διαχειριστούμε τους κινδύνους στην πορεία, να φροντίσουμε να μην κάνουμε λάθη, τα οποία μειώνουν την εμπιστοσύνη των ανθρώπων, πράγμα που σημαίνει ότι αυτό μας κάνει πίσω.â€
