RΤα γαλλικά ψυγεία ήταν ένα απίθανο σημείο συζήτησης για τους κορυφαίους οικονομολόγους, τους κεντρικούς τραπεζίτες και τους επικεφαλής οικονομικών του κόσμου που συναντήθηκαν σε μια αποπνικτική Μπανγκόκ την περασμένη εβδομάδα – βοηθώντας να υπογραμμιστεί το σπειροειδή κόστος των επιθέσεων στον κυβερνοχώρο.
Η Κρισταλίνα Γκεοργκίεβα, η διευθύνουσα σύμβουλος του Διεθνούς Νομισματικού Ταμείου, έπιασε την είδηση ότι αλυσίδες σούπερ μάρκετ σε όλη τη Γαλλία έπρεπε να αφαιρέσουν σωρούς χαλασμένων τροφίμων, αφού χάκερ έφτασαν στα χειριστήρια του ψυγείου τους και ανέβασαν τη θερμοκρασία στους 50 βαθμούς Κελσίου.
Μιλώντας στις ετήσιες συνεδριάσεις του ταμείου στην πρωτεύουσα της Ταϊλάνδης, ήθελε να εκφράσει τη σημασία της προστασίας ενάντια στους «κακούς ηθοποιούς» σε έναν ταχέως μεταβαλλόμενο, διασυνδεδεμένο κόσμο – ειδικά τώρα που η τεχνητή νοημοσύνη «έθετε τη δυνατότητα της ψηφιακής απάτης στα στεροειδή».
Οι υπεύθυνοι χάραξης πολιτικής έχουν προειδοποιήσει εδώ και αρκετό καιρό ότι η έκρηξη της τεχνητής νοημοσύνης θα μπορούσε σε κάποιο σημείο να απειλήσει τη χρηματοπιστωτική σταθερότητα μέσω μιας κατάρρευσης της τιμής της μετοχής – μιας «διόρθωσης», όπως λέγεται ευφημιστικά.
Αλλά μια διαφορετική, σχετική απειλή ήρθε στο επίκεντρο στην Μπανγκόκ. Η Γκεοργκίεβα είπε ότι ανησυχεί ότι το έγκλημα στον κυβερνοχώρο, που τροφοδοτείται από την τεχνητή νοημοσύνη, θα μπορούσε να υπονομεύσει την εμπιστοσύνη στο χρηματοπιστωτικό σύστημα συνολικά.
Οι ροές των μέσων κοινωνικής δικτύωσης είναι γεμάτες με διαφημίσεις που χρησιμοποιούν πλαστά διασημοτήτων για να τοποθετήσουν κρυπτονομίσματα ή χρυσό, και ακόμη και οι παλιές απάτες τύπου email μπορούν να δημιουργηθούν πολύ πιο παραγωγικά.
Ακριβώς όπως μια θάλασσα τεχνητής νοημοσύνης έχει τη δυνατότητα να υπονομεύσει την εμπιστοσύνη στις αναφορές που βασίζονται σε γεγονότα και να ρίξει τους ανθρώπους σε πολιτικά κουνέλια, η Georgieva ανησυχούσε ότι η κυβερνοαπάτη θα μπορούσε να χτυπήσει την εμπιστοσύνη των καταναλωτών στις κύριες τράπεζες.
Αναπολώντας τη δική της παιδική ηλικία πίσω από το σιδερένιο παραπέτασμα στη Βουλγαρία, είπε ότι πολλοί άνθρωποι δεν εμπιστεύονται το σύστημα και κράτησαν τα μετρητά τους σε ένα κουτί παπουτσιών κάτω από το κρεβάτι. «Ανησυχώ, σήμερα, ότι αν δεν καταλάβουμε πώς να προχωρήσουμε σε αυτήν την καμπύλη – μπορεί να καταλήξουμε με πολλούς ανθρώπους με κουτιά παπουτσιών κάτω από τα κρεβάτια τους», είπε.
Μπορεί να μην χρειαστεί καν ένα κύμα εγκλήματος στον κυβερνοχώρο. Αυτή την εβδομάδα, ο διευθύνων σύμβουλος της JP Morgan, Jamie Dimon, προειδοποίησε ότι η τράπεζα δεν θα επιτρέψει στους ψηφιακούς πράκτορες να λειτουργούν για λογαριασμό των πελατών της. «Δεν θέλετε αδίστακτους πράκτορες, και μπορεί να υπάρχουν χιλιάδες από αυτούς», είπε.
Οι πράκτορες AI, συμπεριλαμβανομένου του Meta’s Muse, αρχίζουν να προσφέρουν στους χρήστες τους την ευκαιρία να παραδώσουν τα οικονομικά τους στοιχεία. Στη συνέχεια, οι πράκτορες θα αναζητήσουν τα υψηλότερα ποσοστά αποταμίευσης και θα μεταφέρουν τα χρήματα του χρήστη ανάλογα.
Οι χρηματοπιστωτικές ρυθμιστικές αρχές ανησυχούν για αυτό για διάφορους λόγους. Το ένα είναι ότι εάν τέτοιες υπηρεσίες χρησιμοποιούνται ευρέως, θα μπορούσαν να έχουν αποσταθεροποιητικά αποτελέσματα βοσκής. Με τις καταθέσεις να μπορούν να μετακινηθούν στο χρηματοπιστωτικό σύστημα σε μια στιγμή, θα μπορούσε να επιταχύνει μια τραπεζική λειτουργία σε περιόδους αβεβαιότητας.
Μια δεύτερη ανησυχία είναι αυτή που τόνισε ο Dimon: ποιος είναι υπεύθυνος εάν ο πράκτορας της τεχνητής νοημοσύνης σας λάβει μια οικονομική απόφαση για λογαριασμό σας που αποδεικνύεται καταστροφική – ή ακόμα και εγκληματική;
Η απάντηση είναι πιθανώς ότι θα χρειαστούμε νομολογία για να μάθουμε, η οποία θα έρθει μόνο όταν κάτι πάει άσχημα.
Αυτό είναι ανησυχητικό γιατί η νομική ασάφεια σχετικά με το ποιος χρωστάει τι σε ποιον όταν τα πράγματα πάνε στραβά μπορεί να επιταχύνει την οικονομική αστάθεια.
Το μάθαμε αυτό το μάθημα πίσω στη χρηματοπιστωτική κρίση του 2008, όταν αποδείχθηκε ότι ορισμένες τράπεζες είχαν κατασκευάσει χρηματοοικονομικά προϊόντα με τόσο δαιμονικά πολύπλοκες δομές ευθυνών που ήταν ουσιαστικά αδύνατο να αποτιμηθούν – εξαπολύοντας πανικό.
μετά την προώθηση του ενημερωτικού δελτίου
Μιλώντας μαζί με την Georgieva, ο διοικητής της Τράπεζας της Αγγλίας, Andrew Bailey, ο οποίος προεδρεύει του Συμβουλίου Χρηματοπιστωτικής Σταθερότητας των παγκόσμιων κεντρικών τραπεζιτών, επεσήμανε μια άλλη συγκλονιστική είδηση αυτής της εβδομάδας – ότι η Anthropic είχε προειδοποιήσει ότι τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν σύντομα να “αναπαραχθούν” σε εγχώριες συσκευές. Τηλε, ανατινάζεται ως αποτέλεσμα;
Μια εντελώς συνετή απάντηση θα μπορούσε να είναι οι καταναλωτές να απορρίψουν συσκευές με δυνατότητα σύνδεσης στο Διαδίκτυο και να επιμείνουν σε συσκευές «χαζές» που δεν μπορούν να παραβιαστούν από αυτοαναπαραγόμενα ρομπότ. Αυτόν τον μήνα, μερικά από αυτά τα γαλλικά σούπερ μάρκετ έσπευσαν να βγάλουν τα ψυγεία τους εκτός σύνδεσης για να αποφύγουν το hack.
Ενώ μπορεί να μην είναι μεγάλη απώλεια για την κοινωνία εάν οι βραστήρες και τα ψυγεία με δυνατότητα Διαδικτύου δεν απογειωθούν, το οικονομικό ανάλογο μιας χαζής συσκευής θα ήταν τα κουτιά παπουτσιών της Georgieva – και αυτό θα είχε κόστος για αυτούς τους καταναλωτές και την ομαλή λειτουργία της οικονομίας στο σύνολό της.
Όπως το έθεσε κάπως αποκαλυπτικά ο Bailey: «Αν δεν έχουμε εμπιστοσύνη στα χρήματα, δεν λειτουργούμε ως κοινωνία».
Οι ανώτεροι υπεύθυνοι χάραξης χρηματοοικονομικής πολιτικής είναι πραγματικά ενοχλημένοι από τη σύγκρουση μεταξύ της ταχέως αναπτυσσόμενης τεχνητής νοημοσύνης και του παγκόσμιου χρηματοπιστωτικού συστήματος – το οποίο τώρα εκτείνεται πολύ πέρα από τις αυστηρά ρυθμιζόμενες τράπεζες – για να αγκαλιάσει πλατφόρμες μέσων κοινωνικής δικτύωσης, εφαρμογές πληρωμών και άλλα χρηματοοικονομικά εργαλεία.
Είναι ατυχές αυτή η στιγμή καθώς οι ΗΠΑ – το χωνευτήριο της έκρηξης της τεχνητής νοημοσύνης – διοικούνται από έναν άνθρωπο του οποίου η κύρια συμβολή στη συζήτηση ήταν να προσπαθήσει να μετονομάσει την τεχνητή νοημοσύνη σε «υπερνοημοσύνη» .
Στις συναντήσεις της Μπανγκόκ αυτή την εβδομάδα, ο Kevin Warsh, ο πρόεδρος της Ομοσπονδιακής Τράπεζας των ΗΠΑ, χρησιμοποίησε υπάκουα τη φράση του Ντόναλντ Τραμπ στη σκηνή – όπως έχουν διαταχθεί σε όλες τις κρατικές υπηρεσίες των ΗΠΑ.
Σημειώθηκε κάποια πρόοδος όσον αφορά την αναγνώριση των κινδύνων. Η ειδική ομάδα υπερκατασκοπίας του Τραμπ, υπό την προεδρία του διευθυντή Εθνικής Πληροφορίας, Τζέι Κλέιτον, δημιουργεί μηχανισμούς για τα εργαστήρια τεχνητής νοημοσύνης για να αναφέρουν «παραβιάσεις, χακαρίσματα, jailbreak και άλλα «ζητήματα», αν και δεν φαίνεται, να υποβάλλουν τα μοντέλα τους για δοκιμή πριν από την κυκλοφορία.
Το Ηνωμένο Βασίλειο έχει δεσμευτεί να ασχοληθεί με το θέμα της ασφάλειας της τεχνητής νοημοσύνης ως μέρος της ατζέντας του για την προεδρία της G20 το επόμενο έτος και οι υπουργοί Οικονομικών της G7 ανακοίνωσαν στην Μπανγκόκ ότι θα πραγματοποιήσουν προσομοιώσεις για να δοκιμάσουν την ανθεκτικότητα του παγκόσμιου χρηματοπιστωτικού συστήματος σε επιθέσεις στον κυβερνοχώρο.
Αυτό θα μπορούσε να βοηθήσει στην ανάδειξη των τρωτών σημείων, αλλά τα ερωτήματα που διακυβεύονται είναι πολύ ευρύτερα και πιο περίπλοκα από το εάν οι εγκληματίες μπορούν να χακάρουν τις τράπεζες — και είναι επείγοντα τώρα, όπως και οι προοπτικές για διεθνή συνεργασία φαίνονται δυσοίωνες. Η υπερκατασκοπία θα φαίνεται κάθε άλλο παρά εξαιρετική εάν η κακή χρήση της γίνει έναυσμα για οικονομικό χάος.
