Claude Mythos: Οι υπουργοί Οικονομικών και οι κορυφαίοι τραπεζίτες εκφράζουν σοβαρές ανησυχίες για το μοντέλο AI

Ο διοικητής της Τράπεζας της Αγγλίας, Άντριου Μπέιλι, δήλωσε στο BBC ότι η εξέλιξη έπρεπε να ληφθεί πολύ σοβαρά υπόψη: «Πρέπει να εξετάσουμε πολύ προσεκτικά τώρα τι μπορεί να σημαίνει αυτή η τελευταία εξέλιξη τεχνητής νοημοσύνης για τον κίνδυνο του εγκλήματος στον κυβερνοχώρο».

Και πρόσθεσε: «Η συνέπεια θα μπορούσε να είναι ότι υπάρχει μια ανάπτυξη της τεχνητής νοημοσύνης, της μοντελοποίησης, που διευκολύνει τον εντοπισμό υφιστάμενων τρωτών σημείων σε βασικά συστήματα πληροφορικής, και στη συνέχεια προφανώς οι εγκληματίες του κυβερνοχώρου -οι κακοί παράγοντες- θα μπορούσαν να επιδιώξουν να τις εκμεταλλευτούν».

Το Υπουργείο Οικονομικών των ΗΠΑ επιβεβαίωσε ότι είχε εγείρει το ζήτημα στις μεγάλες τράπεζες του, ενθαρρύνοντάς τις να δοκιμάσουν τα συστήματά τους, πριν από οποιαδήποτε δημόσια κυκλοφορία του Mythos από την Anthropic.

Πηγές του χρηματοοικονομικού κλάδου ανέφεραν ότι μια άλλη εξέχουσα εταιρεία τεχνητής νοημοσύνης των ΗΠΑ θα μπορούσε σύντομα να κυκλοφορήσει ένα παρόμοιο ισχυρό μοντέλο αλλά χωρίς τις ίδιες διασφαλίσεις.

Ο James Wise, συνεργάτης της Balderton Capital, είναι πρόεδρος της μονάδας Sovereign AI, ενός ταμείου επιχειρηματικού κεφαλαίου που θα επενδύει σε βρετανικές εταιρείες τεχνητής νοημοσύνης, με τη στήριξη £500 εκατομμυρίων κρατικής χρηματοδότησης.

Είπε ότι το Mythos είναι «το πρώτο από τα πολύ πιο ισχυρά μοντέλα» που μπορεί να εκθέσει τα τρωτά σημεία των συστημάτων.

Η μονάδα του “επενδύει σε βρετανικές εταιρείες τεχνητής νοημοσύνης που το αντιμετωπίζουν – εταιρείες που εργάζονται στην ασφάλεια και την ασφάλεια της τεχνητής νοημοσύνης”, είπε στο Πρόγραμμα Today του BBC.

«Ελπίζουμε ότι τα μοντέλα που εκθέτουν τα τρωτά σημεία είναι επίσης τα μοντέλα που θα τα διορθώσουν».