Ανησυχίες για την ασφάλεια στον κυβερνοχώρο Anthropic Mythos: Τι λένε οι έξυπνοι άνθρωποι

Ο Gary Marcus, ερευνητής και συγγραφέας τεχνητής νοημοσύνης, είπε ότι η ανακοίνωση του Anthropic για το Mythos ήταν «υπερβολική».

«Σε κάποιο βαθμό, νιώθω ότι μας έπαιξαν», έγραψε ο Μάρκους στο Substack. «Το demo ήταν σίγουρα απόδειξη της ιδέας ότι πρέπει να βάλουμε σε τάξη το ρυθμιστικό και τεχνικό μας σπίτι, αλλά όχι την άμεση απειλή που πίστευαν τα μέσα ενημέρωσης και το κοινό».

Ο Μάρκους είπε από ό,τι έχει δει, το μοντέλο φαίνεται να είναι «αυξάτως καλύτερο» από τα προηγούμενα μοντέλα, παρά μια «ανακάλυψη».

Ο Yann LeCun, ιδρυτής της AMI Labs και πρώην επικεφαλής επιστήμονας AI στο Meta, έριξε επίσης κρύο νερό στη διαφημιστική εκστρατεία Mythos.

«Mythos drama = BS από αυταπάτη» έγραψε σε μια X ανάρτησή του.

Απαντούσε σε μια ανάρτηση από την Aisle, μια εταιρεία ασφάλειας τεχνητής νοημοσύνης, που είπε ότι δοκίμασε μικρότερα, φθηνότερα μοντέλα στα ίδια τρωτά σημεία που επισημαίνονται στην ανακοίνωση Mythos της Anthropic και διαπίστωσε ότι θα μπορούσαν να κάνουν την ίδια ανάλυση.

Ο Jake Moore, ειδικός παγκόσμιας κυβερνοασφάλειας στην ESET, είπε στο Business Insider ότι υπήρχε κάποια γλώσσα μάρκετινγκ στην ανακοίνωση της Anthropic, αλλά ότι “βασικά, αυτό το μοντέλο φαίνεται απίστευτα εντυπωσιακό και θα βελτιωθεί μόνο με την πάροδο του χρόνου”.

«Η Anthropic έχει χτίσει τη φήμη της ως η «πρώτα η ασφάλεια» εταιρεία τεχνητής νοημοσύνης, επομένως ανακοινώσεις όπως αυτή εξυπηρετούν δύο σκοπούς: τη γνήσια προσοχή και τη σηματοδότηση της στάσης της που έχει επίγνωση της ασφάλειας», είπε ο Μουρ.

Ο Dave Kasten, επικεφαλής της πολιτικής στην Palisade Research, είπε ότι πιστεύει ότι είναι πιθανό άλλα μοντέλα τεχνητής νοημοσύνης να μην είναι πολύ πίσω από το Mythos.

Είπε στο CNBC σε συνέντευξή του την Πέμπτη ότι η προσδοκία του είναι ότι «η Anthropic είναι λίγο μπροστά, αλλά όχι συντριπτικά μπροστά, και δεν έχουν απαραίτητα μεγάλη μόνιμη τάφρο εδώ».

Επισήμανε μια πρόσφατη αναφορά από το Axios που ανέφερε ότι το OpenAI διαθέτει επίσης ένα μοντέλο με προηγμένες ικανότητες κυβερνοασφάλειας που σκοπεύει να κυκλοφορήσει μόνο σε μια μικρή ομάδα και όχι στο ευρύ κοινό.

Ο Kasten είπε επίσης ότι πιστεύει ότι ο Gemini δεν είναι επίσης πολύ πίσω, αλλά το γεγονός ότι η Google συνεργάζεται στο Mythos υποδηλώνει ότι η Anthropic πιθανότατα έχει ένα πλεονέκτημα με αυτό το συγκεκριμένο μοντέλο, τουλάχιστον για μερικούς μήνες.

Ο Ντέιβιντ Σακς, επενδυτής τεχνολογίας και πρώην τσάρος της τεχνητής νοημοσύνης του Λευκού Οίκου, είπε ότι οι ισχυρισμοί του Anthropic σχετικά με το Mythos είναι σημαντικοί, αλλά πρέπει να ληφθούν με λίγη βαρύτητα.

“Ο κόσμος δεν έχει άλλη επιλογή από το να λάβει στα σοβαρά την απειλή στον κυβερνοχώρο που σχετίζεται με το Mythos. Αλλά είναι δύσκολο να αγνοήσουμε ότι η Anthropic έχει ιστορία τακτικών τρομοκράτησης”, δήλωσε ο Sacks σε μια ανάρτηση X, μοιράζοντας μερικά παραδείγματα προηγούμενων περιπτώσεων όταν η Anthropic εξέδωσε ανησυχητικές προειδοποιήσεις ή αφηγήσεις σχετικά με μοντέλα τεχνητής νοημοσύνης.

Ο TJ Marlin, Διευθύνων Σύμβουλος της Guardrail Technologies, ο οποίος εργαζόταν στο παρελθόν στην παγκόσμια πρακτική της εγκληματολογικής τεχνολογίας της EY, είπε ότι η συνάντηση μεταξύ ομοσπονδιακών αξιωματούχων και της Wall Street αφορούσε τη διασφάλιση ότι οι τράπεζες, σε περίπτωση μεγάλης παραβίασης της ασφάλειας, δεν θα μπορούσαν να γυρίσουν και να πουν: “Δεν το ξέραμε”.

“Κάθε Διευθύνων Σύμβουλος σε αυτό το δωμάτιο που αποτυγχάνει να τεκμηριώσει μια απάντηση σε επίπεδο συμβουλίου λειτουργεί τώρα στην πιο νομικά εκτεθειμένη θέση”, έγραψε ο Marlin στο LinkedIn.

Ο Pablos Holman, VC στο Deep Future, είπε ότι οι υπερασπιστές της κυβερνοασφάλειας «οι άνθρωποι που προσπαθούν να αμυνθούν από ψηφιακές επιθέσεις» θα επωφεληθούν περισσότερο από τις εξελίξεις στην τεχνητή νοημοσύνη από εκείνους που πραγματοποιούν τις επιθέσεις.

«Τώρα όλοι χάνουν τα μυαλά τους για επιθέσεις με τεχνητή νοημοσύνη», είπε ο Χόλμαν σε μια ανάρτηση στο LinkedIn σχετικά με το Mythos την 1η Απριλίου, πριν από την ανακοίνωση του Anthropic αυτή την εβδομάδα. “Αυτό που τους λείπει είναι ότι οι αμυνόμενοι έχουν τα ίδια AI. Συχνά καλύτερα και πολύ περισσότερους υπολογισμούς.”

Ο Χόλμαν είπε ότι οι υπερασπιστές της κυβερνοασφάλειας θα έχουν πρόσβαση στα ίδια μοντέλα καθώς και σε περισσότερους πόρους για να εργαστούν, όπως ο πηγαίος κώδικας.

“Αυτός είναι ακόμα ένας πόλεμος κλιμάκωσης, αλλά τώρα ο αμυντικός έχει το πλεονέκτημα”, έγραψε. “Η ασφάλεια πρόκειται να βελτιωθεί. Όχι χειρότερα.”

«Έχουμε μπει στη στιγμή του Manhattan Project του κυβερνοασφάλειας», δήλωσε σε μια ανάρτηση ο Ben Seri, συνιδρυτής της startup για την ασφάλεια στον κυβερνοχώρο Zafran Security.

Ο Σέρι είπε ότι η απειλή για την κυβερνοασφάλεια ήταν πραγματική και άμεση, ενώ το αμυντικό δυναμικό ήταν πραγματικό, αλλά θα χρειαζόταν περισσότερος χρόνος για να γίνει αντιληπτός. Είπε ότι η πραγματική πρόκληση θα είναι για τους υπερασπιστές της κυβερνοασφάλειας να εργαστούν πιο γρήγορα σε κλίμακα.

“Η τεχνητή νοημοσύνη θα βρίσκει τα τρωτά σημεία γρηγορότερα. Η τεχνητή νοημοσύνη θα τα διορθώνει γρηγορότερα. Αλλά το σημείο συμφόρησης δεν ήταν ποτέ μόνο η ανακάλυψη ή η αποκατάσταση. Είναι η ικανότητα ανάπτυξης επιδιορθώσεων σε περιβάλλοντα παραγωγής με ασφάλεια, γρήγορα και σε κλίμακα”, είπε. «Η ασφαλής υιοθέτηση της ταχείας αλλαγής στην παραγωγή είναι η πιο σημαντική αλλαγή που πρέπει να κάνουν οι ηγέτες τεχνολογίας και ασφάλειας για να ανταποκριθούν αυτή τη στιγμή».

Η Alice Tecotzky συνέβαλε στην αναφορά.