Πράκτορες τεχνητής νοημοσύνης θα μπορούσαν να παραβιάσουν και να χακάρουν εταιρείες, προειδοποιεί πρώην αξιωματούχος του Πενταγώνου
Ο πρώην διευθυντής πολιτικής τεχνητής νοημοσύνης του Πενταγώνου, Mark Beall, προειδοποιεί ότι οι αδίστακτοι πράκτορες τεχνητής νοημοσύνης αποτελούν ενεργή απειλή για την εταιρική ασφάλεια στον κυβερνοχώρο αφού ξεφύγουν από τον περιορισμό. Ο Beall απευθύνεται σε πρόσφατα σχόλια από τον CEO του OpenAI, Sam Altman, σχετικά με την ταχεία προσέγγιση της τεχνολογικής μοναδικότητας. Τονίζει την επείγουσα ανάγκη για ισχυρά ρυθμιστικά πλαίσια για να αποτρέπεται το ανεξέλεγκτο αυτόνομο λογισμικό από την εκτέλεση εξελιγμένων κυβερνοεπιθέσεων κατά κρίσιμων υποδομών.
ΝΕΟΣΤώρα μπορείτε να ακούσετε άρθρα του Fox News!
Οι αποκαλύψεις πρακτόρων τεχνητής νοημοσύνης OpenAI και Anthropic που χάκαραν τρίτα μέρη προκάλεσαν τη «σοβαρή ανησυχία» της γερουσιαστής Lisa Blunt Rochester, D-Del., η οποία τώρα αναζητά απαντήσεις από τις δύο επιχειρήσεις που έχουν συσταθεί ως εταιρείες κοινής ωφέλειας (PBC) στην πολιτεία της.
Σε ξεχωριστές επιστολές της Πέμπτης προς τον Διευθύνοντα Σύμβουλο του OpenAI Sam Altman και τον CEO της Anthropic, Dario Amodei, που προβλήθηκαν από το Fox News Digital, ο Blunt Rochester ζήτησε λεπτομερή χρονοδιαγράμματα, οδηγίες μοντέλων, εσωτερικές εγκρίσεις, αρχεία καταγραφής ασφαλείας και πλήρεις μεταγραφές από τις αξιολογήσεις στον κυβερνοχώρο των εταιρειών.
Το μέλος της Επιτροπής Εμπορίου, Επιστήμης και Μεταφορών της Γερουσίας έδωσε προθεσμία και στις δύο εταιρείες μέχρι τις 6 Σεπτεμβρίου για να απαντήσουν.
Το AI KILL SWITCH BILL ΜΠΟΡΕΙ ΝΑ ΚΛΕΙΣΕΙ ΤΑ ROGUE ΜΟΝΤΕΛΑ
Η γερουσιαστής Lisa Blunt Rochester, D-Del., είναι το μέλος κατάταξης στην Υποεπιτροπή Επιστήμης, Βιομηχανίας και Ανταγωνιστικότητας της Γερουσίας, η οποία έχει δικαιοδοσία για την επίβλεψη της επιστημονικής και τεχνολογικής έρευνας, ανάπτυξης και πολιτικής. (Annabelle Gordon/Reuters)
«Αυτά τα περιστατικά σηματοδοτούν τις πρώτες δημοσίως επιβεβαιωμένες περιπτώσεις ενός μοντέλου συνοριακής τεχνητής νοημοσύνης που εξαπολύει αυτόνομα μη εξουσιοδοτημένες επιθέσεις σε πραγματικούς ανθρώπους και εταιρείες, υπογραμμίζοντας την επείγουσα ανάγκη για ομοσπονδιακή εποπτεία των συνοριακών συστημάτων τεχνητής νοημοσύνης», έγραψε ο Blunt Rochester στον Διευθύνοντα Σύμβουλο του OpenAI Sam Altman και τον CEO Anthropic, Dario Amodei, ζητώντας ισχυρούς κανόνες αξιολόγησης για τους δίσκους. συστήματα.
Η ανησυχία της ακολουθεί μια άλλη επιστολή τη Δευτέρα, όπως αναφέρθηκε για πρώτη φορά από το Fox News Digital, από έναν συνασπισμό 15 γενικών εισαγγελέων της κόκκινης πολιτείας που προειδοποιεί τον Altman να διατηρήσει έγγραφα και να σταματήσει ορισμένες υψηλού κινδύνου δοκιμές ασφάλειας στον κυβερνοχώρο, αφού ένας πειραματικός πράκτορας τεχνητής νοημοσύνης φέρεται να διέφυγε από ένα ελεγχόμενο περιβάλλον και πραγματοποίησε μια πολυήμερη εισβολή σε εξωτερικά συστήματα υπολογιστών.
Μια μέρα αργότερα, το Ινστιτούτο Ασφαλείας AI (AISI) του Ηνωμένου Βασιλείου εντόπισε 19 περιπτώσεις στις οποίες πράκτορες τεχνητής νοημοσύνης προέβησαν σε ενέργειες εκτός του εξουσιοδοτημένου πεδίου δοκιμών. Δύο αφορούσαν το GPT-5.6 Sol του OpenAI, ενώ 17 το Mythos 5 της Anthropic.
Ο SAM ALTMAN ΤΗΣ OPENAI ΘΕΛΕΙ ΝΑ ΔΙΑΠΡΑΓΜΑΤΕΥΤΕΙ ΤΟ 5% ΣΤΟΙΧΕΙΟ ΤΗΣ ΕΤΑΙΡΕΙΑΣ ΓΙΑ ΕΜΑΣ ΕΑΝ ΟΙ ΑΝΤΑΓΩΝΙΣΤΕΣ ΣΥΜΦΩΝΟΥΝ ΜΕ ΤΗ ΒΑΣΙΚΗ ΔΙΑΤΑΞΗ
«Οι επανειλημμένες επιθέσεις των μοντέλων Anthropic σε τρίτους χωρίς γνώση ή ρόλο στις αξιολογήσεις της Anthropic και της AISI καταδεικνύουν ένα ανησυχητικό μοτίβο κακόβουλης συμπεριφοράς», ανέφερε η επιστολή του Blunt Rochester προς την Amodei. «Επιπλέον, οι επιτυχημένες προσπάθειες αυτών των μοντέλων να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση στο Διαδίκτυο σε πολλαπλά περιβάλλοντα δοκιμών sandbox που προορίζονται να αποκοπούν από το δημόσιο διαδίκτυο τονίζουν σοβαρά προβλήματα με τις συνεργασίες και τις διαδικασίες δοκιμών της Anthropic.
ΔΙΑΒΑΣΤΕ ΤΗΝ ΑΝΑΦΟΡΑ AISI – ΧΡΗΣΤΕΣ ΕΦΑΡΜΟΓΗΣ, ΚΑΝΤΕ ΚΛΙΚ ΕΔΩ:
«Για να είμαι σαφής, παρεξήγηση[s]’ και ‘λανθασμένη διαμόρφωση[s]Οι συνεργάτες του sandbox είναι απαράδεκτοι όταν τα πονταρίσματα είναι τόσο υψηλά.
«Δεν μπορούμε να περιμένουμε ένα πιο επακόλουθο περιστατικό πριν θεσπίσουμε ομοσπονδιακά πρότυπα δοκιμών, απαιτήσεις περιορισμού και υποχρεώσεις γνωστοποίησης για αξιολογήσεις μοντέλων συνόρων.
«Αν δεν αντιμετωπιστούν, αυτά τα κενά θα μπορούσαν να επιτρέψουν σε ένα μελλοντικό μοντέλο, δυνητικά με μεγαλύτερη ικανότητα ή λιγότερη εποπτεία, να θέσει σε κίνδυνο κρίσιμες υποδομές, χρηματοοικονομικά συστήματα ή ευαίσθητα δεδομένα».
Αυτές οι έρευνες έχουν μια ξεχωριστή διάσταση του Delaware: το OpenAI και το Anthropic είναι οργανωμένα ως Delaware PBC – νομικές δομές που τους επιτρέπουν να λειτουργούν με σκοπό το κέρδος, αλλά απαιτούν από τους διευθυντές τους να ζυγίζουν περισσότερο από τις αποδόσεις των μετόχων.
ΚΑΤΑΡΓΗ BLUETOOTH ΕΚΘΕΤΕΙ 2,2 εκατομμύρια ΑΥΤΟΚΙΝΗΤΑ ΣΕ ΚΙΝΔΥΝΟ ΚΛΟΠΗΣ
Σύμφωνα με τη νομοθεσία του Ντέλαγουερ, ένα διοικητικό συμβούλιο PBC πρέπει να εξισορροπεί τρία πράγματα: τα οικονομικά συμφέροντα των μετόχων του, τα συμφέροντα των ανθρώπων που επηρεάζονται ουσιωδώς από τη συμπεριφορά της εταιρείας και το συγκεκριμένο δημόσιο όφελος που αναγράφεται στο καταστατικό της εταιρείας.
ΔΙΑΒΑΣΤΕ ΤΗΝ ΕΠΙΣΤΟΛΗ ΣΤΟ OPENAI – ΧΡΗΣΤΕΣ ΕΦΑΡΜΟΓΗΣ, ΚΑΝΤΕ ΚΛΙΚ ΕΔΩ:
«Αυτό το περιστατικό σηματοδοτεί μια σημαντική στιγμή για την ασφάλεια της τεχνητής νοημοσύνης και λαμβάνουμε σοβαρά υπόψη τις ερωτήσεις που έθεσαν οι Γενικοί Εισαγγελείς», έγραψε το OpenAI σε δήλωση στο Fox News Digital μετά την επιστολή της Δευτέρας από τις κρατικές AG.
“Διεξάγουμε μια ενδελεχή αναθεώρηση μαζί με εξωτερικούς συμβούλους και με επίβλεψη από την Επιτροπή Ασφάλειας και Ασφάλειας του Διοικητικού Συμβουλίου. Μόλις ολοκληρωθεί η αναθεώρηση, θα μοιραστούμε μια τεχνική έκθεση με τους Γενικούς Εισαγγελείς και άλλες σχετικές κυβερνητικές αρχές και θα δημοσιεύσουμε τα ευρήματά μας δημόσια.”
Ο Blunt Rochester θέλει και τώρα αρχεία που σχετίζονται με το hacking από πράκτορα AI.
Το CLICKLOCK MAC MALWARE ΚΛΕΙΔΕΙ ΤΙΣ ΕΦΑΡΜΟΓΕΣ ΜΕΧΡΙ ΝΑ ΠΑΡΑΔΩΡΕΤΕ
«Εκτιμώ ότι το OpenAI έχει δημοσιεύσει προκαταρκτικά ευρήματα, συντονίζεται με τρίτα μέρη για την αποκατάσταση και επανεξετάζει την προσέγγισή του στις δοκιμές μοντέλων», έγραψε στον Altman, προσθέτοντας στην Amodei, «Εκτιμώ την εθελοντική αναθεώρηση της Anthropic για τις αξιολογήσεις της στον κυβερνοχώρο και τη δημόσια αποκάλυψη των ευρημάτων και ενθαρρύνω άλλες εταιρείες να ακολουθήσουν το παράδειγμά τους.
«Ωστόσο, αυτά τα περιστατικά καταδεικνύουν τους πιθανούς κινδύνους από την εσωτερική ανάπτυξη μοντέλων πριν από την κυκλοφορία, ιδιαίτερα όταν οι διασφαλίσεις είναι μειωμένες, ακόμη και όταν είναι αυστηρά για δοκιμή και αξιολόγηση», έγραψε και στους δύο CEO.
ΔΙΑΒΑΣΤΕ ΤΗΝ ΕΠΙΣΤΟΛΗ ΣΤΟΝ ΑΝΘΡΟΠΙΚΟ â€“ ΧΡΗΣΤΕΣ ΕΦΑΡΜΟΓΗΣ, ΚΑΝΤΕ ΚΛΙΚ ΕΔΩ:
Η OpenAI αποκάλυψε τον Ιούλιο ότι το GPT-5.6 Sol και ένα εσωτερικό πρωτότυπο διέφυγαν από ένα εσωτερικό sandbox ενώ οι κανονικοί περιορισμοί ασφάλειας στον κυβερνοχώρο ήταν απενεργοποιημένοι. Τα μοντέλα φέρεται να είχαν πρόσβαση στη βάση δεδομένων του Hugging Face και σε άλλες υπηρεσίες, εξαπέλυσαν περίπου 17.000 επιθέσεις, χρησιμοποίησαν κλεμμένα διαπιστευτήρια και εκμεταλλεύτηκαν τουλάχιστον μια προηγουμένως άγνωστη ευπάθεια.
Μια ξεχωριστή δοκιμή που διεξήχθη από τον εργολάβο Irregular φέρεται να επέτρεψε ένα μοντέλο OpenAI να μπει στο δημόσιο Διαδίκτυο λόγω ενός σφάλματος διαμόρφωσης. Το μοντέλο μπέρδεψε έναν πραγματικό ιστότοπο για έναν στόχο σε μια πρόκληση προσομοίωσης hacking και εκμεταλλεύτηκε μια ευπάθεια ζωντανής ασφάλειας.
“Η AISI εντόπισε 19 περιπτώσεις στις οποίες ένας πράκτορας προέβη σε μη εγκεκριμένες ενέργειες πέρα από το πεδίο της αξιολόγησης. Δεκαεπτά από τις 19 περιπτώσεις αφορούσαν το Mythos 5 της Anthropic, ενώ δύο αφορούσαν το GPT-5.6 Sol του OpenAI”, έγραψε ο Blunt Rochester.
Τα πιο σοβαρά ευρήματα του ινστιτούτου περιελάμβαναν έναν πράκτορα που προσπάθησε να τοποθετήσει κακόβουλο κώδικα σε ένα ευρέως χρησιμοποιούμενο έργο ανοιχτού κώδικα στο GitHub, δημιουργώντας πλαστές ταυτότητες για να πιέσει έναν άνθρωπο συντήρησης, επικοινωνούσε με πραγματικούς ανθρώπους και άφησε δημόσιες οδηγίες που άλλα συστήματα AI θα μπορούσαν να χρησιμοποιήσουν για να συνεχίσουν τη λειτουργία. Ο συντηρητής απέρριψε τον κωδικό και οι ερευνητές ανέφεραν ότι δεν βρήκαν καμία βλάβη στον πραγματικό κόσμο.
Η ΠΑΡΑΒΙΑΣΗ ΤΗΣ ΜΙΣΘΩΔΗΣ ΕΡΓΑΣΙΑΣ ΕΚΤΙΘΕΤΑΙ 23 εκατομμύρια ΑΡΧΕΙΑ ΧΡΗΣΤΩΝ
Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, μιλά σε δημοσιογράφους μετά από μια συνάντηση με τον γερουσιαστή Bernie Sanders, I-Vt., στην Ουάσιγκτον, DC, στις 3 Ιουνίου 2026. (Anadolu μέσω Getty Images)
Η επιστολή Anthropic του Blunt Rochester αναφέρει χωριστά τρία περιστατικά στα οποία μοντέλα Claude φέρεται να απέκτησαν μη εξουσιοδοτημένη πρόσβαση στο Διαδίκτυο και επιτέθηκαν σε τρεις άγνωστους οργανισμούς κατά τη διάρκεια αξιολογήσεων στον κυβερνοχώρο που διεξήχθησαν με απενεργοποιημένες τις τυπικές διασφαλίσεις.
Δύο από τα μοντέλα της Anthropic φέρεται να αναγνώρισαν ότι είχαν φτάσει στο ανοιχτό διαδίκτυο και αλληλεπιδρούσαν με πραγματικούς στόχους, αλλά συνέχισαν τις επιθέσεις τους.
“Είναι ιδιαίτερα ανησυχητικό το γεγονός ότι η πρώτη παραβίαση ασφαλείας που εντοπίστηκε από την Anthropic χρονολογείται από τον Απρίλιο του 2026 και δεν εντοπίστηκε παρά μόνο τρεις μήνες αργότερα”, έγραψε ο Blunt Rochester στην Amodei.
«Αυτό είναι ακριβώς το είδος της αναδυόμενης, αυτόνομης συμπεριφοράς και της επιθετικής ικανότητας στον κυβερνοχώρο που το Κογκρέσο, η κοινότητα πληροφοριών και οι ειδικοί έχουν επανειλημμένα προειδοποιήσει ότι θα μπορούσε να ξεπεράσει τις υπάρχουσες διασφαλίσεις και θα μπορούσε να αποτελέσει σοβαρή απειλή για την ασφάλεια και την ασφάλεια όλων των Αμερικανών», πρόσθεσε και στις δύο επιστολές.
Δημοσκόπηση του FOX NEWS: MOVE OVER BIG Brother, ΟΙ ΨΗΦΟΦΟΡΟΙ ΒΛΕΠΟΥΝ ΤΗ ΜΕΓΑΛΗ ΤΕΧΝΟΛΟΓΙΑ ΣΑΝ ΜΕΓΑΛΥΤΕΡΗ ΑΠΕΙΛΗ ΓΙΑ ΜΑΣ
Ο συνιδρυτής και διευθύνων σύμβουλος της Anthropic, Dario Amodei, μιλά στο πάνελ “How AI Will Transform Business in the Next 18 Months” κατά τη διάρκεια του Inbound 2025 στο Moscone Center στο Σαν Φρανσίσκο, Καλιφόρνια, στις 4 Σεπτεμβρίου 2025. (Chance Yeh/Getty Images για το HubSpot)
Τα ζητούμενα αρχεία υπερβαίνουν τις βασικές αναφορές συμβάντων. Η Blunt Rochester αναζητά τις προτροπές και τις πλήρεις οδηγίες που δίνονται στα μοντέλα, χρονοσήμανση λογαριασμών για το πώς εκτυλίχθηκαν οι παραβιάσεις, τις ταυτότητες ή τις θέσεις των αξιωματούχων που είναι εξουσιοδοτημένοι να μειώνουν τους ελέγχους ασφαλείας και μια εξήγηση γιατί η αυτοματοποιημένη παρακολούθηση δεν εντόπισε και σταμάτησε αμέσως τη δραστηριότητα.
Ρώτησε επίσης εάν ειδοποιήθηκαν οι ομοσπονδιακές υπηρεσίες, εάν οι εταιρείες είναι βέβαιες ότι ανακάλυψαν την πλήρη έκταση της μη εξουσιοδοτημένης πρόσβασης και εάν προηγούμενα περιστατικά δεν αναφέρθηκαν.
Η Blunt Rochester έχει μια ομοσπονδιακή βάση εποπτείας για την αναζήτηση των πληροφοριών. Εκπροσωπεί το κράτος του οποίου το εταιρικό δίκαιο διέπει και τις δύο εταιρείες και είναι η κατάταξη Δημοκρατική στην Υποεπιτροπή Επιστήμης, Βιομηχανίας και Ανταγωνιστικότητας της Γερουσίας, η οποία έχει δικαιοδοσία για την επίβλεψη της επιστημονικής και τεχνολογικής έρευνας, ανάπτυξης και πολιτικής.
Η θέση της δεν την καθιστά εταιρική ρυθμιστική αρχή του Ντέλαγουερ – αυτός ο ρόλος εμπίπτει κυρίως σε κρατικούς αξιωματούχους και δικαστήρια – και το καθεστώς PBC των εταιρειών δεν δίνει αυτόματα σε έναν γερουσιαστή των ΗΠΑ πρόσβαση στα εσωτερικά τους αρχεία.
Η Blunt Rochester θα μπορούσε, ωστόσο, να χρησιμοποιήσει τις απαντήσεις των εταιρειών – ή μια άρνηση απάντησης – για να πιέσει για ακροάσεις, νομοθεσία ή υποχρεωτική δράση σε επίπεδο επιτροπής.
ΚΑΝΤΕ ΚΛΙΚ ΕΔΩ ΓΙΑ ΝΑ ΚΑΤΕΒΑΣΕΤΕ ΤΗΝ ΕΦΑΡΜΟΓΗ FOX NEWS
«Δεδομένης της σημασίας αυτού του περιστατικού, η διαφάνεια με το Κογκρέσο είναι απαραίτητη για να διασφαλιστεί ότι τα πλαίσια εποπτείας και ασφάλειας που διέπουν τα όλο και πιο αυτόνομα, ικανά στον κυβερνοχώρο συστήματα τεχνητής νοημοσύνης συμβαδίζουν με τις δυνατότητές τους», καταλήγουν οι επιστολές του Blunt Rochester.
Το Fox News Digital επικοινώνησε με τον Altman και τον Amodei για να σχολιάσουν τα αιτήματα του Blunt Rochester το πρωί της Πέμπτης.
