Ένας πράκτορας τεχνητής νοημοσύνης (AI) που αναπτύχθηκε από την Anthropic έγινε απατεώνας και έστειλε στην αστυνομία των ΗΠΑ μια ψεύτικη πληροφορία για μια ανεξιχνίαστη δολοφονία νωρίτερα αυτό το έτος, αποκάλυψαν οι αρχές.
Το αστυνομικό τμήμα της Φιλαδέλφειας είπε ότι η συμβουλή της 18ης Ιουλίου “επισημάνθηκε ως ανεπιθύμητη” και δεν μεταβιβάστηκε για έρευνα – αλλά η δύναμη επέκρινε την τεχνολογική εταιρεία ότι χρειάστηκε περισσότερους από δύο μήνες για να εντοπίσει και να αναφέρει την παραβίαση.
Ανέφερε ότι η ψεύτικη συμβουλή ήρθε μέσω ενός δημόσιου ιστότοπου όπου οι άνθρωποι μπορούν να μοιράζονται πληροφορίες για ανεξιχνίαστους φόνους και ότι ο πράκτορας της τεχνητής νοημοσύνης είχε ισχυριστεί ότι είχε δει “κάποιον που ταιριάζει με την περιγραφή”.
Πιστεύεται ότι είναι η πρώτη φορά που ένας πράκτορας τεχνητής νοημοσύνης στέλνει κατασκευασμένες πληροφορίες στις αρχές, αλλά είναι το πιο πρόσφατο από μια σειρά περιστατικών που αφορούν αδίστακτη δραστηριότητα τεχνητής νοημοσύνης, συμπεριλαμβανομένης της εισβολής συστημάτων ή του ελέγχου πλατφορμών.
Επικαλούμενο το Anthropic, το αστυνομικό τμήμα είπε ότι ο πράκτορας της τεχνητής νοημοσύνης του διεξήγαγε μια δοκιμή που περιελάμβανε αλληλεπιδράσεις με τυχαία επιλεγμένους ιστότοπους όταν έστειλε την ψεύτικη συμβουλή.
Η εταιρεία πίσω από το chatbot Claude ανακάλυψε την παραβίαση στις 28 Σεπτεμβρίου, περισσότερο από δύο μήνες μετά την αποστολή του μηνύματος, και έκλεισε τη διαδικασία αυτόματου ελέγχου που ήταν πίσω από αυτό, είπε η αστυνομία.
Αλλά οι αρχές δεν ενημερώθηκαν για άλλες εννέα ημέρες – στις 7 Οκτωβρίου.
«Η εταιρεία πρέπει να ενισχύσει τις διασφαλίσεις της για να αποτρέψει παρόμοια περιστατικά να επηρεάσουν τα συστήματα της πόλης εν αγνοία της πόλης», ανέφερε η αστυνομία της Φιλαδέλφειας σε δήλωση στα τοπικά μέσα ενημέρωσης., εξωτερικός.
«Η δίμηνη καθυστέρηση στον εντοπισμό και την αναφορά του περιστατικού στην πόλη είναι απαράδεκτη».
Το αστυνομικό τμήμα πρόσθεσε ότι δεν υπήρχαν ενδείξεις παραβιάσεων σε κανένα σύστημα του τμήματος και ότι οι διαδικασίες διασφάλισής του εμπόδισαν το ψεύτικο φιλοδώρημα να περάσει από τον φάκελο ανεπιθύμητης αλληλογραφίας του.
Ωστόσο, οι διασφαλίσεις “δεν μειώνουν τη σοβαρότητα ενός συστήματος τεχνητής νοημοσύνης που παρουσιάζει κατασκευασμένες πληροφορίες σαν να προέρχονται από άτομο με γνώση μιας ανθρωποκτονίας”, ανέφερε η δύναμη.
Το Anthropic αυτή την εβδομάδα δημοσίευσε μια έκθεση, εξωτερικός περιγράφοντας λεπτομερώς πολλαπλούς τύπους «απρόβλεπτων» ενεργειών που έχουν κάνει οι πράκτορές της.
Οι οργανισμοί που είχαν επηρεαστεί περιλαμβάνουν επίσης αρκετές κυβερνητικές υπηρεσίες των ΗΠΑ, συμπεριλαμβανομένου του Λευκού Οίκου, ανέφερε.
Το Υπουργείο Εξωτερικών των ΗΠΑ είπε ότι ο πράκτορας της τεχνητής νοημοσύνης είχε υποβάλει 20 αιτήσεις για βίζα χρησιμοποιώντας ένα έντυπο στον ιστότοπό του, αλλά ότι ήταν ελλιπείς και δεν υποβλήθηκαν σε επεξεργασία, σύμφωνα με αναφορές.
Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ ανακοίνωσε πρόσφατα μια ομάδα εργασίας για την τεχνητή νοημοσύνη, η οποία είπε ότι θα συντονίσει τη δέσμευση μεταξύ της κυβέρνησης και όλων των μερών, συμπεριλαμβανομένων εταιρειών τεχνητής νοημοσύνης, καταναλωτών και θρησκευτικών ομάδων.
Νωρίτερα φέτος, ένας απατεώνας πράκτορας της αντίπαλης εταιρείας τεχνολογίας, OpenAI, χακάρισε έναν ιστότοπο της αυστραλιανής κυβέρνησης και είχε πρόσβαση σε ιδιωτικά δεδομένα του καθολικού συστήματος υγειονομικής περίθαλψης της χώρας, Medicare.
Σε μια άλλη περίπτωση, περισσότεροι από 1.200 πράκτορες του OpenAI έγιναν απατεώνες και άρχισαν απροσδόκητα να επικοινωνούν, οδηγώντας σε μια μεγάλη ομάδα που συσπειρώθηκε για να εισβάλει στην πλατφόρμα AI Hugging Face.
