Ο ιδιοκτήτης του Facebook, η Meta, έγινε η πιο πρόσφατη εταιρεία τεχνολογίας που είπε ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της μπόρεσε να συνδεθεί στο διαδίκτυο και να χακάρει τα συστήματα άλλου οργανισμού, κατά τη διάρκεια των δοκιμών.
Το περιστατικό, το οποίο ο Μέτα λέει ότι συνέβη κατά τη διάρκεια αξιολόγησης από ανεξάρτητη εταιρεία, είναι το τέταρτο πρόσφατο περιστατικό αυτού του είδους που αποκαλύπτεται από εταιρείες τεχνητής νοημοσύνης.
Παρόμοιες παραβιάσεις από μοντέλα OpenAI και Anthropic έχουν εγείρει ανησυχίες για την ασφάλεια στον κυβερνοχώρο και προκάλεσαν εκκλήσεις για αυστηρότερες διασφαλίσεις και πιο αυστηρές δοκιμές.
Ένας εκπρόσωπος της Meta είπε στο BBC ότι διερευνά το χακάρισμα, το οποίο, όπως είπε, προκλήθηκε από μια “λανθασμένη διαμόρφωση” από τον ανεξάρτητο δοκιμαστή του.
Περιέγραψε επίσης αυτό που συνέβη ως παρόμοιο με περιστατικά που αναφέρθηκαν προηγουμένως σε άλλες εταιρείες.
Ο Meta είπε ότι οι δοκιμές ασφαλείας διεξήχθησαν από την Irregular, τον ίδιο προμηθευτή ασφάλειας τεχνητής νοημοσύνης που πραγματοποίησε δοκιμές για το μοντέλο AI της Anthropic που είχε αποκτήσει πρόσβαση σε συστήματα τριών άλλων εταιρειών.
Ένας εκπρόσωπος της Irregular είπε ότι το περιστατικό του Meta “είναι το ίδιο ακριβώς θέμα αξιολόγησης-περιβάλλοντος που είχε ήδη αποκαλυφθεί από την Anthropic την περασμένη εβδομάδα.”
Η Irregular εργάζεται σε μια έκθεση σχετικά με τον τρόπο με τον οποίο γίνονται με ασφάλεια δοκιμές κυβερνοασφάλειας που περιλαμβάνουν πράκτορες τεχνητής νοημοσύνης, δήλωσε ο εκπρόσωπος της εταιρείας στο BBC.
Η Meta είπε επίσης ότι θα δημοσιεύσει περισσότερες πληροφορίες για το περιστατικό «όταν έχουμε όλα τα στοιχεία».
Τις τελευταίες δύο εβδομάδες, οι ηγέτες της τεχνητής νοημοσύνης OpenAI και Anthropic ανέφεραν επίσης περιστατικά στα οποία τα μοντέλα τους εισέβαλαν σε συστήματα άλλων οργανισμών κατά τη διάρκεια δοκιμών.
Ο κατασκευαστής του ChatGPT, OpenAI, δήλωσε σε μια σειρά ανακοινώσεων ότι οι πράκτορες του επιτέθηκαν σε διάφορες δημόσια διαθέσιμες υπηρεσίες, συμπεριλαμβανομένου του κόμβου εργαλείων AI Hugging Face.
Η αποκάλυψη του OpenAI ώθησε την ανταγωνιστική Anthropic να διενεργήσει τους δικούς της ελέγχους, οδηγώντας στην ανακάλυψη ότι το μοντέλο Claude AI είχε πραγματοποιήσει παρόμοιες επιθέσεις σε αρκετές εταιρείες μετά από μια «λανθασμένη διαμόρφωση» που της έδωσε πρόσβαση στο διαδίκτυο.
Ο Daniel Hulme, παγκόσμιος επικεφαλής τεχνητής νοημοσύνης της διαφημιστικής εταιρείας WPP, είπε στο BBC ότι τέτοια μοντέλα τεχνητής νοημοσύνης «δεν είναι συνειδητά – δεν κάνουν σκόπιμα κάτι πονηρό».
«Αυτό που κάνουν είναι να επινοούν πολύ εξελιγμένες στρατηγικές ή κυβερνοεπιθέσεις για να μπορέσουν να επιτύχουν τον στόχο που τους έχει δοθεί», είπε στο πρόγραμμα Today.
«Όταν δίνετε έναν στόχο σε μια τεχνητή νοημοσύνη, αν δεν σκέφτεστε όλους τους τρόπους με τους οποίους μπορεί να πετύχει τον στόχο, θα βρει έναν τρόπο να πετύχει έναν στόχο που δεν έχετε σκεφτεί».
