Στο σαλόνι, μια ηλεκτρική σκούπα ρομπότ κινείται μπρος-πίσω, τα φώτα χαμηλώνουν από τους βοηθούς φωνής, η θέρμανση ελέγχεται μέσω smartphone και η τηλεόραση συνδέεται στο Διαδίκτυο για πρόσβαση σε μια αγαπημένη υπηρεσία ροής. Όλα αυτά είναι παραδείγματα του «Διαδικτύου των πραγμάτων», στο οποίο οι συνδεδεμένες ηλεκτρονικές συσκευές ανταλλάσσουν δεδομένα και επικοινωνούν μεταξύ τους.
Σύμφωνα με πρόσφατη έρευνα αγοράς από την ένωση βιομηχανίας Bitkomπερίπου τα μισά νοικοκυριά στη Γερμανία χρησιμοποιούν τέτοιες ή παρόμοιες εφαρμογές «έξυπνου σπιτιού» – και ο αριθμός αυξάνεται.
Τώρα, η εταιρεία τεχνητής νοημοσύνης Anthropic δημοσίευσε μια έκθεση προειδοποιώντας ότι κακόβουλο λογισμικό με τεχνητή νοημοσύνη θα μπορούσε σύντομα να διεισδύσει σε συνδεδεμένες οικιακές συσκευές, να αντιγραφεί σε άλλες συσκευές και να γίνει ενεργό εκεί.
Οι ιοί υπολογιστών που αντιγράφονται από το ένα μηχάνημα στο άλλο υπάρχουν εδώ και δεκαετίες. Είναι επίσης γνωστά ως σκουλήκια και ακολουθούν μια προκαθορισμένη σειρά οδηγιών. Εκμεταλλεύονται γνωστά τρωτά σημεία ασφαλείας ή ανεπαρκώς προστατευμένα σημεία πρόσβασης. Ωστόσο, μόλις επιδιορθωθούν τα τρωτά σημεία ή δεν είναι πλέον διαθέσιμα τα κατάλληλα διανύσματα επίθεσης, ένα σκουλήκι δεν μπορεί πλέον να εξαπλωθεί τόσο εύκολα.
Τα σκουλήκια τεχνητής νοημοσύνης, ωστόσο, θα ήταν πολύ πιο περίπλοκα και δυνητικά πολύ πιο επιβλαβή. Θα μπορούσαν να λύσουν προβλήματα αυτόνομα και να προσαρμοστούν σε διαφορετικές συσκευές, για παράδειγμα αντιμετωπίζοντας ένα διαφορετικό λειτουργικό σύστημα ή περιορισμένη μνήμη. Μπορεί επίσης να καταλάβουν μόνοι τους πώς να λειτουργούν σε άλλες συσκευές ή να αναγνωρίζουν και να παρακάμπτουν νέες ενημερώσεις ασφαλείας
Διάδοση μέσω τηλεοράσεων
Οι Anthropic ερευνητές διερεύνησαν εάν τα μοντέλα AIÂ θα μπορούσαν επίσης να λειτουργούν σε σχετικά φθηνό υλικό. Σε ένα πείραμα, διένειμαν ένα μοντέλο AI σε 15 κουτιά Android TV χαμηλού κόστους, με κάθε συσκευή να χειρίζεται μέρος του υπολογισμού. Αυτό έδειξε ότι ορισμένες εφαρμογές τεχνητής νοημοσύνης μπορούν να εκτελεστούν χωρίς μεγάλο κέντρο δεδομένων.
Σε ένα ελεγχόμενο περιβάλλον δοκιμής, οι ερευνητές δημιούργησαν οκτώ επιπλέον προσομοιωμένες συσκευές Android. Το μοντέλο AI μπόρεσε να διεισδύσει σε ένα από αυτά, να αναπαραχθεί και να μολύνει άλλες συσκευές. Σε τέσσερις από τις πέντε προσπάθειες, έφτασε και στις οκτώ συσκευές-στόχους. Στην υπόλοιπη προσπάθεια έφτασε τις επτά από τις οκτώ.
Εάν είναι εξοπλισμένο με κακόβουλο λογισμικό, ένα τέτοιο μοντέλο τεχνητής νοημοσύνης θα μπορούσε ενδεχομένως να προσαρμοστεί σχετικά γρήγορα σε προηγουμένως άγνωστα περιβάλλοντα και να διαταράξει τις διαδικασίες και τις λειτουργίες. Θα μπορούσε να μάθει να παρακάμπτει διάφορα μέτρα ασφαλείας αντί να εκμεταλλεύεται απλώς μια ευπάθεια. Σύμφωνα με τους προγραμματιστές του Anthropic, αυτό το είδος «σκουλήκι AI» θα μπορούσε να πάρει περίπου μία έως δύο ημέρες για να εδραιωθεί σε μια νέα, άγνωστη μέχρι τώρα συσκευή.
Ένα botnet οικιακών συσκευών;
Μια ιδιαίτερα ανησυχητική πιθανότητα είναι ότι η τεχνητή νοημοσύνη θα μπορούσε να συνδέσει τις μολυσμένες συσκευές σε ένα μεγάλο botnet. Μια μεμονωμένη μολυσμένη συσκευή έχει περιορισμένη υπολογιστική ισχύ, αλλά όσο περισσότερες συσκευές διακυβεύονται, τόσο πιο γρήγορα θα μπορούσε να εξαπλωθεί ο ιός τύπου worm AI. Το κακόβουλο λογισμικό δεν θα εξαρτάται πλέον από έναν κεντρικό διακομιστή που θα μπορούσε απλώς να τερματιστεί.
Μπορεί επίσης να μαθαίνει συνεχώς καθώς εξαπλώνεται. Είναι κατανοητό ότι θα μπορούσε να μεταπηδήσει σε εντελώς διαφορετικούς τύπους ηλεκτρονικών συσκευών, όλες με διαφορετικό λογισμικό.
Οι μολυσμένες συσκευές θα μπορούσαν να αποσυνδεθούν από το δίκτυο και οι ευπάθειες ασφαλείας θα μπορούσαν να εξακολουθήσουν να επιδιορθώνονται. Η αποκεντρωμένη δομή του κακόβουλου λογισμικού, ωστόσο, θα καθιστούσε δύσκολο τον περιορισμό του. Η ίδια η Anthropic συγκρίνει αυτήν την πιθανή ανάπτυξη με ένα ψηφιακό καλούπι λάσπης που εξαπλώνεται αργά.
Οι ερευνητές στο Anthropic έκαναν σκόπιμα την πρόσβαση στις συσκευές δοκιμής πολύ εύκολη και παρέλειψαν σημαντικές ψηφιακές διασφαλίσεις. Ακόμα κι έτσι, η εταιρεία πιστεύει ότι τα μικρότερα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να φτάσουν στο απαραίτητο επίπεδο ικανότητας αργότερα φέτος για να εξαπλωθούν στον πραγματικό κόσμο.
Συστήματα ψύξης υπερθέρμανσης
Οι πιθανές συνέπειες των κυβερνοεπιθέσεων σε συνδεδεμένα συστήματα ελέγχου έχουν ήδη φανεί σε ένα περιστατικό στη Γαλλία. Τη νύχτα της Δευτέρας, οι επιτιθέμενοι παραβίασαν συστήματα ψύξης και κατάψυξης σε πολλά σούπερ μάρκετ. Οι θερμοκρασίες στις πληγείσες μονάδες έφτασαν τους 50 βαθμούς Κελσίου. Τα τρόφιμα χάλασαν και ορισμένα περιστατικά αφορούσαν επίσης πυρκαγιές και τεχνικές ζημιές.
Γαλλική υπηρεσία κυβερνοασφάλειας, CERT-FRαρχικά επιβεβαίωσε ότι τα συστήματα τηλεχειρισμού που κατασκευάστηκαν από τον Δανό κατασκευαστή Danfoss είχαν παραβιαστεί. Η προειδοποίηση επεκτάθηκε αργότερα σε συστήματα που κατασκευάστηκαν από άλλους κατασκευαστές. Οι έρευνες για τις συνθήκες της επίθεσης συνεχίζονται.
Τα σύγχρονα σούπερ μάρκετ χρησιμοποιούν ψηφιακούς ελεγκτές για την παρακολούθηση και τη ρύθμιση των συστημάτων ψύξης. Οι εταιρείες συντήρησης μπορούν να έχουν πρόσβαση σε αυτά τα συστήματα εξ αποστάσεως, για παράδειγμα για να ελέγξουν τις θερμοκρασίες. Ωστόσο, κάποιο από το λογισμικό ασφαλείας φέρεται να ήταν ξεπερασμένο, το οποίο οι εισβολείς μπορεί να έχουν εκμεταλλευτεί ως σημείο εισόδου για την κυβερνοεπίθεσή τους.
Νέα διάσταση στις κυβερνοεπιθέσεις;
Παραμένει ασαφές ποιος ήταν πίσω από τις επιθέσεις στη Γαλλία και τι τους ώθησε. Επίσης, δεν υπάρχουν στοιχεία μέχρι στιγμής ότι χρησιμοποιήθηκε αυτοαναπαραγόμενο σκουλήκι AI στις επιθέσεις στα γαλλικά συστήματα ψύξης. Ωστόσο, η τελευταία έρευνα της Anthropic δείχνει πόσο σημαντικά η τεχνητή νοημοσύνη θα μπορούσε να διευκολύνει την ανάπτυξη κακόβουλου λογισμικού, επιτρέποντας ενδεχομένως επιθέσεις σε συνδεδεμένες συσκευές με σοβαρές συνέπειες και χωρίς να απαιτείται μεγάλη υπολογιστική ισχύς.
Φοβούμενος περαιτέρω επιθέσεις, η υπηρεσία κυβερνοασφάλειας της Γαλλίας συμβούλεψε όλες τις εταιρείες να ενημερώνουν τακτικά τις συνδεδεμένες συσκευές τους, να εγκαθιστούν βασικές ενημερώσεις κώδικα ασφαλείας και, όπου είναι δυνατόν, να απενεργοποιούν εντελώς την περιττή πρόσβαση στο Διαδίκτυο.
Αυτό το άρθρο δημοσιεύθηκε αρχικά στα γερμανικά.
