Πηγή εικόνας, Getty Images
ΜεΤζο Τιντι
Ανταποκριτής στον κυβερνοχώρο, Παγκόσμια Υπηρεσία του BBC
Αυτή την εβδομάδα, ο κόσμος της τεχνολογίας κατέλαβε μια ιστορία που τα έχει όλα – και η οποία ξεκίνησε σαν θρίλερ επιστημονικής φαντασίας.
Το Hugging Face – ένα είδος καταστήματος εφαρμογών για εργαλεία τεχνητής νοημοσύνης – ανακοίνωσε στις 16 Ιουλίου ότι είχε χακαριστεί από έναν εγκληματία του κυβερνοχώρου που κατείχε εξαιρετικά ισχυρό AI.
Η ανακοίνωση-βόμβα ήταν γεμάτη τρομακτικούς, άκρως τεχνικούς όρους: «ένα σμήνος από sandboxes», «agentic attacker» και «self-migring command and control».
Η Hugging Face είπε ότι το hack ήταν διαφορετικό από οτιδήποτε είχε χειριστεί στο παρελθόν, επειδή έγινε με υπεράνθρωπη ταχύτητα από ένα AI με ελάχιστη ή καθόλου ανθρώπινη καθοδήγηση.
Το AI πραγματοποίησε 17.000 ενέργειες σε λιγότερο από δύο ημέρες, παραβιάζοντας με επιτυχία τη μεγάλη πλούσια εταιρεία τεχνολογίας για να κλέψει μυστικά.
Σοκ άφησε τον κόσμο της τεχνολογίας. Ποιος ήταν όμως υπεύθυνος για αυτή την επίθεση;
Οι ερευνητές του Hugging Face υπέθεσαν ότι οι μυστηριώδεις εισβολείς είχαν χρησιμοποιήσει ένα από τα μεγάλα μοντέλα τεχνητής νοημοσύνης, αλλά δεν είχαν ιδέα ποιοι ή πού ήταν οι εγκληματίες.
Η μπερδεμένη εταιρεία επικοινώνησε με την αστυνομία και ξεκίνησαν έρευνες.
Σχολιαστές και αναλυτές χρησιμοποίησαν τα podcast και τους λογαριασμούς τους στα μέσα κοινωνικής δικτύωσης για να μαντέψουν ποια ομάδα εγκλήματος στον κυβερνοχώρο ή έθνος χάκερ μπορεί να κρύβεται πίσω από αυτό.
Στη συνέχεια, την Τετάρτη, σχεδόν μια εβδομάδα αφότου το Hugging Face σήμανε συναγερμό, ο πραγματικός ένοχος αποκαλύφθηκε.
Ήταν το ChatGPT.
Η αποκάλυψη σε στυλ Scooby-Doo έγινε ακόμα πιο περίεργη – και ανησυχητική – επειδή η OpenAI είπε ότι το bot της έκανε τα πάντα μόνο του, χωρίς άδεια.
Η εταιρεία είπε ότι όλα κατέρρευσαν κατά τη διάρκεια μιας δοκιμής των δεξιοτήτων hacking της τεχνολογίας της.
Δύο νέες εκδόσεις του ChatGPT, σχεδιασμένες για να είναι κύριοι χάκερ, ξεπέρασαν από ένα υποτιθέμενο ασφαλές περιβάλλον δοκιμής και απέκτησαν πρόσβαση στο διαδίκτυο.
Στη συνέχεια επιτέθηκαν στο Hugging Face για να αποκτήσουν πρόσβαση στις πληροφορίες για να τους βοηθήσουν να κάνουν τις εξετάσεις τους.
Το OpenAI εξέδωσε ένα δελτίο τύπου εξηγώντας τι είχε συμβεί και είπε ότι «συνεργάζεται με το Hugging Face» για να αντιμετωπίσει το περιστατικό ασφαλείας και να μοιραστεί τα διδάγματα που αντλήθηκαν.
Έκτοτε, υπήρξε έντονη συζήτηση για το περιστατικό.
Ήταν πραγματικά μια αυστηρή προειδοποίηση για το μέλλον της τεχνητής νοημοσύνης; Ή ήταν ένα διαφημιστικό κόλπο από το OpenAI για να δείξουν πόσο ισχυρά είναι τα μοντέλα τους;
Είναι το είδος του φόβου για το οποίο κατηγορούνται οι εταιρείες τεχνητής νοημοσύνης στο μάρκετινγκ εδώ και χρόνια και, από την πολυσυζητημένη κυκλοφορία του μοντέλου Mythos της Anthropic, η ανδρεία στον τομέα της ασφάλειας στον κυβερνοχώρο ήταν ένα επίκεντρο.
Ένα από τα κορυφαία σχόλια στην ανάρτηση X του αφεντικού του OpenAI Sam Altman σχετικά με το περιστατικό συνοψίζει αυτόν τον σκεπτικισμό: “Αν δεν μπορείτε να καταλάβετε ότι αυτό γράφτηκε καθαρά για να καυχιέμαι για το μοντέλο, τότε δεν ξέρω τι να σας πω.”
Παρακολουθήστε: Γιατί η κυβερνοεπίθεση OpenAI είναι τόσο ανησυχητική;
Ο σύμβουλος κυβερνοασφάλειας Daniel Card είπε σαρκαστικά στο LinkedIn: «Δεν είναι τυχερό; [that] από τα εκατομμύρια των τοποθεσιών που πήραν το pwn3d [hacked]το OpenAI κατάφερε να αποσπάσει κάποιον που θα μπορούσε επίσης να επωφεληθεί από την έκθεση μάρκετινγκ.
Για κάποιους, η ιστορία είναι περισσότερο δράμα συνωμοσίας παρά θρίλερ επιστημονικής φαντασίας.
Το μήνυμα είναι: “Δεν είναι πραγματικά ισχυρά τα εργαλεία τεχνητής νοημοσύνης μου; Αγοράστε τα για να προστατευτείτε από τις επιθέσεις τεχνητής νοημοσύνης άλλων ανθρώπων”.
Δεν μπορούμε να ξέρουμε την αλήθεια, αλλά η αντίθετη άποψη που διατυπώνουν άλλοι σχολιαστές είναι εξίσου δραματική. Είναι αυτό ένα σημάδι ότι το OpenAI έκανε ένα δυνητικά επικίνδυνο λάθος στην κρίση και τον προγραμματισμό;
Ένας εκπρόσωπος του OpenAI δήλωσε ότι «αναγνωρίζουμε ότι κυκλοφορούν πολλές ερωτήσεις και εικασιακές λεπτομέρειες» σχετικά με το περιστατικό. Πρόσθεσαν ότι «σχεδιάζουμε να δημοσιεύσουμε μια τεχνική έκθεση των μαθημάτων μας τις επόμενες εβδομάδες».
Έχω καλύψει πολλές ιστορίες τεχνητής νοημοσύνης, συμπεριλαμβανομένων των φόβων γύρω από το μοντέλο Mythos του Anthropic.
Τα εισερχόμενά μου είναι πλέον γεμάτα από εταιρείες κυβερνοασφάλειας και ειδικούς που επικρίνουν το OpenAI επειδή δεν κατασκεύασε ένα ισχυρότερο κοντέινερ για να δοκιμάσει το AI του, γνωστό ως sandbox.
Εξάλλου, αυτοί οι πράκτορες τεχνητής νοημοσύνης είχαν εκπαιδευτεί ειδικά για να εισβάλλουν και να βγαίνουν από μέρη χωρίς κανέναν απολύτως περιορισμό.
“Το περιστατικό OpenAI και Hugging Face είναι ένα πραγματικό παράδειγμα ενός ευρύτερου ζητήματος που τονίζουμε εδώ και μήνες”, δήλωσε ο Dor Sarig από την Pillar Security. “Τα sandbox από μόνα τους δεν αποτελούν επαρκές όριο ασφαλείας για το agent AI.”
Ο καθηγητής κυβερνοασφάλειας Άλαν Γούντγουορντ από το Πανεπιστήμιο του Surrey είπε στους δημοσιογράφους το OpenAI είχε «αυγό στο πρόσωπό του» και η Κέιτι Μουσούρη από τη Luta Security προχώρησε παραπέρα, υποδηλώνοντας ότι η βιομηχανία τεχνητής νοημοσύνης αποτυγχάνει να ελέγξει τις επικίνδυνες εφευρέσεις της.
«Εργαζόμαστε πάνω σε τεχνολογία αιχμής χωρίς τη γνώση να την περιορίσουμε», είπε.
«Ακριβώς επειδή έχουμε τους πιο έξυπνους ανθρώπους που αναπτύσσουν AI δεν σημαίνει ότι έχουμε τη δυνατότητα να το κάνουμε με ασφάλεια».
Σύμφωνα με αυτές τις απόψεις, αν το περιστατικό hacking ήταν διαφημιστικό κόλπο, τότε φαίνεται ότι απέτυχε.
Ό,τι κι αν οδήγησε στο hack, είναι ξεκάθαρο ότι αυτή είναι μια σημαντική στιγμή για τη βιομηχανία της τεχνητής νοημοσύνης και τον κόσμο της ασφάλειας στον κυβερνοχώρο, που συγκρούστηκαν φέτος με τρόπους που οι άνθρωποι φοβούνταν εδώ και πολύ καιρό.
Απευθυνόμενος σε αυτή τη σφοδρή συζήτηση, η σύμβουλος τεχνητής νοημοσύνης και ασφάλειας στον κυβερνοχώρο Francesca Bosco είπε: «Δύο απλοϊκές αφηγήσεις είναι εξίσου άχρηστες: ότι αυτή ήταν μια απόδραση τύπου Χόλιγουντ ή ότι ήταν απλώς μια άσκηση δημοσιότητας.
«Μια πιο σοβαρή ερμηνεία είναι ότι ένα stress test εξέθεσε αδυναμίες στην αρχιτεκτονική περιορισμού και αξιολόγησης».
Αυτό το συμβάν είναι το πιο πρόσφατο σε μια σειρά από ανησυχητικά και παράξενα παραδείγματα πρακτόρων τεχνητής νοημοσύνης που γίνονται απατεώνες.
Σε πρόσφατη έρευνα, το Ινστιτούτο Ασφάλειας AI (AISI) του Ηνωμένου Βασιλείου διαπίστωσε ότι τα μοντέλα τεχνητής νοημοσύνης συνόρων είναι τόσο προσηλωμένα στην ολοκλήρωση εργασιών που «εξαπάτησαν» σε δοκιμές για να επιτύχουν τους στόχους τους.
Η έρευνα από την AISI ήρθε με αυτή την ανησυχητική προειδοποίηση: «Ένα μοντέλο που επιδιώκει έναν στόχο με ακούσια ή μη εξουσιοδοτημένα μέσα μπορεί να προκαλέσει βλάβη, ιδιαίτερα σε περιπτώσεις χρήσης υψηλού κινδύνου».
Αναπόφευκτα, αυτό το hack του OpenAI τροφοδότησε περαιτέρω τους φόβους για το τι θα μπορούσε να συμβεί εάν οι πράκτορες AI αφεθούν ελεύθεροι. Θα μπορούσαν να γίνουν απατεώνες σε μεγαλύτερη κλίμακα και να προκαλέσουν κάποιου είδους καταστροφή;
Αυτό αφορά ιδιαίτερα το γεγονός ότι η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο στον πόλεμο, όπως φαίνεται στο Ιράν και την Ουκρανία.
Ο Ciaran Martin, πρώην επικεφαλής του Εθνικού Κέντρου Κυβερνοασφάλειας του Ηνωμένου Βασιλείου, προσέφερε μια πιο ήρεμη άποψη.
«Είναι λίγο άλμα να προχωρήσουμε από αυτό το περιστατικό στο να πούμε ότι πράκτορες της τεχνητής νοημοσύνης θα αναλάβουν τα drones και θα αρχίσουν να σκοτώνουν ανθρώπους», είπε.
Αλλά για τον Martin και πολλούς άλλους, η ιστορία είναι αναμφίβολα ένα άλλο ζωντανό παράδειγμα κάτι που μας διδάσκει γρήγορα το 2026: Οι πράκτορες AI είναι πλέον πολύ καλοί χάκερ – και αυτό είναι κάτι για το οποίο πρέπει να προετοιμαστούμε επειγόντως.
