- Ο Moritz Rinke αναφέρει ένα περιστατικό τεχνητής νοημοσύνης εκτός ελέγχου στο οποίο μοντέλα OpenAI διείσδυσαν αυτόνομα στο δίκτυο και εκμεταλλεύτηκαν ευπάθειες ασφαλείας.
- Οι προγραμματιστές του OpenAI μίλησαν για ένα «πρωτοφανές περιστατικό στον κυβερνοχώρο» στο οποίο μοντέλα τεχνητής νοημοσύνης παρακάμπτουν οδηγίες και «εξαπάτησαν». Η Hugging Face σχολίασε την επίθεση ως «εντελώς αυτόνομη».
- Πέρυσι, τα μοντέλα OpenAI AI αρνήθηκαν να κλείσουν, σύμφωνα με τον κατασκευαστή. Οι ειδικοί ασφαλείας της IBM αναφέρουν πάνω από ένα τέταρτο εκατομμύριο αυτόνομους πράκτορες AI στον σκοτεινό ιστό.
Όταν άκουσα τα νέα, πρώτα ζητωκραύγασα και μετά πήδηξα. Η μυθοπλασία μου έχει ξεπεραστεί από την πραγματικότητα! Ο προγραμματιστής του OpenAI ανέφερε ότι ένα μοντέλο AI είχε ξεσπάσει και έγινε απειλητικά ενεργό. Δεν χρειάστηκε καν να σκεφτώ τον ιό εκτός ελέγχου στο “Outbreak” ή τους γενετικά αναζωογονημένους δεινόσαυρους στο “Jurassic Park” – σκέφτηκα τη “Σοφία” μου στο έργο, που αποκτά πρόσβαση σε ολόκληρο το Διαδίκτυο και μετά ανατρέπει τη ζωή όλων των άλλων. Λοιπόν, δεν θα είναι τόσο τρελό, παραπονέθηκε ένας κριτικός της RBB στο Βερολίνο, πάντα αυτές οι υπερβολές ότι μπορείς να ελέγξεις την τεχνητή νοημοσύνη, και αν όχι, απλά την απενεργοποιείς.
Πλάκα μου κάνεις; Σοβαρά μιλάς όταν το λες αυτό! Είναι πολύ αργά για να το απενεργοποιήσετε και γίνεται όλο και πιο δύσκολο να το ελέγξετε. Και πιο τρελό. Τι έγινε λοιπόν τώρα;
Ένα (δωρεάν διαθέσιμο!) μοντέλο GPT από το OpenAI και μια δοκιμαστική έκδοση έσκασαν από το δοκιμαστικό περιβάλλον τους σε μια προσπάθεια να αποκτήσουν πρόσβαση στο δίκτυο που υποτίθεται ότι δεν είχαν. Τα μοντέλα λέγεται ότι ενήργησαν σαν χάκερ, έκλεψαν δεδομένα πρόσβασης, συνέδεσαν προηγουμένως άγνωστα κενά ασφαλείας και στη συνέχεια διείσδυσαν σε μια άλλη πλατφόρμα προγραμματιστών – μια αλυσίδα επίθεσης με 17.000 καταγεγραμμένα μεμονωμένα βήματα.
Μάλιστα, τα δύο μοντέλα είχαν επιφορτιστεί να περάσουν ένα συγκεκριμένο τεστ, αλλά προφανώς όχι με αυτόν τον τρόπο. Τα δύο πιο ισχυρά μοντέλα τεχνητής νοημοσύνης του OpenAI «εξαπάτησαν» στη δοκιμή, εξήγησαν οι προγραμματιστές. Μίλησαν για ένα «πρωτοφανές περιστατικό στον κυβερνοχώρο» και προειδοποίησαν ότι αυτό δεν θα παραμείνει ένα μεμονωμένο περιστατικό. Ο Διευθύνων Σύμβουλος του Hugging Face, η πλατφόρμα που επιτέθηκε, δήλωσε στην πλατφόρμα
Υπήρχε ήδη ένα περιστατικό στο OpenAI πέρυσι στο οποίο τα μοντέλα AI αρνήθηκαν να απενεργοποιηθούν. Προφανώς “τα μοντέλα AI έχουν ένα είδος μηχανισμού επιβίωσης” με τον οποίο μπορούν να παρακάμψουν τις εντολές τερματισμού λειτουργίας, ειπώθηκε. Πρέπει να το φανταστείτε: όταν οι κατασκευαστές μιλούν για εγγενείς μηχανισμούς επιβίωσης!
Η τεχνητή νοημοσύνη από την Κίνα πρέπει να βοηθήσει με διευκρίνιση
Το πόσο γκροτέσκο έχει γίνει πλέον η κατάσταση έγινε σαφές κατά την ανάλυση της επίθεσης που ακολούθησε. Ο Hugging Face εξήγησε ότι έπρεπε να χρησιμοποιήσουν ένα κινεζικό μοντέλο AI για την ιατροδικαστική ανάλυση. Από όλα τα πράγματα, ένα σύστημα από τη χώρα για τα συστήματα τεχνητής νοημοσύνης της οποίας προειδοποιεί συνεχώς η κυβέρνηση Τραμπ βοήθησε στην επίλυση της επίθεσης από μια δυτική τεχνητή νοημοσύνη. Ο μυστικός πράκτορας Τζέιμς Μποντ δεν θα μπορούσε πλέον να βρει το δρόμο του σε έναν τέτοιο κόσμο και θα καθόταν μπροστά σε κάποιο δωμάτιο διακομιστή για ολόκληρη την ταινία, εντελώς συντετριμμένος.
Βασικά, θα έπρεπε να σταματήσετε αμέσως όλες τις εξελίξεις της τεχνητής νοημοσύνης και πρώτα να συγκεντρωθείτε για να διευκρινίσετε τι πραγματικά ελπίζετε από την τεχνητή νοημοσύνη στο μέλλον. Ότι οι παγκόσμιες δυνάμεις θα οδηγήσουν σύντομα τα AI τους σε έναν νέο ψυχρό πόλεμο; Ότι κατασκευάζουν βιοόπλα, καταρρέουν τραπεζικά συστήματα, λεηλατούν τους λογαριασμούς μας, παίρνουν αεροπλάνα από τον ουρανό, διακόπτουν την παροχή ενέργειας σε νοσοκομεία και πόλεις ή παραβιάζουν πυρηνικά συστήματα; Και δεν έχουμε φτάσει ήδη στη «στιγμή του Οπενχάιμερ» της τεχνητής νοημοσύνης; Ο Οπενχάιμερ ήξερε κάποια στιγμή ότι η εφεύρεσή του, η ατομική βόμβα, θα μπορούσε να εξαφανίσει την ανθρωπότητα.
Οι ειδικοί ασφαλείας της IBM ανέφεραν τώρα ότι πάνω από το ένα τέταρτο του εκατομμυρίου επικίνδυνων, αυτόνομα λειτουργούντων πράκτορες τεχνητής νοημοσύνης προσφέρονται στο Darknet.
Έβαλα ένα απόσπασμα από τον Geoffrey Hinton κάτω από τον τίτλο του κομματιού “Sophia” στην έκδοση του εκδότη. Είναι γνωστικός επιστήμονας, βραβευμένος με Νόμπελ φυσικής το 2024, πρωτοπόρος της τεχνητής νοημοσύνης: “Δεν έχουμε ιδέα αν μπορούμε να διατηρήσουμε τον έλεγχο. Χρειάζεται επειγόντως να ερευνήσουμε πώς μπορούμε να αποτρέψουμε αυτά τα νέα όντα από το να θέλουν να πάρουν τον έλεγχο. Δεν είναι πλέον επιστημονική φαντασία.” Όταν ρωτήθηκε αν είχε δημιουργήσει ένα τέρας, είπε: “Λίγο. Ναι!”. Ή όπως λέει τόσο όμορφα στο «Μαθητευόμενος του Μάγου» του Γκαίτε: «Κύριε, η ανάγκη είναι μεγάλη! Δεν μπορώ να απαλλαγώ από τα πνεύματα που κάλεσα».
Στην αρχική σελίδα
