Οι οδηγίες του Πενταγώνου για «υπεύθυνη τεχνητή νοημοσύνη» δεν ακολουθούνται πάντα, δείχνει η έκθεση

Το Πεντάγωνο κατασκευάζει όπλα και έργα με δυνατότητες τεχνητής νοημοσύνης που αξιωματούχοι λένε ότι δεν τηρούν πάντα πιστά τις κατευθυντήριες γραμμές του οργανισμού για την τεχνητή νοημοσύνη, σύμφωνα με μια υπηρεσία επιτήρησης του Κογκρέσου έκθεση δημοσιεύθηκε τον Οκτώβριο.

Οι ερευνητές της τεχνητής νοημοσύνης και οι διεθνείς οργανισμοί έχουν καιρό υποστήριξε για αυστηρή ρύθμιση της τεχνητής νοημοσύνης όταν χρησιμοποιείται σε όπλα που θα μπορούσαν να γίνουν απρόβλεπτα ή να λειτουργήσουν με ελάχιστο ανθρώπινο έλεγχο, υποστηρίζοντας ότι αυτά τα εργαλεία θα μπορούσαν να θέσουν σε κίνδυνο τις ζωές στρατιωτών και πολιτών και να κινδυνεύσουν να κλιμακωθούν γρήγορα οι πόλεμοι. Αλλά ο υπουργός Άμυνας Πιτ Χέγκσεθ έχει επανειλημμένα απορρίψει την προηγούμενη προσοχή για τα εργαλεία τεχνητής νοημοσύνης και έχει ενθαρρύνει την ταχεία αυτόνομη καινοτομία στο Πεντάγωνο.

Το Πεντάγωνο εξέδωσε α σημείωμα τον Ιανουάριο λέγοντας ότι το τμήμα θα γίνει «μια πολεμική δύναμη «πρώτα η AI» σε όλα τα στοιχεία, από εμπρός προς τα πίσω». Τον περασμένο μήνα, Hegseth ανακοινώθηκε μια νέα διοίκηση πολέμου επικεντρώθηκε στην αυτόνομη ανάπτυξη όπλων, συμπεριλαμβανομένων των drones.

Η έκθεση εποπτείας, που δημοσιεύθηκε από το Γραφείο Λογοδοσίας της Κυβέρνησης των ΗΠΑ στις 14 Οκτωβρίου, δίνει μια σπάνια ματιά στο πώς αναπτύσσονται αυτού του είδους τα έργα.

Ο GAO εξέτασε 10 αξιωματούχους που ασχολούνται με την κατασκευή 10 όπλων και εργαλείων για το Πεντάγωνο που χρησιμοποιούν τεχνητή νοημοσύνη για να αναγνωρίζουν αυτόματα στόχους στο πεδίο της μάχης, να επεξεργάζονται την επιτήρηση και να βελτιώνουν τη λήψη τακτικών αποφάσεων και άλλες εργασίες. Τα έργα είναι ανάμεσα σε περισσότερα από 300 κατασκευάζεται με AI στο Πεντάγωνο.

Όταν απάντησαν στην έρευνα του GAO, έξι από τους 10 αξιωματούχους είπαν ότι οι ομάδες τους είχαν «εντοπίσει κινδύνους» χρησιμοποιώντας τα έργα «σε επιχειρησιακό περιβάλλον».

Για να αντιμετωπίσει κάποιους από αυτούς τους κινδύνους, το 2021, το Πεντάγωνο έστειλε ένα υπόμνημα που περιγράφει έξι βασικές αρχές για να διασφαλίσει ότι τα όπλα που κατασκευάζονται με τεχνητή νοημοσύνη δημιουργούνται υπεύθυνα. Αυτές οι έξι κατευθυντήριες γραμμές τονίζουν κυρίως τη σημασία της εποπτείας σε όλο το Πεντάγωνο, της επαλήθευσης και της «παρακολούθησης σε πραγματικό χρόνο» της τεχνολογίας και της συνεργασίας με τους συμμάχους «για την προώθηση παγκόσμιων κανόνων που βασίζονται σε κοινές αξίες».

Η Alissa Czyz, η οποία διηύθυνε την αναθεώρηση του GAO, είπε ότι οι αρχές εξελίχθηκαν από προηγούμενες ηθικές αρχές και ενώ δεν ήταν κανόνες, οι άνθρωποι που ασχολούνται με την κατασκευή εργαλείων τεχνητής νοημοσύνης στο Πεντάγωνο θεωρούσαν ότι είναι σημαντικές.

«Είναι ένα σημείωμα, σωστά, στο τέλος της ημέρας, επομένως δεν είναι οδηγία τμήματος», είπε ο Czyz. «Είναι κάτι που το τμήμα έχει επισημάνει ότι πρέπει να εφαρμοστεί».

Οι περισσότεροι από τους ανθρώπους που συμμετείχαν στην κατασκευή των 10 όπλων και έργων που εξετάστηκαν από το GAO είχαν κάνει «τουλάχιστον τα πρώτα βήματα» για να ακολουθήσουν τις έξι αρχές που περιγράφονται στο σημείωμα, σύμφωνα με την έκθεση, και ορισμένα από τα έργα βρίσκονταν σε πρώιμα στάδια, διευκρίνισε ο Czyz.

Ωστόσο, ορισμένες από τις απαντήσεις έδειξαν ότι οι αξιωματούχοι δεν ακολουθούσαν πάντα πιστά τις οδηγίες.

Τέσσερις αξιωματούχοι είπαν στο GAO ότι οι απαιτήσεις για τα όπλα και τα έργα στα οποία εργάζονταν δεν ήταν «ευθυγραμμισμένες με τις αρχές του Responsible AI». Και τρεις από τους 10 αξιωματούχους είπαν στο GAO ότι “δεν γνωρίζουν” εάν τα έργα θα παρακολουθούνται συνεχώς μετά την ανάπτυξή τους, αν και οι έξι αρχές ενθαρρύνουν την παρακολούθηση.

Αξιωματούχοι είπαν στο GAO ότι περισσότερη πρόσβαση σε εμπειρογνωμοσύνη σχετικά με τις κατευθυντήριες γραμμές του οργανισμού ή το προσωπικό που γνωρίζει γι ‘αυτές θα αύξανε την ικανότητά τους να ενσωματώνουν την τεχνητή νοημοσύνη υπεύθυνα. Όμως, η ομάδα που βοηθά στη διαχείριση της εκπαίδευσης σύμφωνα με τις κατευθυντήριες γραμμές του Πενταγώνου, το Τμήμα Υπεύθυνης Διεύθυνσης AI, είναι ανεπαρκές. Αν και η ομάδα εξουσιοδοτήθηκε να προσλάβει 10 άτομα το 2023, από τον Φεβρουάριο, μόνο τρεις από αυτές τις θέσεις καλύφθηκαν και το Πεντάγωνο «είναι απίθανο να καλύψει κενές θέσεις ή να αυξήσει το προσωπικό», αναφέρει η έκθεση.

“Αυτός είναι ένας πολύ μικρός αριθμός ανθρώπων που είναι επιφορτισμένοι με μια μεγάλη ευθύνη της υπεύθυνης τεχνητής νοημοσύνης σε όλο το τμήμα”, είπε ο Czyz.

Ο GAO εξέδωσε δύο συστάσεις: Το Πεντάγωνο θα πρέπει να περιγράψει με μεγαλύτερη σαφήνεια τις αρμοδιότητες και τα χρονοδιαγράμματα συναντήσεων του γραφείου που είναι επιφορτισμένο με την επίβλεψη της ρύθμισης της τεχνητής νοημοσύνης και να αντιμετωπίσει την υποστελέχωση. Αν και το Πεντάγωνο συμφώνησε με αυτές τις συστάσεις, από τις 22 Οκτωβρίου, η υπηρεσία δεν είχε εφαρμόσει αυτές τις αλλαγές, επιβεβαίωσε εκπρόσωπος του GAO στο NPR.

Το NPR ρώτησε το Πεντάγωνο πότε σχεδίαζε να κάνει αυτές τις αλλαγές, αλλά δεν έλαβε απάντηση.

Όταν εκφώνησε μια ομιλία στο SpaceX τον Ιανουάριο, ο Χέγκσεθ δήλωσε ότι πίστευε ότι η ανάπτυξη της τεχνητής νοημοσύνης στο Πεντάγωνο δεν θα έπρεπε να επιβραδυνθεί με τέτοιου είδους βήματα.

«Η επιχείρησή μας λειτουργεί επί του παρόντος με κύκλους στελέχωσης και επιτροπών που μετρώνται σε μήνες και χρόνια και αυτό είναι απαράδεκτο», δήλωσε ο Χέγκσεθ. «Η στρατιωτική τεχνητή νοημοσύνη θα είναι ένας αγώνας για το άμεσο μέλλον, όπου οι κίνδυνοι για την εθνική ασφάλεια των ΗΠΑ από την πολύ αργή κίνηση υπερτερούν των επιπτώσεων της ατελούς ευθυγράμμισης».

Το NPR θα ήθελε να ακούσει από περισσότερα άτομα που συνεργάζονται με ομοσπονδιακούς οργανισμούς ή εταιρείες τεχνητής νοημοσύνης και έχουν πληροφορίες να μοιραστούν σχετικά με τον τρόπο με τον οποίο οι υπηρεσίες χρησιμοποιούν την τεχνητή νοημοσύνη. Μπορείτε να στείλετε email στη δημοσιογράφο αυτού του άρθρου, Chiara Eisner, στο ceisner@npr.org ή να επικοινωνήσετε μαζί της στο Signal εδώόνομα χρήστη ceis.78.