εγώΣτα δύο χρόνια μου ως γενικός εισαγγελέας, αφιέρωσα περισσότερο χρόνο δουλεύοντας για την εθνική ασφάλεια από οποιοδήποτε άλλο θέμα. Το εύρος και η βαρύτητα των απειλών που τίθενται για το έθνος μας είναι πολλαπλά, από την τρομοκρατία, τις ένοπλες συγκρούσεις και τη διάδοση των πυρηνικών όπλων, μέχρι τις επιπτώσεις της οικονομικής ανασφάλειας και της κλιματικής κρίσης. Όλες οι βαθιές προκλήσεις, αλλά οι εξαιρετικές κοινότητες πληροφοριών και άμυνας μας είναι σε θέση να αντιμετωπίσουν. Ο κίνδυνος από την τεχνητή νοημοσύνη είναι τελείως διαφορετικού μεγέθους, όχι μόνο σε κλίμακα, αλλά και επειδή υπάρχει περιορισμένος χρόνος για την αντιμετώπισή του. Ο κίνδυνος είναι δύσκολο να υπερεκτιμηθεί: θέτει υπαρξιακό κίνδυνο για την ανθρωπότητα. Τα φώτα αναβοσβήνουν κόκκινα και πρέπει να δράσουμε τώρα πριν να είναι πολύ αργά.
Αν και οι εξαιρετικές απειλές που θέτει η τεχνητή νοημοσύνη έχουν επισημανθεί εδώ και καιρό από εκείνους που εμπλέκονται στενά στη δημιουργία της, μόλις πρόσφατα, μετά την αποκάλυψη του hack του Hugging Face και την παραίτηση του Jacob Coxon από το Anthropic, το θέμα άρχισε επιτέλους να κερδίζει έλξη στον δημόσιο διάλογο. Αυτή η στιγμή είναι μια ευκαιρία και για να την αξιοποιήσουμε χρειαζόμαστε απεγνωσμένα αυξημένη επείγουσα ανάγκη για διεθνή συντονισμό για τη ρύθμιση της τεχνητής νοημοσύνης στα σύνορα. Πρέπει επίσης να υπάρχει ουσιαστική δημόσια δέσμευση σχετικά με το πώς θα πρέπει να διαμορφωθεί η τεχνητή νοημοσύνη προς όφελος της ανθρωπότητας, αντί να εδραιωθεί η δύναμη λίγων. Δεν μπορούμε να το αφήσουμε αυτό στην Κίνα, τις ΗΠΑ και τη μεγάλη τεχνολογία – πρέπει όλοι να απαιτήσουμε μια φωνή στη συζήτηση.
Η τεχνητή νοημοσύνη έχει τεράστια πιθανά οφέλη για όλους μας. Θα είναι η πηγή εντυπωσιακών προόδων στην επιστήμη και την ιατρική και θα προσφέρει ελπίδα για ενδυνάμωση μερικών από τους πιο στερούμενους ανθρώπους του κόσμου. Ωστόσο, οι κίνδυνοι που αντιμετωπίζουμε τώρα είναι πραγματικά συγκλονιστικοί. Θα τα έβαζα σε δύο πολύ μεγάλες κατηγορίες. Ο πρώτος είναι ο υπαρξιακός κίνδυνος: κυριολεκτικά η πιθανότητα ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει δισεκατομμύρια, είτε επειδή επιτρέπει στους τρομερούς ανθρώπους να κάνουν τρομερά πράγματα – όπως το σχεδιασμό και την ανάπτυξη βιολογικών όπλων – είτε επειδή η ίδια η τεχνητή νοημοσύνη καθορίζει ότι είναι πιο αποτελεσματικό να απορρίπτει τους ανθρώπους.
Η δεύτερη κατηγορία είναι η υπαρξιακή πρόκληση – ότι, αν αφεθεί ανεξέλεγκτη, η ανάπτυξη της τεχνητής νοημοσύνης θα στερήσει από δισεκατομμύρια από εμάς ουσιαστικό πρακτορείο στη ζωή μας, με εντελώς βαθιές συνέπειες για τις οικονομίες, την εθνική ασφάλεια και την ανθρώπινη ευτυχία. Η χειρότερη πηγή αδικίας Έχει δίκιο Στην τρέχουσα τροχιά της, κινδυνεύει να φέρει επανάσταση στο νόημα και τη διαθεσιμότητα της παραγωγικής εργασίας, ενώ θέτει αφάνταστη δύναμη στα χέρια όχι μόνο δύο κρατών (ΗΠΑ και Κίνα) αλλά και ενός μικρού αριθμού ατόμων που ελέγχουν τους τεχνολογικούς γίγαντες.
Το σαφές γεγονός είναι ότι πραγματικά δεν γνωρίζουμε ποιος είναι ο ακριβής βαθμός κινδύνου ή το πλήρες πανόραμα της πρόκλησης. Μέρος του προβλήματος είναι ότι η τεχνητή νοημοσύνη αναπτύσσεται γρήγορα σε ένα επίπεδο που οι άνθρωποι απλά δεν καταλαβαίνουν και θα φτάσουν σε ένα σημείο στο οποίο «ακόμα κι αν το καταφέρουν» δεν θα έχουν πλέον τα μέσα να το ελέγχουν. Θυμηθείτε ότι το οικονομικό κραχ του 2008 προκλήθηκε εν μέρει επειδή κανένας άνθρωπος δεν κατανοούσε πραγματικά τον ιστό των οικονομικών συναλλαγών που οδηγούσαν αναπόφευκτα στην καταστροφή. Αυτό που αντιμετωπίζουμε σήμερα, ωστόσο, είναι σε διαφορετική κλίμακα όσον αφορά την πολυπλοκότητα των συστημάτων και την ανθρώπινη δράση πάνω τους, καθώς και το επίπεδο καταστροφής που μπορεί να προκληθεί.
Τα εκπληκτικά επίπεδα κινδύνου που συζητάμε θα πρέπει να είναι εντελώς απαράδεκτα για όλους μας. Στη σημερινή εποχή είναι αδιανόητο ο κατασκευαστής μιας τοστιέρας να έχει τη δυνατότητα να διαθέσει στην αγορά ένα προϊόν με πιθανότητα 10% να σας προκαλέσει ηλεκτροπληξία. Η περίπτωση της επιβράδυνσης της συνοριακής τεχνητής νοημοσύνης προτού καταλάβουμε ότι οι κίνδυνοι μπορούν να αντιμετωπιστούν είναι εκτυφλωτικά προφανής.
Η τεχνητή νοημοσύνη χρειάζεται αυστηρή ρύθμιση τώρα. Υπάρχουν περισσότεροι κανονισμοί που διέπουν την ασφάλεια του ψυγείου σας από τις εργασίες που αναλαμβάνουν τα συνοριακά εργαστήρια τεχνητής νοημοσύνης που απειλούν να αφανίσουν την οικογένειά σας. Είναι γελοίο να προτείνουμε ότι ο κλάδος μπορεί να αφεθεί να αυτορυθμιστεί. Οι εταιρείες τεχνητής νοημοσύνης και οι χρηματοπιστωτικές αγορές που τις στηρίζουν έχουν κίνητρα να αναπτύξουν νέες επαναλήψεις όσο το δυνατόν γρηγορότερα, όλα αυτά τροφοδοτούνται από τη γεωπολιτική του αγώνα μεταξύ Κίνας και ΗΠΑ για κυριαρχία. Το θέαμα του Προέδρου Τραμπ και του Έλον Μασκ στο γκαζόν του Λευκού Οίκου να κραδαίνουν έναν «εθελοντικό κώδικα» ελάχιστα παρείχε καθησυχασμό.
Θα είναι το διεθνές δίκαιο που έχει σημασία. Ενώ το Ηνωμένο Βασίλειο έχει επιδείξει εξαιρετική ηγεσία (ξεκίνημα από τον Rishi Sunak, που αγκαλιάστηκε από τον Keir Starmer και τώρα αντικατοπτρίζεται στην προώθηση του Kanishka Narayan από τον Andy Burnham στο υπουργικό συμβούλιο), η κλίμακα της πρόκλησης απαιτεί διεθνή συνεργασία για να έχει οποιοδήποτε αποτέλεσμα. Τραγικά, αυτή η στιγμή κινδύνου εμφανίζεται την ίδια στιγμή που η τάξη που βασίζεται σε διεθνείς κανόνες είναι υπό πίεση όσο ποτέ άλλοτε. Πρέπει να διπλασιάσουμε τη δέσμευσή μας με τις ΗΠΑ και την Κίνα, ενώ ταυτόχρονα αναπτύσσουμε τη δουλειά μας με συνασπισμούς ομοϊδεατών κρατών, καθώς και με τον τεχνολογικό τομέα, για την αντιμετώπιση των απειλών.
μετά την προώθηση του ενημερωτικού δελτίου
Η δημοκρατία απαιτεί να έχουμε μια επείγουσα δημόσια συζήτηση για το τι βρίσκεται στον ορίζοντα, προκειμένου να διατηρήσουμε την εξουσία για το μέλλον μας – αντί να επιτρέψουμε να καθορίζονται από τον τεχνολογικό τομέα. Τίποτα από αυτά δεν είναι αναπόφευκτο. Υπάρχει ακόμη χρόνος για τις κυβερνήσεις και τα άτομα να διαμορφώσουν την τεχνητή νοημοσύνη, διασφαλίζοντας ότι εξυπηρετεί το δημόσιο καλό. «Μέσα παραγωγής» και τα συμφέροντα των ανθρώπων Χρειαζόμαστε νέες κυβερνητικές θεωρίες για το ποιος θα πρέπει να ελέγχει την τεχνητή νοημοσύνη, πώς ρυθμίζεται και κυρίως ποιους εξυπηρετεί.
Χρειαζόμαστε επείγουσες δημόσιες συνομιλίες σχετικά με τις αξίες που πρέπει να καθοδηγούν τη λήψη αποφάσεων. Πρέπει να διαμορφώσουμε τα οφέλη της τεχνολογικής προόδου προς όφελος των πολλών, αντί να αφήσουμε το μέλλον μας στους λίγους. Αφήστε το πολύ περισσότερο και η ίδια η τεχνητή νοημοσύνη μπορεί να μας στερήσει αυτή τη δύναμη.
-
Ο Ρίτσαρντ Χέρμερ είναι συνομήλικος του Εργατικού Βίου. Είναι πρώην γενικός εισαγγελέας για την Αγγλία και την Ουαλία και πρώην γενικός εισαγγελέας για τη Βόρεια Ιρλανδία.
-
Έχετε άποψη για τα θέματα που τίθενται σε αυτό το άρθρο; Εάν θέλετε να υποβάλετε μια απάντηση έως και 300 λέξεων μέσω email που θα εξεταστεί για δημοσίευση στην ενότητα επιστολών μας, κάντε κλικ εδώ.
