Αρχική Κόσμος Όταν οι εργαζόμενοι στον τομέα της τεχνολογίας πρέπει να εγκαταλείψουν τη δουλειά...

Όταν οι εργαζόμενοι στον τομέα της τεχνολογίας πρέπει να εγκαταλείψουν τη δουλειά τους για να κηρύξουν συναγερμό, είναι καιρός να ανησυχήσετε | Ιζαμπέλ Φερέρας

1
0

ΟΤα τελευταία δύο χρόνια, έχει εμφανιστεί ένα ανησυχητικό μοτίβο στα κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο. Ξανά και ξανά, ένας ερευνητής ασφάλειας ή ένας μηχανικός βγαίνει από την πόρτα με μια δημόσια προειδοποίηση ότι οι εμπορικές πιέσεις υπερισχύουν των προστατευτικών κιγκλιδωμάτων. Τον περασμένο μήνα, το άτομο που επέβλεπε τις αναφορές ασφάλειας για τις εκδόσεις προϊόντων του OpenAI είπε ότι παραιτήθηκε από τον δημιουργό του ChatGPT επειδή η κουλτούρα της εταιρείας ήταν «σπασμένη» και ολόκληρη η βιομηχανία AI ήταν πολύ απρόσεκτη στην ανάπτυξη της τεχνολογίας. Τον προηγούμενο μήνα ήταν ένας ερευνητής στο αντίπαλο Anthropic του OpenAI που παραιτήθηκε, προειδοποιώντας ότι πίστευε ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Ως κοινωνία επικροτούμε το θάρρος αυτών των ατόμων και συζητάμε τις προειδοποιήσεις τους για έναν κύκλο ειδήσεων – και μετά προχωράμε. Αλλά μας λείπει η βαθύτερη θεσμική αποτυχία που αποκαλύπτουν αυτές οι παραιτήσεις: όπως ξεκαθάρισε ο μεγάλος πολιτικός επιστήμονας Albert Hirschman, η έξοδος δεν είναι φωνή.

Όταν ο μόνος τρόπος για έναν ευσυνείδητο μηχανικό να σημάνει συναγερμό είναι να φύγει, είναι σαφές σημάδι ότι η εταιρική διακυβέρνηση στον κλάδο έχει σπάσει. Κάθε αναχώρηση παίρνει μαζί της τις ίδιες τις γνώσεις που απαιτούνται για την ασφαλή οδήγηση αυτών των συστημάτων.

Καθώς πολιτικοί, εργαζόμενοι στην τεχνολογία, συνδικαλιστές, μέλη του κοινοβουλίου και εμπειρογνώμονες από ένα ευρύ φάσμα παγκόσμιων θεσμών, συμπεριλαμβανομένου του Βατικανού και του ΟΗΕ, συγκεντρώνονται στο Λονδίνο αυτή την εβδομάδα για να συζητήσουν την ασφάλεια της τεχνητής νοημοσύνης, πρέπει να αντιμετωπίσουμε μια δυσάρεστη αλήθεια: δεν μπορούμε να ρυθμίσουμε την τεχνητή νοημοσύνη με ασφάλεια από το εξωτερικό, εάν οι εταιρείες που το κατασκευάζουν παραμένουν αυταρχικές στο εσωτερικό.

Οι ρυθμιστικές συζητήσεις παραμένουν παγιδευμένες σε μια στενή νοοτροπία όπου οι κυβερνήσεις αντιμετωπίζουν την τεχνητή νοημοσύνη είτε ως καταναλωτικό προϊόν που πρέπει να δοκιμαστεί για ελαττώματα είτε ως μια γεωπολιτική κούρσα που πρέπει να κερδηθεί με τη χαλάρωση των κανόνων για τις επιχειρήσεις. Αυτή είναι η λογική του ψηφιακού πλαισίου της ΕΕ της Ursula von der Leyen, το οποίο καθυστερεί την εφαρμογή των κανόνων που κατοχυρώνονται στον ορόσημο νόμο της ΕΕ για την τεχνητή νοημοσύνη του 2024, ο οποίος καθορίζει συγκεκριμένες απαιτήσεις ασφάλειας για τους προγραμματιστές συστημάτων τεχνητής νοημοσύνης «υψηλού κινδύνου». Τα εταιρικά λόμπι ενθαρρύνουν αυτό το πλαίσιο αντιστάθμισης μεταξύ ασφάλειας και καινοτομίας υποστηρίζοντας ότι η νομοθεσία επιβάλλει πάρα πολλά βάρη.

Αυτό είναι ένα επικίνδυνο μονοπάτι. Το AI δεν είναι απλώς ένα προϊόν λογισμικού. είναι μια τεχνολογία της κυβέρνησης. Ακόμη μέσα σε συνοριακά εργαστήρια όπως τα OpenAI, Anthropic, Microsoft και Google, μια χούφτα στελέχη και επενδυτές κεφαλαίων αποφασίζουν ποιες αξίες κωδικοποιούνται σε μοντέλα που διαμορφώνουν τη ζωή εκατομμυρίων ανθρώπων.

Όπως έδειξε ο νομικός μελετητής της Οξφόρδης Jeremias Adams-Prassl, ο οποίος πρωτοστάτησε στην έρευνα στην οικονομία των συναυλιών και ηγείται της έρευνας για την αυτοματοποιημένη εργασία στην Ευρώπη, Η αλγοριθμική διαχείριση ήδη παρακολουθεί, αξιολογεί και απολύει εργαζομένους σε όλο το κοινωνικοοικονομικό φάσμα, συχνά χωρίς καμία ανθρώπινη επίβλεψη.

Σε μια δημοκρατική κοινωνία, η άσκηση της κυβερνητικής εξουσίας απαιτεί τη συναίνεση των διοικούμενων. Ωστόσο, το εταιρικό δίκαιο εξακολουθεί να αντιμετωπίζει τις επιχειρήσεις ως ιδιοκτησία των μετόχων, και τους επενδυτές εργασίας, που βάζουν τη διάνοια, την υγεία και τη ζωή τους στην επιχείρηση, ως υφισταμένους. Για να ευθυγραμμίσουμε την τεχνητή νοημοσύνη με το δημόσιο συμφέρον, χρειαζόμαστε μια διπλή στρατηγική: παράλληλα με τους ισχυρούς δημόσιους κανονισμούς για την τεχνητή νοημοσύνη «από έξω», πρέπει να μπούμε στο εταιρικό μαύρο κουτί και να αναγκάσουμε την εταιρική διακυβέρνηση να ευθυγραμμιστεί με τις δημοκρατικές αρχές.

Οι νομοθέτες πρέπει να προχωρήσουν σε τρεις κρίσιμες μεταρρυθμίσεις. Πρώτον, στην ανάπτυξη της τεχνητής νοημοσύνης, πρέπει να προστατεύουν και να ενδυναμώνουν αυτούς που κατασκευάζουν μοντέλα τεχνητής νοημοσύνης. Οι κυβερνήσεις πρέπει να θέτουν εκτός νόμου τις ρήτρες μη αποκάλυψης και μη απαξίωσης που φιμώνουν το προσωπικό σχετικά με τους κινδύνους ασφάλειας και θεσπίζουν ισχυρή προστασία από τους καταγγέλλοντες. Οι εργαζόμενοι στον τομέα της τεχνολογίας χρειάζονται επίσης συλλογική στάση έναντι της εταιρικής στρατηγικής, ανεξάρτητα κανάλια για την αναφορά παραβιάσεων της ασφάλειας και επίσημη εκπροσώπηση εντός των συνοριακών εργαστηρίων πριν από την ανάπτυξη των μοντέλων.

Η δεύτερη μεταρρύθμιση σχετίζεται με την ανάπτυξη της τεχνητής νοημοσύνης. Θυμηθείτε τι συνέβη στο Meta το καλοκαίρι: η εταιρεία του Mark Zuckerberg αντιμετώπισε αντιδράσεις από τους υπαλλήλους αφού το Facebook, το Instagram και το WhatsApp παρουσίασαν ένα εργαλείο που παρακολουθούσε τα πλήκτρα του προσωπικού, τα κλικ του ποντικιού και το περιεχόμενο που εμφανιζόταν στις οθόνες των υπολογιστών για τη συλλογή δεδομένων για την εκπαίδευση των μοντέλων AI. Οι εργαζόμενοι όχι μόνο ανησυχούσαν ότι το απόρρητο και η συναίνεση ήταν σε ερείπια, αλλά ανησυχούσαν ότι οι δουλειές τους ήταν στο όριο.

Οι νομοθέτες πρέπει να θεσπίσουν ένα δεσμευτικό δικαίωμα συναπόφασης σχετικά με την τεχνητή νοημοσύνη στο χώρο εργασίας. Κανένα αλγοριθμικό σύστημα που παρακολουθεί, αξιολογεί ή πειθαρχεί τους εργαζομένους δεν θα πρέπει να αναπτύσσεται χωρίς προηγούμενη διαπραγμάτευση. Σε εθνικό και ενωσιακό επίπεδο, πρέπει να εξετάσουμε το ενδεχόμενο συλλογικών διαπραγματεύσεων για την ανάπτυξη της τεχνητής νοημοσύνης και τα δικαιώματα αρνησικυρίας για επιτροπές εργαζομένων ή συνδικαλιστικές οργανώσεις, με την υποστήριξη ανεξάρτητων τεχνικών εμπειρογνωμόνων και την αυστηρή απαγόρευση της αυτοματοποιημένης πυροδότησης.

παράβλεψη προηγούμενης προώθησης ενημερωτικών δελτίων


Τρίτον, σε ολόκληρη την οικονομία, πρέπει να εκδημοκρατίσουμε τις αίθουσες συνεδριάσεων και να ανταμείψουμε τις εταιρείες που αρνούνται να συγκεντρώσουν την εξουσία στην κορυφή. Οι νομοθέτες θα πρέπει να εξουσιοδοτήσουν τους εκλεγμένους από τους εργαζόμενους διευθυντές στα διοικητικά συμβούλια, προχωρώντας προς τη διακυβέρνηση διπλής πλειοψηφίας στην οποία οι στρατηγικές αποφάσεις απαιτούν τη συναίνεση όχι μόνο του κεφαλαίου αλλά και της εργασίας.

Όπως έδειξαν οι Daron Acemoglu και Simon Johnson, οι νομπελίστες του 2024 στα οικονομικά, οι τεχνολογικές επαναστάσεις δεν παράγουν αυτόματα κοινή ευημερία: οι θεσμοί αποφασίζουν ποιος ωφελείται και ποιος πληρώνει. Η επέκταση της δημοκρατίας στην επιχείρηση δεν είναι μια παλιά μάχη για την εξουσία για χάρη της, αλλά μια πρακτική αναγκαιότητα για πιο ηθική κρίση. Η ευθυγράμμιση της τεχνητής νοημοσύνης με το καλό των εργαζομένων και της κοινωνίας απαιτεί περισσότερη σοφία από ό,τι μπορούν να προσφέρουν τα κλειστά στελέχη. Χρειάζεται αυτό που ο πολιτικός θεωρητικός του Yale Héléne Landemore αποκαλεί «δημοκρατική λογική», τη συλλογική ευφυΐα διαφορετικών, συλλογιστικών φωνών, που χρησιμοποιούνται στη λήψη εταιρικών αποφάσεων.

Αφήνοντας την αυτορρύθμιση και τον περιστασιακό πληροφοριοδότη, η διακυβέρνηση της τεχνητής νοημοσύνης θα εδραιώσει μια ακαταλόγιστη αλγοριθμική ολιγαρχία. Η υπευθυνότητα και η ευθυγράμμιση ξεκινούν με το να δίνουμε σε αυτούς που κατασκευάζουν αυτά τα συστήματα και σε εκείνους των οποίων το έργο διέπουν μια εκτελεστή φωνή, από το πάτωμα του κώδικα μέχρι την αίθουσα συνεδριάσεων.

  • Η Isabelle Ferreras είναι επιταχυντής στο University of Oxford’s Institute for Ethics in AI, ερευνητική διευθύντρια FNRS στο Πανεπιστήμιο της Louvain, Βέλγιο και συνιδρυτής του DemocraticIntelligence.org