Αρχική Ειδήσεις Η Anthropic λέει ότι θα βάλει την ανθρωπότητα πρώτη. Θα το αλλάξει...

Η Anthropic λέει ότι θα βάλει την ανθρωπότητα πρώτη. Θα το αλλάξει αυτό το IPO;

6
0

Η Anthropic λέει ότι θα βάλει την ανθρωπότητα πρώτη. Θα το αλλάξει αυτό το IPO;

Ο Dario Amodei, Διευθύνων Σύμβουλος της Anthropic, εμφανίζεται σε βίντεο έξω από το Nasdaq MarketSite στην Times Square καθώς οι μετοχές αρχίζουν να διαπραγματεύονται μετά την IPO της εταιρείας στις 19 Νοεμβρίου 2026. Οι επικριτές λένε τώρα που ο γίγαντας της τεχνητής νοημοσύνης είναι δημόσια εταιρεία, η δέσμευσή του να θέσει την ασφάλεια πρώτα θα δοκιμαστεί.

Michael M. Santiago/Getty Images


απόκρυψη λεζάντας

Michael M. Santiago/Getty Images

Καθώς τα στελέχη και οι συνιδρυτές της Anthropic συγκεντρώθηκαν για να γιορτάσουν το ντεμπούτο της εταιρείας τεχνητής νοημοσύνης στο χρηματιστήριο Nasdaq την Πέμπτη, ο διευθύνων σύμβουλος Dario Amodei μίλησε για τα πιθανά οφέλη και τους κινδύνους της τεχνητής νοημοσύνης για την ανθρωπότητα.

«Υπάρχει μια τεράστια διαφορά μεταξύ του πώς θα πάει η τεχνητή νοημοσύνη εάν δώσουμε λίγη προσοχή στην ασφάλεια έναντι του πώς θα πάει εάν έχουμε εμμονή με την ασφάλεια», είπε ο Amodei πριν χτυπήσει το κουδούνι των τελετών έναρξης. «Και μια εμμονή με την ασφάλεια και το δημόσιο όφελος έχει ενσωματωθεί στο DNA του Anthropic από την αρχή».

Η Anthropic συγκέντρωσε ένα ρεκόρ 81,3 δισεκατομμυρίων δολαρίων από την IPO και άλλα 26 δισεκατομμύρια δολάρια μέσω μιας ξεχωριστής ιδιωτικής τοποθέτησης, ξεπερνώντας τη SpaceX και ανεβαίνοντας στις τάξεις των εισηγμένων εταιρειών αξίας άνω του 1 τρισεκατομμυρίου δολαρίων.

Η εταιρεία έχει οικοδομήσει τη φήμη της στην υπόσχεση ότι η ανάπτυξη ασφαλούς τεχνητής νοημοσύνης έχει μεγαλύτερη σημασία από τη νίκη στον αγώνα για εμπορική κυριαρχία. Έχει καλλιεργήσει μια εικόνα ως πρωτοπόρος στην ασφάλεια της τεχνητής νοημοσύνης, παρουσιάζοντας τον εαυτό της ως μια εταιρεία που θέλει να βάλει τα μακροπρόθεσμα συμφέροντα της ανθρωπότητας πάνω από τον ανταγωνισμό της βιομηχανίας.

Αλλά τώρα που η Anthropic είναι δημόσια εταιρεία, αυτή η δέσμευση αντιμετωπίζει μια νέα δοκιμασία. Η δημόσια εγγραφή έφερε νέους επενδυτές, μεγαλύτερο έλεγχο και πίεση για την παροχή αποδόσεων στους μετόχους. Ορισμένοι επικριτές αμφισβητούν εάν η εταιρεία μπορεί να παραμείνει πιστή στην ιδρυτική της αποστολή.

Οι εμπορικές απαιτήσεις του να είσαι δημόσια εταιρεία μπορεί να θολώσουν αποφάσεις ασφάλειας που θα μπορούσαν να επηρεάσουν αρνητικά την τιμή της μετοχής της εταιρείας, όπως η καθυστέρηση της κυκλοφορίας δυνητικά επικίνδυνων μοντέλων, είπαν νομικοί εμπειρογνώμονες στο NPR.

Οι ανησυχίες της Anthropic σχετικά με την ασφάλεια της τεχνητής νοημοσύνης δεν αποτελούν απλώς μέρος των δημόσιων μηνυμάτων της. Η Amodei έχει επανειλημμένα προειδοποιήσει για τις πιθανές απειλές που θέτουν τα προηγμένα μοντέλα τεχνητής νοημοσύνης για την ανθρωπότητα, ιδιαίτερα εάν ξεφύγουν από τον έλεγχο των προγραμματιστών τους. Το ενημερωτικό δελτίο IPO της εταιρείας απηχούσε αυτές τις ανησυχίες, προειδοποιώντας ότι «τα επαρκώς προηγμένα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να δημιουργήσουν καταστροφικούς ή υπαρξιακούς κινδύνους για την κοινωνία, εάν δεν αναπτυχθούν και δεν αναπτυχθούν υπεύθυνα».

Η Anthropic αναγνώρισε επίσης ότι μπορεί τελικά να χάσει τον έλεγχο των μοντέλων της.

«Δεν υπάρχει καμία διαβεβαίωση, ωστόσο, ότι οι διασφαλίσεις ή τα καθεστώτα πρόσβασης που υιοθετούμε θα αποδειχθούν επαρκείς, ότι θα προσδιορίσουμε σωστά ποιες δυνατότητες απαιτούν περιορισμό ή ότι οι περιορισμοί που επιβάλλουμε δεν θα παρακαμφθούν», προειδοποίησε η εταιρεία τους επενδυτές.

Οι ιδρυτές και οι υπάλληλοι της Anthropic μόλις έγιναν πολύ πλούσιοι

Η εταιρική δομή της Anthropic αποσκοπεί στην προστασία της αποστολής της, ακόμη και όταν επιδιώκει την εμπορική επιτυχία. Η Anthropic είναι μια κοινωφελή εταιρεία (PBC), που σημαίνει ότι το διοικητικό της συμβούλιο πρέπει να εξισορροπήσει τα συμφέροντα των μετόχων με την κοινωνική αποστολή της.

Ως μέρος αυτής της δομής, η εταιρεία έχει εγκαταστήσει ένα εποπτικό όργανο γνωστό ως Long-Term Benefit Trust, το οποίο έχει την εξουσία να διορίζει τέσσερις από τους επτά διευθυντές της εταιρείας. Οι ιδρυτές ελέγχουν ουσιαστικά τον διορισμό των υπόλοιπων τριών.

Ωστόσο, η εμπιστοσύνη μπορεί να διαλυθεί. Για να γίνει αυτό θα απαιτηθεί η έγκριση και των επτά συνιδρυτών, καθώς και η πλειοψηφία των μετόχων με δικαίωμα ψήφου.

Αυτή η συμφωνία θα μπορούσε να δημιουργήσει μια πιθανή διαδρομή για τους ιδρυτές και τους μετόχους να παρακάμψουν την επιρροή του καταπιστεύματος στις αποφάσεις της εταιρείας, είπαν νομικοί εμπειρογνώμονες που ρωτήθηκαν για αυτό το άρθρο.

«Εάν υπάρχει διαμάχη για κάποια σημαντική απόφαση ασφάλειας, όπως «Είμαστε ικανοποιημένοι που αυτό το εξαιρετικά προηγμένο μοντέλο είναι ασφαλές για τους χρήστες και την κοινωνία, ή πρέπει να περιμένουμε για μερικούς μήνες για να κάνουμε επιπλέον δοκιμές ή για οποιονδήποτε άλλο λόγο ασφάλειας;», υπάρχει η δυνατότητα για τους ιδρυτές και τους εργαζόμενους να συμμαχήσουν ουσιαστικά εναντίον του διαχειριστή και να εξουδετερώσουν τα δικαιώματα ελέγχου τους στη Νομική Σχολή Roberto.

Η καταχώριση έχει επίσης κάνει πολλούς υπαλλήλους της Anthropic πλούσιους. Καθένας από τους επτά συνιδρυτές της εταιρείας κατέχει μερίδιο στην εταιρεία αξίας άνω των 20 δισεκατομμυρίων δολαρίων. Οι 5.300 υπάλληλοί της κατέχουν περίπου 232 δισεκατομμύρια δολάρια σε συνδυασμένα ίδια κεφάλαια. Οι μη ιδρυτικοί υπάλληλοι μπόρεσαν να πουλήσουν έως και το 10% των συμμετοχών τους την πρώτη ημέρα διαπραγμάτευσης.

Αυτά τα σημαντικά οικονομικά διακυβεύματα θα μπορούσαν να επηρεάσουν τον τρόπο με τον οποίο το προσωπικό της Anthropic προσεγγίζει τις αποφάσεις σχετικά με την ασφάλεια και τον κίνδυνο, είπε η Tallarita.

«Εάν πάρουν αποφάσεις που οδηγούνται από λόγους ασφαλείας, αλλά είναι κακές για την ουσία, η τιμή της μετοχής θα αντιδράσει και οι ιδιώτες επενδυτές θα έχουν λόγους να ασκήσουν κάποια πίεση στην εταιρεία», είπε.

Οι οικονομικές ανταμοιβές θα μπορούσαν επίσης να αλλάξουν την εσωτερική κουλτούρα της Anthropic, δήλωσε η Sarah Kreps, καθηγήτρια και διευθύντρια του Ινστιτούτου Τεχνολογικής Πολιτικής στο Πανεπιστήμιο Cornell.

«Και τώρα τόσοι πολλοί από αυτούς τους ανθρώπους θα είναι επίσης πολυεκατομμυριούχοι, κάτι που νομίζω ότι απλώς θα ανεβάσει τη θερμοκρασία και τον εγωισμό και την αίσθηση του πονταρίσματος», είπε ο Kreps.

Στα σχόλιά του την Πέμπτη, ο Amodei εξέτασε αυτές τις ανησυχίες.

“Για να το δηλώσουμε κατηγορηματικά, θα επιταχύνουμε την εκπαίδευση και την ανάπτυξη συστημάτων τεχνητής νοημοσύνης, όσο χρειάζεται για να έχουμε εμπιστοσύνη ότι είναι ασφαλή και θα παραμείνουν υπό τον ανθρώπινο έλεγχο. Δεν θα υποκύψουμε σε επιχειρηματικές ή πολιτικές πιέσεις”, είπε. «Σήμερα η εταιρεία τοποθετεί την εταιρεία σε ισχυρότερη οικονομική θέση και με τον τρόπο αυτό ενισχύει την αποφασιστικότητά μας να κάνουμε το σωστό».

Οι εμπορικές και ανταγωνιστικές πιέσεις μπορεί να ανταγωνίζονται την ασφάλεια

Ο ανταγωνισμός μεταξύ εταιρειών τεχνητής νοημοσύνης είναι σκληρός.

Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, περιέγραψε τον ανταγωνισμό μεταξύ μεγάλων προγραμματιστών τεχνητής νοημοσύνης ως «δυναμική κούρσα στην ομίχλη του πολέμου» μιλώντας στο Οι New York Times DealBook Summit αυτή την εβδομάδα.

Αυτή η δυναμική είναι “κακό πράγμα”, είπε ο Άλτμαν. «Νομίζω ότι αυτή είναι μια στιγμή όπου απαιτείται περισσότερη προσοχή, όχι λιγότερη προσοχή».

Το OpenAI σχεδιάζει επίσης να δημοσιοποιηθεί και κατέθεσε προκαταρκτικά έγγραφα για την IPO στην Επιτροπή Κεφαλαιαγοράς τον Ιούνιο, λίγο μετά το Anthropic. Αλλά ο Altman είπε τον Σεπτέμβριο ότι η εταιρεία έχει καθυστερήσει αυτά τα σχέδια.

Σε ένα δοκίμιο τον ίδιο μήνα, ο Amodei συζήτησε την ανάγκη για τις εταιρείες τεχνητής νοημοσύνης να «επιταχύνουν» προσεκτικά την ανάπτυξη μοντέλων συνόρων.

«Η μη κατασκευή της τεχνολογίας στερεί από την ανθρωπότητα οφέλη ή απλώς τοποθετεί την τεχνητή νοημοσύνη στα χέρια αυταρχικών δυνάμεων, ενώ η πολύ γρήγορη κατασκευή της είναι απερίσκεπτη», έγραψε ο Amodei. «Αναζητήσαμε μια μέση οδό: να δείξουμε ότι είναι δυνατό να οικοδομήσουμε προσεκτικά και να πετύχουμε εμπορικά, και να κάνουμε την ασφάλεια κάτι στο οποίο οι εταιρείες τεχνητής νοημοσύνης ανταγωνίζονται».

«Η Anthropic έχει κάνει αρκετά καλή δουλειά επενδύοντας στην ανάλυση του τι μπορούν και τι δεν μπορούν να κάνουν τα μοντέλα της και των τρωτών σημείων που δημιουργεί και δημοσιεύοντας τουλάχιστον κάποια έκδοση αυτής της ανάλυσης», είπε ο Kreps.

Τον Απρίλιο, η Anthropic ανακοίνωσε ότι θα περιόριζε την πρόσβαση στο μοντέλο της Claude Mythos, αφού εσωτερικές δοκιμές αποκάλυψαν τις ισχυρές δυνατότητές της στον κυβερνοχώρο. Η εταιρεία είπε ότι το Mythos θα μπορούσε να εντοπίσει και να εκμεταλλευτεί προηγουμένως άγνωστα τρωτά σημεία σε μεγάλα λειτουργικά συστήματα και προγράμματα περιήγησης ιστού, καθιστώντας το ένα πιθανό εργαλείο για τους χάκερ.

Στις 9 Ιουνίου, λιγότερο από τρεις μήνες αργότερα, η Anthropic παρουσίασε το Fable 5, ένα μοντέλο κλάσης Mythos, για γενική χρήση με πρόσθετες διασφαλίσεις για τον περιορισμό ορισμένων υψηλού κινδύνου κυβερνο, βιολογικών και χημικών δυνατοτήτων. Το αρχικό μοντέλο Mythos παραμένει περιορισμένο σε επιλεγμένους συνεργάτες.

«Στο παρελθόν, το γεγονός ότι η εμπιστοσύνη και οι ιδρυτές ήταν ευθυγραμμισμένοι τους βοήθησε να καθυστερήσουν την κυκλοφορία του Mythos για αρκετούς μήνες», δήλωσε ο Σταύρος Γαδίνης, διευθυντής σχολής του Berkeley Center for Law and Business στη νομική σχολή του Πανεπιστημίου της Καλιφόρνια στο Berkeley. «Αλλά αυτό ήταν μια στιγμή που ένιωσαν ότι οδηγούσαν την αγέλη».

Η απόφαση της Anthropic να εισέλθει στον αμυντικό εργολαβικό χώρο έχει εγείρει ερωτήματα σχετικά με το πώς οι εμπορικές της σχέσεις ευθυγραμμίζονται με τη δηλωμένη αποστολή της, είπε ο Kreps.

Τον Νοέμβριο του 2024, η Anthropic ανακοίνωσε μια συνεργασία με τον αμυντικό εργολάβο Palantir, το λογισμικό του οποίου χρησιμοποιείται σε στρατιωτικές υπηρεσίες πληροφοριών και στόχευσης. Βάσει της συμφωνίας, η Anthropic έκανε τα μοντέλα Claude διαθέσιμα στις υπηρεσίες άμυνας και πληροφοριών των ΗΠΑ μέσω της Πλατφόρμας Τεχνητής Νοημοσύνης της Palantir.

Ωστόσο, η Anthropic νωρίτερα φέτος αντιστάθηκε στο να επιτρέψει στο Πεντάγωνο να χρησιμοποιήσει την τεχνολογία του για αυτόνομα όπλα και μαζική εγχώρια επιτήρηση. Οι διαπραγματεύσεις διακόπηκαν τον Φεβρουάριο, με αποτέλεσμα η κυβέρνηση των ΗΠΑ να χαρακτηρίσει την Anthropic ως «κίνδυνο της εφοδιαστικής αλυσίδας για την εθνική ασφάλεια».

“Φαίνεται να εγείρει μια σειρά από ανησυχίες σχετικά με τη συνεργασία με την Palantir, η οποία συνάπτει σύμβαση με το Πεντάγωνο για στόχευση. Τι μέρος αυτής είναι η τεχνητή νοημοσύνη για την ανθρωπότητα;” είπε ο Κρεπς. «Πολλοί άνθρωποι που εργάζονται εκεί πήγαν εκεί γιατί η ασφάλεια ήταν το κατευθυντήριο φως».

Η ανάπτυξη της τεχνητής νοημοσύνης επιταχύνεται

Τα ερωτήματα σχετικά με την υπόσχεση της Anthropic να δώσει προτεραιότητα στην ασφάλεια έναντι της εμπορικής επιτυχίας γίνονται όλο και πιο πιεστικά καθώς η ίδια η τεχνολογία προχωρά. Η Anthropic εισέρχεται στις δημόσιες αγορές σε μια στιγμή που η δική της έρευνα δείχνει ότι ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης θα μπορούσε να επιταχυνθεί δραματικά.

Μια αξιολόγηση τον Νοέμβριο του 2026 από την ερευνητική μη κερδοσκοπική εταιρεία τεχνητής νοημοσύνης METR κατέληξε στο συμπέρασμα ότι οι δυνατότητες τεχνητής νοημοσύνης της Anthropic βελτιώνονταν περίπου με διπλάσιο ρυθμό από τον προηγούμενο. Οι ερευνητές εκτιμούν ότι το μεγαλύτερο μέρος αυτής της επιτάχυνσης καθοδηγείται τώρα από τη χρήση εργαλείων τεχνητής νοημοσύνης από την Anthropic για να βοηθήσει τους δικούς της ερευνητές. Το METR δεν βρήκε σαφή σημεία συμφόρησης που θα μπορούσαν να επιβραδύνουν αυτήν την πρόοδο, όπως όρια στα δεδομένα και την υπολογιστική ισχύ.

Αυτό θα μπορούσε να φέρει την εταιρεία πιο κοντά σε ένα μέλλον στο οποίο τα όλο και πιο ικανά συστήματα AI θα βοηθήσουν στη δημιουργία ακόμη πιο προηγμένων συστημάτων – μια διαδικασία γνωστή ως αυτόνομη αναδρομική αυτοβελτίωση. Η προοπτική έχει τροφοδοτήσει φόβους ότι η Anthropic και άλλοι προγραμματιστές τεχνητής νοημοσύνης θα μπορούσαν να χάσουν τον έλεγχο των πιο προηγμένων μοντέλων τους, με δυνητικά σημαντικές συνέπειες για την κοινωνία.

«Φοβάμαι ο ίδιος, αλλά είναι πολύ δύσκολο να φανταστώ την τεχνολογία AI να σταματά ή να σταματάει», είπε ο Gadinis. “Είμαστε σε μια κατάσταση όπου αυτές οι εταιρείες γνωρίζουν καλύτερα από οποιονδήποτε τα μοντέλα τους στο βαθμό που κάποιος τα καταλαβαίνει. Επομένως, πρέπει να συνεργαστούμε μαζί τους ως κοινωνία.”

Ένα ομοσπονδιακό κανονιστικό κενό

Η κοινωνία μένει να βασίζεται σε μεγάλο βαθμό στα στελέχη εταιρειών τεχνητής νοημοσύνης για τη λήψη επακόλουθων αποφάσεων σχετικά με τους κινδύνους που ενέχουν τα δικά τους προϊόντα, είπαν ειδικοί που ρωτήθηκαν για αυτήν την ιστορία.

Δεδομένου ότι υπάρχουν ελάχιστες κρατικές διασφαλίσεις για να διαμορφώσουν τον τρόπο με τον οποίο οι εταιρείες τεχνητής νοημοσύνης λαμβάνουν αποφάσεις σχετικά με την ασφάλεια και την ασφάλεια, η ισχύς της βιομηχανίας παραμένει σε μεγάλο βαθμό ανεξέλεγκτη, είπαν.

Σε ομοσπονδιακό επίπεδο, ο τομέας της τεχνητής νοημοσύνης παραμένει σε μεγάλο βαθμό άναρχος. Υπό τη δεύτερη κυβέρνηση Τραμπ, ο Λευκός Οίκος έχει δώσει προτεραιότητα σε μια προσέγγιση απορρύθμισης, επιδιώκοντας να περιορίσει την ομοσπονδιακή εποπτεία υπέρ του να επιτρέπεται στα εργαστήρια τεχνητής νοημοσύνης να καινοτομούν χωρίς να επιβαρύνονται από γραφειοκρατία.

Τον Ιούνιο, ο Λευκός Οίκος ανακοίνωσε το πλαίσιο τεχνητής νοημοσύνης του, το οποίο επιτρέπει στους προγραμματιστές να υποβάλλουν τα νεότερα μοντέλα τους σε ομοσπονδιακές υπηρεσίες για αξιολογήσεις κυβερνοασφάλειας και εθνικής ασφάλειας πριν από την κυκλοφορία. Ωστόσο, η πρωτοβουλία είναι εντελώς εθελοντική.

“Δεν νομίζω ότι η κυβέρνηση γνωρίζει αρκετά για να ρυθμίσει την τεχνητή νοημοσύνη”, δήλωσε ο Tallarita. «Αυτή είναι μια συζήτηση που θα έπρεπε να κάνουμε ως πολιτική κοινότητα και ίσως η πιο σοβαρή συζήτηση που θα έπρεπε να κάνουμε αυτή τη στιγμή».

Ο Anthropic είναι οικονομικός υποστηρικτής του NPR.