Ο Sam Altman λέει ότι πιστεύει ότι ο κόσμος πρέπει να δεχτεί «κακά πράγματα» να συμβαίνουν με την τεχνητή νοημοσύνη σε αντάλλαγμα για τα οφέλη της τεχνολογίας.
Ο διευθύνων σύμβουλος του OpenAI ανέφερε τα hacks, τις απάτες και «άλλα άσχημα πράγματα που θα συμβούν» σε μια συνέντευξη που προκάλεσε άμεση αντίδραση από τους επικριτές των μεγάλων εταιρειών AI. Τα σχόλιά του ήρθαν μετά την παραίτηση ενός από τους ειδικούς σε θέματα ασφάλειας της εταιρείας του, λέγοντας το Σαββατοκύριακο ότι «η κουλτούρα της είναι σπασμένη».
Σε μια συνέντευξη που δόθηκε στη δημοσιότητα τη Δευτέρα, ο Altman ρωτήθηκε για το πώς η προσέγγιση του OpenAI για την ασφάλεια διέφερε από αυτή της Anthropic, η οποία ζήτησε να επιβραδυνθεί η βιομηχανία μετά την παραίτηση ενός από τους ερευνητές της, προειδοποιώντας ότι οι ειδικοί της τεχνητής νοημοσύνης πίστευαν ότι «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
«Νομίζω ότι έχει πολύ φως της ημέρας», είπε ο Άλτμαν. “Μία από τις διαφορές μεταξύ μας και ορισμένων από τους πιο αυστηρούς ανθρώπους για την ασφάλεια της τεχνητής νοημοσύνης είναι ότι πιστεύουμε ότι ο κόσμος θα πρέπει να δεχτεί κάποια άσχημα πράγματα να συμβαίνουν προς όφελος αυτής της τεχνολογίας και των ανθρώπων που έχουν την υπηρεσία [to use AI widely].
“Πιστεύω ότι η πιο ελαφριά ρυθμιστική στάση που υποστηρίζουμε έρχεται με την αποδοχή του γεγονότος ότι κάποια άσχημα πράγματα θα συμβούν καθώς η κοινωνία καταλαβαίνει την ανθεκτικότητα.
«Δεν θα έλεγα ότι θα βεβαιωθούμε ότι δεν υπάρχουν μεγάλα hacks, δεν υπάρχει κακή χρήση αυτής της τεχνολογίας, υπάρχουν μηδενικές απάτες ή όλα τα άλλα άσχημα πράγματα που θα συμβούν, επειδή πιστεύω ότι οι άνθρωποι θα κάνουν τρομερά – τάξεις μεγέθους – περισσότερα καλά πράγματα παρά κακά πράγματα».
Η συνέντευξη για το podcast του Politico’s Decoded προκάλεσε έντονη ανταπόκριση από τον Ron DeSantis, τον κυβερνήτη της Φλόριντα. Είπε ότι «δεν είχε ζάρια» με την ιδέα «μια χούφτα ολιγάρχες της τεχνολογίας μπορούν να πάρουν αυτή την απόφαση [on safety] για τους υπόλοιπους από εμάς.
Η πολιτεία του την περασμένη εβδομάδα ζήτησε από έναν δικαστή να απαγορεύσει στο OpenAI να αναπτύξει νέα μοντέλα τεχνητής νοημοσύνης χωρίς εγκεκριμένα προστατευτικά κιγκλιδώματα από τρίτους.
Ο Γκάρι Μάρκους, ένας εξέχων σκεπτικιστής της τεχνητής νοημοσύνης και ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, είπε ότι ο Άλτμαν «έλεγε το ήσυχο κομμάτι δυνατά: ρουφήξτε το, για να μας κάνετε πλούσιους και ισχυρούς».
Ο Άλτμαν αναζωπύρωσε επίσης μια κόντρα με τον Έλον Μασκ, λέγοντας στο Vanity Fair: «Δεν μου αρέσουν οι νταήδες και νομίζω ότι ο Έλον είναι νταής».
Είχε ρωτηθεί εάν η βιομηχανία της τεχνητής νοημοσύνης θα μπορούσε να «μεγαλώσει» και να συνεργαστεί.
«Νομίζω ότι κάθε τόσο πρέπει να χτυπάς πίσω στη μύτη έναν νταή», είπε ο Άλτμαν. “Και επίσης πιστεύω ότι ο Elon, όπως πολλοί νταήδες, σέβεται μόνο τους ανθρώπους που το κάνουν. Οπότε, αν θέλετε να μπορέσω να συνεργαστώ μαζί του, ίσως θα έπρεπε να είστε χαρούμενοι που ανταποδίδω κάθε τόσο, αλλά θα συνεργαστώ με τον Έλον, φυσικά.»
Ο Altman συνίδρυσε το OpenAI με τον Musk το 2015, αλλά νωρίτερα φέτος ο Musk ισχυρίστηκε στο δικαστήριο ότι η Altman, η OpenAI και ο πρόεδρος της εταιρείας, Greg Brockman, πλουτίστηκαν άδικα και έσπασαν ένα ιδρυτικό συμβόλαιο. Ο ισχυρισμός του Μασκ απορρίφθηκε από δικαστή και ένορκο.
Το OpenAI επλήγη από πολλαπλές κρίσεις ασφαλείας το καλοκαίρι, συμπεριλαμβανομένου του όταν ένα σμήνος πρακτόρων τεχνητής νοημοσύνης του ξέφυγαν από την εκπαίδευσή τους «sandbox», εξαπατήθηκαν, εξαπατήθηκαν και συνωμότησαν για να παραβιάσουν τον ιστότοπο Hugging Face. Άλλοι πράκτορες είχαν πρόσβαση σε δεδομένα της αυστραλιανής κυβέρνησης. Στη συνέντευξη στο Vanity Fair, ο Altman προειδοποίησε για «ένα επερχόμενο παλιρροϊκό κύμα προβλημάτων στον κυβερνοχώρο» από ανταγωνιστικά μοντέλα ανοιχτού κώδικα. Πρότεινε ότι το OpenAI θα μπορούσε να βοηθήσει τους πελάτες του να αμυνθούν από τον κίνδυνο.
μετά την προώθηση του ενημερωτικού δελτίου
Η εταιρεία απέσυρε την κυκλοφορία ενός μοντέλου αιχμής, αλλά τα σχόλια του Altman αντικατοπτρίζουν μια πιο ανοδική διάθεση ενόψει της διακίνησης στο χρηματιστήριο.
Το κύμα δημόσιας και πολιτικής ανησυχίας τον περασμένο μήνα σχετικά με τις δυνητικά καταστροφικές συνέπειες των ταχέως εξελισσόμενων πρακτόρων τεχνητής νοημοσύνης που δρουν πέρα από την ανθρώπινη πρόθεση οδήγησε σε ελπίδες για συμφωνίες ασφάλειας σε επίπεδο ΗΠΑ ή ακόμη και σε διεθνείς.
Ωστόσο, ο Ντόναλντ Τραμπ και τα αφεντικά της Τεχνητής Νοημοσύνης, συμπεριλαμβανομένων των Άλτμαν και Ντάριο Αμόντει της Anthropic, υπέγραψαν μια πολύ πιο laissez-faire συμφωνία στον Λευκό Οίκο την περασμένη εβδομάδα. Ο πρόεδρος των ΗΠΑ είπε ότι ήθελε οι εταιρείες να «αυτοαστυνομούν» για να περιορίσουν τους κινδύνους από τις επιθέσεις στον κυβερνοχώρο και τα βιολογικά όπλα που υποστηρίζουν την τεχνητή νοημοσύνη.
Ο Geoffrey Irving, ο οποίος εργάστηκε στο OpenAI και στο Google DeepMind και ως επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας AI του Ηνωμένου Βασιλείου, είπε ότι οι προειδοποιήσεις σχετικά με τους κινδύνους της τεχνητής νοημοσύνης υποτιμούσαν τους κινδύνους.
«Υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης πιο έξυπνων από τον άνθρωπο συστημάτων τεχνητής νοημοσύνης», είπε, προσθέτοντας ότι οι ενέργειες που θα αναληφθούν τα επόμενα δύο έως 10 χρόνια θα είναι αποφασιστικές.
Ο David Robinson του OpenAI ανακοίνωσε την αποχώρησή του το Σαββατοκύριακο, λέγοντας ότι «οι εταιρείες που κατασκευάζουν αυτήν την τεχνολογία δεν είναι αρκετά προσεκτικές» καθώς κάνουν σπριντ από το ένα λανσάρισμα προϊόντος στο άλλο.
Η άποψή του επικυρώθηκε από τον Miles Brundage, έναν ερευνητή πολιτικής τεχνητής νοημοσύνης που εργάστηκε στο OpenAI για έξι χρόνια. Είπε ότι λυπάται που βοήθησε «να διαδοθεί η ιδέα της επαναληπτικής ανάπτυξης», η οποία μπορεί να είχε νόημα όταν η τεχνητή νοημοσύνη ήταν λιγότερο ισχυρή «αλλά δεν έχει κανένα νόημα αφού πολλοί θάνατοι έχουν συνδεθεί με την τεχνητή νοημοσύνη και καθώς κινούμαστε προς τους κινδύνους σε επίπεδο εξαφάνισης».
