Η Anthropic έχει απαγορεύσει στους χρήστες να επιδεικνύουν «διατήρηση και άσκοπη καταχρηστική ή σκληρή συμπεριφορά» προς τα μοντέλα της, καθώς οι ηγέτες της εταιρείας συνεχίζουν να συλλογίζονται τη συνείδηση των μηχανών.
Το Verge ανέφερε για πρώτη φορά την αλλαγή στην πολιτική.
Ένας εκπρόσωπος της Anthropic, η οποία βρίσκεται πίσω από το chatbot AI Claude, δεν απάντησε αμέσως σε μια έρευνα σχετικά με το τι θα μπορούσε να θεωρηθεί «καταχρηστικό ή σκληρό».
Σε μια διαδικτυακή πολιτική χρηστών, η εταιρεία με έδρα το Σαν Φρανσίσκο σημείωσε ότι η απαγόρευσή της δεν θα ισχύει για συνήθεις απογοητεύσεις χρηστών, δοκιμές μοντέλων ή «σκοτεινά δημιουργικά θέματα».
Η πολιτική χρήσης της Anthropic περιείχε στο παρελθόν περιορισμούς στην καταχρηστική συμπεριφορά.
Τα μεγάλα γλωσσικά μοντέλα της εταιρείας έχουν τη δυνατότητα να τερματίζουν μια συνομιλία εάν ένας χρήστης είναι επίμονα επιβλαβής. Όταν αυτό το χαρακτηριστικό κυκλοφόρησε τον περασμένο Αύγουστο, η εταιρεία το πλαισίωνε ως εγγύηση για την ευημερία της τεχνητής νοημοσύνης.
“Παραμένουμε πολύ αβέβαιοι σχετικά με την πιθανή ηθική κατάσταση του Claude και άλλων LLMs, τώρα ή στο μέλλον. Ωστόσο, λαμβάνουμε σοβαρά υπόψη το ζήτημα και παράλληλα με το ερευνητικό μας πρόγραμμα εργαζόμαστε για τον εντοπισμό και την εφαρμογή παρεμβάσεων χαμηλού κόστους για τον μετριασμό των κινδύνων για το πρότυπο ευημερίας, σε περίπτωση που είναι δυνατή μια τέτοια ευημερία. Το να επιτρέπεται στα μοντέλα να τερματίζουν ή να εξέρχονται από δυνητικά οδυνηρές αλληλεπιδράσεις είναι μια τέτοια παρέμβαση», σύμφωνα με τον ιστότοπό της.
Η αντίληψη ότι τα συστήματα τεχνητής νοημοσύνης είναι συνειδητά είναι πολύ πολωτική εντός και εκτός του τεχνολογικού κόσμου.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι δεν μπορεί να αποκλείσει το ενδεχόμενο.
Εν τω μεταξύ, ο Sam Altman, Διευθύνων Σύμβουλος της ανταγωνιστικής OpenAI, φάνηκε να αντιτίθεται στην ιδέα.
«Νιώθω πολύ άβολα για τους ανθρώπους που προσπαθούν να αποδώσουν θρησκευτική δύναμη ή την παράδοση της ανθρώπινης κρίσης σε μοντέλα τεχνητής νοημοσύνης και πιστεύω ότι είναι ένα πραγματικό ζήτημα ασφάλειας», έγραψε σε μια ανάρτηση X, μέρες μετά την αναφορά των New York Times για τις εκτενείς συνομιλίες των ηγετών των Anthropic με θρησκευτικούς μελετητές.
