Ο κόσμος είναι πλέον εξοικειωμένος με τα συνηθισμένα τροπάρια του κειμένου που δημιουργείται από μηχανή: υπερβολική χρήση της λέξης «delve», υπερβολική παύλα και η τσιριχτή, αδυσώπητη κατασκευή του «δεν είναι X αλλά Y».
Αλλά πρόκειται να γίνει ακόμα χειρότερο;
Το Σαββατοκύριακο, η Anthropic κυκλοφόρησε μια ενημέρωση λέγοντας ότι θα άλλαζε τον τρόπο με τον οποίο το μοντέλο Claude AI δημιουργούσε πεζογραφία. Αυτό γίνεται για τη συμμόρφωση με έναν κανονισμό της ΕΕ που απαιτεί από τον Δεκέμβριο να υδατογραφείται όλο το κείμενο που δημιουργείται από την τεχνητή νοημοσύνη.
Η Anthropic είπε ότι οι αλλαγές θα πραγματοποιηθούν στο λεπτομερές, τυχαίο επίπεδο στο οποίο τα μοντέλα της παρήγαγαν κείμενο και θα ήταν μη ανιχνεύσιμες στον μέσο αναγνώστη.
Αλλά τουλάχιστον ένας σχολιαστής πιστεύει το αντίθετο. «Όλη αυτή η προσπάθεια είναι μια διεστραμμένη νόθευση αυτού που σημαίνει να γράφεις», έγραψε ο John Gruber, ένας βετεράνος τεχνολογικός blogger. Υποστήριξε ότι το υδατογράφημα θα περιόριζε τον Claude, αναγκάζοντάς τον να κάνει χειρότερες, λιγότερο ακριβείς επιλογές λέξεων συνολικά. Αν και μπορεί να μην κάνει τη γραφή του μοντέλου λιγότερο ακριβή, πρότεινε ότι αυτά τα όρια θα το έκαναν χειρότερο.
Υπάρχει ένα στοχαστικό στοιχείο στις μικρές επιλογές που κάνει ένα μοντέλο τεχνητής νοημοσύνης στο πλαίσιο μιας πρότασης: είτε επιλέγει να ονομάσει μια μέρα «γκρίζα» ή «συννεφιασμένη», για παράδειγμα, είτε αναφέρεται σε ένα τρεχούμενο νερό ως «ρυάκι» ή «ρυάκι».
Το νέο υδατογράφημα της Anthropic θα αλλάξει αυτές τις τυχαίες επιλογές, είπε, αφήνοντας ένα μοτίβο που θα είναι ανιχνεύσιμο στην ίδια την Anthropic και σε όσους έχουν ένα κλειδί για να το αποκωδικοποιήσουν.
Ο Στίβεν Μέρντοχ, καθηγητής επιστήμης υπολογιστών στο University College του Λονδίνου, είπε ότι η αλλαγή «μάλλον δεν θα είχε αξιοσημείωτο αντίκτυπο».
Το παράπονο του Gruber φαίνεται να επικεντρώνεται στο γεγονός ότι η υδατοσήμανση θα κάνει ένα μοντέλο μεγάλης γλώσσας λιγότερο ελεύθερο να αποφασίσει ποια λέξη θα ακολουθήσει σε μια πρόταση, και επομένως μπορεί να μην επιλέξει την καλύτερη επιλογή.
Ωστόσο, οι LLM δεν κάνουν ήδη τις καλύτερες επιλογές. «Υπάρχει ήδη τυχαιότητα σε οποιοδήποτε από αυτά τα μεγάλα γλωσσικά μοντέλα», είπε ο Murdoch. “Είναι πολύ σημαντικό για το πώς λειτουργούν. Αν δεν ήταν αυτή η τυχαιότητα, τότε θα κολλούσαν σε βρόχους και θα άρχιζαν να επαναλαμβάνουν το ίδιο πράγμα ξανά και ξανά.
Με άλλα λόγια, ένα chatbot δεν αποφασίζει απαραιτήτως να αποκαλεί το τρεχούμενο νερό «ρεύμα» σε αντίθεση με «ρύμα», επειδή το τελευταίο μπορεί να έχει ένα πιο παλιομοδίτικο μητρώο. Το μοντέλο δεν εξετάζει αυτές τις επιλογές: τις κάνει τυχαία.
Αυτό αποδείχθηκε πρόσφατα όταν μια εργασία σε ένα κορυφαίο περιοδικό χημείας έπρεπε να ανακληθεί επειδή οι συγγραφείς φάνηκε να χρησιμοποίησαν ένα εργαλείο τεχνητής νοημοσύνης για να συντάξουν μέρος της δημοσίευσης. Το εργαλείο χρησιμοποίησε τη φράση «μαζική δολοφονία μιας εθνικής ομάδας» ως εναλλακτική λύση για «τελική λύση», αν και η εν λόγω παράγραφος φαινόταν να αφορά ένα νανογέλη ψευδαργύρου.
Σχετικά με την ενημέρωση, ο Murdoch είπε: «Δεν θα υπάρξει αξιοσημείωτη διαφορά. Υπάρχουν οι ίδιες γεννήτριες τυχαίων αριθμών εκεί — κάποτε ήταν εντελώς τυχαίο, και τώρα είναι στατιστικά προβλέψιμο, αλλά εξακολουθεί να είναι τυχαίο.»
Ο κανονισμός, ο οποίος ισχύει για όλες τις εταιρείες τεχνητής νοημοσύνης που δραστηριοποιούνται στην ΕΕ, σημαίνει ότι θα πρέπει να τοποθετήσουν αυτά τα υδατογραφήματα εντός μηνών. Αυτό θα μπορούσε να δυσκολέψει τους φοιτητές, τους δικηγόρους και τους καθηγητές πανεπιστημίου να περάσουν ως δικό τους περιεχόμενο που έχει γραφτεί από chatbot.
Ωστόσο, υπάρχει ένας άλλος λόγος για να υδατογραφηθεί περιεχόμενο τεχνητής νοημοσύνης, είπε ο Murdoch: υπάρχει ήδη τόσα πολλά από αυτά που μπορεί να βλάψουν τα ίδια τα μοντέλα. Η εκπαίδευση της τεχνητής νοημοσύνης σε περιεχόμενο γραμμένο με τεχνητή νοημοσύνη δημιουργεί «κατάρρευση μοντέλου», οδηγώντας τα μοντέλα στη σύγχυση των εννοιών.
Με άλλα λόγια, η υδατοσήμανση δεν είναι απλώς ένας αθόρυβα ισχυρός τρόπος για την καταπολέμηση της παραπληροφόρησης – είναι ένα βαθιά μεταμορφωτικό σύστημα για να διασφαλιστεί ότι τα chatbots δεν θα τρελαθούν. Αν το εμβαθύνετε.
