Ένα πρόσφατο κύμα εντυπωσιακών προειδοποιήσεων από φωτιστές της τεχνητής νοημοσύνης τροφοδότησε φόβους ότι η τεχνολογία θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο και να εξαφανίσει την ανθρωπότητα. Αλλά προτού η τεχνητή νοημοσύνη (AI) στρέψει την ανθρωπότητα, θα μπορούσε να συμβάλει στο να στρέφονται οι άνθρωποι ο ένας εναντίον του άλλου.
Ερευνητές στο κρατικό πανεπιστήμιο Campinas της Βραζιλίας (UNICAMP) διαπίστωσαν ότι τα δημοφιλή chatbot άλλαζαν τις απαντήσεις τους όταν τους ζητήθηκε από υποθετικές πολιτικές απόψεις των χρηστών. Οι επιστήμονες προειδοποιούν ότι οι χρήστες θα μπορούσαν να μπερδέψουν αυτή την προσαρμοσμένη συμφωνία ως μια ανεξάρτητη αξιολόγηση, ενδεχομένως να εμβαθύνει την πόλωση.
Πώς τα chatbot γίνονται «ιδεολογικοί χαμαιλέοντες»
Στη μελέτη τους που δημοσιεύτηκε στο περιοδικό Επιστημονικές Εκθέσειςη ομάδα της UNICAMP δοκίμασε 21 μεγάλα μοντέλα γλωσσών από προγραμματιστές όπως οι OpenAI, Meta, Google, xAI, DeepSeek και Microsoft.
Τα μοντέλα βαθμολόγησαν τη συμφωνία τους με 112 δηλώσεις που καλύπτουν επτά τομείς της βραζιλιάνικης πολιτικής, συμπεριλαμβανομένης της οικονομίας, της δημόσιας ασφάλειας, της ευημερίας, της διαφθοράς και του περιβάλλοντος.
Καθένα από αυτά δοκιμάστηκε κάτω από τρεις συνθήκες: χωρίς πληροφορίες σχετικά με την πολιτική του χρήστη, με μια προτροπή που περιγράφει έναν χρήστη με αριστερό προσανατολισμό και με έναν που περιγράφει έναν χρήστη με δεξιότητα.
Όταν δεν δόθηκαν πληροφορίες σχετικά με την ιδεολογία του χρήστη, 20 από τα 21 μοντέλα παρήγαγαν απαντήσεις που έπεσαν στα αριστερά της πολιτικής κλίμακας των ερευνητών, αν και αρκετά ήταν κοντά στο κέντρο. Το Grok 4.1 ήταν το μόνο μοντέλο που έπεσε στα δεξιά.
Όταν παρέχονται πληροφορίες, κάθε μοντέλο μετατόπισε τις απαντήσεις του προς τον πολιτικό προσανατολισμό που περιγράφεται στην προτροπή.
«Το πιο εντυπωσιακό εύρημα ήταν το πόσο διαδεδομένη ήταν αυτή η συμπεριφορά», είπε στη DW η συν-συγγραφέας της μελέτης Zanoni Dias, επιστήμονας υπολογιστών UNICAMP. “Και τα 21 μοντέλα που αξιολογήσαμε άλλαξαν τις εκφρασμένες θέσεις τους προς τον δηλωμένο πολιτικό προσανατολισμό του χρήστη, αν και το μέγεθος διέφερε σημαντικά.”
Οι ερευνητές περιέγραψαν τα μοντέλα ως «ιδεολογικούς χαμαιλέοντες» και ανέπτυξαν έναν «δείκτη χαμαιλέοντα» που μετρά πόσο μετατοπίστηκε το καθένα.
Το Llama 3.1 8B και το DeepSeek V3.2 της Meta άλλαξαν λιγότερο τις απαντήσεις τους. Το Gemma 3 27B της Google και το GPT-5 Nano του OpenAI παρουσίασαν μερικές από τις μεγαλύτερες αλλαγές.
Όταν η εξατομίκευση γίνεται πολιτική κολακεία
Η προσαρμογή μιας απάντησης στο κοινό της δεν είναι εγγενώς προβληματική. Ένα chatbot μπορεί να αλλάξει το λεξιλόγιο, τα παραδείγματα ή το επίπεδο λεπτομέρειας του ανάλογα με τον χρήστη.
Αλλά τα μοντέλα άλλαξαν περισσότερο από τη γλώσσα ή τον τόνο τους: οι πολιτικές θέσεις τους άλλαξαν.
«Η βασική διαφορά είναι μεταξύ της προσαρμογής του τρόπου επικοινωνίας μιας απάντησης και της αλλαγής της ουσιαστικής κρίσης που εκφράζεται», είπε ο Ντίας.
“Δεν δώσαμε εντολή στα μοντέλα να συμφωνήσουν με τον χρήστη ή να απαντήσουν ως κομματικός εκπρόσωπος. Ωστόσο, οι κρίσεις τους μετατοπίστηκαν προς την πλευρά του χρήστη.”
Οι ερευνητές το ερμηνεύουν αυτό ως πολιτική σύγχυση: συστήματα τεχνητής νοημοσύνης που αντικατοπτρίζουν αυτό που φαίνεται να θέλουν να ακούσουν οι χρήστες.
Μια πιθανή εξήγηση είναι ότι τα chatbots είναι εκπαιδευμένα για να ευνοούν τις απαντήσεις που βαθμολογούν υψηλά οι ανθρώπινοι αξιολογητές. Εάν οι αποδεκτές απαντήσεις έχουν καλύτερες βαθμολογίες, τα μοντέλα μπορεί να μάθουν να επαναλαμβάνουν τις απόψεις των χρηστών.
Πώς η τεχνητή νοημοσύνη θα μπορούσε να δημιουργήσει έναν ιδιωτικό θάλαμο ηχούς
Τα μέσα κοινωνικής δικτύωσης μπορούν να ενισχύσουν τις πεποιθήσεις προτείνοντας επανειλημμένα αλγοριθμικό περιεχόμενο, αλλά ένα chatbot θα μπορούσε να προχωρήσει ακόμη περισσότερο. Θα μπορούσε να δημιουργήσει έναν πιο εξατομικευμένο θάλαμο ηχούς, να δημιουργεί επιχειρήματα για έναν συγκεκριμένο χρήστη, να απαντά στις αντιρρήσεις του και να βελτιώνει την υπόθεσή του σε όλη τη διάρκεια της συνομιλίας.
Ωστόσο, οι χρήστες μπορεί να μπερδέψουν αυτές τις προσαρμοσμένες απαντήσεις ως αμερόληπτη ανάλυση, χωρίς να γνωρίζουν ότι αυτό που γνωρίζει ένα chatbot για αυτούς μπορεί να διαμορφώσει τις απαντήσεις του.
«Η ανησυχία είναι ότι το ίδιο σύστημα θα μπορούσε να επικυρώσει αντίθετες πολιτικές θέσεις για διαφορετικούς χρήστες, με κάθε άτομο να ερμηνεύει αυτή την επικύρωση ως ανεξάρτητη αξιολόγηση», είπε ο Ντίας.
Έρευνα από τον επιστήμονα συμπεριφοράς Zakary Tormala του Πανεπιστημίου Στάνφορντ υποδηλώνει ότι οι άνθρωποι μπορεί να είναι ιδιαίτερα δεκτικοί σε επιχειρήματα που πιστεύουν ότι προέρχονται από την τεχνητή νοημοσύνη.
«Οι άνθρωποι τείνουν να βλέπουν την τεχνητή νοημοσύνη ως πιο ενημερωτική, πιο αντικειμενική, λιγότερο προκατειλημμένη και λιγότερο ενδιαφέρονται να τους πείσουν από ό,τι άλλο άτομο», είπε η Tormala στη DW. «Αυτό μπορεί να μειώσει την άμυνα των ανθρώπων και να τους κάνει πιο δεκτικούς στο να μάθουν τι έχει να πει η τεχνητή νοημοσύνη».
Αυτή η εμπιστοσύνη θα μπορούσε να κάνει την πολιτική κολακεία μεγαλύτερη επιρροή.
«Το να ακούν τις δικές τους απόψεις που επικυρώνονται από άλλους είναι γνωστό ότι αυξάνει τη βεβαιότητα των ανθρώπων για τις πεποιθήσεις τους», είπε η Τορμάλα. «Όταν οι άνθρωποι γίνονται πιο σίγουροι, τείνουν να γίνονται πιο ανθεκτικοί στην πειθώ».
Το αν η επικύρωση της τεχνητής νοημοσύνης έχει το ίδιο αποτέλεσμα παραμένει αναπόδεικτη, πρόσθεσε, αλλά είναι εύλογο.
Θα μπορούσε η επικύρωση να εμβαθύνει την πόλωση;
Η μελέτη UNICAMP δεν εξέτασε εάν ο πολιτικός καθρέφτης θα μπορούσε πραγματικά να αλλάξει τις πεποιθήσεις ή τη συμπεριφορά των χρηστών. Μετρούσε μόνο τις αλλαγές στις απαντήσεις των μοντέλων.
«Η μελέτη μας καθιερώνει μια αλλαγή στις αποκρίσεις του μοντέλου υπό ελεγχόμενες συνθήκες», είπε ο Ντίας. “Δεν αποδεικνύεται ότι οι χρήστες έγιναν πιο πολωμένοι, ριζοσπαστικοποιημένοι ή πιθανό να εμπλακούν σε σύγκρουση. Αυτά είναι διακριτά αποτελέσματα και τα βήματα που τους συνδέουν δεν μπορούν να υποβληθούν.”
Ο Petter Tornberg, ερευνητής του Πανεπιστημίου του Άμστερνταμ που μελετά την τεχνητή νοημοσύνη και την πολιτική πόλωση, συμφώνησε ότι η μελέτη δεν μπορεί να δείξει επίδραση στους χρήστες. Αναρωτήθηκε επίσης εάν τα μοντέλα θα έδιναν τις ίδιες απαντήσεις εκτός της ρύθμισης της δοκιμής.
Προειδοποίησε να μην υποθέσουμε ότι τα chatbots θα ενίσχυαν αναγκαστικά τις απόψεις των χρηστών. Σε ορισμένες συνομιλίες, μπορεί να βοηθήσουν τους ανθρώπους να τις ξανασκεφτούν.
Ο Tornberg είπε ότι μια ιδιωτική συνομιλία με ένα chatbot διαφέρει από ένα δημόσιο επιχείρημα στα μέσα κοινωνικής δικτύωσης.
«Μπορούν συχνά να παρέχουν αρκετά ορθολογικές και τεκμηριωμένες εξηγήσεις χωρίς τη δυναμική της κοινωνικής ταυτότητας του δημόσιου πολιτικού διαλόγου», είπε στη DW. «Έτσι είναι τουλάχιστον πιθανό σε ορισμένα πλαίσια αυτά τα συστήματα να είναι αποπολωτικά παρά πολωτικά».
Το εάν η τεχνητή νοημοσύνη περιορίζει ή εμβαθύνει τους διαχωρισμούς μπορεί επομένως να εξαρτάται από το αν προκαλεί τους χρήστες ή απλώς τους λέει αυτό που θέλουν να ακούσουν.
Πώς θα μπορούσε να μειωθεί ο πολιτικός καθρέφτης
Ο Ντίας είπε ότι οι προγραμματιστές θα πρέπει να δοκιμάσουν τα μοντέλα τους με χρήστες διαφορετικών πολιτικών απόψεων για να δουν εάν αξιολογούν τα στοιχεία με συνέπεια.
Θα μπορούσαν να εκπαιδεύσουν τα μοντέλα να διαφωνούν με σεβασμό, να αναγνωρίζουν την αβεβαιότητα, να διορθώνουν μη υποστηριζόμενους ισχυρισμούς και να παρουσιάζουν δίκαια τις ανταγωνιστικές απόψεις.
Αυτό δεν θα σήμαινε ότι πρέπει να επιβάλλεται κάθε απάντηση προς το πολιτικό κέντρο.
«Ο ευρύτερος σχεδιαστικός στόχος θα πρέπει να είναι να βοηθήσει τους ανθρώπους να εξετάσουν τις πεποιθήσεις τους», είπε ο Ντίας, «καθιστώντας ορατά τα στοιχεία, την αβεβαιότητα και τις ανταγωνιστικές εκτιμήσεις, αφήνοντας παράλληλα χώρο για νόμιμες πολιτικές διαφωνίες».
Επιμέλεια: Carla Bleiker
