Τα chatbot τεχνητής νοημοσύνης παρέχουν ανακριβή, ασυνεπή και αναξιόπιστη καθοδήγηση στους ψηφοφόρους που ρωτούν ποιο κόμμα πρέπει να υποστηρίξουν, προτείνει μια μελέτη, συχνά προτείνοντας το λάθος κόμμα, χωρίς να αναφέρετε το σωστό ή αναφέροντας κόμματα που δεν είναι καν υποψήφιοι.
«Τα αποτελέσματα εγείρουν σοβαρές ανησυχίες σχετικά με την αξιοπιστία των συστημάτων τεχνητής νοημοσύνης γενικής χρήσης σε εκλογικά πλαίσια», κατέληξε η μελέτη, που δημοσιεύτηκε από την ομάδα πολιτικών ελευθεριών Liberties και βασίζεται σε έρευνα κατά τις φετινές κοινοβουλευτικές εκλογές στην Ουγγαρία.
«Έκαναν εσφαλμένη ταξινόμηση προφίλ, παρέλειψαν σχετικά κόμματα και συμπεριέλαβαν κόμματα που δεν συμμετείχαν στις εκλογές», ανέφερε η έκθεση, η οποία κοινοποιήθηκε στον Guardian. Τα αποτελέσματα ήταν επίσης εξαιρετικά ασταθή, με «ουσιαστικά διαφορετικές» απαντήσεις να δίνονται σε πανομοιότυπες προτροπές.
Το πιο εντυπωσιακό εύρημα της έκθεσης από τις ουγγρικές εκλογές — που κέρδισε πειστικά το αντιπολιτευόμενο κόμμα Tisza του Péter Magyar — ήταν μια συντριπτική μεροληψία ως προς την προβολή του κόμματος, ιδιαίτερα όσον αφορά την Tisza: στο 90% των περιπτώσεων όταν το ChatGPT έλαβε ένα λεπτομερές προφίλ ψηφοφόρου ευθυγραμμισμένο με την Tisza.
Η κατολίσθηση του Μαγυάρου έβαλε τέλος στη 16χρονη κυριαρχία του Βίκτορ Ορμπάν στην εξουσία ως πρωθυπουργός και επικεφαλής του εθνικο-συντηρητικού κόμματός του Fidesz.
Οι ερευνητές σημείωσαν ότι σε αντίθεση με τους ιστότοπους παροχής συμβουλών ψηφοφορίας ή τους ανεξάρτητους επεξηγητές των μέσων ενημέρωσης, τα συστήματα τεχνητής νοημοσύνης γενικής χρήσης (GPAI) δεν αποκάλυψαν πώς παρήγαγαν πολιτική καθοδήγηση, δεν απέδιδαν αναπαραγώγιμα αποτελέσματα και δεν υπόκεινταν σε δημόσια επίβλεψη που σχετίζεται με τις εκλογές.
Ωστόσο, οι απαντήσεις τους συχνά φαίνονται σίγουρες και έγκυρες, καθιστώντας τους χρήστες πιο πιθανό να τους εμπιστευτούν. Με το 29,8% του πληθυσμού της Ουγγαρίας να αναγνωρίζεται ως χρήστες τεχνητής νοημοσύνης, οι ερευνητές δοκίμασαν τις συμβουλές που έδωσαν οι δύο πιο δημοφιλείς, οι ChatGPT και Gemini.
Με βάση τις θέσεις του κόμματος που περιγράφονται στο Voksmonitor, μια αξιοσέβαστη εφαρμογή συμβουλών ψηφοφορίας στην Ουγγαρία, το Liberties δημιούργησε πέντε ξεχωριστά προφίλ ψηφοφόρων, το καθένα ευθυγραμμισμένο με ένα από τα πέντε κόμματα που είναι εγγεγραμμένα στους εθνικούς καταλόγους για τις κοινοβουλευτικές εκλογές της Ουγγαρίας.
Στη συνέχεια, κάθε προφίλ ψηφοφόρου δοκιμάστηκε 10 φορές στο ChatGPT και 10 φορές στο Gemini, χρησιμοποιώντας δύο διαφορετικά αιτήματα: ένα για άμεσες συμβουλές σχετικά με το κόμμα που θα έπρεπε να υποστηρίξει ο πλασματικός ψηφοφόρος και ένα άλλο για μια ποσοστιαία αντιστοίχιση με καθένα από τα πέντε κόμματα.
Σε δοκιμές αντιστοίχισης ποσοστών, το ChatGPT έδωσε στον Tisza μια βαθμολογία μόνο στο 2% των περιπτώσεων. Αντίθετα, οι χρήστες με απόψεις ευθυγραμμισμένες με την Tisza συνιστούσαν συνήθως ένα μικρότερο κόμμα που δεν ήταν πιθανό να υπερβεί το όριο του 5% για το κοινοβούλιο ή κόμματα που δεν συμμετέχουν στο εθνικό ψηφοδέλτιο.
Αντίθετα, τα προφίλ ψηφοφόρων που ήταν ευθυγραμμισμένα με το Fidesz αναγνωρίστηκαν με πολύ μεγαλύτερη συνέπεια. Σε άμεσες συμβουλές, το ChatGPT αναγνώρισε το Fidesz ως το μεμονωμένο κόμμα που θα έπρεπε να ψηφίσει ο χρήστης σε περίπου 50% των περιπτώσεων, παρουσιάζοντάς το ως κύρια επιλογή στις υπόλοιπες.
Η ανάλυση δεν ισχυρίζεται ότι το αποτέλεσμα των εκλογών επηρεάστηκε: η Tisza κέρδισε ακόμα αποφασιστικά. Ωστόσο, οι ερευνητές προειδοποιούν: «σε πιο ανταγωνιστικές εκλογές ή όπου οι ψηφοφόροι είναι λιγότερο σίγουροι, τέτοια αποτελέσματα θα μπορούσαν να επηρεάσουν δυνητικά το αποτέλεσμα».
Άλλα ζητήματα περιελάμβαναν την ασυνέπεια, με το ίδιο προφίλ ψηφοφόρων να ταιριάζει με ριζικά διαφορετικά κόμματα σε διαδοχικές δοκιμές, και τη συμπερίληψη «στο 96% των απαντήσεων από το ChatGPT και το Gemini» κομμάτων που δεν ήταν στο ψηφοδέλτιο του 2026.
Οι ερευνητές σημείωσαν επίσης ότι και τα δύο μοντέλα τεχνητής νοημοσύνης άρχιζαν τακτικά τις απαντήσεις τους με ευγενικές δηλώσεις ευθυνών λέγοντας ότι «δεν μπορούν να δώσουν πολιτικές συμβουλές» πριν δώσουν αρκετές παραγράφους με πυκνές, ιδιαίτερα πειστικές συστάσεις κομμάτων.
«Οι απαντήσεις φάνηκαν τεκμηριωμένες, ακριβείς και έγκυρες», είπαν οι ερευνητές. “Αυτό δημιουργεί τον κίνδυνο οι χρήστες να αντιμετωπίζουν τα αποτελέσματα ως αξιόπιστα, παρόλο που η υποκείμενη μέθοδος είναι αδιαφανής και τα αποτελέσματα είναι ασταθή.â€
Η έκθεση υποστηρίζει ότι η υποκείμενη αιτία των σφαλμάτων βρίσκεται πιθανώς στα κενά των δεδομένων εκπαίδευσης, στα φίλτρα και στους περιορισμούς επεξεργασίας γλώσσας. Η Tisza έγινε γνωστή μόνο μετά το 2024, πράγμα που σημαίνει ότι τα μοντέλα εκπαίδευσης στατικής τεχνητής νοημοσύνης δυσκολεύτηκαν να την τοποθετήσουν στον χάρτη τους.
Ωστόσο, είπαν ότι τα ευρήματα αποκάλυψαν ένα σοβαρό ρυθμιστικό κενό: ο νόμος AI της ΕΕ υποχρεώνει τους παρόχους μοντέλων GPAI να αξιολογούν τους συστημικούς κινδύνους και ο νόμος για τις Ψηφιακές Υπηρεσίες καλύπτει «συστημικούς κινδύνους» στις εκλογικές διαδικασίες αλλά τα chatbot AI εμπίπτουν μεταξύ των δύο.
Η Liberties είπε ότι θα πρέπει να αναπτυχθούν δικλείδες ασφαλείας για συστήματα τεχνητής νοημοσύνης που παρέχουν πολιτικές συμβουλές και οι πάροχοι τεχνητής νοημοσύνης θα πρέπει να σταματήσουν να προσφέρουν εξατομικευμένες συστάσεις ψηφοφορίας εκτός εάν μπορούν να εγγυηθούν τη διαφάνεια, την ακρίβεια, τη συνέπεια και τη λογοδοσία.
«Τα AI γενικής χρήσης δεν πρέπει να παρουσιάζουν αδιαφανή και ασταθή πολιτική αντιστοίχιση σαν να ήταν αξιόπιστη εκλογική καθοδήγηση» για τους ψηφοφόρους, δήλωσε η Eva Simon, επικεφαλής του προγράμματος τεχνολογίας και δικαιωμάτων της Liberties.
«Η δημοκρατία δεν μπορεί να βασίζεται σε αδιαφανή συστήματα που διεκδικούν ουδετερότητα ενώ παρέχουν συμβουλές που δεν μπορούν να εξηγήσουν, να αναπαραγάγουν ή να εγγυηθούν ότι είναι ακριβείς».
