Ένας συνασπισμός περισσότερων από εκατό οργανώσεων παιδιών προσφύγων είπε ότι τα αμφιλεγόμενα σχέδια για χρήση της τεχνητής νοημοσύνης για την αξιολόγηση της ηλικίας των νεαρών αιτούντων άσυλο θα μπορούσαν να οδηγήσουν στο να καταλήξουν λανθασμένα περισσότερα παιδιά σε φυλακές ενηλίκων ή σε κέντρα κράτησης.
Η προειδοποίηση ακολουθεί μια ανακοίνωση του Υπουργείου Εσωτερικών την Παρασκευή για μια σύμβαση για την ανάπτυξη της τεχνολογίας εκτίμησης της ηλικίας προσώπου με τεχνητή νοημοσύνη σε νεαρούς αιτούντες άσυλο των οποίων η ηλικία αμφισβητείται.
Μια αναφορά από την Κοινοπραξία Παιδιών Προσφύγων και Μεταναστών που είδε ο Guardian πριν από την έκδοσή της τον Ιούνιο εγείρει συναγερμό για τους κινδύνους από τη χρήση αυτής της τεχνολογίας σε νέους που δεν ταιριάζουν με τα πρότυπα άλλων στην ηλικιακή τους ομάδα.
Η κοινοπραξία, οι οργανώσεις-μέλη της οποίας εργάζονται για την προώθηση και την προστασία των δικαιωμάτων των παιδιών προσφύγων και μεταναστών, λέει ότι ως αποτέλεσμα του τραύματος, του υποσιτισμού και των οδυνηρών ταξιδιών που έχουν κάνει οι νέοι για να φτάσουν στην ασφάλεια σημαίνει ότι η αξιολόγηση της τεχνητής νοημοσύνης είναι περίπλοκη.
Η έκθεση — Benchmarks and Borders: η χρήση της εκτίμησης της ηλικίας του προσώπου για την αξιολόγηση της ηλικίας των ασυνόδευτων νέων που ζητούν άσυλο — δεν αποκλείει τη χρήση της τεχνητής νοημοσύνης εντελώς, αλλά προειδοποιεί να μην βασίζεστε σε αυτήν και λέει ότι δεν πρέπει να υποκαθιστά τις ολοκληρωμένες εκτιμήσεις ηλικίας που πραγματοποιούν οι κοινωνικοί λειτουργοί.
Προτρέπει το Υπουργείο Εσωτερικών να χρησιμοποιήσει την τεχνητή νοημοσύνη με συμβουλευτική και όχι καθοριστική ιδιότητα, με μια σειρά από ενσωματωμένες εγγυήσεις, όπως η πρόσβαση σε κατάλληλο ενήλικα, η νομική συμβουλή και το δικαίωμα αμφισβήτησης αποφάσεων.
Προτρέπει την κυβέρνηση να μην αντικαταστήσει τα ανθρώπινα λάθη που έγιναν σε ορισμένες περιπτώσεις αξιολόγησης ηλικίας με λάθος μηχανής.
Οι αξιολογήσεις ηλικίας αυτής της ομάδας νέων είναι περίπλοκες, ειδικά καθώς η πλειονότητα των μοναχικών παιδιών αιτούντων άσυλο που έρχονται στο Ηνωμένο Βασίλειο είναι ηλικίας 16 ή 17 ετών. Σύμφωνα με στοιχεία του Υπουργείου Εσωτερικών, οι νέοι αιτούντες άσυλο έχουν περισσότερες από διπλάσιες πιθανότητες να καταγραφούν από παιδιά σε αξιολογήσεις από κοινωνικούς λειτουργούς από αυτούς που πραγματοποιούν αξιωματικοί μετανάστευσης στα σύνορα, με περισσότερους από τα δύο τρίτα των ανηλίκων.
Η ανακοίνωση του Υπουργείου Εσωτερικών δίνει σημαντική έμφαση στους ενήλικες που κάνουν «ψευδείς ισχυρισμούς», προσποιούνται ότι είναι παιδιά και προσπαθούν «να παίξουν το σύστημα», αλλά αναγνωρίζει επίσης την ανάγκη προστασίας των ανηλίκων.
Ο υπουργός Ασφάλειας των Συνόρων και Ασύλου, Άλεξ Νόρις, δήλωσε: «Για πάρα πολύ καιρό, οι ενήλικοι μετανάστες που κάνουν ψευδείς ισχυρισμούς ηλικίας εκμεταλλεύονταν το σύστημα και απέσυραν τη ζωτική υποστήριξη μακριά από παιδιά που κινδυνεύουν.
“Αυτός είναι ο λόγος για τον οποίο λανσάρουμε την τεχνολογία AI για να θέσουμε ένα τέλος σε αυτό, διασφαλίζοντας ότι όσοι παίζουν το σύστημα εντοπίζονται, κρατούνται και απομακρύνονται χωρίς καθυστέρηση, καθώς και σε όσους αξίζουν υποστήριξη και προστασία.»
Οι τελικές αποφάσεις θα συνεχίσουν να λαμβάνονται από τους αξιωματικούς μετανάστευσης και το Υπουργείο Εσωτερικών δήλωσε ότι η τεχνολογία θα υποβληθεί σε αυστηρές δοκιμές, αξιολόγηση και διασφάλιση πριν από την εθνική κυκλοφορία.
Ο συμπρόεδρος της Κοινοπραξίας Παιδιών Προσφύγων και Μεταναστών, Kamena Dorling, δήλωσε: «Οι προτάσεις της κυβέρνησης είναι βαθιά ανησυχητικές. Η τεχνητή νοημοσύνη δεν μπορεί να εξηγήσει τους παράγοντες που μπορούν να επηρεάσουν σημαντικά την εμφάνιση ενός νεαρού ατόμου μετά τη φυγή των συγκρούσεων και των διώξεων και την πραγματοποίηση επικίνδυνων ταξιδιών, όπως τραύμα, υποσιτισμός και εξάντληση.
«Τα υπάρχοντα στοιχεία δείχνουν επίσης ότι η τεχνητή νοημοσύνη αντιμετωπίζει τα ίδια προβλήματα με προκατάληψη και ανακρίβεια με την ανθρώπινη λήψη αποφάσεων, με παρόμοια πρότυπα σφαλμάτων».
Ο Κάμα Πετρουτσένκο, ανώτερος αναλυτής πολιτικής στο Συμβούλιο για τους Πρόσφυγες και μέλος της κοινοπραξίας, είπε: «Τα στοιχεία της ίδιας της κυβέρνησης δείχνουν ήδη ότι εκατοντάδες παιδιά αντιμετωπίζονται λανθασμένα ως ενήλικες μετά από εσφαλμένες οπτικές αξιολογήσεις στα σύνορα, με καταστροφικές συνέπειες για την ασφάλεια και την ευημερία τους.
«Το AI και η τεχνολογία εκτίμησης της ηλικίας του προσώπου δεν είναι μια απλή ή ακίνδυνη απάντηση σε αυτά τα μακροχρόνια προβλήματα. Η κακή ποιότητα εικόνας και η μεροληψία στα σύνολα δεδομένων μπορούν επίσης να επηρεάσουν την ακρίβεια.
“Υπάρχει πραγματικός κίνδυνος αυτή η τεχνολογία να δημιουργήσει μια ψευδή αίσθηση βεβαιότητας σε αποφάσεις που είναι ήδη εξαιρετικά δύσκολο να γίνουν σωστές. Εάν οι εσφαλμένες αξιολογήσεις απλώς αυτοματοποιηθούν, περισσότερα παιδιά θα μπορούσαν να καταλήξουν λανθασμένα σε καταλύματα ενηλίκων, κέντρα κράτησης ή ακόμα και φυλακές.
Το Υπουργείο Εσωτερικών λέει ότι η τεχνητή νοημοσύνη θα εκτιμήσει την ηλικία ενός ατόμου σε δευτερόλεπτα, αναλύοντας φωτογραφίες προσώπου που έχουν ήδη ληφθεί από αφίξεις με μικρά σκάφη στο Ντόβερ. Μια σύμβαση για το έργο αξίας £ 322.000 για τρία χρόνια έχει ανατεθεί στην Akhter Computers Ltd, βάσει της οποίας η τεχνολογία θα δοκιμαστεί περαιτέρω και θα αναπτυχθεί πριν κυκλοφορήσει το 2027.
