Sul confine serbo-ungherese c’è un ragazzo afgano che sta scavalcando una recinzione, quando si accorge di un drone che vola sopra la sua testa. Sono le 5 del mattino e i droni perlustrano la frontiera in cerca di migranti. Poco dopo l’avvistamento arrivano alcuni veicoli della polizia, gli agenti scendono e usano i cani per bloccare lui e chi si trova vicino alla recinzione. Ci sono uomini, donne e bambini. Alcuni ricevono delle manganellate, altri spray al peperoncino negli occhi, tutti poi vengono portati via su un furgone.

Tra le testimonianze raccolte dal Border Violence Monitoring Network, una rete di organizzazioni che documenta i respingimenti illegali nei Balcani occidentali e in Grecia, i racconti come questo sono decine. Tutte hanno un elemento in comune: i migranti fermati alle frontiere sono stati individuati attraverso i droni. Le tecnologie impiegate sui confini europei però non si limitano a sorvegliare e negli anni sono diventate più sofisticate.

L’Unione Europea utilizza sistemi di intelligenza artificiale per identificare le persone, individuare movimenti sospetti e anticipare la selezione all’ingresso dei migranti alle frontiere, valutando quali possono ricevere protezione e chi, al contrario, reinserire nei Paesi di transito. In assenza di regolamenti sull’uso di queste tecnologie e di maggiori tutele nei confronti delle persone in viaggio, però, il controllo tecnologico dei migranti li espone a situazioni in cui la loro privacy e la loro incolumità sono a rischio.

«A prescindere dall’attuale legalità delle tecnologie applicate, è chiaro che queste vengono regolarmente utilizzate per facilitare le violazioni dei diritti umani, come i respingimenti o le detenzioni arbitrarie, che spesso comportano gradi di violenza molto elevati, fino ad arrivare a trattamenti degradanti o alla tortura da parte delle forze di polizia», spiega Claudia Lombardo, ricercatrice del Border Violence Monitoring Network.

Oltre ai droni, la sorveglianza alle frontiere prevede l’uso di telecamere, sensori termici, visori notturni, sensori specializzati per il rilevamento dei telefoni cellulari, dispositivi di localizzazione e occhiali per la visione notturna. Una volta fermati, per i migranti inizia la fase di riconoscimento vera e propria che determinerà il loro futuro. L’intelligenza artificiale serve in questo caso ad accelerare e a rendere automatiche le procedure di identificazione e di asilo negli Stati membri e alle frontiere esterne dell’Unione.

Nei centri di identificazione, i sistemi di riconoscimento delle emozioni e quelli di riconoscimento biometrico sono i principali strumenti utilizzati, assieme a sistemi di polizia predittiva.

I primi mirano a stabilire le intenzioni delle persone in base ai loro comportamenti e alle loro espressioni durante gli interrogatori. Queste reazioni tuttavia possono dipendere dalla cultura, dai traumi e dalla storia personale di chi viene esaminato. Per questo, Amnesty International ritiene che i sistemi di riconoscimento delle emozioni si fondino su criteri discriminatori, che possono influenzare gravemente le decisioni sulla necessità o meno di proteggere i migranti.

Un esempio concreto sul funzionamento di questi sistemi è il progetto di ricerca Intelligent Portable Control System, che tra 2013 e 2019 ha ricevuto un finanziamento europeo di 4,5 milioni di euro. L’obiettivo era quello di sviluppare un sistema in grado di supportare la polizia nel prendere decisioni durante i controlli alle frontiere tramite uno strumento di rilevamento automatico dell’inganno. Durante i test pilota condotti presso diversi valichi in Ungheria, Grecia e Lettonia, i viaggiatori erano intervistati da un avatar che aveva il compito di identificare i “biomarcatori dell’inganno”, ovvero microespressioni facciali, non verbali, associate alla menzogna (come l’ammiccamento dell’occhio sinistro, l’aumento del rossore del viso e le direzioni dei movimenti della testa). Sulla base dei risultati ottenuti, che furono ampiamente contestati, oggi l’Unione Europea utilizza un sistema di rilevamento dell’inganno che funziona attraverso l’analisi delle espressioni facciali, della voce, del corpo e dei segnali oculari.

I sistemi di riconoscimento biometrico usano invece le caratteristiche fisiche e comportamentali per classificare le persone. Uno di questi software è usato, per esempio, per determinare se il dialetto di un individuo corrisponde alla regione da cui dice di provenire. Altri permettono di identificare le persone confrontando in tempo reale i loro dati attraverso la scansione del volto, delle impronte digitali o dei palmi delle mani, ma anche tramite tecnologie di identificazione vocale o dell’iride.

La raccolta di questi dati permette di attivare sistemi di polizia predittiva. La provenienza delle persone e l’analisi dei loro comportamenti possono cioè fornire dei presupposti per compiere valutazioni sul rischio che gli individui potrebbero rappresentare per la società. L’ipotesi che un migrante possa comportarsi in un certo modo o possa costituire una minaccia per l’Unione Europea contribuisce così a decidere se sottoporlo a un arresto, a una perquisizione o ad altre forme di controllo da parte della polizia.

Decisioni di questo tipo, influenzate da sistemi di intelligenza artificiale, pesano profondamente sulla vita delle persone. In tutta Europa, intanto, il controllo dei confini è sempre più una questione tecnologica, ma l’uso che viene fatto delle tecnologie risulta spesso invasivo, anche quando non ce ne si accorge. Alcune persone fermate alle frontiere raccontano di essersi rese conto, solo dopo molto tempo, che la polizia aveva installato sui loro cellulari sistemi di tracciamento per monitorarne gli spostamenti.