Le idee
Contro la dittatura del falso non abbiamo difese
Contro la dittatura del falso non abbiamo difese
La distinzione tra vero e fake fugge sempre più lontano ed è in mano ai monopolisti delle tecnologie. Le contromisure non bastano. E ci sono rischi per la democrazia
Già nell’antichità si mise in dubbio che la tecnica fosse neutra. Heidegger le dedicò uno dei suoi studi più noti. Il progresso tecnico cresce esponenzialmente, quello morale non è soltanto più lento: in pratica, è personale e riparte da zero in ogni individuo. Ogni nuova arma moltiplica le vite distrutte; ogni nuovo vaccino, quelle salvate. Ma l’arma atomica distrugge due città già pochi giorni dopo la sua sperimentazione: i nuovi medicinali impiegano anni prima di diffondersi e salvare masse intere. Ho chiamato questo squilibrio “asimmetria del male”. L’ho incontrato anche nella psicoanalisi, che non usa tecnologie, ma è moderna: basta un attimo di egoismo malato per commettere una violenza sessuale. Sono necessari anni di terapie e di affetto per correggerne le conseguenze. Oggi un grande progresso della Intelligenza Artificiale ci minaccia con un terrificante regresso: la distruzione della informazione attendibile, su cui si basa la democrazia. Appositi computer sanno già analizzare e riconoscere un volto molto più dettagliatamente dell’occhio umano: l’autorità di frontiera che controlla la foto sul passaporto è superata. Al Max Planck Institut, poi a Stanford hanno creato un software per anticipare virtualmente i movimenti del volto, durante il lento processo chirurgico e rieducativo per guarire il labbro leporino e la palatoschisi. Ma hanno inaspettatamente fatto un regalo anche alla produzione mondiale di false notizie.
* * *
Mediante Photoshop possiamo far sparire ogni difetto dal ritratto delle persone care. Se il computer può oggi riconoscere differenze minime nelle immagini (per esempio fra quelle di due gemelli identici), significa che la sua “intelligenza” ha anche gli strumenti per crearle. Combinando i rispettivi software, può ormai fornirci un Photoshop insieme a un “audio-shop” e a un “video-shop”: il filmato falso di una persona vera. Con la capillarità e la velocità di internet, il mondo si è riempito di spezzoni Youtube in cui Obama pronuncia discorsi che non ha mai pronunciato, corredati da una banda inferiore che li fa credere estratti da notiziari seri come Bbc o Cnn. Lo stesso è avvenuto con Trump: confondendo ancor più lo spettatore, che ha difficoltà ancora maggiori a sospettare una falsificazione perché dalla bocca di Trump può uscire di tutto. Il software che ha prodotto il finto Obama era stato “preparato” facendogli memorizzare 14 ore di discorsi di Obama. Il suo affinamento è stato rapidissimo: ormai produce finti movimenti della bocca che, da soli, si adattano in modo perfetto al finto discorso. Partendo da soggetti semplici (come creare un falso video di Putin: il quale non sorride mai e ha sempre la stessa espressione) il software Face2Face è oggi capace di “imparare” voce e volto di un personaggio ripresi da qualunque webcam: e, su questa base, creare un suo falso discorso.
* * *
Una volta realizzata, però, la tecnologia del falso permette anche contro-mosse simmetriche per smascherarla: un processo di rovesciamento della tecnica detto reverse-engineering (invertire l’ingegneria). Purtroppo, questo limite alla onnipotenza della falsificazioni corrisponde solo al monopolio del software e rimane nelle mani del privato che lo ha prodotto. Le istituzioni pubbliche o di auto-disciplina, volte ad assicurare uno standard minimo di verità o decenza per l’informazione, sono impotenti come un teologo medievale davanti ai conflitti atomici. Gli apprendisti stregoni del software sono ormai prigionieri dei propri figli tecnologici: perfezionano, contemporaneamente, sia l’Intelligenza Artificiale del Falso, sia quella del Vero. Non sviluppano più un prodotto ma, contemporaneamente, anche il suo gemello-avversario (Gan: Generative Adversarial Network). In pratica, il software - chiamiamolo Falsificatore - viene creato insieme al suo opposto, come l’immagine in uno specchio: lo Smascheratore del Falsificatore. Mentre il primo perfeziona il falso (correggendo l’ultima imperfezione nel riprodurre un orecchio del finto Obama), il secondo, che dispone degli stessi dati, perfeziona la sua capacità di riconoscere la falsificazione. Ma a questo punto, essendo a lui gemellato, il Falsificatore impara questa contromossa e si affina a sua volta, rendendo la falsificazione ancor meno riconoscibile. E così via. In questo modo, la distinzione tra vero e falso fugge sempre più lontano dal pubblico e riposa comodamente in grembo ai monopolisti di queste tecnologie. Con gravi rischi per la democrazia: fino a poco fa, si garantiva che le campagne elettorali disponessero degli stessi centimetri per le affissioni e degli stessi secondi di trasmissione. Con nternet e i social, tutti possono dire tutto: e aspettarsi che la menzogna venga riprodotta all’infinito, senza conseguenze.
* * *
Il pericolo è reso grave dalla possibilità che gruppi seminatori di odio producano falsi video che diffamano gli ultimi politici ancora meritevoli di questo nome. Per il momento sul sito di Face2Face vediamo un attore che fa le boccacce. Accanto a lui, su uno schermo precedentemente nutrito dal software, il viso di Bush obbedisce, riproducendo esattamente le medesime smorfie: con una precisione mimica che ingannerebbe anche la signora Bush. Ma immaginiamo per un attimo che venga immesso in rete un falso Youtube in cui Obama dichiara: «Ora, a presidenza finita, lo posso confessare: sono musulmano e mi auguro che l’Islam trionfi nel mondo». Per i gruppi razzisti che gli hanno rivolto più calunnie che a qualunque presidente nella storia sarebbe gran festa. La loro aggressività - pari solo a una ignoranza che non permetterebbe loro di intuire il falso - non avrebbe limiti. Il Gan detentore della tecnologia che ha permesso la falsificazione, i portavoce di Obama, le istituzioni americane, potrebbero diffondere smentite corredate di ogni prova: ma ormai il disastro sarebbe avvenuto, il video riprodotto a milioni e difficile da cancellare del tutto. Nessuno è mai riuscito a ritirare dallo spazio pubblico i presupposti su cui la circolazione di un falso può contare: volgarità, cinismo e ignoranza. Oltre a rovinare la vita di un uomo pubblico, i falsi video possono distruggere l’esistenza privata di chiunque, perché mettono in circolazione parti private come le labbra. Quelle di Scarlett Johansson stanno percorrendo il mondo intente a un atto erotico, in un video dove fortunatamente la falsificazione è abbastanza riconoscibile.
* * *
Queste tecnologie sono pericolose perché potrebbero minare le ultime garanzie di informazione obiettiva, quindi di dibattito, quindi di elezioni democratiche. In un certo senso, il pericolo potenziale che rappresentano è tale che il loro controllo andrebbe affidato addirittura alle Nazioni Unite, come se si trattasse di un Trattato di Non Proliferazione Nucleare. Purtroppo, a differenza della prevenzione di un conflitto nucleare, che è nell’interesse di tutti i paesi, quella del disastro che da esse può derivare è nell’interesse dei soli paesi democratici: i quali restano una minoranza (Index of Democracy dell’Economist). Questa, ed altre tecnologie informatiche creatrici di illusioni virtuali, continueranno quindi ad avanzare sulla loro strada.
* * *
Mediante Photoshop possiamo far sparire ogni difetto dal ritratto delle persone care. Se il computer può oggi riconoscere differenze minime nelle immagini (per esempio fra quelle di due gemelli identici), significa che la sua “intelligenza” ha anche gli strumenti per crearle. Combinando i rispettivi software, può ormai fornirci un Photoshop insieme a un “audio-shop” e a un “video-shop”: il filmato falso di una persona vera. Con la capillarità e la velocità di internet, il mondo si è riempito di spezzoni Youtube in cui Obama pronuncia discorsi che non ha mai pronunciato, corredati da una banda inferiore che li fa credere estratti da notiziari seri come Bbc o Cnn. Lo stesso è avvenuto con Trump: confondendo ancor più lo spettatore, che ha difficoltà ancora maggiori a sospettare una falsificazione perché dalla bocca di Trump può uscire di tutto. Il software che ha prodotto il finto Obama era stato “preparato” facendogli memorizzare 14 ore di discorsi di Obama. Il suo affinamento è stato rapidissimo: ormai produce finti movimenti della bocca che, da soli, si adattano in modo perfetto al finto discorso. Partendo da soggetti semplici (come creare un falso video di Putin: il quale non sorride mai e ha sempre la stessa espressione) il software Face2Face è oggi capace di “imparare” voce e volto di un personaggio ripresi da qualunque webcam: e, su questa base, creare un suo falso discorso.
* * *
Una volta realizzata, però, la tecnologia del falso permette anche contro-mosse simmetriche per smascherarla: un processo di rovesciamento della tecnica detto reverse-engineering (invertire l’ingegneria). Purtroppo, questo limite alla onnipotenza della falsificazioni corrisponde solo al monopolio del software e rimane nelle mani del privato che lo ha prodotto. Le istituzioni pubbliche o di auto-disciplina, volte ad assicurare uno standard minimo di verità o decenza per l’informazione, sono impotenti come un teologo medievale davanti ai conflitti atomici. Gli apprendisti stregoni del software sono ormai prigionieri dei propri figli tecnologici: perfezionano, contemporaneamente, sia l’Intelligenza Artificiale del Falso, sia quella del Vero. Non sviluppano più un prodotto ma, contemporaneamente, anche il suo gemello-avversario (Gan: Generative Adversarial Network). In pratica, il software - chiamiamolo Falsificatore - viene creato insieme al suo opposto, come l’immagine in uno specchio: lo Smascheratore del Falsificatore. Mentre il primo perfeziona il falso (correggendo l’ultima imperfezione nel riprodurre un orecchio del finto Obama), il secondo, che dispone degli stessi dati, perfeziona la sua capacità di riconoscere la falsificazione. Ma a questo punto, essendo a lui gemellato, il Falsificatore impara questa contromossa e si affina a sua volta, rendendo la falsificazione ancor meno riconoscibile. E così via. In questo modo, la distinzione tra vero e falso fugge sempre più lontano dal pubblico e riposa comodamente in grembo ai monopolisti di queste tecnologie. Con gravi rischi per la democrazia: fino a poco fa, si garantiva che le campagne elettorali disponessero degli stessi centimetri per le affissioni e degli stessi secondi di trasmissione. Con nternet e i social, tutti possono dire tutto: e aspettarsi che la menzogna venga riprodotta all’infinito, senza conseguenze.
* * *
Il pericolo è reso grave dalla possibilità che gruppi seminatori di odio producano falsi video che diffamano gli ultimi politici ancora meritevoli di questo nome. Per il momento sul sito di Face2Face vediamo un attore che fa le boccacce. Accanto a lui, su uno schermo precedentemente nutrito dal software, il viso di Bush obbedisce, riproducendo esattamente le medesime smorfie: con una precisione mimica che ingannerebbe anche la signora Bush. Ma immaginiamo per un attimo che venga immesso in rete un falso Youtube in cui Obama dichiara: «Ora, a presidenza finita, lo posso confessare: sono musulmano e mi auguro che l’Islam trionfi nel mondo». Per i gruppi razzisti che gli hanno rivolto più calunnie che a qualunque presidente nella storia sarebbe gran festa. La loro aggressività - pari solo a una ignoranza che non permetterebbe loro di intuire il falso - non avrebbe limiti. Il Gan detentore della tecnologia che ha permesso la falsificazione, i portavoce di Obama, le istituzioni americane, potrebbero diffondere smentite corredate di ogni prova: ma ormai il disastro sarebbe avvenuto, il video riprodotto a milioni e difficile da cancellare del tutto. Nessuno è mai riuscito a ritirare dallo spazio pubblico i presupposti su cui la circolazione di un falso può contare: volgarità, cinismo e ignoranza. Oltre a rovinare la vita di un uomo pubblico, i falsi video possono distruggere l’esistenza privata di chiunque, perché mettono in circolazione parti private come le labbra. Quelle di Scarlett Johansson stanno percorrendo il mondo intente a un atto erotico, in un video dove fortunatamente la falsificazione è abbastanza riconoscibile.
* * *
Queste tecnologie sono pericolose perché potrebbero minare le ultime garanzie di informazione obiettiva, quindi di dibattito, quindi di elezioni democratiche. In un certo senso, il pericolo potenziale che rappresentano è tale che il loro controllo andrebbe affidato addirittura alle Nazioni Unite, come se si trattasse di un Trattato di Non Proliferazione Nucleare. Purtroppo, a differenza della prevenzione di un conflitto nucleare, che è nell’interesse di tutti i paesi, quella del disastro che da esse può derivare è nell’interesse dei soli paesi democratici: i quali restano una minoranza (Index of Democracy dell’Economist). Questa, ed altre tecnologie informatiche creatrici di illusioni virtuali, continueranno quindi ad avanzare sulla loro strada.