La Carta etica che Ibm e Microsoft si apprestano a firmare in Vaticano rappresenta un progresso nel dibattito sulla relazione tra etica e intelligenza artificiale (IA). Si tratta della continuazione di una discussione avviata oltre un anno fa, quando il Vaticano organizzò la conferenza esplorativa su “etica e robotica”. Questo documento nasce da quell’esperienza. Ci siamo chiesti: che cosa si può fare, come passo costruttivo successivo? Monsignor Vincenzo Paglia, Presidente dalla Pontificia Accademia per la Vita, mi ha convocato, insieme ad altri esperti, grandi aziende tecnologiche e personalità del mondo della Chiesa, per dare una risposta a questa domanda. Il risultato tangibile è stato la Carta etica.

null

Algoritmi intelligenti, quasi perfetti

Emanuele Coen  

24/2/2020

La Chiesa cattolica intende partecipare al dibattito con un contributo etico. Nel rispetto di un principio fondamentale: mettere sempre come fine ultimo della tecnologia l’essere umano, e non rendere l’essere umano mai un mezzo della tecnologia per raggiungere altri scopi. Come ho sottolineato in passato, è un principio che viene da lontano, da Immanuel Kant almeno. A volte la tecnologia viene utilizzata per ricavare dati dalle persone, per farne altre cose. In quel caso l’essere umano è solo un veicolo, perché di lui interessano solo i dati, il suo profilo, le sue preferenze. Non dovrebbe essere così. Questo è un tema molto sentito e dibattuto, non solo da parte delle associazioni per la difesa dei diritti civili, ma anche da parte dell’industria tecnologica. 

La Carta etica è divisa in quattro parti: “introduzione”, “etica”, “educazione”, e “diritti”. Come dicevo, il punto di partenza è che l’IA deve essere al servizio dell’umanità e non viceversa. Le esigenze di sicurezza, ad esempio, non possono prevalere sui principi di umanità. A Londra, la polizia ha appena cominciato ad utilizzare le tecnologie per il riconoscimento facciale. La giustificazione? Sicurezza e sostegno popolare. Ma la verità è che chi controlla le domande dà forma alle risposte. Se chiediamo a un cittadino: «Sarebbe disposto ad accettare l’introduzione del riconoscimento facciale se, grazie a questa tecnologia, ci fosse un terrorista in meno che mette una bomba su un treno?», la risposta è scontata. Se invece gli chiediamo: «Vorremmo introdurre la tecnica del riconoscimento facciale nella palestra dove vanno le sue figlie, o nel parco dove giocano, che cosa ne pensa?». La risposta sarebbe probabilmente molto diversa: non mi sembra una buona idea. Il fatto fondamentale non è quale diritto privilegiare (per esempio sicurezza o privacy) ma che bisogna promuovere una tecnologia a dimensione umana, trasparente, amichevole. 

È da tempo che argomento che le tecnologie digitali possono essere di grande aiuto nelle importanti sfide che abbiamo davanti, come l’inquinamento e il riscaldamento globale. In questo contesto parlo di un nuovo matrimonio tra il verde dell’ecologia e il blu elettrico del digitale. La Carta esorta le aziende ad adottare soluzioni e tecnologie che possono aiutare il pianeta, per esempio in termini di risparmio energetico, di ottimizzazione, di riciclo o miglioramento dei prodotti al fine di renderli biodegradabili. Questo è un dibattito etico, e in parte anche sociale. Che cosa vogliamo fare come società, come possiamo trarre il massimo beneficio da queste tecnologie?  Poi ci sono gli aspetti educativi. Per educazione, nel documento, non si intende solo la scuola, ma anche la formazione, il mondo del lavoro, il mondo degli utenti, come utilizziamo le tecnologie, il mondo dell’industria tecnologica: dobbiamo assicurarci che chi produce queste tecnologie sia consapevole dei loro rischi e applichi alcuni valori fondamentali. Anche sotto questo profilo, si tratta di un documento lungimirante. 

È importante sottolineare il fatto che chi afferma queste cose non è la Commissione europea, oppure una lobby pro o contro l’industria, ma la Chiesa, che oggi è molto più lungimirante e aperta verso la scienza, di quanto lo sia stata nei secoli passati, si pensi all’apertura verso l’evoluzionismo, contrariamente a quanti negli Stati Uniti sono ancora favorevoli a un ridicolo creazionismo. La Chiesa non è più antiscientifica, e il fatto che abbracci queste tecnologie con un approccio etico è una cosa buona, perché parla a oltre un miliardo di credenti nel mondo. In questo modo, la Chiesa dà anche un  segnale alle altre religioni. Mi auguro che l’Islam, ad esempio, che ha una splendida tradizione scientifica, possa essere coinvolto costruttivamente nel dialogo su questi temi tecnologici. In un mondo sempre più complesso, avere gli attori più importanti intorno al tavolo, Chiesa inclusa, è un fatto positivo, per arrivare alle soluzioni giuste prima e meglio. 

La Carta etica che ci si appresta a firmare in Vaticano a fine febbraio rappresenta una opportunità importante. Da parte dell’industria c’è grande interesse perché si sa che sta per arrivare una regolamentazione del settore. Quella gentile, soft, di autoregolamentazione, oppure quella più dura, legislativa, per esempio da parte del Parlamento europeo. C’è quindi molto interesse da parte di tutti i coinvolti a partecipare in questo processo, prevenire e non aspettare le mosse da parte degli enti regolatori e poi agire di conseguenza. È normale che gli attori si ascoltino tra loro, dalla Commissione europea al Vaticano, dalle associazioni di settore ai singoli governi, fino al mondo aziendale e sindacale. Ci vuole pazienza e buona volontà. Questo documento è un buon segnale nella direzione giusta.

È una partita ancora completamente aperta, ma a mio avviso il fattore cruciale è questo: il settore tecnologico necessita di regole chiare e valide per tutti. Dobbiamo aspettarci e chiedere di più a tutti. È come se in una partita di pallone dicessi: «Sono contento di giocare con regole migliori, ma devono valere per tutti, non solo per me. Non è possibile che l’arbitro si aspetti che solo io inizi a giocare meglio, se poi gli altri non fanno lo stesso e io perdo la partita». Torniamo all’esempio del riconoscimento facciale, un tema di grande attualità. Sarebbero necessarie delle regole: ad esempio, negli aeroporti si può usare il riconoscimento facciale, oltre ai normali controlli, per ragioni di sicurezza o semplificazione (è iniziata la sperimentazione a Linate), ma nelle scuole elementari, per disciplinare le bambine o i bambini, no. Invece qualche giorno fa, negli Stati Uniti, una scuola ha introdotto il riconoscimento facciale per ragioni di sicurezza.

null

Filosofia e scienza non bastano, al futuro serve l’algoretica

Emanuele Coen

24/2/2020

Non serve a niente, rappresenta una violazione della privacy, della libertà individuale, distorce i comportamenti (se sai che qualcuno ti sta guardando, ti comporti diversamente), e può facilmente generare abusi. In generale, essere virtuosi non può essere uno svantaggio, e per non esserlo devono esserci regole uguali per tutti. È quanto accade nell’industria automobilistica: l’Unione europea stabilisce un limite alle emissioni di CO2, al quale tutti devono adeguarsi. Oggi, nel campo dell’IA serve lo stesso approccio, altrimenti, in assenza di regole, si rischia che per competizione sfrenata ogni azienda utilizzerà le tecnologie in modo indiscriminato se lo farà anche un’azienda concorrente. Bisogna stabilire insieme aree in cui le nuove tecnologie possono essere utilizzate, altre aree in cui è opportuno metterle al bando, e zone grigie in cui, di volta in volta e settore per settore, regolamentare in modo adeguato. Non lasciamo decidere gli equilibri giusti al mercato, perché non è lo strumento giusto.

Spesso le aziende comunicano di aver adottato politiche improntate all’ecosostenibilità. Quando si tratta di mero marketing, si parla di “green washing”. Si potrebbe muovere un’obiezione simile: le aziende cercano attraverso il coinvolgimento della Chiesa una copertura etica ai propri comportamenti a volte discutibili. La risposta è che il documento viene dal Vaticano, è stato scritto da noi in maniera indipendente, ed è un documento che fornisce linee guida robuste per l’etica dell’IA. Non c’è nessun rischio di “ethical washing”, per riprendere quel termine. Certo, bisognerà vedere chi intenderà adottarlo. Mi aspetto partecipazione e convergenza, il fine è far aderire al documento il maggior numero di aziende. Alle aziende occorre rivolgere un invito ragionevole a partecipare, ma in futuro, se questo invito non sarà accettato, bisognerà forzarle attraverso la legge.

Oggi si tratta di un tavolo aperto, in cui si dialoga sui principi etici in modo sincero e costruttivo, ma un domani, neanche troppo lontano, arriverà la legislazione. La nuova presidente della Commissione europea, Ursula von der Leyen, ha dichiarato che entro i primi 100 giorni legifererà sull’IA. Forse non saranno cento giorni, ma non credo che saranno mille. Chi capisce che le norme è meglio scriverle insieme sarà stato lungimirante, chi invece resta riluttante sarà costretto ad adeguarsi a regole imposte. Se fossi una grande azienda digitale preferirei dialogare oggi, partecipare al dibattito, piuttosto che subire in futuro regole imposte dall’alto.

Un’ultima considerazione. Il documento che verrà firmato in Vaticano è coerente con quello pubblicato dal gruppo di esperti ad alto livello sull’etica dell’IA della Commissione europea, di cui faccio parte. Si identificano principi fondamentali molto simili, si spinge nella stessa direzione, per una tecnologia al servizio dell’umanità e dell’ambiente, e che non leda i diritti individuali in ragione di altri principi. Siamo in tanti a pensarla nello stesso modo: la Commissione europea, l’Ocse, che ha ripreso il nostro documento europeo, e il Vaticano. C’è convergenza di interessi, valori, e intenzioni, e questo è un fatto rassicurante. Quando le persone parlano di etica, molti dicono: ognuno la pensa come vuole. Non è affatto così. Questo documento dimostra che tra gli esperti della Commissione europea, l’Ocse, e il Vaticano siamo d’accordo, siamo tutti sulla stessa pagina, “we are all on the same page”, come si dice in inglese. E credo che sia la pagina giusta.