Pubblichiamo qui, per gentile concessione della casa editrice Giufrè Francis Lefebvre, un estratto dalla prefazione di Guido Scorza al libro “L’insegnamento di Sophìa” di Fortunato Costantino, direttore risorse umane, affari legali e societari di Q8, docente a contratto di Teoria Generale della sostenibilità delle imprese e della innovazione sociale all’European School of Economics.

Gli uomini non hanno mai conosciuto il futuro che li ha attesi, neppure quando questo futuro, forse più di oggi, è stato, in maniera determinante, il risultato delle loro azioni. Nell’ultima manciata di anni, si è morti più per malattie infettive e guerre che per vecchiaia. In questo contesto l’esercizio letterario protagonista di questa novella nella quale si tratteggia l’impatto sulla società dell’intelligenza artificiale (Sophìa, ndr) in una città immaginifica che non esiste (Erìdu, ndr) è coraggioso, ambizioso, intellettualmente stimolante e straordinariamente pragmatico al tempo stesso. (...) Sarebbe bello e rappresenterebbe, probabilmente, una delle vittorie più importanti nella storia dell’umanità se riuscissimo davvero - come l’epilogo della novella suggerisce - a rendere Intelligenza Artificiale e algoritmi capaci di migliorare la nostra esistenza, magari, persino, aiutandoci a comprendere meglio e di più l’unicità del nostro essere umani. Ma saremo all’altezza della sfida? Non è, naturalmente, affatto scontato. E, allora, anche per controbilanciare l’invito all’ottimismo che il libro consegna al lettore, vale la pena, di provare, qui, a mettere in fila le sfide principali che ci attendono per arrivare a Erìdu.

La prima riguarda la relazione tra i tempi della regolamentazione e quelli della tecnologia. I primi inesorabilmente lenti, nonostante gli sforzi degli uomini, rispetto ai secondi. Con una conseguenza che non possiamo permetterci il lusso di sottovalutare. Quando la regolamentazione non arriva in tempo, la tecnologia tende a trasformarsi essa stessa in regolamentazione e a plasmare la vita delle persone e quando questo accade la tecnocrazia - che nelle cose dell’Intelligenza Artificiale abbiamo imparato a chiamare algocrazia - minaccia la democrazia. E il problema nel problema è che le regole adottate a mezzo tecnologia, a differenza delle leggi che escono dai Parlamenti e dai governi, sono normalmente adottate nel nome di interessi privati, legittimamente - fino a prova contraria - orientati alla massimizzazione del profitto dei padroni della tecnologia. Questa sfida, per ora, la stiamo indiscutibilmente perdendo. È la tecnologia che si fa regolamentazione e che plasma le nostre vite al posto delle leggi.

C’è poi una seconda sfida. Sophìa, l’incarnazione dell’intelligenza artificiale della novella di Costantino è stata creata da Hierònimo Baco, uno scienziato illuminato capace di porsi le domande giuste, cercare le risposte anche oltre i propri interessi e la propria convenienza, aperto persino ad accettare i limiti della sua creatura e a presentarli come tali alla popolazione di Erìdu. Ne abbiamo avuti anche nella storia dell’intelligenza artificiale di scienziati così. Basti pensare a Joseph Weizenbaum, fisico e matematico di origini tedesche e padre di Eliza, il primo chatbot della storia dell’umanità. Ha dato i natali alla sua creatura, ha vinto la sua scommessa scientifica realizzandola in maniera tale da restituire a chiunque ci conversasse l’impressione che non si trattasse di un chatbot ma di una persona e, però, ha poi preso eticamente atto della circostanza che quell’inganno avrebbe potuto produrre conseguenze insostenibili per l’umanità.

La sua Eliza non è mai arrivata sul mercato. Le intelligenze artificiali e gli algoritmi di oggi, o, almeno, i più popolari tra quelli che già affollano le nostre vite, non hanno scienziati così per genitori, ma società commerciali che, almeno sin qui, sono apparse meno pronte e capaci di preoccuparsi dell’impatto delle loro creature sulla società, meno aperte a discuterne effettivamente i limiti e meno disponibili anche solo a limitarne le potenzialità a tutela di umanità, dignità delle persone e diritti e libertà fondamentali.
(...) Sin qui, purtroppo, industria e mercato sono apparsi frequentemente guidati dal principio secondo il quale tutto ciò che diviene, di tempo in tempo, tecnologicamente possibile, deve considerarsi giuridicamente legittimo e, soprattutto, umanamente e democraticamente sostenibile. Nel caso del mercato dell’Intelligenza Artificiale, almeno sin qui, per correre di più si è scelto di trattare diritti fondamentali, libertà, dignità delle persone e umanità come zavorre sacrificabili per un podio. Se, dunque, non si riesce a ricondurre in fretta la concorrenza, anche in questo genere di mercati, a una competizione qualitativa più che a una gara di velocità, inesorabilmente l’ottimismo che la novella di Costantino propone, rischia di infrangersi contro il muro della realtà. (...)
 

Oggi stiamo investendo molto di più nell’addestrare gli algoritmi a conoscere le persone che nell’educare le persone a conoscere gli algoritmi. Questo rischia di condizionare enormemente l’impatto dell’intelligenza artificiale sulla società. Non è, infatti, Sophía la vera protagonista del lieto fine della novella, ma gli abitanti di Erìdu che appresi i limiti e le capacità iniziano a usarla in modo corretto e a riconoscerle il giusto spazio nelle loro vite. Perché questo accada davvero, tuttavia, è indispensabile educare le persone alla vita con gli algoritmi. In difetto, sfortunatamente, le cose rischiano di andare diversamente da come vanno con Sophía, giacché la più parte delle persone, persuasa delle apparentemente miracolose virtù delle intelligenze artificiali inizierà - ma sarebbe più corretto dire continuerà perché sta già accadendo - a riconoscere loro doti e capacità semi-divine e a consegnare loro il controllo assoluto sulle proprie vite.