In Cina sono sempre più diffusi i sistemi di controllo basati sull’intelligenza artificiale. Che spesso sbagliano ma le aziende non riescono a rimediare. E il brutto è che potrebbero conquistare presto anche l’Occidente

In “Piano Meccanico” Kurt Vonnegut immagina una società completamente gestita dalle macchine, nella quale gli umani che supervisionano l’automazione costituiscono la classe privilegiata: Vonnegut, nel descrivere una società liberata dal lavoro, quindi consegnandoci una visione potenzialmente ottimista del futuro, ci scaraventa in una vera e propria distopia nella quale le macchine «hanno sempre ragione». In “The Expanse”, serie televisiva fantascientifica, l’intelligenza artificiale che controlla l’astronave protagonista delle puntate, a un certo punto decide di prendere il comando, non rispondendo più a ordini umani che ritiene non corretti. O ancora, non possiamo dimenticare Hal, il mitico supercomputer di “2001 Odissea nello spazio”, quando afferma: «Mi dispiace Dave, non posso farlo».

 

Si tratta di proiezioni immaginifiche che oggi sono diventate realtà: la tecnologia ormai si infila in ogni anfratto della nostra vita, compresa quella lavorativa e non solo come aiuto e sostegno alle nostre attività ma come elemento in grado di decidere le nostre mansioni. Se ormai sono note le sottomissioni agli algoritmi dei rider o dei lavoratori di alcune grande aziende come Amazon, meno noto è il fenomeno del cosiddetto “digital management”, nel quale un’intelligenza artificiale gestisce i lavoratori di un ufficio o di una fabbrica, accomunando così colletti blu e bianchi in questo mondo “automatizzato”.

 

E dove si sta sviluppando maggiormente questa attitudine, è la Cina. Su Xinjing Bao, una rivista in mandarino, di recente è apparso un articolo dal titolo emblematico, “Quando il tuo capo non è umano”, nel quale vengono raccontate le peripezie di alcuni ingegneri, sottoposti a messaggi costanti del “capo”, con il quale sono chiamati a recarsi in ufficio a qualsiasi ora del giorno, per concludere dei “task” programmati. L’articolo racconta di un gruppo di loro stipati in un ascensore e intenti a raggiungere il proprio ufficio «in una fredda notte di inverno». Non sono lì volontariamente, viene specificato: «Si tratta delle scadenze che ci ha comunicato il sistema», racconta uno degli ingegneri. Improvvisamente, raccontano, il sistema ha stabilito un nuovo task da realizzare. Nessuna persona è stata coinvolta nella decisione, è il “sistema” che ha convocato i dipendenti. Un mancato completamento puntuale dell’azione significa una riduzione dello stipendio anche fino al 30%.

STORIE_CINA_PIERANNI_14_Cina

«A volte siamo costretti a fare gli straordinari quando non è necessario, al punto che anche quando non c’è niente da fare dobbiamo venire a lavorare nel fine settimana altrimenti subiamo una detrazione sullo stipendio», racconta un altro ingegnere. A causa di incarichi di lavoro “irragionevoli”, alcuni degli ingegneri si sono rivolti alla direzione per chiedere lumi circa la situazione. La risposta è stata che, «in effetti, il sistema aveva problemi, ma non c’era nulla che potessero fare al riguardo. Ai dipendenti è stato quindi consigliato di completare le attività assegnate».

 

Questa azienda cinese è tutt’altro che un’eccezione. In Cina questo settore è in rapida espansione, come nel resto del mondo. Il governo, diventato nel tempo un grande sostenitore delle “soluzioni digitali”, ha persino fornito sussidi statali alle aziende per effettuare il passaggio verso un controllo “tecnologico” delle proprie operazioni e dei dipendenti. I dati presentati da iResearch, una società che si occupa di ricerche di mercato, nel suo report “2020 China Enterprise Procurement Digital Management Research White Paper”, mostrano che il mercato cinese degli strumenti di “digital management” è cresciuto: il giro d’affari è passato da un miliardo di dollari nel 2017 a quasi il doppio nel 2020. Le aziende di solito utilizzano questi strumenti, algoritmi, software, intelligenza artificiale, per monitorare la presenza dei dipendenti, per gestire i loro carichi di lavoro e ridurre i costi di gestione.

 

Ma questi sistemi - ricordano i giornalisti di Xinjing Bao - «privano i dipendenti della possibilità di prendere iniziative. Spesso non c’è possibilità di discussione o di ricorsi quando sono in disaccordo con le decisioni del sistema. Possono fare ciò che gli viene detto o affrontare detrazioni dallo stipendio». Controllare i processi produttivi di un’azienda, significa controllare i lavoratori, siano essi impiegati o operai. Di recente su Weibo, il Twitter cinese, un utente ha rivelato che una startup tecnologica di Hangzhou ha richiesto ai dipendenti di utilizzare in ufficio «cuscini ad alta tecnologia dotati di sensori». I dipendenti hanno scoperto poi che «i cuscini monitoravano la frequenza cardiaca, la respirazione, la postura, l’affaticamento e altri dati, per analizzare lo stato d’animo durante la giornata di lavoro».

STORIE_CINA_PIERANNI_14_GettyImages-1230244002

Un responsabile delle vendite presso un’azienda tecnologica di Hangzhou che ha sviluppato un programma simile ha specificato a Caijing ELaw che «gli acquirenti di tali prodotti sono tutte piccole e medie imprese: le aziende chiedono esplicitamente di caricare immediatamente i dati per consentire alla direzione di monitorare i dipendenti». I produttori sostengono che le loro applicazioni aiutano «le persone a tenere d’occhio la propria salute personale». Non la pensano così alcuni dipendenti di queste aziende: «È una stronzata. L’unico scopo di sviluppare qualcosa di simile è tenerci sotto controllo».

 

In questo senso, come ha specificato sull’ultimo numero della rivista Pandora (dedicata proprio alle piattaforme) Evegeny Morozov, si può notare come il cosiddetto «capitalismo della sorveglianza» non sia un’eccezione, quanto una evoluzione in perfetta linea di continuità con il capitalismo stesso. Controllo e produttività sono due facce della stessa medaglia. E dal luogo di lavoro ad altri aspetti della vita, il passaggio è piuttosto breve. In questo senso la Cina, come accade ormai da qualche anno, indica alcune tendenze del futuro.

 

Infatti, se un «capo» può essere un algoritmo, perché non mettere un algoritmo a gestire una città intera? Di recente lo studio di architettura danese Big insieme a Terminus (un’azienda cinese che si occupa di raccogliere dati e fornire report su tutti gli aspetti - inquinamento, consumi e movimenti delle persone - di un determinato territorio) sta lavorando a un quartiere completamente gestito dall’Intelligenza artificiale a Chongqing.

 

Il progetto - denominato “Cloud Valley” - prevede di utilizzare sensori e dispositivi per raccogliere dati su tutto, dal tempo e dall’inquinamento alle abitudini alimentari delle persone per soddisfare automaticamente le esigenze dei residenti. «Sta tornando questa idea di vivere in un villaggio dove, quando ti presenti in un bar, anche se è la prima volta che sei lì, il barista conosce la tua bevanda preferita», ha detto Bjarke Ingels, socio fondatore di Big. «L’Ai può riconoscere - ad esempio - le persone in arrivo in un dato luogo: può aprire la porta, così che le persone non debbano cercare le chiavi di casa», ha aggiunto. Lanciato ad aprile, il progetto “Cloud Valley” prevede una città estesa su un territorio pari a circa 200 campi da calcio, «dove la tecnologia consente alle persone di vivere più comodamente, anticipando le loro esigenze».

 

«Quando la luce del sole colpisce le case, le finestre delle camere regolano da sole la propria opacità per consentire alla luce naturale di svegliare i residenti assonnati», si legge sul sito web di Terminus. «Una volta che la luce ha riempito la stanza, una governante virtuale Ai di nome Titan seleziona la colazione, abbina l’abbigliamento al tempo e presenta un programma completo della giornata». La città, che comprende uffici, case, spazi pubblici e auto a guida autonoma che si muovono sotto l’occhio sempre vigile dell’Ai, dovrebbe essere completata in circa tre anni, secondo Terminus.

 

Tuttavia, hanno scritto i media cinesi, come altre città intelligenti, questo approccio ha sollevato preoccupazioni sulla privacy. Eva Blum-Dumontet, una ricercatrice di “Privacy International”, ha affermato che le città intelligenti rischiano di diventare una minaccia per i diritti umani se le aziende e i governi non adottano misure per limitare la sorveglianza e garantire l’inclusività. «Dobbiamo chiederci, ad esempio, in che modo la città influenzerà le persone che magari non hanno grande dimestichezza con la tecnologia, ha specificato, tanto più che questo rischio è maggiore quando non esiste un quadro giuridico che limiti l’accesso che i governi possono ottenere sui dati raccolti dalle società private».

 

Non si tratta di una questione solo cinese, anche se ormai Pechino fornisce una sorta di cartina di tornasole della punta più avanzata del capitalismo contemporaneo. Come sottolineato di recente da The Conversation, «algoritmi - set di istruzioni per risolvere un problema o completare un’attività - ora guidano tutto, dai risultati di ricerca del browser a migliori cure mediche, stanno aiutando a progettare edifici, stanno accelerando il trading sui mercati ma sui posti di lavoro le aziende stanno introducendo sistemi informatici algoritmici di autoapprendimento per fornire assistenza in aree quali l’assunzione, l’impostazione dei compiti, la misurazione della produttività, la valutazione delle prestazioni e persino la cessazione del lavoro».

 

Il problema è la nostra abitudine a tutto questo: se da un lato infatti, come sottolinea David Lyon in “Cultura della sorveglianza” (Luiss University Press) da “controllati” stiamo diventando sempre più “controllori”, dall’altro - proprio perché siamo noi stessi abituati a controllarci, pensiamo alle app che contano i nostri passi o altre rilevazioni legate alla nostra salute o allo stile di vita che pratichiamo - fatichiamo ormai a riconoscere le circostanze nelle quale le nostre attività sono sotto stretto scrutinio. Il problema è saperlo: continuando a vedere quanto accade in Cina come una sorta di distopia, rischia di non farci riconoscere - anche nel nostro mondo - meccanismi simili. Faremmo bene ad accorgercene, prima che un algoritmo decida non solo di controllarci, ma di privarci anche di qualche diritto fondamentale. O di licenziarci.

L'edicola

Voglia di nucleare - Cosa c'è nel nuovo numero dell'Espresso

Il settimanale, da venerdì 28 marzo, è disponibile in edicola e in app