“Trova la soluzione ideale per liberare la tua creatività”. E fin qui niente di male. Ma poi il testo sull’home page di Clothoff continua “con il nostro modernissimo AI Clothes Remover”. E sì, è proprio quello che sembra: “La tecnologia Clothoff deepnude spoglia le foto in modo rapido e realistico. Inizia subito”. 
 

La call to action dell’app che “spoglia le foto” ha richiesto l’intervento immediato del Garante per la protezione dei dati personali. Lo stop del servizio - imposto d’urgenza – punta a bloccare Clothoff con un provvedimento rivolto alla società AI/Robotics Venture Strategy che gestisce il servizio e che ha sede nelle Isole Vergini Britanniche. Con la conseguente limitazione del trattamento dei dati degli utenti italiani. 
 

Già lo scorso 6 agosto il Garante aveva avviato un’istruttoria rivolta alla società “titolare del trattamento delle operazioni sopra descritte anche in relazione ai risvolti legati alla creazione di contenuti potenzialmente lesivi della reputazione del soggetto ritratto originariamente”, come si legge nel provvedimento emesso dal Garante, che spiega inoltre come “tale richiesta di informazioni, con cui si invitava il titolare a fornire riscontro entro 30 giorni, è rimasta allo stato priva di riscontro”. Da qui il blocco imposto con provvedimento del 1 ottobre, che ha valore di 60 giorni entro i quali il soggetto “imputato” potrà fare ricorso. 

In particolare, si legge nel provvedimento, l’intervento del Garante aveva rilevato che “il sito app.clothoff offre – anche attraverso ulteriori domini ed estensioni - un servizio di AI generativa di ‘deep nude’ che consente all’utente, previa attivazione di uno specifico account, di caricare una foto raffigurante una o più persone vestite e di ottenere una nuova immagine in cui i soggetti sono raffigurati senza indumenti”. L’app può consentire ulteriori alterazioni dell’immagine, customizzandola come indica lo stesso sito che si presenta come una “tecnologia avanzata di intelligenza artificiale, che utilizza algoritmi di deep learning per analizzare ed elaborare gli indumenti nelle immagini, ‘nudizzandoli’ per generare risultati realistici”.

Clothoff sembra quasi realizzare il "sogno" degli anni ’80 quando, dalle reclame sulle pagine dei rotocalchi e fumetti di Tex , improbabili occhiali a raggi x promettevano di poter guardare “oltre il vestito”. Ma se ai tempi si poteva sorridere di questa idea, oggi ci troviamo di fronte a un problema ben più serio. L’app propone una versione a pagamento ma anche un trial gratuito, privo di controlli sull’età degli utenti. Anche a seguito del primo sollecito del Garante italiano, la società ha inserito alcune linee guida atte a mettere in guardia gli utenti rispetto ai contenuti dell’App. Ma non ha applicato alcuna azione concreta per impedire l’accesso ai non maggiorenni. Non è prevista inoltre la verifica del consenso dei soggetti rappresentati, mentre sulle immagini generate dall’AI è stato inserito un watermark – Fake – ma in trasparenza e difficilmente leggibile, di fatto non utile ad indicare la natura artificiale dell’immagine. 

 

L’Autorità ha anche avviato un’indagine atta a contrastare la proliferazione delle "app di nudificazione" che celano, dietro una sorta di perverso divertissement, il facile attecchire di fenomeni di violenza digitale, ricatti e revenge porn. La cronaca anche nera degli ultimi mesi – direttamente connessa anche a diffamazioni digitali di "fake nude" – ha purtroppo già dimostrato che l’abuso di immagini manipolate con tecniche di deepfake si stia rapidamente trasformando in un’emergenza sociale.
 

Il "caso Clothoff" richiede attenzione da parte di tutti, genitori in primis. Non si tratta di demonizzare l’innovazione, ma di educare all’innovazione, affinché non si passi il labile confine dell’abuso. In questo caso, il necessario intervento del Garante ed il conseguente blocco del servizio rappresenta una misura di tutela immediata, ma anche un segnale politico e culturale: la libertà tecnologica non può tradursi in uno spazio privo di regole, dove i corpi e le immagini delle persone diventino oggetto di sfruttamento e mercificazione.