Non si placa l’onda di sdegno che ha travolto Grok per la facilità con cui i suoi utenti possono generare immagini sessualizzate, anche di minorenni. “Non sono informato circa la possibilità di Grok di generare foto di nudi, di nessun tipo”, è stato il commento social di Elon Musk.  Si coglie il probabile riferimento al fatto che molte delle immagini  “alterate” riguardassero anche minorenni, o bambini e bambine “vestite in bikini”. Nell’improbo tentativo di difendere la sua AI, Musk continua: “Di certo Grok quelle immagini non le crea da solo, ma asseconda le richieste degli utenti”. E quindi è sempre colpa degli altri: “Se gli viene chiesto di creare immagini illegali, Grok è programmato per non farlo perchè risponde alle regole dei singoli Stati in cui opera”. Ci può essere un’eccezione, ovviamente: “Può capitare che qualche avversario hackeri i prompt di Grok per fargli fare cose illecite. Se succede noi interveniamo per correggere immediatamente il bug”. 

E cosa chiederebbero a Grok gli utenti di X? Di modificare fotografie reali per spogliare virtualmente donne, trasformarle in soggetti erotizzati o inserirle in contesti sessuali. Si tratta di immagini fotorealistiche, senza alcuna indicazione della provenienza artificiale, che spesso vengono condivise pubblicamente. Era già successo in precedenza con altri siti, che il Garante aveva prontamente bloccato. Il problema, ora, riguarda non solo la tecnologia impiegata, ma il fatto che si registri una sorta di “accettazione sociale”, come se l’abuso digitale fosse una forma di malsano intrattenimento, amplificato da account molto seguiti e, in alcuni casi, monetizzato attraverso i meccanismi di visibilità e ricompensa della piattaforma X.

Fra le vittime anche Ashley St Clair, influencer sostenitrice MAGA  - e per inciso madre di uno dei figli dello stesso Musk – che vorrebbe portare il caso alla Corte Suprema di New York per alcune sue foto “grokkate”, pare anche una di quando era minorenne. L’abuso digitale è stato esercitato a danno di donne comuni, giornaliste, modelle, ma anche volti noti come la principessa Kate. Le immagini delle vittime vengono alterate e diffuse senza autorizzazione, e nessuno è al riparo da questo tipo di violenza digitale, che assume i contorni di un assalto reale. 

Ofcom ha avviato un’indagine formale nell’UK, richiamando gli obblighi previsti dall’Online Safety Act e il divieto per la creazione e la diffusione di immagini intime non consensuali, comprese quelle generate con l’IA. Anche l’European Commission è entrata nel merito della questione, definendo “inaccettabili” e “illegali” i contenuti incriminati e ricordando che X è già sotto osservazione per violazioni del Digital Services Act. Anche altri Paesi, dall’India al Canada, stanno valutando misure restrittive o azioni legali.

Potrebbe aver ragione Musk, è colpa degli utenti. Grok è particolarmente “richiesto” per la produzione di immagini sessualizzate, favorita da suggerimenti reciproci tra utenti e da tecniche di prompt sempre più sofisticate. Ma il problema è proprio qui: la piattaforma, a differenza di altre, non blocca né impedisce la generazione di immagini riconducibili a persone reali. Una differenza etica, prima che tecnica, e riguarda le priorità stabilite da chi progetta e governa questi strumenti.

Il caso Grok solleva una questione più ampia sul significato di libertà di espressione nell’era digitale. Come hanno sottolineato esponenti politici e associazioni per i diritti delle donne, la libertà non può tradursi nella possibilità di violare il consenso altrui. La capacità di un’IA di “spogliare” qualcuno con un comando testuale non è un gioco, ma una nuova forma di violenza simbolica. Senza un’assunzione chiara di responsabilità da parte delle piattaforme, il rischio è che l’innovazione continui a procedere a scapito della dignità umana, lasciando alle vittime il peso di un danno che la tecnologia ha reso fin troppo facile.