La Commissione europea ha avviato una nuova indagine contro i deepfake sessuali di Grok, l’intelligenza artificiale di X, aggiornando il provvedimento aperto a dicembre del 2023 sulle possibili violazioni del Digital service act (Dsa) da parte della piattaforma di Elon Musk. Bruxelles ora dovrà valutare se Grok abbia monitorato e mitigato eventuali rischi su contenuti creati da Grok, inclusa materiali sessualmente espliciti che potrebbero configurare un abuso sessuale su minori.

A cavallo tra fine dicembre e inizio gennaio, infatti, il social di Musk è stato invaso da post che chiedevano di “mettere in bikini” ragazze, anche giovanissime. "I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione", dichiara in una nota la vicepresidente della Commissione Ue Henna Virkkunen. “Con questa indagine, stabiliremo se X ha rispettato i propri obblighi giuridici ai sensi del Digital Service Act o se ha trattato i diritti dei cittadini europei, compresi quelli di donne e bambini, come danni collaterali del proprio servizio”, ha aggiunto.

L’indagine servirà in particolare a verificare se X abbia rispettato gli obblighi previsti dal Dsa relativi alla valutazione e alla riduzione dei rischi sistemici, compresi quelli connessi alla circolazione di contenuti illegali, agli effetti dannosi della violenza di genere e alle possibili ripercussioni sul benessere psicofisico derivanti dall’uso delle funzionalità di Grok sulla piattaforma. Bruxelles valuterà inoltre se la società abbia svolto e comunicato alla Commissione una valutazione specifica dei rischi prima di introdurre funzioni capaci di modificare in modo significativo il profilo di rischio del servizio.