La Commissione europea indaga su Grok per deepfake sessuali di minori
La Commissione europea ha annunciato che sta esaminando i casi di immagini a contenuto sessuale esplicito di giovani ragazze generate da Grok, il chatbot AI integrato nella piattaforma di social media X.
Le immagini sarebbero state generate in seguito all'introduzione di una funzione a pagamento nota come "Spicy Mode" nell'estate 2025 e avrebbero riguardato anche minori.
"Posso confermare che anche la Commissione sta esaminando molto seriamente la questione", ha dichiarato lunedì 5 gennaio a Bruxelles un portavoce della Commissione. "Questo non è “piccante”, è illegale. È raccapricciante. È disgustoso. Non ha posto in Europa".
In risposta alla crescente rabbia e allarme suscitati dalle immagini, la piattaforma ha dichiarato domenica che le immagini erano state rimosse e che gli utenti coinvolti erano stati bannati.
"Prendiamo provvedimenti contro i contenuti illegali su X, compreso il materiale sugli abusi sessuali sui minori, rimuovendoli, sospendendo permanentemente gli account e collaborando con i governi locali e le forze dell'ordine, se necessario", ha scritto l'account di X Safety.
Indagini simili sono state avviate in Francia, Malesia e India.
La Commissione europea ha anche fatto riferimento a un episodio dello scorso novembre in cui Grok ha generato contenuti negazionisti dell'Olocausto. La Commissione ha dichiarato di aver inviato una richiesta di informazioni ai sensi del Digital Services Act (Dsa) dell'Ue e che sta analizzando la risposta.
A dicembre, X è stata multata per 120 milioni di euro ai sensi del Dsa per la gestione delle verifiche degli account e per la sua politica pubblicitaria. "Credo che X sia ben consapevole della nostra serietà nell'applicazione del Dsa. Si ricorderanno della multa che hanno ricevuto da noi", ha dichiarato il portavoce della Commissione Ue.
Fonte: Euronews
