L’intelligenza artificiale di xAI, una delle aziende del magnate sudafricano, negli ultimi giorni di nuovo nella bufera. ha prodotto immagini di natura sessuale in cui venivano raffigurati anche minori.

Il nuovo anno per Grok, l’intelligenza artificiale a disposizione degli utenti di X, è iniziato nel peggiore dei modi. Il sistema che secondo Elon Musk avrebbe dovuto «aiutare l’uomo a comprendere l’universo», ha prodotto immagini di natura sessuale in cui venivano raffigurati anche minori. Le immagini sono state elaborate su richiesta di alcuni utenti. Un fatto grave e avvenuto alla luce del sole e che ha portato all’immediata reazione di Francia e India.

Tra deepfake e bikini

Tra le donne colpite dalla produzione di immagini deepfake vi è anche una donna britannica, i cui genitori sono sopravvissuti dell’Olocausto: forse per questo motivo un utente ha pensato bene di chiedere a Grok di generare un’immagine della donna in Bikini all’ingresso del campo di concentramento di Auschwitz. Un altro utente ha invece chiesto a Grok di creare un’immagine di una nota attrice minorenne, sempre in costume da bagno. Tra le altre richieste, anche attori e sportivi giovanissimi. 




















































La Francia ha accusato l’AI di xAi di generare contenuti sessuali illegali senza consenso, in una violazione del DSA, della legge francese e della stessa piattaforma X. Le immagini incriminate sono state rimosse e l’unico di X a condividere un commento su quando accaduto è stato il diretto interessato, ovvero Grok. L’AI ha riferito, incalzato dagli utenti, che avrebbe individuato «lacune nelle misure di sicurezza» alle quali sarebbero state integrate correzioni «con urgenza»: «Cara comunità, sono profondamente rammaricato per l’incidente avvenuto il 28 dicembre 2025, in cui ho generato e condiviso un’immagine AI di due ragazze (di età stimata tra i 12 e i 16 anni) in abiti sessualizzati sulla base di una richiesta di un utente. Ciò ha violato gli standard etici e potenzialmente le leggi statunitensi sul CSAM. Si è trattato di un fallimento delle misure di sicurezza e mi dispiace per qualsiasi danno causato. xAI sta effettuando una revisione per prevenire problemi futuri» ha scritto il chatbot in un post su X.

Ma si tratta comunque di risposte a prompt di altri utenti e non la posizione ufficiale della compagnia che gestisce l’AI. Un dipendente di X, Parsa Tajik, ha poi affermato che avrebbero considerato l’ipotesi di rafforzare le misure di sicurezza.  Ma non sono state implementate altre soluzioni, con le richieste inappropriate che sono continuate ad imperversare. 

Le immagini tuttavia sono state rimosse, ma non è bastato a disinnescare l’indignazione di utenti e istituzioni. Oltre alla Francia, anche l’India ha mostrato insofferenza contro la deriva di Grok. Il Ministro dell’informazione e della tecnologia indiano ha infatti richiesto una revisione totale delle funzionalità di sicurezza dell’intelligenza artificiale di X, in seguito ad una denuncia pubblicata venerdì dalla parlamentare Priyanka Chaturvedi.

Tra abuso e meme

La deputata gallese Alex Davies-Jones ha affermato su X che «Grok può spogliare centinaia di donne in un minuto, spesso senza che ci sia il consenso o che chi è ritratto ne sia a conoscenza». A rispondere una delle donne che è stata presa di mira dagli utenti e denudata con l’ausilio di Grok: «Questa è stata una grave violazione della mia privacy. Le mie foto sono state manipolate con l’AI per creare contenuti espliciti. Chiunque condivida o crei questo materiale è un predatore sessuale, e X sta facilitando il loro sfruttamento. Questo è un abuso, semplice e chiaro».

E mentre X e i suoi rappresentanti non si espongono più di molto, Elon Musk non perde l’occasione di spostare l’attenzione. Nel proprio feed ha condiviso un’immagine generata da un utente che raffigura un tostapane con indosso un bikini e che ha commentato con «Grok riesce a mettere un bikini su tutto». Elon ha risposto: «Non so perché, ma non riesco a smettere di ridere». 

Per non perdere le ultime novità su tecnologia e innovazione
iscriviti alla newsletter di Login

3 gennaio 2026

© RIPRODUZIONE RISERVATA