«X ha una logica davvero assurda su cosa rimuove e cosa no», afferma Arrigoni. A differenza della procedura relativamente snella che Loti incontra altrove, spiega, con X le richieste di rimozione vengono discusse in interminabili scambi di e-mail, persino nei casi di contenuto pedopornografico generato dall’AI. «Ti ritrovi davvero a discutere via e-mail con qualcuno per convincerlo che si tratta, a tutti gli effetti, di materiale che rappresenta abusi su minori, il che è assurdo», ha dichiarato.

Andrea Powell, direttrice della Digital Identity Foundation, che lavora con persone che sono state vittima di abuso sessuale basato sulla diffusione di immagini, si è imbattuta nello stesso problema con X. «Spero che, col tempo, qualcosa cambi. O perché costretti dalle politiche e dalle normative, o perché magari qualcuno riuscirà a fare breccia nel cuore dell’azienda», afferma. X non ha risposto alla richiesta di rilasciare un commento.

La questione si fa decisamente meno divertente quando le immagini deepfake sono di natura sessuale.

Powell racconta a VF che, una volta, una delle sue clienti («una celebrità molto nota di una certa età») ha letto un’inchiesta del New York Times firmata da Nicholas Kristof sullo sfruttamento sessuale online. Dopo averla letta, ha cercato il proprio nome su Google e ha scoperto materiale pornografico deepfake che utilizzava la sua immagine e di cui ignorava l’esistenza.

Powell considera i deepfake sessuali una sorta di «tornatene in cucina» digitale, ovvero uno strumento utilizzato in modo schiacciante contro donne e ragazze. «Ormai, praticamente qualsiasi idiota con un telefono può realizzare porno deepfake», afferma.

Uno dei fenomeni più recenti legati ai deepfake riguarda il materiale pornografico generato dall’AI che ritrae figli di personaggi famosi (per rispetto nei confronti delle persone coinvolte, non faremo i nomi delle vittime dei porno deepfake). Il Congresso sta cercando di colmare il ritardo su questi temi. Il Take It Down Act, diventato legge l’anno scorso, obbliga le piattaforme a predisporre una procedura per la rimozione di immagini sessuali diffuse senza il consenso delle persone ritratte, comprese quelle contraffatte generate dall’AI, e a rimuoverle entro 48 ore. All’esame del Congresso c’è inoltre una proposta di legge federale, il cosiddetto NO FAKES Act, che andrebbe oltre, proteggendo le persone anche dalla riproduzione non autorizzata della propria voce.

Matt Hartman, del Center for Countering Digital Hate, vede nella questione dei deepfake l’evoluzione di un antico problema. «Penso sia solo la prosecuzione di ciò che vedevamo un tempo sui tabloid», dice a Vanity Fair. La differenza è che i tabloid avevano almeno «standard editoriali che controllavano le voci». Oggi, dice, «chiunque abbia un computer può inventarsi una cosa in qualsiasi momento e spacciarla per vera».

Le aziende di AI hanno reso disponibile la tecnologia dei deepfake, mentre i social network hanno fornito il pubblico: il tutto, prima che venisse posto qualunque paletto. La vicenda di Raye e Jordan potrà anche essere relativamente innocua, ma non fatevi ingannare: siamo tutti cavie.

Questo articolo è stato aggiornato.

Questo articolo è apparso originariamente su Vanity Fair US.