Il MIT Technology Review parla di un sito web che non indicheremo e che consente di caricare l’immagine con il volto di una persona conosciuta trasformando quest’ultima in una pornostar con tecniche di “deepfake” basate sull’intelligenza artificiale, sfruttate per combinare e sovrapporre immagini e video esistenti con video o immagini originali, tramite una tecnica di apprendimento automatico, e dunqu utilizzabile per creare falsi video pornografici ritraenti celebrità o a scopo di revenge porn (la condivisione pubblica di finte immagini o video intimi, senza il consenso dei protagonisti degli stessi).
Il meccanismo per la creazione di deepfake di questo tipo è ormai alla portata di chiunque, al punto che basta visitare un sito ad hoc e caricare il volto di una persona per creare immagini e video fasulli. È persino proposto un pulsante per inviare a tutta una serie di contatti il risultato finale.
Per il momento – spiega MIT Technology Review – il sito in questione vanta solo una piccola base di utenti ma questa cresce sempre di più, almeno secondo quanto riferito da uno dei creatori del sito in forum online. I ricercatori evidenziano i pericoli di questo tipo di siti, i quali violano sempre di più “barriere etiche”, alzando l’asticella con modalità che finora i altri servizi online non hanno osato superare.
Sensity AI, azienda specializzata in ricerche nel settore dell’intelligenza artificiale, stima che tra il 90% e il 95% di tutti i video deepfake presenti online, siano realizzati senza il consenso dei “protagonisti”.
Dal punto di vista tecnico i deepfake si possono creare usando quella che in gergo si chiama GAN (Generative Adversarial Network, Rete Generativa Avversaria). Le GAN sono formate da due reti neurali profonde in competizione l’una con l’altra. In fase di preparazione, entrambe le reti vengono addestrate con immagini reali; successivamente parte la fase di competizione, dove una rete genera delle immagini (da qui l’aggettivo generativa dell’acronimo), mentre l’altra prova a determinare se l’immagine sia vera o falsa (la seconda rete viene chiamata discriminativa), con la generativa che conosce i risultati e apprende da esse e la discriminativa che apprende come migliorare le proprie prestazioni, migliorando ad ogni ciclo le funzionalità.
Se i primi video deepfake sembravano raffazzonati e palesemente finti, ora si è giunti ad un livello di perfezione spaventoso. Porno a parte, i deepfake sono stati sfruttati anche in altri contesti (altrettanto pericolosi): nel 2018 è circolato ad esempio un falso discorso di Barack Obama in cui, oltre a varie cose senza senso che sembrava pronunciare, insultava anche l’allora Presidente degli Stati Uniti in carica; nel 2019, è circolato un falso video di Mark Zuckerberg che parlava di privacy.
Per tutti gli articoli di macitynet che parlano di Intelligenza Artificiale fate riferimento a questo indirizzo.
