I deepfake stanno diventando sempre più realistici e convincenti. È possibile creare video che simulano la presenza di persone in contesti nei quali in realtà non ci sono, grazie ad algoritmi di apprendimento automatico usati normalmente nel campo dell’intelligenza artificiale.
Tipicamente i deepfake si creano usando un sistema denominato “GAN” (Generative Adversarial Network, Rete Generativa Avversaria), due reti neurali profonde in competizione l’una con l’altre; entrambe le reti vengono addestrate con immagini reali, facendo scattare una competizione, dove una prima rete genera delle immagini (da qui l’aggettivo generativa dell’acronimo), mentre l’altra (quella “discriminativa”) prova a determinare se l’immagine sia vera o falsa.
La rete generativa conosce i risultati e apprende da questi; allo stesso tempo impara a migliorare le prestazioni, con il risultato che, ad ogni ciclo, entrambe le reti fanno sempre meglio. Usando milioni di cicli di addestramento, una rete neurale generativa può generare immagini false talmente perfetta da ingannare una rete neurale altrettanto avanzata.
Usando foto di persone reali è possibile creare deepfake da aggiungere a video veri e propri, e se fino a poco tempo fa un video deepfake era facilmente riconoscibile, ora non solo diventa sempre più complicato riconoscerli ma è anche possibile sfruttarli in tempo reale, presentandosi ad esempio in una vodeoconferenza con la faccia di qualcun’altro.
Uno programmatore che si chiama Ali Aliev ha sviluppato un metodo per creare Deepfake in tempo reale. Per testare il progetto, ha deciso di impersonare Elon Musk irrompendo in una videoconferenza Zoom e facendo credere ai presenti di essere capitato lì per sbaglio. A giudicare dalla reazione delle persone, l’inganno è stato perfetto, probabilmente anche per via della bassa risoluzione e del frame rate basso, elementi considerati normali nell’ambito di una videoconferenza.
La tecnologia per creare deekfake in tempo reale è denominata Avatarify ed è stata sviluppata da Aliev usando codice open source per l’IA nato dall’Università di Trento, in Italia.
Avatarify, come è facile immaginare, consente di sovrapporre in tempo reale vari personaggi sulla faccia di un utente, rispecchiando le espressioni facciali di quest’ultimo. Sono già disponibili “modelli” con Albert Einstein, Eminem, Steve Jobs, Monna Lisa, Barack Obama, Harry Potter e Ronaldo ma con un computer abbastanza potente, un buon numero di immagini di partenza e tempo a disposizione, il sistema può essere addestrato a simulare la presenza di chiunque.
