I deepfake – video e immagini realizzati attraverso delle app che consentono di trasformare il volto, la voce e il corpo delle persone, creando veri e propri “falsi” – sono sempre più un problema, uno dei tanti spiacevoli risultati dei recenti sviluppi nel campo dell’intelligenza artificiale.
I video realizzati con tecniche di questo tipo non sono ancora un grosso problema su Facebook ma l’azienda del social continua a finanziare ricerche per proteggersi da potenziali minacce future di questo tipo. L’ultimo lavoro è frutto della collaborazione con accademici della Michigan State University (MSU) e ha permesso di creare un metodo per decodificare (con tecniche di reverse engineering) i deepfake: analizzando le immagini generate dall’IA e identificando tipiche caratteristiche presenti nelle immagini generate dai modelli di apprendimento automatico.
The Verge riferisce che il lavoro di Facebook e dell’Università statale del Michigan può essere utile per individuare malintenzionati che pubblicano deepfake sui social, diffondendo disinformazione ma anche pornografia sostituendo i volti di attrici e attori hard con quelli di amici e celebrità: un serio problema al punto che sono nati forum specializzati nel pubblicare video hard fasulli realizzati partendo da un vero filmato a luce rosse al quale viene sostituito il volto dell’attrice o dell’attore.
Sono state già in precedenza create tecnologie che consentono di individuare video deepfake ma il nuovo lavoro è indicato come un ulteriore passo avanti, in grado di identificare caratteristiche anche non conoscendo i modelli di machine learning applicati alla partenza. Tipicamente una tecnica usata dai sistemi di apprendimento automatico che consentono di cambiare volti è il “meta-apprendimento”, un sistema usato per impostare iperparametri per reti neurali, generalizzando la base di nuovi dati. Reti GAN (Generative Adversarial Network) sono sfruttate, addestrate con immagini reali, attivando una competizione tra loro. A quanto pare questo modo di applicare parametri ai filmati offre la possibilità di individuare una sorta di “impronta digitale” che consente di indicare (non ancora con ragionevole certezza al 100%) e comprendere se un filmato è vero o falso.
La nuova soluzione per individuare video deep-fake non è perfetta ma è, come già detto, un passo avanti: lo scorso anno in una competizione ad hoc predisposta da Facebook, l’algoritmo migliore è stato in grado di individuare correttamente deepfake nel 65,18% dei casi. Individuare automaticamente filmati falsi non è un compito facile, anche perché nel frattempo migliorano anche tecniche e algoritmi di chi crea deepfake: una sorta di eterna gara tra gatto e topo con reti neurali applicate per scopi diversi e in competizione l’una con l’altra.
Per tutti gli articoli di macitynet che parlano di Intelligenza Artificiale fate riferimento a questo indirizzo.
