Secondo il World Economic Forum (WEF), il numero di video deepfake online sta aumentando a un ritmo annuale del 900%. Molti casi di frode deepfake sono finiti sulle prime pagine dei giornali, con segnalazioni relative a molestie, vendette, truffe di criptovalute e altro ancora.
I ricercatori di Kaspersky evidenziano i tre principali scenari di frode utilizzati dai deepfake a cui è bene prestare attenzione.
Grazie agli trumenti di intelligenza artificiale, come reti neurali e deep learning (da cui deepfake), è possibile usare immagini, video e materiali audio per creare video realistici di una persona con viso o corpo alterati digitalmente, in modo tale da farla sembrare qualcun altro. Video o immagini modificathe possono esseare usate per scopi malevoli per diffondere informazioni false.
Frodi finanziarie
I deepfake possono essere utilizzati per il social engineering: i criminali usano immagini modificate per fingersi delle celebrità così da adescare vittime per indurle a cadere nelle loro truffe.
Ad esempio, l’anno scorso è diventato virale un video creato artificialmente, in cui Elon Musk prometteva elevati profitti grazie a un piano di investimento in criptovalute di dubbia efficacia che, invece, portava gli utenti a perdere il proprio denaro.
Per creare deepfake come questo, i truffatori usano filmati di celebrità o uniscono vecchi video e li pubblicano in live stream sui social, promettendo agli utenti di ottenere il doppio in criptovaluta di quanto gli è stato inviato.
Deepfake pornografici
Un altro modo in cui vengono utilizzati i deepfake è per violare la privacy di un individuo. I video deepfake possono essere creati sovrapponendo il volto di una persona in un video per adulti. In un caso, sono apparsi online video di celebrità che mostravano il loro volto sovrapposto a corpi di attrici porno in scene esplicite. Di conseguenza, in casi simili, le vittime degli attacchi subiscono danni alla propria reputazione e una violazione dei propri diritti.
Rischi aziendali
I deepfake possono essere utilizzati anche per colpire le aziende a fini criminali, come l’estorsione ai dirigenti, il ricatto e lo spionaggio industriale.
Ad esempio, è noto un caso in cui i cyber criminali sono riusciti a ingannare un dirigente bancario negli Emirati Arabi e a rubare 35 milioni di dollari, utilizzando un deepfake vocale: è stata sufficiente una breve registrazione della voce del superiore di un dipendente per generare un deepfake convincente.
In un altro caso, i cyber criminali hanno cercato di truffare Binance, importante piattaforma di criptovalute, inviando a un suo dirigente messaggi di ringraziamento per una riunione su Zoom a cui non aveva mai partecipato. Grazie alle sue immagini che sono disponibili pubblicamente, gli aggressori sono riusciti a creare il deepfake e ad applicarlo con successo a una riunione online, spacciandosi per il dirigente.
Obiettivo dei deepfake
In generale, gli attacchi che sfruttano i deepfake hanno come obiettivi disinformare e manipolare l’opinione pubblica, ricattare o addirittura svolgere attività di spionaggio. I responsabili HR sono già in allerta per quanto concerne l’uso dei deepfake da parte di candidati che si propongono per un lavoro a distanza, come si legge in un avviso dell’FBI.
Nel caso di Binance, gli aggressori hanno utilizzato immagini di persone prese da internet per creare deepfake, e sono persino riusciti ad aggiungere le loro foto ai curricula. Qualora riescano a ingannare i responsabili HR e ottenere un’offerta lavorativa, possono rubare i dati del datore di lavoro.
I deepfake sono in ogni caso una frode molto costosa che richiede grossi investimenti. Una precedente ricerca ha rivelato le diverse tipologie di deepfake vendute sulla darknet e i loro costi. Se un utente trovasse un software su internet e provasse a creare un deepfake, il risultato sarebbe poco realistico. In pochi crederanno a un deepfake di bassa qualità: noteranno ritardi nell’espressione facciale oppure una sfocatura della forma del mento.
Creare deepfake realmente validi è costoso
Per preparare un credibile attacco di questo tipo, i criminali informatici ricorrono a dati quaili foto, video e audio della persona che vogliono impersonare. Le diverse angolazioni, la luminosità e le espressioni del viso giocano un ruolo importante per la qualità finale. Affinché il risultato sia realistico, sono necessari computer e software aggiornati.
Tutto questo richiede una grande quantità di risorse ed è disponibile solo per un numero ristretto di cyber criminali. Pertanto, nonostante tutti i pericoli che un deepfake può comportare, è ancora una minaccia estremamente rara e solo pochi acquirenti saranno in grado di permetterselo: secondo Kasperksy il prezzo per un minuto di deepfake realmente credibile può partire da 20.000 dollari, circa 18.500 euro.
Il monitoraggio continuo delle risorse del Dark Web fornisce preziose informazioni sul fenomeno dei deepfake, consentendo ai ricercatori di seguire le ultime tendenze e attività degli attori delle minacce. Ricerche nella darknet permettono di scoprire nuovi strumenti, servizi e mercati utilizzati per la creazione e distribuzione di deepfake. Questo tipo di monitoraggio è una componente indispensabile nella ricerca sui deepfake e contribuisce a migliorare la comprensione dell’evoluzione del panorama delle minacce.
Come proteggersi dai video deepfake
Tra i consigli per proteggersi: verificare le procedure di cybersecurity adottate nella propria organizzazione, non solo per quanto riguarda i software, ma anche in termini di competenze IT.
È bene inoltre potenziare il “firewall umano” in azienda: è necessario assicurarsi che i dipendenti comprendano cosa sono i deepfake, come funzionano e le sfide che possono rappresentare. Bisogna organizzare campagne di sensibilizzazione e formazione per spiegare ai dipendenti come individuare un deepfake. Si consiglia ancora di utilizzare fonti di notizie di elevata qualità e di adottare protocolli il “trust but verify”.
Un atteggiamento scettico nei confronti di messaggi vocali e video non garantisce che le persone non vengano mai ingannate, ma può aiutare a evitare molte delle trappole più comuni.
Tenere presenti le caratteristiche principali dei video deepfake a cui prestare attenzione per evitare di diventare una vittima: movimenti a scatti, variazioni di illuminazione da un fotogramma all’altro, variazioni del colore della pelle, battiti di ciglia strani o assenti, movimenti delle labbra poco sincronizzate con il parlato, artefatti digitali sull’immagine, video intenzionalmente codificati in bassa qualità e con scarsa luminosità.
Per tutte le notizie sulla sicurezza informatica vi rimandiamo a questa sezione di macitynet.
