C’è una spaccatura nel mondo digitale. Ci sono le tecnologie tradizionali, con algoritmi e software scritti da umani, e ci sono quelle completamente sussunte dalle AI. Le prime sono di tipo deduttivo, con il computer che deve dedurre il suo comportamento (elaborazione di un input, produzione di un output) sulla base di regole scritte minuziosamente nel dettaglio (il software tradizionale); le seconde sono di tipo induttivo, con il computer che viene “nutrito” con una serie di esempi e induce “da solo” (con gli algoritmi di machine learning, che sanno cosa fare ma non come farlo) quale sia il modo con il quale elaborare l’input per arrivare a un output desiderabile.
Questa in una estrema sintesi è la base del tema delle intelligenze artificiali di quel particolare sottoinsieme che si chiama machine learning. Senza dimenticare ovviamente che l’intelligenza artificiale è a sua volta una branca dell’informatica (all’incrocio con altre scienze) e quindi un sottoinsieme specifico e specializzato. Ma cosa c’entra tutto questo con la fotografia?
Il problema del fake
Come si saranno accorti tutti quelli che non vivono in una caverna in Afghanistan da vent’anni, l’informatica ha cambiato radicalmente tutto, soprattutto per quanto attiene alla nostra percezione della realtà. Le immagini, delle quali la nostra società si ciba quotidianamente, vengono raccolte, trasformate, manipolate, aggiustate e trasmesse in tutti i modi possibili. Non è una novità, in parte accadeva anche sul tavolo della camera oscura, dove il fotografo “mascherava” il negativo esponendone solo alcune parti alla luce e “pitturandone” altri in fase di sviluppo e stampa. Ma adesso, da Photoshop in avanti, è diventato facilissimo.
Talmente facile che sembra che fossero chiari i limiti della falsificazione, sino a che l’AI non ha automatizzato le procedure portandole a un livello prima impossibile. Tanto che adesso non si parla più di immagini adulterate, ma di immagini completamente fake, realtà virtuali capaci di rappresentare tutto, qualsiasi mondo virtualmente possibile perché possono manipolare qualsiasi bit di informazione che compone qualsiasi rappresentazione digitale delle informazioni in maniera credibile.
Questa straordinaria capacità manipolativa può essere una “colla” che tiene assieme sistemi estremamente complessi e sofisticati che altrimenti non potrebbero funzionare (il vero motore dentro Vision Pro, ad esempio) oppure diventare un “artista” a se stante, capace di falsificare il reale in maniera più o meno fraudolenta. Cioè, non la sciocchezza che l’AI sia fraudolenta, ma che chi produce e utilizza determinati strumenti abbia il deepfake come obiettivo.
La soluzione ai problemi
Per risolvere questo problema filosofico e fenomenologico, questa specie di grandissima trasformazione della rappresentazione del reale, che a tutti gli effetti ci colpisce e ci manipola visto che abbiamo ogni giorno esperienza del mondo nella sua interezza al 90% grazie alle immagini e solo per piccola parte grazie a una esperienza visiva diretta, si sono cercate soluzioni.
AWetzlar, un piccolo ma decisamente vitale paesino tedesco un gruppo di ricercatori della più antica casa produttrice di macchine fotografiche in formato 35mm (che ha inventato lei, tra le altre cose) sono giunti a una soluzione. Parliamo di Leica, l’azienda che viene spesso fraintesa come una produttrice di beni di lusso e che invece secondo noi si è da tempo affermata come un’azienda capace di innovare in maniera sostanziale, e che ha per prima messo in produzione una macchina fotografica a telemetro, la M11-P, con un sistema di metadati Content Credential.
Come abbiamo spiegato qui, i Content Credential sono il risultato degli sforzi della Content Authenticity Initiative (CAI), “un gruppo di creatori, tecnologi, giornalisti e attivisti che guidano l’impegno globale per affrontare la disinformazione digitale e l’autenticità dei contenuti”, e della Coalition for Content Provenance and Authenticity (C2PA), “una coalizione formale dedicata esclusivamente alla stesura di standard tecnici e specifiche come base per la provenienza universale dei contenuti”.
La CAI descrive i Content Credential come una “etichetta nutrizionale” per le fotografie: permette di fare le analisi del sangue allo scatto e capire se è effettivamente quel che dice di essere (una rappresentazione del vero) oppure no, solo una sua manipolazione.
La carica dei soliti noti
Adesso arrivano anche gli altri, i big del settore: Nikon, Sony e Canon. Le tre aziende giapponesi stanno infatti sviluppando una tecnologia per fotocamere che incorpora firme digitali nelle immagini in modo da poterle distinguere da falsi sempre più sofisticati.
Nikon offrirà fotocamere mirrorless con tecnologia di autenticazione per fotoreporter e altri professionisti. Le firme digitali, resistenti alle manomissioni, includeranno informazioni quali data, ora, luogo e fotografo.
La mossa fondamentale per i tre è stato creare uno standard delle firme digitali condiviso e utilizzato da Nikon, Sony e Canon. Le tre aziende giapponesi controllano circa il 90% del mercato mondiale delle fotocamere. Se un’immagine è stata creata con l’intelligenza artificiale o manomessa, lo strumento di verifica la segnala come “priva di credenziali di contenuto“.
La mappa delle credenziali
Nella primavera del 2024 Sony rilascerà la tecnologia per incorporare le firme digitali in tre fotocamere mirrorless di livello professionale tramite un aggiornamento del firmware. L’azienda sta pensando di rendere la tecnologia compatibile anche con i video.
Quando un fotografo invia le immagini a un’organizzazione giornalistica, i server di autenticazione di Sony rilevano le firme digitali e determinano se sono generate dall’AI. Questo vuol dire che, per esempio, nel mondo delle informazioni le immagini avranno una sicurezza in più di dire la verità: Sony e The Associated Press hanno testato questo strumento sul campo in ottobre e sono convinte che porti valore.
Sony amplierà la propria gamma di modelli di fotocamere compatibili e farà pressione su altri media affinché adottino questa tecnologia. Invece, Canon rilascerà una fotocamera con caratteristiche simili già nel 2024. L’azienda sta anche sviluppando una tecnologia che aggiunge firme digitali ai video.
Canon ha messo insieme un team di progetto nel 2019 e ha stretto un legame di sviluppo con Thomson Reuters e lo Starling Lab for Data Integrity, un istituto co-fondato dalla Stanford University e dalla University of Southern California. Inoltre, Canon sta per rilasciare un’applicazione per la gestione delle immagini che consente di capire se le immagini sono state scattate da esseri umani.
Il mondo tech si adatta
L’obiettivo di capire se una immagine è stata scattata da un essere umano, manipolata o addirittura creata da zero è nella mente anche di chi sta dall’altra parte della barricata, cioè i produttori di AI.
In agosto Google ha rilasciato uno strumento che incorpora filigrane digitali invisibili nelle immagini generate dall’intelligenza artificiale. Nel 2022 Intel ha sviluppato una tecnologia in grado di determinare l’autenticità di un’immagine analizzando le variazioni di colore della pelle che indicano il flusso sanguigno sotto la pelle dei soggetti.
Hitachi sta sviluppando una tecnologia a prova di falso per l’autenticazione dell’identità online.
Le implicazioni sono moltissime, il lavoro fatto sino a questo momento è ancora minimo ma la risposta da parte di chi si occupa di immagine per contenere i deepfake sta iniziando.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet.
