Non bastano le fake news che imperversano durante i periodi di guerra. Il conflitto tra Israele e Hamas ci sta facendo scoprire anche un fenomeno completamente inedito, che gli esperti hanno ribattezzato “secondo livello della disinformazione”.
In pratica, i sistemi automatici basati su intelligenza artificiale impiegati per identificare le immagini generate artificialmente stanno etichettando quelle reali, con gli orrori della guerra, come fake.
La guerra delle AI
Potremmo definirla una vera e propria guerra delle intelligenze artificiali. Una guerra che viene combattuta da un lato con gli strumenti per la creatività che consentono, come Dall-E, di creare immagini, ma anche altri per realizzare testi oppure bot automatici che popolano profili fake, e dall’altra altri sistemi di intelligenza artificiale che invece cercano e bloccano queste immagini, testi e profili “fake”, etichettandoli come tali.
Il fenomeno dei falsi positivi (così come dei falsi negativi) ovviamente esiste da sempre e l’abilità dei tecnici sta nel “registrare” la sensibilità dei sistemi di analisi per ridurli al minimo. Questo in tempi normali, ma quando le immagini sono straordinariamente orribili, violente e piene di cose che escono da qualsiasi norma, i sistemi si attivano ed etichettano tutto questo come “fake”.
La tecnologia e l’essere umano
Il sito 404 è il primo a riportare. questo tipo di attività e a identificare alcuni esempi che sono “caduti” nelle maglie delle intelligenze artificiali che in teoria dovrebbero difenderci dalla falsificazione della realtà.
La prima considerazione è che ovviamente tutto questo sta generando un potenziale di ulteriore distorsione della realtà, introducendo un secondo livello di problemi. Non a caso gli esperti hanno chiamato questo tipo di problema, inedito sino a questo momento, un “secondo livello di disinformazione”.
Ma se volessimo riflettere un po’ di più su quanto sta accadendo in questo contesto, potremmo anche capire che le intelligenze artificiali, costruite come motori statistici per campionare tutto quello che rientra in una distribuzione gaussiana che solo loro sono in grado di costruire con parametri appresi tramite l’addestramento, ed etichettarlo di conseguenza, sostanzialmente si rifiutano di considerare qualcosa che esula dal “normale”.
È l’etichetta di fake news a farci riflettere: per le AI queste immagini sono irreali, nel senso di non reali. E lo sono perché impossibili. Come potrebbero essere possibili immagini con degli orrori che superano quelli di qualsiasi messa in scena, quelli di qualsiasi rappresentazione allegorica, di qualsiasi forma di intrattenimento tradizionale? Addestrate con miliardi di selfie e di foto “tradizionali”, le immagini dei reporter e dei civili coinvolti nella guerra tra Israele e Hamas mostrano cose che sono impossibili.
Tuttavia, l’intelligenza artificiale limitata dal suo addestramento è troppo ingenua e non è in grado di capire che l’orrore è molto più grandi quel che si potrebbe immaginare. Purtroppo.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili nella sezione dedicata di macitynet.
