Una specie di figura mitologica. Una generazione di mostri enormi, spropositati. Che vivono nelle profondità delle caverne digitali della rete. E che si cibano dei nostri pensieri, delle nostre parole, delle nostre immagini. Esseri ciechi e spietati, che uno dopo l’altro sorgono dal fango della rete e si innalzano come monumenti perenti, enormi, paurosi, capaci di prendere decisioni che cambiano il modo con cui viviamo. Eterni, certamente rispetto a noi.
Non sappiamo come gli antichi avrebbero raccontato l’emergere delle intelligenze artificiali. Ma ogni tanto fa bene cambiare occhiali e mettere su le lenti che consentono di guardare a quel che sta avvenendo in questi giorni in un modo diverso. Tanto per capire, per avere una prospettiva.
Le foto di Lightroom
Lo spunto per questa riflessione parte da un sassetto di Mastodon in rete: Lightroom, lo strumento per l’organizzazione e la sincronizzazione delle fotografie usato da centinaia di migliaia di professionisti e appassionati della fotografia, non solo sincronizza le immagini usando il cloud di Adobe, l’azienda che lo ha creato, ma a quanto pare salva una copia per addestrare una rete neurale, cioè una intelligenza artificiale. È ovviamente dichiarato nelle indicazioni che si sottoscrivono all’inizio dell’uso del servizio ed è un servizio opt-out, cioè attivo automaticamente a meno che non si dica di no.
Le foto servono alla rete neurale per “imparare” a riconoscere determinate caratteristiche e a fare previsioni accurate sull’immagine che sta analizzando. Ad esempio, se si vuole addestrare una rete neurale a riconoscere gli animali domestici in una foto, si forniranno alla rete neurale moltissime foto di animali domestici diversi, in modo che possa imparare a riconoscere le caratteristiche comuni a tutti gli animali domestici e a distinguere gli animali domestici da altri oggetti o animali. Una volta addestrata, la rete neurale sarà in grado di riconoscere gli animali domestici in nuove foto che non ha mai visto prima.
Come si fa a sapere se una rete neurale sta facendo un buon lavoro? Attenzione, perché in questo caso qui entra in gioco Adobe. Infatti, questa di solito è la parte più onerosa del processo: le foto vengono solitamente etichettate manualmente da persone, che indicano alla rete neurale quali oggetti o caratteristiche sono presenti in ogni immagine. Ad esempio, nell’esempio di prima, se si sta addestrando una rete neurale a riconoscere gli animali domestici, ogni foto di animale domestico verrà etichettata come tale da un operatore, mentre le foto che non contengono animali domestici verranno etichettate come tali.
Questo processo di etichettatura manuale delle immagini viene chiamato “annotazione delle immagini” ed è fondamentale per l’addestramento di una rete neurale, poiché fornisce alla rete i dati di cui ha bisogno per “imparare” a riconoscere le caratteristiche desiderate. Una volta etichettate, le immagini vengono solitamente divise in due gruppi: un insieme di addestramento e un insieme di test. L’insieme di addestramento viene utilizzato per addestrare effettivamente la rete neurale, mentre l’insieme di test viene utilizzato per verificare quanto bene la rete neurale ha imparato a riconoscere le caratteristiche desiderate.
[I dettagli su quali dati vengono analizzati sono disponibili su questa pagina del sito Adobe]
La creatura degli abissi
Ci sono tanti modi per vedere una intelligenza artificiale. Possiamo immaginarla come il frutto di una straordinaria magia che fa cose impossibili; come la presa di coscienza delle macchine; come una promessa fatta decenni fa (se non un secolo pieno) sulla creazione di esseri senzienti, golem impastato di metallo e bit; come un avanzamento delle tecniche di programmazione; come il frutto delle nostre proiezioni che antropomorfizzano sistemi statistici; come vittorie del “sistema” contro gli individui; come un rischio stile Terminator per la sopravvivenza dell’umanità.
Ci sono, insomma, tanti modi per vedere una intelligenza artificiale. Uno di questi è quello di un drago che sta nelle profondità della Terra virtuale, alla base del metaverso che stiamo costruendo, e che viene alimentato da un esercito di scienziati pazzi con l’anima degli utenti. È così? No, non è così. Ed è sbagliato pensarlo non solo perché evoca il pensiero magico ma anche perché così facendo si deresponsabilizza un intero settore economico: come per il tracciamento dei dati degli utenti, anche l’uso del prodotto della creatività altrui per addestrare le reti neurali è una pratica che dovrebbe essere regolamentata.
Cos’è l’intelligenza artificiale
Pensate a quanto si potrebbe scrivere in maniera lirica (e volutamente fuorviante) su questo argomento: “L’intelligenza artificiale alla base del deep web è una creatura degli abissi che divora l’anima digitale degli uomini”. Sono immagini forti e bellissime, che noialtri pennivendoli amanti del colore dalle tinte forti spruzziamo sulle pareti della rete in continuazione, chi meglio e chi peggio. Ma pensare la questione in questi termini è sbagliato e fa un cattivo servizio ai lettori.
L’intelligenza artificiale alla base del deep web non è una “creatura degli abissi” che “divora l’anima digitale degli uomini”. L’intelligenza artificiale è semplicemente una tecnologia sviluppata dall’uomo per automatizzare e semplificare i processi di lavoro. Non ha nessuna volontà o desiderio di propria iniziativa e non è in grado di “divorare” alcunché, inclusa l’anima digitale di una persona.
Il deep web, d’altra parte, è una parte della rete internet che non è indicizzata dai motori di ricerca e che è spesso associata a attività illegali o dubbie. L’intelligenza artificiale può essere utilizzata in molti modi diversi nel deep web, ad esempio per automatizzare il trading di bitcoin o per creare bot che pubblicizzano prodotti illegali. Tuttavia, questo non significa che l’intelligenza artificiale sia intrinsecamente “maligna” o che abbia un qualsiasi interesse nell’aiutare gli individui a compiere attività illegali. Si tratta semplicemente di uno strumento che può essere utilizzato in modo positivo o negativo a seconda di come viene impiegato.
I minions delle AI
Indicare l’intelligenza artificiale come brutta e cattiva, e le aziende come fornaci che la alimentano, vuole semplicemente dire che viene spersonalizzata l’identità di chi fa le cose e ne porta la responsabilità. I minions, letteralmente “scriba” o “assistenti” ma resi popolari dai film della serie Cattivissimo Me, sono creature divertenti, confusionarie, sottilmente crudeli, giocose, goffe, devotissime al loro padrone, imprudenti e stupidotte. Non si capisce neanche quando parlano. Sono tantissime. Sono sostanzialmente la rivisitazione degli spiritelli naturali essenziali, giocosi e temibili ma al tempo stesso incoscienti e alquanto imprevedibili.
Una posizione comodissima per rappresentare il ruolo dei manager e decisori che invece programmaticamente scelgono di sviluppare non solo le soluzioni tecnologiche ma anche i modi con i quali esse vengono sviluppate e poi portate sul mercato.
Avere le AI a disposizione, come quelle che chiacchierano sul web e presto in altri contesti, è sempre molto comodo. Capire qual è il mercato retrostante, il modo con il quale si sviluppano, il motivo per cui la loro creatività è fisiologicamente la schiuma, l’essudato statisticamente ricombinato del minestrone delle folle disperso in rete, una brodaglia esistenziale e primordiale composta dalle intenzioni e dalle idee di milioni e milioni di noi.
Matrix
Nel primo Matrix venne tolto all’ultimo momento dalla sceneggiatura delle sorelle Wachowski un punto che era fondamentale per capire il presupposto di questa opera d’arte dal valore simbolico quasi profetico. Come sappiamo la trama del film ruota attorno a un gruppo di personaggi che lottano contro una realtà virtuale creata da intelligenze artificiali che hanno soggiogato l’umanità. Quello che non sappiamo è il vero motivo per cui nel film le AI hanno soggiogato l’umanità: non è per estrarre il loro calore corporeo per alimentare i sistemi digitali. Invece, l’idea originaria era che le AI utilizzassero le menti delle persone come processori di un gigantesco supercomputer biologico massicciamente parallelo.
Una soluzione tecnologica pazzesca alla base del simbolismo più profondo del film: l’esplorazione dei temi dell’identità e della libertà attraverso la lente della tecnologia avanzata e della fantascienza. Il film ha suscitato molte riflessioni e discussioni sulla natura della realtà, della tecnologia e dell’umanità, e ha ispirato numerosi dibattiti e teorie a riguardo.
Adesso, con la copertura di un ruolo ridicolo da minions e con l’uso di strumenti che pensiamo siano semplicemente “comodi” (la sincronizzazione via cloud delle nostre foto digitali, magari pure accuratamente taggate nei nostri album di lavoro o personali), questa riflessione torna in realtà a farsi avanti.
Le intelligenze artificiali non sono creature lovercraftiane, non sono Terminator in cerca di una vittoria nel continuum spaziotemporale. Non sono moderne magie evocate da maghi potentissimi e adorate da piccoli minions aziendali. Sono ovviamente strumenti tecnologici realizzati e costruiti con obiettivi di profitto piuttosto chiari e ben delineati, che si muovono in spazi nei quali non solo non valgono più le regole del mondo degli atomi e si applicano quelle del mondo affatto diverso dei bit, ma anche le normative non ci sono o se ci sono si riferiscono ad almeno tre generazioni tecnologiche fa.
La GDPR, ad esempio, neanche riesce a cogliere il senso ultimo di questi problemi e risponde cercando di seguire criteri generali ma fin troppo dettagliati. È ovvio che sfruttare gratuitamente il lavoro di milioni di persone, autorizzato con una semplice spunta automaticamente già posizionata su “on”, non sta in piedi né da un punto di vista etico né morale. Anzi, che il doppio profitto (visto che si paga per usare il software e che il lavoro che poi uno fa viene usato per generare altre fonti di fatturato) è “disprezzabile”, nel senso etimologico del termine (dal latino “dis-prezzum”, non dare valore a qualcosa).
Ci sarà una fine a questo oppure l’immaginario occidentale nato con Metropolis, il film di Fritz Lang (per rimanere nell’ambiente onirico e psicanalitico del cinema), vincerà? Vestirsi da hipster californiani confonderà la comprensione del fenomeno da parte delle persone? Sono domande aperte che, con una spunta su “on”, trovano una prima risposta.
