Stiamo creando un’epoca neo-pagana, in cui l’idolo da adorare è diventata l’intelligenza artificiale. Ma è un grosso, grosso sbaglio. Perché vuol dire sostanzialmente che crediamo che sia magia, mentre è semplice tecnologia.
Ci sono precedenti letterari per dirlo, e dovrebbero valere come un sogno psicanalitico, come un allarme che ci metta sull’avviso: guardate che adorare l’AI è sbagliato.
I nove miliardi di nomi di Dio
Un esempio? Il grandissimo Arthur C Clarke alcuni decenni fa, nel 1953, ha scritto il racconto “I nove miliardi di nomi di Dio”, nel quale ci presenta una setta di monaci di una lamaseria nel Tibet che crede che la nascita di tutta l’umanità abbia avuto fin da sempre un solo scopo divinamente ispirato: fare una lista in cui scrivere per esteso tutti i vari nomi di Dio. Con un ovvio tipo di destino: una volta che l’umanità avrà completata la lista, dicono i monaci, Dio porrà fine all’universo.
Sono ormai secoli che i monaci ci lavorano ma l’isolamento sul tetto del mondo è relativo e arriva notizia che ci sono delle novità dal punto di vista tecnologico: i computer. E così, forti delle donazioni, decidono di ricorrere alla tecnologia moderna. Due ingegneri di una grande multinazionale occidentale, molto scettici (sono razionalissimi ingegneri, dopotutto) arrivano alla lamaseria, in cima all’Himalaya, portando un potente computer al loro seguito (che all’epoca era una cosa molto voluminosa e complicata da trasportare, non un portatile nello zainetto).
I conti per calcolare e scrivere tutte le permutazioni del nome di Dio nell’alfabeto prescelto richiederebbero 15mila anni, ma il lavoro automatizzato dal computer lavoro viene svolto in tre mesi. Gli ingegneri rimangono ad assistere per il funzionamento del computer, che procede senza grandi intoppi e così loro si annoiano, cavalcando i piccoli cavalli locali, adatti alla vita in alta montagna. Il racconto di Clarke si conclude, dopo che il computer ha stampato l’ultimo nome di Dio, con una delle chiuse più sintetiche (e meravigliose, secondo noi) della letteratura fantastica: “Sopra di noi, senza alcun clamore, le stelle si spegnevano”.
Tornando alla scienza
Torniamo a parlare di informatica. Perché di questo occorrerebbe parlare, o forse anche di altro, come vedremo tra un attimo. Ma non di religione.
La società laica e capitalista secondo molti studiosi ha sostituito al senso della collettività e della religiosità l’individualismo e il senso del denaro, mercificando qualsiasi cosa. Per questo i mercati sono così eccitati dall’intelligenza artificiale: con gli indici che si impennano e precipitano, muovendo ricchezze totalmente virtuali, i mercati rappresentano in concreto l’intangibile che un tempo era proprio dell’entusiasmo delle grandi religioni o delle grandi manifestazioni di piazza. Si prega con i soldi, e si vedono i risultati negli indici di Borsa.
E cosa stiamo pregando? Cosa stiamo vedendo? L’idolatria dell’intelligenza artificiale, che è stata capace di mandare in corto circuito tutta la sofisticata macchina collettiva del pensiero umano. Un pensiero fatto sì da individui ma da individui legati fra loro tramite il linguaggio in un sottile tessuto sociale che con internet è diventato assoluto (forse solo la telepatia potrebbe di più).
Ci parla come la mamma
Il trucco più vecchio del mondo, quello che anche le madri praticano con i bambini, cioè parlargli, ha mandato in tilt tutto: l’AI parla. Anzi, ci parla, a ognuno di noi. Quando disegnava, ricreava immagini, correggeva errori, faceva scontorni alle velocità della luce, riconosceva volti, eseguiva calcoli istantaneamente mai previsti, non ci stupiva. Ma da quando ci parla, pur allucinando e delirando come è ovvio che sia, ci ha affascinato. Stregato. Ipnotizzato. Rovinato.
Da Eliza in avanti, se la macchina ci parla ci sconvolge, perché siamo costruiti in maniera tale da cercare un senso (e proiettarlo, se non lo troviamo) nelle parole degli altri. La Sibilla Cumana o i dadi per gli scrittori a cui manca l’ispirazione, fanno questo: generano associazioni che ci ispirano. La GenAI del tipo chatbot fa questo: ci ispira al di là di tutto quel che può fare o dire.
L’inconscio collettivo
Così, antropomorfizzandola all’infinito, abbiamo costruito tutto un complesso sistema non solo economico, un articolato castello con dentro società, paure, inconsci collettivi, aspirazioni, speranze, trucchi e furbizie varie. Le persone interagiscono e ognuno, dal suo punto di vista, si orienta con il flusso collettivo (a cui indirettamente più o meno contribuisce) e prende posizione.
L’AI è un rischio esistenziale per l’umanità? È la più grande ricchezza di sempre? È la grande opportunità dei prossimi dieci anni? È uno spauracchio? È un vantaggio competitivo? È un modo per allocare risorse, cambiare strategie, licenziare persone, assumerne altre? È tutto questo e molto altro.
Il futuro è un’ipotesi terribile
Tutti stanno dicendo la loro, partecipando e rinforzando un gioco nel quale il punto di partenza è chiarissimo per quanto mille volte contraddetto: l’AI non è intelligente. Ma potrebbe esserlo. Ma lo sembra. Ma lo diventerà. Ma lo sta diventando.
Intanto, gli assetti economici, i motori di sfruttamento, il possesso dei contenuti (per l’addestramento) così come quello degli investimenti statali cioè pubblici (i progetti passano solo se dentro c’è la sigla magica “AI” sennò sono “vecchi”) cambiano e si adeguano.
La battaglia per addestrare le AI
Prendiamo l’aspetto della democratizzazione dell’accesso alla generazione dei contenuti. C’è dibattito sulla privacy e sulla proprietà dei contenuti dati in pasto ai modelli. È un dibattito in cui gli artisti, quando si parla di immagini e opere d’arte o musica, si inalberano dicendo che bisogna che l’addestramento sia pagato. Ma se succede sappiano gli artisti che sarà solo una vittoria di Pirro. Le grandi compagnie tech possono permettersi di comprare i dati da altre grandi compagnie. Quelle più piccole no. Quindi la prossima generazione sarà schiava degli strumenti dei big per creare le cose, esattamente come oggi è schiava di pochi produttori di tecnologia per usare gli strumenti digitali.
Sta nascendo una lotta per il copyright del dataset che ci lascerà in eredità ancora più monopoli, danneggiando l’ecosistema open source e le aziende di medio-piccole dimensioni. Senza contare che, amara verità già vista anche con Spotify ad esempio, gli artisti, anche se vincessero, non vedranno che le briciole di questi grandi trasferimenti di valore. Se a qualcuno interessa, è così che nascono i monopoli.
Un problema squisitamente epistemologico
Tornando all’AI in generale. Nella società è evidente che non stiamo capendo cos’è. Non dal punto di vista tecnico, ma da quello epistemologico. Anzi, correzione: forse neanche da quello tecnico perché a parte pochissimi, in realtà il 99% dei programmatori e dei sistemisti e degli utenti avanzati già adesso utilizza sistemi estremamente complicati senza avere la più pallida idea di come funzionano.
Man mano che le generazioni di informatici che hanno visto i primi elaboratori scompaiono, quelli che studiano per capire le meccaniche sottostanti le astrazioni presentate dai sistemi sono sempre meno. Semplicemente perché non serve. Pensate che stiamo esagerando? Qualcuno allora ha idea di come funzionino tutti i livelli del JamStack o come vengano gestite le reti virtuali in cloud con sistemi di macchine virtuali, cloud native, e poi pipeline CI/CD con annessi test di qualità e controllo totalmente automatici, generazione di codice altrettanto automatico, programmazione di infrastrutture come servizi temporanei definiti dal software e via dicendo? E le dipendenze di primo, secondo e terzo livello di framework e librerie? E contemporaneamente sapere come fa Bash a rappresentare i caratteri sullo schermo di un terminale? E come funziona tutto quanto Git anche solo dal lato utente? Sul serio?
No, queste cose si usano e basta, la maggior parte non le capisce se non a un livello di astrazione talmente elevato che sarebbe impossibile (per loro) ricrearle se dovessero per magia scomparire
Cos’è l’AI e cos’è l’informatica?
Dal punto di vista epistemologico possiamo chiederci una cosa. Cos’è l’intelligenza artificiale? La risposta più semplice (ma non completamente corretta) è che la AI sia una branca della informatica. Ma siamo sicuri che sia davvero così?
Prendiamola relativamente larga: invece, l’informatica cos’è? Una scienza o una tecnica? Un qualcosa di autonomo o una branca della matematica, per la precisione della matematica applicata?
“Nì”, cioè sì ma anche no. L’informatica non è parte della matematica, anche se ne usa logica e linguaggio (la logica alla base dei calcolatori e dei loro processori è di derivazione prettamente matematica: si chiama “logica-matematica”). Invece, la “computer science” ha delle caratteristiche sue, diverse, uniche perché coinvolgono anche altre scienze e altri campi del sapere, oltre a crearne di ulteriori, nuovi.
E l’intelligenza artificiale è parte dell’informatica? “Ni”. Cioè, sì ma anche no. C’è di più. C’è, ad esempio tutto l’aspetto dell’etica, del bias, della scelta degli esempi. Ma ci sono anche gli aspetti relativi alla cognizione.
Certo, quelli che utilizza l’intelligenza artificiale dal punto di vista informatico in fondo sono modelli abbastanza “semplici”, che però usano un sacco di potenza computazionale (e di energia).
Un po’ come la bio-informatica: di informatica ormai non ce n’è poi tanta, invece è diventata un ambito applicativo dell’informatica con una sua dignità perché tocca gli aspetti della biologia e della fisica.
Dove va l’intelligenza artificiale?
Tornando all’intelligenza artificiale: viaggia sulle sue gambe certamente, ma a condizione di non fraintendere quel che stiamo scrivendo qui: perché, se l’informatica non la sai o non la capisci, l’intelligenza artificiale non la fai. Ma l’informatica è lo strumento abilitante, “sopra” ci sono molte altre cose. Così come la matematica è lo strumento abilitante dell’informatica, ma “sopra” ci sono molte altre cose.
La nostra società nel suo insieme tutto questo lo ignora, ignora di ignorarlo e invece si concentra su altri aspetti: l’utilizzo dell’AI (con i vari ChatGPT), gli aspetti economici, politici, lavorativi, sociali.
E poi ci sono quegli aspetti che potremmo definire “pre-razionali”. Il culto, l’adorazione. Che è di un ordine di grandezza maggiore di quel che però è già successo.
Altro giro, altra cosa
Prima con l’arrivo dei computer, che negli anni Sessanta erano visti come “la fine del mondo”, entità fredde e spietate che addirittura diventavano il cattivo dei film, come Hal 9000 di “2001 Odissea nello Spazio”, di Stanley Kubrick, con il nostro Arthur C. Clarke tra gli autori.
E poi con l’arrivo di internet (web, blog e social) che ha rivoluzionato non solo l’economia ma anche il modo stesso con cui ci relazioniamo con il mondo, provocando delle vere e proprie rivoluzioni sia politiche (pensiamo a Barack Obama, eletto grazie anche al suo impatto sulla rete, o alla disinformazione russa che ha impattato invece l’elezione di Donald Trump contro Hillary Clinton) che sociali (l’epidemia di malessere, malattie nervose e suicidi tra i giovani e i giovanissimi per l’abuso di smartphone e social “veloci”, come dicono sempre più ricercatori).
Cosa succede adesso (facile previsione)
Quindi, adesso è arrivato il momento dell’AI. Poco male, ci sta. Anzi, sarebbe molto strano se non succedesse. È il futuro che arriva. Ma cosa vuol dire? Il futuro è predefinito? È inevitabile? Proviamo a fare questa simulazione.
Se ci sediamo sul divano con i popcorn e la nostra bibita preferita possiamo assistere al passaggio della commedia umana, che oggi va veloce come un video in time-lapse in 4K. E vedere la nostra società prendere l’AI, fraintenderla completamente e rifunzionalizzarla in maniera totalmente diversa, con una combinazione unica di spinte, controspinte, casualità e accidenti sociali, politici, economici, normativi e storici che renderanno tra pochi anni il nostro mondo uno dei futuri possibili che esistono oggi.
Ecco, il futuro non è mai uno solo: ci sono moltissimi potenziali futuri, che vengono eliminati uno dopo l’altro da una serie di azioni e reazioni, alcune volute e altre casuali. Sino ad arrivare all’unico futuro che “nasce” e diventa realtà, attuale. Alla faccia della determinismo, questa è la vittoria del libero arbitrio. Con la postilla che nessuno ha la capacità di controllarlo, perché i fattori sono troppi: è un libero arbitrio collettivo, diciamo.
Il futuro della “risposta”
E tocca tutto quanto, compreso quello relativo al culto dell’AI. Oppure quello immaginato da Fredric Brown nel 1954 in un’altra, brevissima storia fantascientifica: “La risposta”.
La storia è ancora più semplice di quella in apertura. Un intero pianeta collegato per assistere all’accensione del più potente computer di sempre, creato usando tutte le risorse disponibili e la collaborazione di tutti. Con l’unico scopo di rispondere alla domanda “Esiste un Dio?”.
E la macchina rispose senza esitazione e con voce possente: “Sì, ora c’è un Dio”.
Tutti gli articoli che parlano di intelligenza artificiale AI sono disponibili a partire da questa pagina di macitynet.
