Lo hanno definito “un pappagallo stocastico”: il sistema sviluppato attraverso reti neurali con tecniche di deep learning e algoritmi di machine learning, la branca dell’intelligenza artificiale che dallo scorso novembre è salita alla ribalta delle cronache dopo il lancio di ChatGPT di OpenAI, adesso si occupa anche di censurare i libri, cioè indicare ai bibliotecari americani (si presume pigri o che non leggono abbastanza) quali libri togliere dalle collezioni dei distretti scolastici.
Si sa, l’America (intesa come Stati Uniti) è un Paese di base puritano con delle contraddizioni e dei problemi che a noi europei sfuggono. Generano solo rumore e confusione, fanno pensare che “i cow-boy” o gli Yankee, come venivano chiamati subito dopo la guerra in senso dispregiativo, siano ragazzoni pieni di energia ma non intelligenti e sofisticati come noialtri vecchi europei.
Non ci potrebbe essere un pregiudizio, cioè un bias, più pericoloso, dal nostro punto di vista, perché gli USA intesi come nazione sono tutt’altro che naïf (o naïve, come si dice in inglese) cioè ingenui, schietti e primitivi. Tutt’altro. Non sono i soli e sono estremamente razionali e pragmatici nell’agire. Vediamo perché.
Chi guarderà i guardiani?
Quello che gli USA stanno facendo in questo settore è semplicemente l’attualizzazione di un procedimento di sorveglianza automatica che diventa la più chiara e razionale tra le politiche che una nazione altamente tecnologica può mettere in piedi. Cioè usare gli strumenti che ha a disposizione in maniera pragmatica.
I milioni di videocamere a circuito chiuso che monitorano i cittadini sono a Londra e nelle grandi città americane (oltre che in un crescente numero di altre città dell’Europa continentale) e non solo in Cina.
I sistemi per calcolare automaticamente la solvibilità futura delle persone senza informarle di quali dati vengono raccolti o quando e quindi decidere se erogare o no i prestiti sono fatti da agenzie di brokeraggio pubbliche negli Usa e in Europa, Italia compresa, e non solo in Cina. I sistemi di screening e gestione dei profili della popolazione per individuare dissidenti e potenziali terroristi vengono fatti da sistemi automatici negli Usa e in Europa, non soltanto in Cina.
Questa dei libri filtrati automaticamente usando l’AI è solo una conseguenza razionale di queste premesse, eppure suona come un campanello di allarme soprattutto per chi non conosce o non ha capito la complessità del mondo nel quale viviamo e delle tecnologie che adoperiamo nel nostro mondo, oltre che della loro estrema pervasività.
Quando parliamo di trasformazione digitale e industria 4.0 o le altre sigle che ciclicamente vengono create per etichettare investimenti e rivoluzioni, non cogliamo le scritte in piccolo in fondo al foglio delle istruzioni. Leggiamone le conseguenze in questo caso, allora.
Cosa è successo negli USA
Come riporta Popular Science e anche altri altri siti di informazione statunitense, di fronte alla nuova normativa che intima di censurare i libri con contenuti non adeguati, il distretto scolastico di Mason City dello Iowa ha chiesto a ChatGPT se alcuni libri “contengono una descrizione o una rappresentazione di un atto sessuale”. Ovviamente il bot conversazionale ha risposto.
La conseguenza è che sono stati tolti 19 libri: da Margaret Atwood a Khaled Hosseini. Questa che segue è la lista delle edizioni in inglese, anche se molti sono tradotti in italiano in alcuni casi da decenni: “Killing Mr. Griffin” di Lois Duncan, “Sold” di Patricia McCormick, “A Court of Mist and Fury” di Sarah J. Maas, “Monday’s Not Coming” di Tiffany D. Jackson, “Tricks” di Ellen Hopkins, “Nineteen Minutes” di Jodi Picoult, “The Handmaid’s Tale” di Margaret Atwood, “Beloved” di Toni Morrison, “Looking for Alaska” di John Green, “The Kite Runner” di Khaled Hosseini, “Crank” di Ellen Hopkins, “Thirteen Reasons Why” di Jay Asher, “The Absolutely True Diary of a Part-Time Indian” di Sherman Alexie, “An American Tragedy” di Theodore Dreiser, “The Color Purple” di Alice Walker, “Feed” di M.T. Anderson, “Friday Night Lights” di Buzz Bissinger, “Gossip Girl” di Cecily von Ziegesar, “I Know Why the Caged Bird Sings” di Maya Angelou.
Perché sono stati censurati i libri e a chi?
Le regole del distretto prevedono che i materiali didattici, compresi i manuali per gli insegnanti, i film, le cassette o altro materiale supplementare che verrà utilizzato in relazione a qualsiasi indagine, analisi o valutazione nell’ambito di programmi finanziati a livello federale, siano disponibili per la consultazione da parte dei genitori.
Un’altra regola prevede l’eliminazione del requisito che prevede che due studenti delle scuole superiori, scelti annualmente dal preside, facciano parte della commissione di revisione dei materiali in caso di audizione, in conformità con una nuova disposizione che vieta agli studenti di far parte di tali commissioni.
Secondo il distretto, “Gli elenchi di libri comunemente contestati sono stati compilati da diverse fonti per creare un elenco principale di libri che dovrebbero essere esaminati. I libri di questo elenco principale sono stati filtrati per le contestazioni relative ai contenuti sessuali.
Ognuno di questi testi è stato esaminato con un software di intelligenza artificiale per determinare se contiene una rappresentazione di un atto sessuale. Sulla base di questa revisione, ci sono 19 testi che saranno rimossi dalle collezioni delle nostre biblioteche scolastiche 7-12 e conservati nel Centro amministrativo in attesa di ulteriori indicazioni o chiarimenti. Chiederemo inoltre agli insegnanti di rivedere le collezioni delle biblioteche di classe”.
Le conseguenze per il resto della civiltà occidentale
Scusate il titolino, ovviamente non ci sono reali e dirette conseguenze per il resto della civiltà occidentale. Fino a quando non ci sono. Nel senso che questa attività è perniciosa nel lungo periodo. Vediamo perché.
Il problema non è degli strumenti, ma di chi li fa e di chi li usa. A partire dagli amministratori e legislatori dell’Iowa: “Francamente, abbiamo cose più importanti da fare che passare molto tempo a cercare di capire come proteggere i bambini dai libri”, ha detto Bridgette Exman, assistente sovrintendente per il curriculum e l’istruzione presso il distretto scolastico comunitario di Mason City. “Allo stesso tempo, abbiamo l’obbligo legale ed etico di rispettare la legge. Il nostro obiettivo è davvero un processo difendibile”.
Gli strumenti non sono legalmente responsabili del loro comportamento. Gli strumenti non possono avere la responsabilità di effettuare delle scelte e le persone di subirle. Per questo non sono gli strumenti che possono prendere le decisioni, ma semplicemente lavorare da suggeritori.
Delegare agli strumenti è un modo per nascondersi dietro qualcosa d’altro e far finta di non essere responsabili delle proprie scelte. Un “trucco” che la burocrazia, pubblica e privata, praticano da secoli e che adesso, con le AI, diventerà ancora più diffuso e perpetrato sistematicamente. Questo è, a nostro avviso, la conseguenza per il resto della civiltà occidentale che, come una rana immersa in una pentola d’acqua sempre più calda, rischia di morire bollita senza neanche accorgersene.
Tutte le notizie che ruotano attorno ai chatbot e all’intelligenza artificiale generativa si trovano nella sezione dedicata di macitynet.
