Dimenticate il crollo dell’occupazione, la disinformazione, l’obsolescenza umana e il capovolgimento della società: secondo l’amministratore delegato di OpenAI, la società che ha creato ChatGPT, l’intelligenza artificiale spazzerà via tutta la vita biologica alla prima occasione.
Non è la prima volta che l’uomo mette in discussione la possibilità di estinzione a causa delle sue stesse creazioni tecnologiche, ma la minaccia dell’AI è molto diversa dalle armi nucleari con cui abbiamo imparato a convivere, e per una semplice ragione: le armi nucleari non possono pensare. Non possono mentire, ingannare o manipolare. Non possono pianificare ed eseguire. Qualcuno deve premere il grosso pulsante rosso.
Se siamo d’accordo su questo allora sappiamo già che non possiamo fare molto per cambiare le cose per il semplice fatto che, come specie, non sappiamo come impedirci di creare l’AI. Chi farà le leggi? le Nazioni Unite? perché il problema è globale. Se non lo fa un paese lo farà un altro, e chi arriva prima potrebbe governare il mondo. Le lettere aperte, disperate, dei leader del settore che chiedono una pausa di sei mesi per capire dove stiamo andando potrebbe essere il meglio che si possa fare.
Come funziona ChatGPT
Per Sam Altman, CEO di OpenAI, il problema c’è e se non lo consideriamo «reale, non faremo mai abbastanza per risolverlo». Il punto è che nessuno ha scritto il codice di queste AI perché, semplicemente, non sarebbe possibile. Invece, nel caso di ChatGPT, OpenAI ha creato una struttura di apprendimento neurale che si ispira al mondo in cui il cervello umano collega i concetti, perciò migliora e si programma da solo con gli input che gli diamo noi: insomma, impara chiacchierandoci.
Il codice che ne risulta non assomiglia a niente che un programmatore scriverebbe: è sostanzialmente una colossale matrice di numeri decimali, ognuno dei quali rappresenta l’importanza di una particolare connessione tra due token. Nessun essere umano può analizzare queste matrici e ricavarne un senso: neppure le migliori menti di OpenAI hanno idea di cosa significhi un dato numero, di conseguenza non sanno come ritrovare il concetto di genocidio, figuriamoci spiegare a ChatGPT che uccidere le persone è sbagliato. Purtroppo pare non si possano digitare le tre leggi della robotica di Asimov (qui sotto) e far sì che tutto il sistema ruoti intorno ad esse.
(1) Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno. (2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge. (3) Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.
Non vi ricorda qualcosa?
Per il filosofo e ricercatore di intelligenza artificiale Eliezer Yudkowsky la situazione è ancora più drastica: mentre le persone immaginano uno sterminio alla Terminator, se l’IA è sufficientemente intelligente probabilmente non avrà bisogno di inseguirci e ucciderci uno alla volta. E come esempio cita uno scenario che richiederebbe all’AI di poter soltanto inviare alcune email: in sostanza potrebbe semplicemente corrompere qualcuno che non ne capisce abbastanza per mettere a punto un intricato sistema che si autoreplicherebbe e, per via aerea, finirebbe nei flussi sanguigni umani, in attesa di un segnale o della scadenza di un timer per attivarsi e toglierci la vita.
E questo – dice – è uno scenario disastroso «per me: se l’AI è più intelligente, potrebbe trovare un modo migliore» per raggiungere lo stesso risultato. Secondo lui i sei mesi di tregua chiesti da Elon Musk, Steve Wozniak, e gli altri leader del settore ci farebbero guadagnare un po’ di tempo, ma oltre ad essere improbabile che ciò accada, allontanerebbero solo il momento in cui bisognerà affrontare il problema.
L’unica soluzione
Secondo lui la soluzione è soltanto una: chiudere tutto. «Non siamo pronti. Se andiamo avanti moriremo tutti, compresi i bambini che non l’hanno scelto e non hanno fatto nulla di male».
