C’è una nuova tendenza nel mondo dell’intelligenza artificiale. Ed è una tendenza che sta prendendo in contropiede molti, ma che in realtà ha un impatto notevole non soltanto sulla capacità di innovare delle aziende ma soprattutto sui costi che devono sostenere per poterlo fare.
È la tendenza a spostare i carichi di lavoro collegati alle AI, sia in fase di addestramento che soprattutto di esecuzione, lontano dal cloud pubblico, dove i costi dei gestori (AWS di Amazon, Google Cloud e Azure di Microsoft, più Alibaba in Cina) possono esplodere e diventare facilmente insostenibili.
Cosa sta succedendo
Ovviamente il cloud computing non sta andando da nessuna parte. Tuttavia, alcune aziende stanno spostando i dati e i modelli di apprendimento automatico su macchine gestite internamente. Chi lo adotta spende meno e ottiene prestazioni migliori.
Questa è la piccola ma tutt’altro che irrilevante scoperta che è stata fatta negli ultimi mesi dai ricercatori e dagli analisti di mercato.
Ad esempio, una catena di ristoranti con consegne rapide a domicilio sceglie di eseguire i suoi modelli di intelligenza artificiale per localizzare la logistica delle consegne su macchine all’interno dei suoi negozi. Allo stesso tempo, un’azienda farmaceutica globale addestra i suoi modelli di apprendimento automatico in casa, utilizzando server che gestisce autonomamente.
Erano i casi scuola del perché il cloud pubblico fosse la soluzione migliore per questo tipo di attività, e invece si stanno dimostrando la principale debolezza dei grandi fornitori di questo tipo di servizi. Considerando l’impatto positivo che hanno sui conti economici dei primi tre colossi che controllano buona parte del cloud, cioè Amazon Google e Microsoft, questo potrebbe essere l’inizio di una slavina che potrebbe cambiare il futuro economico di queste aziende e molte altre cose.
Le ragioni di un abbandono
Come spiega un lungo articolo di Protocol, la scelta in atto adesso ma è dettata da ragioni le più varie. Non c’è solo il tema della privacy e della riservatezza dei dati, ad esempio, è quello dei costi fuori controllo a causa di modelli di spesa complessi e bizantini, difficili da prevedere. Anche se c’è ovviamente anche quello.
Invece, un altro tema è quello della banda larga: anzi, della sua mancanza. Molte aziende di tutto il mondo si trovano lontano dai grandi “nodi” della connettività. Per loro caricare e scaricare i dati necessari ai carichi di lavoro dei modelli di addestramento ed esecuzione può non soltanto essere oneroso ma addirittura impossibile. Manca la fibra soprattutto in upload? La risposta è fare tutto in casa.
La potenza di calcolo soprattutto nel settore dell’intelligenza artificiale dei processori di ultima generazione destinati agli apparecchi degli utenti finali ma anche al cosiddetto Edge Computing, si è notevolmente arricchita. Dai core per il neural engine dell’Apple Silicon ai processori dedicati realizzati per altri apparecchi dedicati, oggi eseguire localmente istanze di calcolo un tempo molto complesse e onerose è diventato estremamente facile. E permette di azzerare i costi di trasferimenti e la latenza dei risultati.
La grande fuga dal cloud
Sia per via della sicurezza, per via della banda “stretta”, dei costi di trasferimento e di esecuzione sui server cloud, in generale la tendenza a lasciare il cloud è iniziata.
Tanto che persino i grandi del settore se ne sono accorti. E sono ben consapevoli che questo potrebbe avere un impatto notevole sulla loro capacità economica in futuro. Per questo alcuni di loro sono già corsi ai ripari offrendo soluzioni locali, ovvero “on-premises” per usare il termine inglese del gergo immobiliare mutuato dall’informatica.
Così, AWS ha creato gli Outpost, una serie di strumenti hardware pensati per funzionare come AWS nel cloud, solo in box lasciate dai clienti (che non possono aprirle né operarle in alcuni modo). Sono strumenti per l’addestramento del Machine learning pensato per funzionare fuori dal cloud soprattutto per questioni di latenza (secondo AWS).
Poi c’è il Distributed Cloud Edge di Google, che è nato a fine anno scorso per consentire ai clienti che hanno problemi di rispetto particolare delle norme (la sovranità dei dati, ad esempio, ma anche i regolamenti specifici per regioni come quella europea) e ovviamente di bassa latenza.
Infine, anche Azure di Microsoft ha introdotto i servizi Azure Arc che permettono di ampliare la scelta di un approccio aziendale ibrido (on-premises e nel cloud) per quanto riguarda la gestione del machine learning.
Dove stiamo andando a finire?
Il problema di fondo, e la cosa più interessante da rilevare per quanto riguarda il settore del machine learning e intelligenza artificiale in particolare, è che potrebbe essere un precursore di una tendenza più ampia.
Una tendenza in base alla quale, come l’oscillazione di un pendolo, dopo che per alcuni anni tutti hanno cercato di portare tutto quel che potevano nel cloud, adesso stanno cercando di fare un po’ di retromarcia.
Certo, il cloud è conveniente, a livello aziendale, perché consente una serie di economie di scala e semplificazioni della gestione. Ma è anche una perdita di controllo e di competenze quasi assoluta (cosa che è dannosa in un mondo in cui saper gestire computer e saperli programmare è fondamentale) senza contare che la forte semplificazione della gestione delle infrastrutture dei centri di calcolo è diventata più semplice perché sono state create delle automazioni (come la Infrastructure as Code) che permettono anche ai programmatori di gestire parte del lavoro che un tempo era riservato solo ai sistemisti.
Senza contare che i costi possono impazzire molto rapidamente se il lavoro da fare nel cloud si moltiplica, e che prevedere di quanto crescano non è affatto semplice.
Uscire in parte dal cloud è la risposta. Sarà la tendenza degli anni Venti del nuovo millennio? Se lo chiedono analisti, ricercatori ma anche aziende e soprattutto fornitori di servizi cloud.
