La startup cinese DeepSeek ha recentemente attirato l’attenzione dell’intero mondo della tecnologia per via del basso impiego di risorse di calcolo, leggi GPU Nvidia, necessarie per il suo avanzato modello di intelligenza artificiale, denominato R1, ritenuto competitivo con l’o1 di OpenAI. Tuttavia, il clamore potrebbe non essere così giustificato.
Secondo le affermazioni dell’azienda, DeepSeek avrebbe sostenuto costi pari a soli 6 milioni di dollari e utilizzato 2.048 GPU per il training del suo modello. Tuttavia, gli analisti di SemiAnalysis rivelano che la società dietro DeepSeek ha sostenuto costi hardware ben maggiori, pari addirittura a circa 1,6 miliardi di dollari, disponendo di una flotta di 50.000 GPU Nvidia Hopper. Se così fosse, l’idea che DeepSeek sia davvero una rivoluzione a basso costo, potrebbe non essere del tutto fondata.
Il rapporto indica che DeepSeek gestisce un’infrastruttura di calcolo molto estesa, basata su circa 50.000 GPU Hopper, di cui 10.000 H800 e 10.000 H100, oltre ad ulteriori unità H20 acquistate. Queste risorse sarebbero distribuite su diverse sedi e verrebbero impiegate per attività di training AI, ricerca e modellazione finanziaria.
Dunque, l’investimento totale in server dell’azienda si attesterebbe intorno a 1,6 miliardi di dollari, mentre i costi operativi stimati ammonterebbero a circa 944 milioni di dollari.
Ricordiamo che DeepSeek ha fatto scalpore nel mondo dell’AI anche quando ha svelato i requisiti hardware estremamente contenuti per il suo modello DeepSeek-V3 Mixture-of-Experts (MoE), significativamente inferiori rispetto a quelli dei modelli statunitensi.
DeepSeek nasce da High-Flyer, un hedge fund cinese che ha adottato l’AI in tempi non sospetti e investito massicciamente in GPU. Nel 2023, poi, High-Flyer ha lanciato DeepSeek come venture separata dedicata all’intelligenza artificiale.
A differenza di molti concorrenti, DeepSeek si finanzia in proprio, il che le consente una maggiore flessibilità e rapidità decisionale. Tuttavia, contrariamente a quanto suggerito dalla società stessa – secondo cui sarebbe una piccola derivazione del fondo principale – DeepSeek si configura come un’azienda che ha visto investimenti per oltre 500 milioni di dollari, non certamente piccola.
Ricordiamo che sulla creazione di DeepSeek e sul reale costo del modello molti nutrono profondi dubbi.