Gli sviluppatori di Geekbench – l’utility cross-platform di Primate Labs per il benchmarking di CPU e GPU – ora offrono uno strumento multipiattaforma che permette di analizzare le performance di dispositivi con pesanti carichi di lavoro AI, valutando CPU, GPU e NPU (neural processing unit).
Gli sviluppatori di Primate Labs hanno presentato nel 2021 un software denominato Geekbench ML ma quest’ultimo ora è stato denominato Geekbench AI per la facilità con la quale questa denominazione consente di capire a cosa si faccia riferimento.
“Negli ultimi anni, le aziende si sono coalizzate attorno all’uso del termine ‘AI’ in questo tipo di carichi di lavoro (e nel relativo marketing)”, scrive Primate Labs sul suo blog. “Per garantire che tutti, dagli ingegneri agli appassionati di prestazioni, capiscano cosa fa questo benchmark e come funziona, abbiamo ritenuto che fosse giunto il momento di un aggiornamento”.
Per determinare in che modo hardware differente risponde a vari task legati all’AI, il software valuta le performance tenendo conto di accuratezza e velocità, grazie anche al supporto di framework diversi, inclusi ONNX, CoreML, TensorFlow Lite e OpenVINO.
L’utility mostra tre risultati: “full precision” (elaborazione con la massima precisione), “half precision” (elaborazione a mezza precisione) e “quantized” (quantizzazione); secondo Primate Labs questo permette di valutare quanto gli output di un carico di lavoro siano vicini alla verità, “o quanto accuratamente quel modello può fare ciò che dovrebbe fare”. Si tiene conto di frame rate, tempi di caricamento, e verificare l’accuratezza del testo predittivo e di immagini legate all’AI generativa.
L’utility è disponibile per Android, iOS, Linux, macOS e Windows. L’idea è di applicare i principi di Geekbench al machine learning, al deep learning con carichi di lavoro che riguard l’AI. Si tratta di un tentativo di standardizzare questo tipo di valutazioni e offrire uno strumento in grado di indicare le prestazioni possibili sulle varie piattaforme.x
