GPU e CUDA per il calcolo parallelo
Dieci moduli pratici su programmazione CUDA, architettura GPU, memoria, ottimizzazione e inferenza con PyTorch.
Cosa c'è dentro
10 moduli,
contattaci per l’accesso.
Introduce il calcolo eterogeneo e il ruolo di CPU, GPU e parallelismo.
Spiega thread, blocchi e kernel nel modello di programmazione CUDA.
Esamina SM, warp e risorse che determinano l’esecuzione sulla GPU.
Collega gerarchia di memoria, località dei dati e prestazioni dei kernel.
Misura tempi e throughput per individuare colli di bottiglia nel calcolo.
Ottimizza trasferimenti e accessi alla memoria globale, condivisa e locale.
Regola configurazione di grid e block per occupazione e utilizzo della GPU.
Integra CUDA con PyTorch e accelera operazioni nei flussi di machine learning.
Valuta prestazioni, capacità e costi nell’inferenza GPU con modelli applicativi.
Raccoglie i concetti e i termini essenziali del calcolo GPU e CUDA.