AMD vuole portare modelli AI enormi fuori dal cloud con una super workstation

AMD ha mostrato a IFA 2026 Threadripper Halo Station, una workstation raffreddata a liquido che esegue localmente modelli di intelligenza artificiale di dimensioni estreme, senza dover necessariamente ricorrere all’elaborazione di una piattaforma in cloud. La configurazione più completa abbina il Ryzen Threadripper PRO 9995WX a 96 core a un massimo di quattro acceleratori Instinct MI350P. A Berlino AMD ha mostrato un sistema con due schede, quindi con 288 GB di memoria HBM3E, ma portando il numero di acceleratori a quattro si arriverebbe a 576 GB di HBM3E complessivi. Ed è la quantità di memoria a definire la vocazione della macchina. Secondo AMD infatti una configurazione completa può contenere localmente un modello da oltre un trilione di parametri, anche se nella pratica la memoria necessaria dipende fortemente dalla precisione numerica e dal livello di quantizzazione utilizzato per rappresentare i pesi. Ogni MI350P dispone di 144 GB di HBM3E e 4 TB/s di larghezza di banda, valore che AMD indica come circa 14 volte superiore rispetto alle varianti LPDDR5X. Per carichi AI di queste dimensioni, mantenere il modello nella memoria ad alta velocità degli acceleratori può evitare buona parte dei colli di bottiglia legati allo spostamento continuo dei dati. Le prestazioni hanno però un prezzo energetico: ogni Instinct MI350P può arrivare a 600 W di Total Board Power, quindi una configurazione con quattro acceleratori può richiedere fino a 2,4 kW solamente per le GPU. Per avere un termine di paragone, i contatori standard domestici hanno una potenza di circa 3 kW.

CLICCA QUI PER CONTINUARE A LEGGERE