AMD ha presentato la sua nuova piattaforma AI su scala rack Helios, dotata di acceleratori MI455X ad alte prestazioni, assicurando allo stesso tempo una partnership con Cerebras per integrare chip su scala wafer nei suoi sistemi di data center.
Il lancio dei sistemi rack Helios
AMD è entrata ufficialmente nella competizione AI su scala rack con il lancio di Helios, una piattaforma progettata per sfidare la quota di mercato dei data center di Nvidia. Il sistema si distingue per le sue dimensioni fisiche, che misurano 1,2 metri di larghezza e 44 unità organizzative di altezza, il che lo rende significativamente più grande dell'architettura NVL72 di Nvidia. All'interno del rack Helios, AMD utilizza 18 blade di elaborazione raffreddati a liquido, ciascuno dei quali ospita quattro GPU MI455X e un singolo processore Venice Epyc a 96 core. Utilizzando una struttura Ultra Accelerator Link over Ethernet (UALoE), il sistema evita la necessità di switch proprietari, consentendo ai costruttori di sfruttare il silicio commerciale standard del settore di aziende come Broadcom. Con ciascun acceleratore MI455X supportato da tre schede di rete Pensando Vulcano da 800 Gbps, AMD afferma che la piattaforma offre una larghezza di banda scalabile superiore rispetto alle offerte esistenti di Nvidia, posizionandola come un potente contendente per carichi di lavoro di addestramento e inferenza su larga scala.
Architettura tecnica dell'MI455X
The power behind the Helios platform is AMD's latest data center accelerator, the MI455X, which is built on the 5th-gen CDNA compute architecture. This chip represents a massive engineering effort, utilizing a 'silicon sandwich' design that incorporates 24 chiplets and 2nm process technology for compute dies. To prioritize AI performance, AMD has moved away from FP64 support in this specific SKU, reallocating die area to focus on low-precision formats like MXFP4 and MXFP8. L'architettura include un aumento significativo della cache L2 condivisa e un nuovo motore di accesso diretto alla memoria (DMA) volto a ridurre la latenza dei dati. These improvements allow the chip to support spatial partitioning, enabling it to function as a single large GPU or be divided into multiple virtual instances, providing hyperscalers with flexible deployment options that were previously limited in earlier generations.
Partnership strategica con Cerebras
Oltre ai progressi hardware interni, AMD ha approfondito la propria influenza sull’ecosistema attraverso una nuova partnership con Cerebras. Nel corso di una conferenza di settore, il CEO di Cerebras Andrew Feldman ha confermato che gli esclusivi chip “su scala wafer” della sua azienda saranno utilizzati nei sistemi AI Helios di AMD. Questa integrazione mira a soddisfare la domanda critica del settore di una latenza ultra-bassa, che è essenziale per le applicazioni di intelligenza artificiale generativa che richiedono tempi di risposta rapidi. L'hardware Cerebras inizierà ad apparire nei data center gestiti da Cerebras entro la fine dell'anno e gli acquirenti di server avranno la possibilità di configurare i propri sistemi basati su AMD con questa tecnologia su scala wafer. Le aziende hanno lanciato questa collaborazione come un modo per ottenere un’efficienza di token al secondo per watt significativamente più elevata, creando una nicchia distinta in un mercato altrimenti dominato da cluster standard basati su GPU.
Impatto del mercato e panorama competitivo
AMD sta posizionando Helios come rivale diretto delle piattaforme Blackwell e Vera Rubin di Nvidia, rivendicando vantaggi prestazionali nella larghezza di banda della memoria e nelle velocità di allenamento dell'intelligenza artificiale. Rispettando la cronologia di lancio delle piattaforme più recenti di Nvidia, AMD sembra allontanarsi dal suo storico modello di "recupero". L'azienda si è inoltre assicurata impegni significativi da parte dei principali attori: OpenAI prevede di implementare potenza di calcolo su larga scala utilizzando GPU MI455X e Anthropic si è impegnata in implementazioni significative in cambio di accordi di investimento. Nonostante la posizione competitiva, AMD ha adottato un approccio di marketing più trasparente per quanto riguarda i parametri di prestazione. Ammettendo pubblicamente che i massimi FLOPS teorici sono raramente raggiungibili in scenari reali, l'azienda spera di costruire credibilità a lungo termine con i clienti aziendali che danno priorità a prestazioni durature e misurabili rispetto a cifre di marketing potenzialmente gonfiate.
⚖ The Balanced View
Supporting view
I sostenitori notano che Helios offre un rapporto prestazioni/dollaro superiore, una maggiore capacità di memoria HBM4 e una larghezza di banda scalabile più rapida rispetto agli attuali equivalenti Nvidia.
Concerns & criticism
I critici sottolineano che le prestazioni dell’intelligenza artificiale nel mondo reale dipendono fortemente dall’ottimizzazione del software e dalla forma del carico di lavoro, il che significa che i FLOPS “di picco teorici” sono spesso funzionalmente impossibili da raggiungere.
→What's next
AMD prevede di espandere il proprio portafoglio di GPU basate su CDNA 5 per includere varianti specificamente ottimizzate per le implementazioni aziendali. Nel frattempo, si prevede che i sistemi Helios equipaggiati con Cerebras inizieranno ad essere implementati nei data center a partire dalla fine dell’anno.