AMD తన కొత్త హీలియోస్ ర్యాక్-స్కేల్ AI ప్లాట్ఫారమ్ను ప్రవేశపెట్టింది, ఇందులో అధిక-పనితీరు గల MI455X యాక్సిలరేటర్లు ఉన్నాయి, అదే సమయంలో సెరెబ్రాస్తో భాగస్వామ్యాన్ని పొందడం ద్వారా వేఫర్-స్కేల్ చిప్లను దాని డేటా సెంటర్ సిస్టమ్లలోకి చేర్చింది.
హీలియోస్ ర్యాక్ సిస్టమ్స్ ప్రారంభం
Nvidia యొక్క డేటా సెంటర్ మార్కెట్ వాటాను సవాలు చేయడానికి రూపొందించిన ప్లాట్ఫారమ్ అయిన Helios ప్రారంభించడంతో AMD అధికారికంగా రాక్-స్కేల్ AI పోటీలోకి ప్రవేశించింది. 1.2 మీటర్ల వెడల్పు మరియు 44OUల ఎత్తుతో ఈ వ్యవస్థ దాని భౌతిక స్థాయికి ప్రసిద్ధి చెందింది, ఇది Nvidia యొక్క NVL72 ఆర్కిటెక్చర్ కంటే చాలా పెద్దదిగా చేస్తుంది. హీలియోస్ ర్యాక్లో, AMD 18 లిక్విడ్-కూల్డ్ కంప్యూట్ బ్లేడ్లను ఉపయోగిస్తుంది, ప్రతి ఒక్కటి నాలుగు MI455X GPUలను మరియు ఒక 96-కోర్ వెనిస్ ఎపిక్ ప్రాసెసర్ను కలిగి ఉంటుంది. ఈథర్నెట్ (UALoE) ఫాబ్రిక్పై అల్ట్రా యాక్సిలరేటర్ లింక్ను ఉపయోగించడం ద్వారా, సిస్టమ్ యాజమాన్య స్విచ్ల అవసరాన్ని నివారిస్తుంది, బ్రాడ్కామ్ వంటి కంపెనీల నుండి పరిశ్రమ-ప్రామాణిక వ్యాపారి సిలికాన్ను ప్రభావితం చేయడానికి బిల్డర్లను అనుమతిస్తుంది. ప్రతి MI455X యాక్సిలరేటర్కు మూడు 800 Gbps పెన్సాండో వల్కనో నెట్వర్క్ కార్డ్ల మద్దతు ఉంది, AMD ప్లాట్ఫారమ్ Nvidia యొక్క ప్రస్తుత ఆఫర్లతో పోలిస్తే అత్యుత్తమ స్కేల్-అవుట్ బ్యాండ్విడ్త్ను అందిస్తుందని, పెద్ద-స్థాయి శిక్షణ మరియు అనుమితి పనిభారానికి శక్తివంతమైన పోటీదారుగా ఉంచుతుందని పేర్కొంది.
MI455X యొక్క సాంకేతిక నిర్మాణం
Helios ప్లాట్ఫారమ్ వెనుక ఉన్న శక్తి AMD యొక్క తాజా డేటా సెంటర్ యాక్సిలరేటర్, MI455X, ఇది 5వ-తరం CDNA కంప్యూట్ ఆర్కిటెక్చర్పై నిర్మించబడింది. కంప్యూట్ డైస్ కోసం 24 చిప్లెట్లు మరియు 2nm ప్రాసెస్ టెక్నాలజీని కలిగి ఉన్న 'సిలికాన్ శాండ్విచ్' డిజైన్ను ఉపయోగించి ఈ చిప్ భారీ ఇంజనీరింగ్ ప్రయత్నాన్ని సూచిస్తుంది. AI పనితీరుకు ప్రాధాన్యత ఇవ్వడానికి, AMD ఈ నిర్దిష్ట SKUలో FP64 మద్దతు నుండి వైదొలిగింది, MXFP4 మరియు MXFP8 వంటి తక్కువ-ఖచ్చితమైన ఫార్మాట్లపై దృష్టి పెట్టడానికి డై ఏరియాను మళ్లీ కేటాయించింది. ఆర్కిటెక్చర్లో షేర్డ్ L2 కాష్లో గణనీయమైన పెరుగుదల మరియు డేటా జాప్యాన్ని తగ్గించే లక్ష్యంతో కొత్త డైరెక్ట్ మెమరీ యాక్సెస్ (DMA) ఇంజన్ ఉన్నాయి. ఈ మెరుగుదలలు చిప్ను స్పేషియల్ విభజనకు మద్దతునిస్తాయి, ఇది ఒకే పెద్ద GPUగా పనిచేయడానికి లేదా బహుళ వర్చువల్ ఇన్స్టాన్స్లుగా విభజించబడడానికి వీలు కల్పిస్తుంది, హైపర్స్కేలర్లను ఫ్లెక్సిబుల్ డిప్లాయ్మెంట్ ఎంపికలతో మునుపటి తరాలలో పరిమితం చేసింది.
సెరెబ్రాస్తో వ్యూహాత్మక భాగస్వామ్యం
దాని అంతర్గత హార్డ్వేర్ పురోగతితో పాటు, సెరెబ్రాస్తో కొత్త భాగస్వామ్యం ద్వారా AMD దాని పర్యావరణ వ్యవస్థ ప్రభావాన్ని మరింతగా పెంచుకుంది. ఒక పరిశ్రమ సమావేశంలో, సెరెబ్రాస్ CEO ఆండ్రూ ఫెల్డ్మాన్ తన కంపెనీ యొక్క ప్రత్యేకమైన 'వేఫర్-స్కేల్' చిప్లు AMD యొక్క హీలియోస్ AI సిస్టమ్లలో ఉపయోగించబడతాయని ధృవీకరించారు. ఈ ఏకీకరణ అత్యంత తక్కువ జాప్యం కోసం క్లిష్టమైన పరిశ్రమ డిమాండ్ను పరిష్కరించడం లక్ష్యంగా పెట్టుకుంది, ఇది వేగవంతమైన ప్రతిస్పందన సమయాలు అవసరమయ్యే ఉత్పాదక AI అప్లికేషన్లకు అవసరం. సెరెబ్రాస్ హార్డ్వేర్ ఈ సంవత్సరం చివర్లో సెరెబ్రాస్-నిర్వహించే డేటా సెంటర్లలో కనిపించడం ప్రారంభమవుతుంది మరియు సర్వర్ కొనుగోలుదారులు ఈ పొర-స్థాయి సాంకేతికతతో వారి స్వంత AMD-ఆధారిత సిస్టమ్లను కాన్ఫిగర్ చేసే అవకాశం ఉంటుంది. స్టాండర్డ్ GPU-ఆధారిత క్లస్టర్ల ఆధిపత్యం ఉన్న మార్కెట్లో ఒక ప్రత్యేక సముచిత స్థానాన్ని సృష్టించి, సెకనుకు-ప్రతి-వాట్ సామర్థ్యాన్ని గణనీయంగా అధిక టోకెన్లను సాధించే మార్గంగా కంపెనీలు ఈ సహకారాన్ని అందించాయి.
మార్కెట్ ప్రభావం మరియు పోటీ ప్రకృతి దృశ్యం
AMD హీలియోస్ను Nvidia యొక్క బ్లాక్వెల్ మరియు వెరా రూబిన్ ప్లాట్ఫారమ్లకు ప్రత్యక్ష ప్రత్యర్థిగా ఉంచుతోంది, మెమరీ బ్యాండ్విడ్త్ మరియు AI శిక్షణ వేగంలో పనితీరు ఆధిక్యతను కలిగి ఉంది. Nvidia యొక్క సరికొత్త ప్లాట్ఫారమ్ల లాంచ్ టైమ్లైన్ను సరిపోల్చడం ద్వారా, AMD దాని చారిత్రక 'క్యాచ్-అప్' మోడల్కు దూరంగా ఉన్నట్లు కనిపిస్తోంది. కంపెనీ ప్రధాన ఆటగాళ్ల నుండి ముఖ్యమైన కట్టుబాట్లను కూడా పొందింది: OpenAI MI455X GPUలను ఉపయోగించి పెద్ద-స్థాయి కంప్యూట్ పవర్ని అమలు చేయాలని యోచిస్తోంది మరియు ఆంత్రోపిక్ పెట్టుబడి ఒప్పందాలకు బదులుగా గణనీయమైన విస్తరణలకు కట్టుబడి ఉంది. పోటీ భంగిమలు ఉన్నప్పటికీ, పనితీరు కొలమానాలకు సంబంధించి AMD మరింత పారదర్శకమైన మార్కెటింగ్ విధానాన్ని అవలంబించింది. వాస్తవ-ప్రపంచ దృశ్యాలలో పీక్ సైద్ధాంతిక FLOPS చాలా అరుదుగా సాధించబడతాయని బహిరంగంగా అంగీకరించడం ద్వారా, సంభావ్యంగా పెంచబడిన మార్కెటింగ్ గణాంకాల కంటే స్థిరమైన, కొలవగల పనితీరుకు ప్రాధాన్యతనిచ్చే ఎంటర్ప్రైజ్ కస్టమర్లతో దీర్ఘకాలిక విశ్వసనీయతను పెంపొందించాలని కంపెనీ భావిస్తోంది.
⚖ The Balanced View
Supporting view
ప్రస్తుత Nvidia సమానమైన వాటి కంటే Helios అత్యుత్తమ పనితీరు-పర్-డాలర్ నిష్పత్తి, అధిక HBM4 మెమరీ సామర్థ్యం మరియు వేగవంతమైన స్కేల్-అవుట్ బ్యాండ్విడ్త్ను అందిస్తుందని మద్దతుదారులు గమనించారు.
Concerns & criticism
వాస్తవ-ప్రపంచ AI పనితీరు సాఫ్ట్వేర్ ఆప్టిమైజేషన్ మరియు వర్క్లోడ్ ఆకృతిపై ఎక్కువగా ఆధారపడి ఉంటుందని విమర్శకులు అభిప్రాయపడుతున్నారు, అంటే 'పీక్ థియరిటికల్' FLOPS తరచుగా క్రియాత్మకంగా చేరుకోవడం అసాధ్యం.
→What's next
AMD దాని CDNA 5-ఆధారిత GPU పోర్ట్ఫోలియోను ఎంటర్ప్రైజ్ విస్తరణల కోసం ప్రత్యేకంగా ఆప్టిమైజ్ చేసిన వేరియంట్లను చేర్చడానికి విస్తరించాలని యోచిస్తోంది. ఇంతలో, సెరెబ్రాస్-అమర్చిన హీలియోస్ సిస్టమ్లు ఈ సంవత్సరం చివరి నుండి డేటా సెంటర్లలో ప్రారంభమవుతాయని భావిస్తున్నారు.