AMD Unveils Helios Rack-Scale AI Platform and Partners with Cerebras

Nvidia च्या डेटा सेंटर मार्केट शेअरला आव्हान देण्यासाठी डिझाइन केलेले हेलिओस हे प्लॅटफॉर्म लॉन्च करून AMD ने अधिकृतपणे रॅक-स्केल AI स्पर्धेत प्रवेश केला आहे. 1.2 मीटर रुंद आणि 44OUs उंच असलेली ही प्रणाली त्याच्या भौतिक स्केलसाठी उल्लेखनीय आहे, जी ती Nvidia च्या NVL72 आर्किटेक्चरपेक्षा लक्षणीयरीत्या मोठी आहे. Helios रॅकमध्ये, AMD 18 लिक्विड-कूल्ड कंप्यूट ब्लेड्स वापरते, प्रत्येकामध्ये चार MI455X GPU आणि एकल 96-कोर व्हेनिस Epyc प्रोसेसर आहे. इथरनेट (UALoE) फॅब्रिकवर अल्ट्रा एक्सीलरेटर लिंक वापरून, सिस्टीम मालकीच्या स्विचेसची आवश्यकता टाळते, ज्यामुळे बिल्डर्स ब्रॉडकॉम सारख्या कंपन्यांकडून उद्योग-मानक व्यापारी सिलिकॉनचा लाभ घेऊ शकतात. तीन 800 Gbps Pensando Vulcano नेटवर्क कार्ड्सद्वारे समर्थित प्रत्येक MI455X प्रवेगकांसह, AMD चा दावा आहे की प्लॅटफॉर्म Nvidia च्या विद्यमान ऑफरिंगच्या तुलनेत उत्कृष्ट स्केल-आउट बँडविड्थ ऑफर करतो, मोठ्या प्रमाणात प्रशिक्षण आणि अनुमान वर्कलोडसाठी एक शक्तिशाली स्पर्धक म्हणून स्थान देतो.

हेलिओस प्लॅटफॉर्ममागील शक्ती म्हणजे AMD चे नवीनतम डेटा सेंटर प्रवेगक, MI455X, जे 5th-gen CDNA कंप्यूट आर्किटेक्चरवर तयार केले गेले आहे. ही चिप 'सिलिकॉन सँडविच' डिझाइनचा वापर करून, 24 चिपलेट्स आणि 2nm प्रक्रिया तंत्रज्ञानाचा समावेश करून, अभियांत्रिकीच्या मोठ्या प्रयत्नांचे प्रतिनिधित्व करते. AI कार्यप्रदर्शनाला प्राधान्य देण्यासाठी, AMD या विशिष्ट SKU मधील FP64 समर्थनापासून दूर गेले आहे, MXFP4 आणि MXFP8 सारख्या कमी-परिशुद्धता स्वरूपांवर लक्ष केंद्रित करण्यासाठी डाय एरियाचे पुनर्वलोकन करत आहे. आर्किटेक्चरमध्ये शेअर केलेल्या L2 कॅशेमध्ये लक्षणीय वाढ आणि डेटा लेटन्सी कमी करण्याच्या उद्देशाने नवीन डायरेक्ट मेमरी ऍक्सेस (DMA) इंजिन समाविष्ट आहे. या सुधारणांमुळे चिपला अवकाशीय विभाजनाचे समर्थन करण्यास अनुमती मिळते, ते एकल मोठे GPU म्हणून कार्य करण्यास सक्षम करते किंवा एकाधिक आभासी उदाहरणांमध्ये विभागले जाते, हायपरस्केलर्सना लवचिक उपयोजन पर्याय प्रदान करतात जे पूर्वीच्या पिढ्यांमध्ये मर्यादित होते.

त्याच्या अंतर्गत हार्डवेअर प्रगतीबरोबरच, AMD ने सेरेब्रासह नवीन भागीदारीद्वारे त्याचा इकोसिस्टम प्रभाव अधिक वाढवला आहे. एका उद्योग परिषदेत, सेरेब्रासचे सीईओ अँड्र्यू फेल्डमॅन यांनी पुष्टी केली की त्यांच्या कंपनीच्या अद्वितीय 'वेफर-स्केल' चिप्सचा वापर AMD च्या Helios AI सिस्टममध्ये केला जाईल. या एकत्रीकरणाचे उद्दिष्ट अल्ट्रा-लो लेटन्सीसाठी गंभीर उद्योग मागणी पूर्ण करणे आहे, जे जनरेटिव्ह एआय ऍप्लिकेशन्ससाठी आवश्यक आहे ज्यांना जलद प्रतिसाद वेळ आवश्यक आहे. सेरेब्रास हार्डवेअर या वर्षाच्या अखेरीस सेरेब्रास-व्यवस्थापित डेटा सेंटरमध्ये दिसणे सुरू होईल आणि सर्व्हर खरेदीदारांना या वेफर-स्केल तंत्रज्ञानासह त्यांच्या स्वत: च्या AMD-आधारित सिस्टम कॉन्फिगर करण्याचा पर्याय असेल. कंपन्यांनी हे सहकार्य लक्षणीयरीत्या उच्च टोकन-प्रति-सेकंद-प्रति-वॅट कार्यक्षमता प्राप्त करण्याचा मार्ग म्हणून मांडला आहे, अन्यथा मानक GPU-आधारित क्लस्टर्सचे वर्चस्व असलेल्या बाजारपेठेत एक वेगळे स्थान निर्माण केले आहे.

एएमडी हेलिओसला एनव्हीडियाच्या ब्लॅकवेल आणि वेरा रुबिन प्लॅटफॉर्मचा थेट प्रतिस्पर्धी म्हणून स्थान देत आहे, असा दावा करत आहे की कामगिरी मेमरी बँडविड्थ आणि एआय प्रशिक्षण गतीमध्ये आघाडीवर आहे. Nvidia च्या नवीन प्लॅटफॉर्मच्या लॉन्च टाइमलाइनशी जुळवून, AMD त्याच्या ऐतिहासिक 'कॅच-अप' मॉडेलपासून दूर जात असल्याचे दिसते. कंपनीने प्रमुख खेळाडूंकडून महत्त्वपूर्ण वचनबद्धता देखील प्राप्त केली आहे: OpenAI MI455X GPUs वापरून मोठ्या प्रमाणात संगणकीय शक्ती तैनात करण्याची योजना आखत आहे आणि Anthropic ने गुंतवणूक सौद्यांच्या बदल्यात महत्त्वपूर्ण तैनाती करण्यास वचनबद्ध केले आहे. स्पर्धात्मक स्थिती असूनही, AMD ने कामगिरी मेट्रिक्सच्या संदर्भात अधिक पारदर्शक विपणन दृष्टीकोन स्वीकारला आहे. पीक सैद्धांतिक FLOPS वास्तविक-जगातील परिस्थितींमध्ये क्वचितच साध्य करता येण्याजोगे असल्याचे जाहीरपणे मान्य करून, कंपनीला एंटरप्राइझ ग्राहकांसह दीर्घकालीन विश्वासार्हता निर्माण करण्याची आशा आहे जे संभाव्य फुगलेल्या मार्केटिंग आकड्यांपेक्षा शाश्वत, मोजता येण्याजोग्या कामगिरीला प्राधान्य देतात.