एएमडी ने अपना नया हेलिओस रैक-स्केल एआई प्लेटफॉर्म पेश किया है, जिसमें उच्च-प्रदर्शन वाले एमआई455एक्स एक्सेलेरेटर शामिल हैं, साथ ही साथ अपने डेटा सेंटर सिस्टम में वेफर-स्केल चिप्स को एकीकृत करने के लिए सेरेब्रस के साथ साझेदारी हासिल की है।
हेलिओस रैक सिस्टम का शुभारंभ
एएमडी ने एनवीडिया के डेटा सेंटर बाजार हिस्सेदारी को चुनौती देने के लिए डिज़ाइन किए गए प्लेटफॉर्म हेलिओस के लॉन्च के साथ आधिकारिक तौर पर रैक-स्केल एआई प्रतियोगिता में प्रवेश किया है। यह प्रणाली अपने भौतिक पैमाने के लिए उल्लेखनीय है, इसकी चौड़ाई 1.2 मीटर और ऊंचाई 44OUs है, जो इसे एनवीडिया के NVL72 आर्किटेक्चर से काफी बड़ा बनाती है। हेलिओस रैक के भीतर, एएमडी 18 लिक्विड-कूल्ड कंप्यूट ब्लेड का उपयोग करता है, प्रत्येक में चार एमआई455एक्स जीपीयू और एक 96-कोर वेनिस एपिक प्रोसेसर होता है। ईथरनेट (UALoE) फैब्रिक पर अल्ट्रा एक्सेलेरेटर लिंक का उपयोग करके, सिस्टम मालिकाना स्विच की आवश्यकता से बचता है, जिससे बिल्डरों को ब्रॉडकॉम जैसी कंपनियों से उद्योग-मानक मर्चेंट सिलिकॉन का लाभ उठाने की अनुमति मिलती है। तीन 800 जीबीपीएस पेंसंडो वल्केनो नेटवर्क कार्ड द्वारा समर्थित प्रत्येक एमआई455एक्स एक्सेलेरेटर के साथ, एएमडी का दावा है कि प्लेटफॉर्म एनवीडिया की मौजूदा पेशकशों की तुलना में बेहतर स्केल-आउट बैंडविड्थ प्रदान करता है, जो इसे बड़े पैमाने पर प्रशिक्षण और अनुमान वर्कलोड के लिए एक शक्तिशाली दावेदार के रूप में पेश करता है।
MI455X की तकनीकी वास्तुकला
हेलिओस प्लेटफ़ॉर्म के पीछे की शक्ति AMD का नवीनतम डेटा सेंटर एक्सेलेरेटर, MI455X है, जो 5वीं पीढ़ी के CDNA कंप्यूट आर्किटेक्चर पर बनाया गया है। यह चिप एक बड़े पैमाने पर इंजीनियरिंग प्रयास का प्रतिनिधित्व करती है, जो 'सिलिकॉन सैंडविच' डिज़ाइन का उपयोग करती है जिसमें कंप्यूट डाईज़ के लिए 24 चिपलेट्स और 2 एनएम प्रक्रिया प्रौद्योगिकी शामिल होती है। एआई प्रदर्शन को प्राथमिकता देने के लिए, एएमडी इस विशिष्ट एसकेयू में एफपी64 समर्थन से दूर चला गया है, एमएक्सएफपी4 और एमएक्सएफपी8 जैसे कम-सटीक प्रारूपों पर ध्यान केंद्रित करने के लिए डाई क्षेत्र को फिर से आवंटित कर रहा है। आर्किटेक्चर में साझा L2 कैश में उल्लेखनीय वृद्धि और डेटा विलंबता को कम करने के उद्देश्य से एक नया डायरेक्ट मेमोरी एक्सेस (डीएमए) इंजन शामिल है। ये सुधार चिप को स्थानिक विभाजन का समर्थन करने की अनुमति देते हैं, जिससे यह एक बड़े जीपीयू के रूप में कार्य करने में सक्षम हो जाता है या कई आभासी उदाहरणों में विभाजित हो जाता है, हाइपरस्केलर्स को लचीले तैनाती विकल्प प्रदान करता है जो पहले पिछली पीढ़ियों में सीमित थे।
सेरेब्रस के साथ रणनीतिक साझेदारी
अपनी आंतरिक हार्डवेयर प्रगति के साथ-साथ, एएमडी ने सेरेब्रस के साथ एक नई साझेदारी के माध्यम से अपने पारिस्थितिकी तंत्र प्रभाव को गहरा कर दिया है। एक उद्योग सम्मेलन में, सेरेब्रस के सीईओ एंड्रयू फेल्डमैन ने पुष्टि की कि उनकी कंपनी के अद्वितीय 'वेफर-स्केल' चिप्स का उपयोग एएमडी के हेलिओस एआई सिस्टम के भीतर किया जाएगा। इस एकीकरण का उद्देश्य अल्ट्रा-लो विलंबता के लिए महत्वपूर्ण उद्योग की मांग को संबोधित करना है, जो तेजी से प्रतिक्रिया समय की आवश्यकता वाले जेनरेटिव एआई अनुप्रयोगों के लिए आवश्यक है। सेरेब्रस हार्डवेयर इस साल के अंत में सेरेब्रस-प्रबंधित डेटा केंद्रों में दिखाई देना शुरू हो जाएगा, और सर्वर खरीदारों के पास इस वेफर-स्केल तकनीक के साथ अपने स्वयं के एएमडी-आधारित सिस्टम को कॉन्फ़िगर करने का विकल्प होगा। कंपनियों ने इस सहयोग को उच्च टोकन-प्रति-सेकंड-प्रति-वाट दक्षता हासिल करने के एक तरीके के रूप में पेश किया है, जो मानक जीपीयू-आधारित क्लस्टरों के प्रभुत्व वाले बाजार में एक अलग जगह बना रहा है।
बाज़ार प्रभाव और प्रतिस्पर्धी परिदृश्य
एएमडी हेलिओस को एनवीडिया के ब्लैकवेल और वेरा रुबिन प्लेटफार्मों के सीधे प्रतिद्वंद्वी के रूप में पेश कर रहा है, यह दावा करते हुए कि प्रदर्शन मेमोरी बैंडविड्थ और एआई प्रशिक्षण गति में अग्रणी है। एनवीडिया के नवीनतम प्लेटफार्मों की लॉन्च टाइमलाइन से मेल करके, एएमडी अपने ऐतिहासिक 'कैच-अप' मॉडल से दूर जा रहा है। कंपनी ने प्रमुख खिलाड़ियों से महत्वपूर्ण प्रतिबद्धताएं भी हासिल की हैं: ओपनएआई ने एमआई455एक्स जीपीयू का उपयोग करके बड़े पैमाने पर कंप्यूटिंग पावर तैनात करने की योजना बनाई है, और एंथ्रोपिक ने निवेश सौदों के बदले में महत्वपूर्ण तैनाती के लिए प्रतिबद्धता जताई है। प्रतिस्पर्धी रुख के बावजूद, एएमडी ने प्रदर्शन मेट्रिक्स के संबंध में अधिक पारदर्शी विपणन दृष्टिकोण अपनाया है। सार्वजनिक रूप से यह स्वीकार करते हुए कि चरम सैद्धांतिक फ्लॉप्स वास्तविक दुनिया के परिदृश्यों में शायद ही कभी प्राप्त किए जा सकते हैं, कंपनी को उद्यम ग्राहकों के साथ दीर्घकालिक विश्वसनीयता बनाने की उम्मीद है जो संभावित रूप से बढ़े हुए विपणन आंकड़ों पर निरंतर, औसत दर्जे के प्रदर्शन को प्राथमिकता देते हैं।
⚖ The Balanced View
Supporting view
समर्थकों का कहना है कि हेलिओस वर्तमान एनवीडिया समकक्षों की तुलना में बेहतर प्रदर्शन-प्रति-डॉलर अनुपात, उच्च एचबीएम4 मेमोरी क्षमता और तेज़ स्केल-आउट बैंडविड्थ प्रदान करता है।
Concerns & criticism
आलोचकों का कहना है कि वास्तविक दुनिया का एआई प्रदर्शन सॉफ्टवेयर अनुकूलन और कार्यभार के आकार पर बहुत अधिक निर्भर है, जिसका अर्थ है कि 'शिखर सैद्धांतिक' फ्लॉप्स तक पहुंचना अक्सर कार्यात्मक रूप से असंभव होता है।
→What's next
एएमडी ने अपने सीडीएनए 5-आधारित जीपीयू पोर्टफोलियो का विस्तार करने की योजना बनाई है ताकि विशेष रूप से एंटरप्राइज़ परिनियोजन के लिए अनुकूलित वेरिएंट को शामिल किया जा सके। इस बीच, सेरेब्रस से सुसज्जित हेलिओस सिस्टम इस साल के अंत से डेटा केंद्रों में शुरू होने की उम्मीद है।