AMD એ તેનું નવું Helios રેક-સ્કેલ AI પ્લેટફોર્મ રજૂ કર્યું છે, જેમાં ઉચ્ચ-પ્રદર્શન MI455X એક્સિલરેટર્સ છે, જ્યારે તેની ડેટા સેન્ટર સિસ્ટમ્સમાં વેફર-સ્કેલ ચિપ્સને એકીકૃત કરવા માટે સેરેબ્રાસ સાથે ભાગીદારી સુરક્ષિત કરે છે.
હેલિઓસ રેક સિસ્ટમ્સનું લોન્ચિંગ
AMD એ Nvidiaના ડેટા સેન્ટર માર્કેટ શેરને પડકારવા માટે રચાયેલ પ્લેટફોર્મ હેલીઓસના લોન્ચ સાથે રેક-સ્કેલ AI સ્પર્ધામાં સત્તાવાર રીતે પ્રવેશ કર્યો છે. સિસ્ટમ તેના ભૌતિક સ્કેલ માટે નોંધપાત્ર છે, જે 1.2 મીટર પહોળી અને 44OUs ઊંચી છે, જે તેને Nvidia ના NVL72 આર્કિટેક્ચર કરતાં નોંધપાત્ર રીતે મોટી બનાવે છે. હેલિઓસ રેકની અંદર, AMD 18 લિક્વિડ-કૂલ્ડ કોમ્પ્યુટ બ્લેડનો ઉપયોગ કરે છે, જેમાં પ્રત્યેકમાં ચાર MI455X GPU અને સિંગલ 96-કોર વેનિસ Epyc પ્રોસેસર છે. ઇથરનેટ (UALoE) ફેબ્રિક પર અલ્ટ્રા એક્સિલરેટર લિંકનો ઉપયોગ કરીને, સિસ્ટમ માલિકીની સ્વિચની જરૂરિયાતને ટાળે છે, જે બિલ્ડરોને બ્રોડકોમ જેવી કંપનીઓ પાસેથી ઉદ્યોગ-માનક વેપારી સિલિકોનનો લાભ મેળવવાની મંજૂરી આપે છે. ત્રણ 800 Gbps પેન્સેન્ડો વલ્કેનો નેટવર્ક કાર્ડ દ્વારા સમર્થિત દરેક MI455X એક્સિલરેટર સાથે, AMD દાવો કરે છે કે પ્લેટફોર્મ Nvidia ની હાલની તકોની તુલનામાં શ્રેષ્ઠ સ્કેલ-આઉટ બેન્ડવિડ્થ પ્રદાન કરે છે, તેને મોટા પાયે તાલીમ અને અનુમાન વર્કલોડ માટે એક શક્તિશાળી દાવેદાર તરીકે સ્થાન આપે છે.
MI455X નું ટેકનિકલ આર્કિટેક્ચર
હેલિઓસ પ્લેટફોર્મ પાછળની શક્તિ એએમડીનું નવીનતમ ડેટા સેન્ટર એક્સિલરેટર છે, MI455X, જે 5મી-જનન CDNA કમ્પ્યુટ આર્કિટેક્ચર પર બનેલ છે. આ ચિપ 'સિલિકોન સેન્ડવિચ' ડિઝાઇનનો ઉપયોગ કરીને વિશાળ એન્જિનિયરિંગ પ્રયાસનું પ્રતિનિધિત્વ કરે છે જેમાં કમ્પ્યુટ ડાઈઝ માટે 24 ચિપલેટ્સ અને 2nm પ્રક્રિયા તકનીકનો સમાવેશ થાય છે. AI પ્રદર્શનને પ્રાધાન્ય આપવા માટે, AMD આ ચોક્કસ SKU માં FP64 સપોર્ટથી દૂર થઈ ગયું છે, MXFP4 અને MXFP8 જેવા ઓછા-ચોકસાઇવાળા ફોર્મેટ પર ધ્યાન કેન્દ્રિત કરવા માટે ડાઇ એરિયાને ફરીથી ફાળવી રહ્યું છે. આર્કિટેક્ચરમાં શેર કરેલ L2 કેશમાં નોંધપાત્ર વધારો અને ડેટા લેટન્સી ઘટાડવાના હેતુથી નવા ડાયરેક્ટ મેમરી એક્સેસ (DMA) એન્જિનનો સમાવેશ થાય છે. આ સુધારાઓ ચિપને અવકાશી પાર્ટીશનને સમર્થન આપવા માટે પરવાનગી આપે છે, તેને એક મોટા GPU તરીકે કાર્ય કરવા અથવા બહુવિધ વર્ચ્યુઅલ ઇન્સ્ટન્સમાં વિભાજિત કરવામાં સક્ષમ બનાવે છે, હાઇપરસ્કેલર્સને લવચીક જમાવટ વિકલ્પો પ્રદાન કરે છે જે અગાઉની પેઢીઓમાં મર્યાદિત હતા.
સેરેબ્રાસ સાથે વ્યૂહાત્મક ભાગીદારી
તેની આંતરિક હાર્ડવેર એડવાન્સમેન્ટની સાથે, AMD એ સેરેબ્રાસ સાથે નવી ભાગીદારી દ્વારા તેના ઇકોસિસ્ટમ પ્રભાવને વધુ ઊંડો બનાવ્યો છે. એક ઉદ્યોગ પરિષદમાં, સેરેબ્રાસના CEO એન્ડ્રુ ફેલ્ડમેને પુષ્ટિ કરી કે તેમની કંપનીની અનન્ય 'વેફર-સ્કેલ' ચિપ્સનો ઉપયોગ AMDની Helios AI સિસ્ટમમાં કરવામાં આવશે. આ એકીકરણનો ઉદ્દેશ અલ્ટ્રા-લો લેટન્સી માટેની નિર્ણાયક ઉદ્યોગની માંગને સંબોધવાનો છે, જે જનરેટિવ AI એપ્લિકેશન્સ માટે જરૂરી છે જેને ઝડપી પ્રતિભાવ સમયની જરૂર હોય છે. સેરેબ્રાસ હાર્ડવેર આ વર્ષના અંતમાં સેરેબ્રાસ-મેનેજ્ડ ડેટા સેન્ટર્સમાં દેખાવાનું શરૂ થશે, અને સર્વર ખરીદનારાઓ પાસે આ વેફર-સ્કેલ ટેક્નોલોજી સાથે તેમની પોતાની AMD-આધારિત સિસ્ટમને ગોઠવવાનો વિકલ્પ હશે. કંપનીઓએ આ સહયોગને નોંધપાત્ર રીતે ઊંચા ટોકન્સ-પ્રતિ-સેકન્ડ-પ્રતિ-વોટ કાર્યક્ષમતા હાંસલ કરવાના માર્ગ તરીકે રજૂ કર્યો છે, જે માર્કેટમાં એક અલગ વિશિષ્ટ સ્થાન બનાવે છે જે અન્યથા પ્રમાણભૂત GPU-આધારિત ક્લસ્ટરો દ્વારા પ્રભુત્વ ધરાવે છે.
બજારની અસર અને સ્પર્ધાત્મક લેન્ડસ્કેપ
AMD હેલિઓસને Nvidiaના બ્લેકવેલ અને વેરા રુબિન પ્લેટફોર્મના સીધા હરીફ તરીકે સ્થાન આપી રહ્યું છે, અને દાવો કરે છે કે મેમરી બેન્ડવિડ્થ અને AI પ્રશિક્ષણ ગતિમાં પ્રદર્શન લીડ છે. Nvidia ના નવા પ્લેટફોર્મ્સની લોન્ચ સમયરેખાને મેચ કરીને, AMD તેના ઐતિહાસિક 'કેચ-અપ' મોડલથી દૂર જતું હોય તેવું લાગે છે. કંપનીએ મુખ્ય ખેલાડીઓ પાસેથી નોંધપાત્ર પ્રતિબદ્ધતાઓ પણ મેળવી છે: OpenAI MI455X GPU નો ઉપયોગ કરીને મોટા પાયે કમ્પ્યુટ પાવર જમાવવાની યોજના ધરાવે છે, અને એન્થ્રોપિકે રોકાણ સોદાના બદલામાં નોંધપાત્ર જમાવટ માટે પ્રતિબદ્ધ છે. સ્પર્ધાત્મક પોશ્ચરિંગ હોવા છતાં, AMD એ પ્રદર્શન મેટ્રિક્સ અંગે વધુ પારદર્શક માર્કેટિંગ અભિગમ અપનાવ્યો છે. સાર્વજનિક રીતે સ્વીકારીને કે પીક સૈદ્ધાંતિક FLOPS વાસ્તવિક-વિશ્વના દૃશ્યોમાં ભાગ્યે જ પ્રાપ્ત કરી શકાય છે, કંપનીને એન્ટરપ્રાઇઝ ગ્રાહકો સાથે લાંબા ગાળાની વિશ્વસનીયતા બનાવવાની આશા છે કે જેઓ સંભવિતપણે ફૂલેલા માર્કેટિંગ આંકડાઓ પર સતત, માપી શકાય તેવા પ્રદર્શનને પ્રાથમિકતા આપે છે.
⚖ The Balanced View
Supporting view
સમર્થકો નોંધે છે કે Helios શ્રેષ્ઠ પ્રદર્શન-દીઠ-ડોલર ગુણોત્તર, ઉચ્ચ HBM4 મેમરી ક્ષમતા અને વર્તમાન Nvidia સમકક્ષ કરતાં ઝડપી સ્કેલ-આઉટ બેન્ડવિડ્થ ઓફર કરે છે.
Concerns & criticism
વિવેચકો નિર્દેશ કરે છે કે વાસ્તવિક-વિશ્વ AI પ્રદર્શન સોફ્ટવેર ઓપ્ટિમાઇઝેશન અને વર્કલોડ આકાર પર ખૂબ જ નિર્ભર છે, જેનો અર્થ છે કે 'પીક સૈદ્ધાંતિક' FLOPS સુધી પહોંચવું ઘણીવાર કાર્યાત્મક રીતે અશક્ય છે.
→What's next
એએમડી તેના સીડીએનએ 5-આધારિત GPU પોર્ટફોલિયોને વિસ્તૃત કરવાની યોજના ધરાવે છે જેથી એન્ટરપ્રાઇઝ જમાવટ માટે ખાસ કરીને ઑપ્ટિમાઇઝ કરેલ વેરિયન્ટ્સનો સમાવેશ થાય. દરમિયાન, સેરેબ્રાસ-સજ્જ હેલીઓસ સિસ્ટમ્સ આ વર્ષના અંતથી ડેટા સેન્ટર્સમાં રોલઆઉટ શરૂ થવાની ધારણા છે.