AMD ತನ್ನ ಹೊಸ ಹೀಲಿಯೋಸ್ ರ್ಯಾಕ್-ಸ್ಕೇಲ್ AI ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಅನ್ನು ಪರಿಚಯಿಸಿದೆ, ಇದು ಉನ್ನತ-ಕಾರ್ಯಕ್ಷಮತೆಯ MI455X ವೇಗವರ್ಧಕಗಳನ್ನು ಒಳಗೊಂಡಿದೆ, ಅದೇ ಸಮಯದಲ್ಲಿ ವೇಫರ್-ಸ್ಕೇಲ್ ಚಿಪ್ಗಳನ್ನು ಅದರ ಡೇಟಾ ಸೆಂಟರ್ ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿ ಸಂಯೋಜಿಸಲು ಸೆರೆಬ್ರಾಸ್ನೊಂದಿಗೆ ಪಾಲುದಾರಿಕೆಯನ್ನು ಭದ್ರಪಡಿಸುತ್ತದೆ.
ಹೀಲಿಯೋಸ್ ರ್ಯಾಕ್ ಸಿಸ್ಟಮ್ಸ್ ಪ್ರಾರಂಭ
Nvidia ನ ಡೇಟಾ ಸೆಂಟರ್ ಮಾರುಕಟ್ಟೆ ಪಾಲನ್ನು ಸವಾಲು ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ವೇದಿಕೆಯಾದ Helios ಅನ್ನು ಪ್ರಾರಂಭಿಸುವುದರೊಂದಿಗೆ AMD ಅಧಿಕೃತವಾಗಿ ರಾಕ್-ಸ್ಕೇಲ್ AI ಸ್ಪರ್ಧೆಯನ್ನು ಪ್ರವೇಶಿಸಿದೆ. ಈ ವ್ಯವಸ್ಥೆಯು ಅದರ ಭೌತಿಕ ಪ್ರಮಾಣಕ್ಕೆ ಗಮನಾರ್ಹವಾಗಿದೆ, 1.2 ಮೀಟರ್ ಅಗಲ ಮತ್ತು 44OUs ಎತ್ತರವನ್ನು ಅಳೆಯುತ್ತದೆ, ಇದು Nvidia ನ NVL72 ಆರ್ಕಿಟೆಕ್ಚರ್ಗಿಂತ ಗಮನಾರ್ಹವಾಗಿ ದೊಡ್ಡದಾಗಿದೆ. Helios ರ್ಯಾಕ್ನೊಳಗೆ, AMD 18 ಲಿಕ್ವಿಡ್-ಕೂಲ್ಡ್ ಕಂಪ್ಯೂಟ್ ಬ್ಲೇಡ್ಗಳನ್ನು ಬಳಸುತ್ತದೆ, ಪ್ರತಿಯೊಂದೂ ನಾಲ್ಕು MI455X GPU ಗಳನ್ನು ಮತ್ತು ಒಂದು 96-ಕೋರ್ ವೆನಿಸ್ ಎಪಿಕ್ ಪ್ರೊಸೆಸರ್ ಅನ್ನು ಹೊಂದಿದೆ. ಎತರ್ನೆಟ್ (UALoE) ಫ್ಯಾಬ್ರಿಕ್ ಮೂಲಕ ಅಲ್ಟ್ರಾ ಆಕ್ಸಿಲರೇಟರ್ ಲಿಂಕ್ ಅನ್ನು ಬಳಸುವ ಮೂಲಕ, ಸಿಸ್ಟಮ್ ಸ್ವಾಮ್ಯದ ಸ್ವಿಚ್ಗಳ ಅಗತ್ಯವನ್ನು ತಪ್ಪಿಸುತ್ತದೆ, ಬ್ರಾಡ್ಕಾಮ್ನಂತಹ ಕಂಪನಿಗಳಿಂದ ಉದ್ಯಮ-ಗುಣಮಟ್ಟದ ವ್ಯಾಪಾರಿ ಸಿಲಿಕಾನ್ ಅನ್ನು ಹತೋಟಿಗೆ ತರಲು ಬಿಲ್ಡರ್ಗಳಿಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ. ಪ್ರತಿ MI455X ವೇಗವರ್ಧಕವು ಮೂರು 800 Gbps Pensando Vulcano ನೆಟ್ವರ್ಕ್ ಕಾರ್ಡ್ಗಳಿಂದ ಬೆಂಬಲಿತವಾಗಿದೆ, AMD ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಎನ್ವಿಡಿಯಾದ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಕೊಡುಗೆಗಳಿಗೆ ಹೋಲಿಸಿದರೆ ಉತ್ತಮವಾದ ಸ್ಕೇಲ್-ಔಟ್ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಅನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ಹೇಳುತ್ತದೆ, ಇದು ದೊಡ್ಡ-ಪ್ರಮಾಣದ ತರಬೇತಿ ಮತ್ತು ನಿರ್ಣಯದ ಕೆಲಸದ ಹೊರೆಗಳಿಗೆ ಪ್ರಬಲ ಸ್ಪರ್ಧಿಯಾಗಿ ಸ್ಥಾನ ಪಡೆದಿದೆ.
MI455X ನ ತಾಂತ್ರಿಕ ಆರ್ಕಿಟೆಕ್ಚರ್
Helios ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಹಿಂದಿನ ಶಕ್ತಿಯು AMD ಯ ಇತ್ತೀಚಿನ ಡೇಟಾ ಸೆಂಟರ್ ವೇಗವರ್ಧಕವಾಗಿದೆ, MI455X, ಇದನ್ನು 5 ನೇ-ಜನ್ CDNA ಕಂಪ್ಯೂಟ್ ಆರ್ಕಿಟೆಕ್ಚರ್ನಲ್ಲಿ ನಿರ್ಮಿಸಲಾಗಿದೆ. ಈ ಚಿಪ್ ಬೃಹತ್ ಎಂಜಿನಿಯರಿಂಗ್ ಪ್ರಯತ್ನವನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ, ಕಂಪ್ಯೂಟ್ ಡೈಸ್ಗಾಗಿ 24 ಚಿಪ್ಲೆಟ್ಗಳು ಮತ್ತು 2nm ಪ್ರಕ್ರಿಯೆ ತಂತ್ರಜ್ಞಾನವನ್ನು ಒಳಗೊಂಡಿರುವ 'ಸಿಲಿಕಾನ್ ಸ್ಯಾಂಡ್ವಿಚ್' ವಿನ್ಯಾಸವನ್ನು ಬಳಸಿಕೊಳ್ಳುತ್ತದೆ. AI ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಆದ್ಯತೆ ನೀಡಲು, AMD ಈ ನಿರ್ದಿಷ್ಟ SKU ನಲ್ಲಿ FP64 ಬೆಂಬಲದಿಂದ ದೂರ ಸರಿದಿದೆ, MXFP4 ಮತ್ತು MXFP8 ನಂತಹ ಕಡಿಮೆ-ನಿಖರ ಸ್ವರೂಪಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಲು ಡೈ ಏರಿಯಾವನ್ನು ಮರುಹಂಚಿಕೆ ಮಾಡುತ್ತದೆ. ಆರ್ಕಿಟೆಕ್ಚರ್ ಹಂಚಿಕೆಯ L2 ಸಂಗ್ರಹದಲ್ಲಿ ಗಮನಾರ್ಹ ಹೆಚ್ಚಳ ಮತ್ತು ಡೇಟಾ ಲೇಟೆನ್ಸಿಯನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿರುವ ಹೊಸ ನೇರ ಮೆಮೊರಿ ಪ್ರವೇಶ (DMA) ಎಂಜಿನ್ ಅನ್ನು ಒಳಗೊಂಡಿದೆ. ಈ ಸುಧಾರಣೆಗಳು ಚಿಪ್ಗೆ ಪ್ರಾದೇಶಿಕ ವಿಭಜನೆಯನ್ನು ಬೆಂಬಲಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ, ಇದು ಒಂದೇ ದೊಡ್ಡ GPU ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅಥವಾ ಬಹು ವರ್ಚುವಲ್ ನಿದರ್ಶನಗಳಾಗಿ ವಿಂಗಡಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ, ಹಿಂದಿನ ತಲೆಮಾರುಗಳಲ್ಲಿ ಹಿಂದೆ ಸೀಮಿತವಾಗಿದ್ದ ಹೊಂದಿಕೊಳ್ಳುವ ನಿಯೋಜನೆ ಆಯ್ಕೆಗಳೊಂದಿಗೆ ಹೈಪರ್ಸ್ಕೇಲರ್ಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ.
ಸೆರೆಬ್ರಾಸ್ ಜೊತೆ ಕಾರ್ಯತಂತ್ರದ ಪಾಲುದಾರಿಕೆ
ಅದರ ಆಂತರಿಕ ಹಾರ್ಡ್ವೇರ್ ಪ್ರಗತಿಗಳ ಜೊತೆಗೆ, ಸೆರೆಬ್ರಾಸ್ನೊಂದಿಗಿನ ಹೊಸ ಪಾಲುದಾರಿಕೆಯ ಮೂಲಕ AMD ತನ್ನ ಪರಿಸರ ವ್ಯವಸ್ಥೆಯ ಪ್ರಭಾವವನ್ನು ಹೆಚ್ಚಿಸಿದೆ. ಉದ್ಯಮ ಸಮ್ಮೇಳನದಲ್ಲಿ, ಸೆರೆಬ್ರಾಸ್ ಸಿಇಒ ಆಂಡ್ರ್ಯೂ ಫೆಲ್ಡ್ಮನ್ ಅವರು ತಮ್ಮ ಕಂಪನಿಯ ವಿಶಿಷ್ಟವಾದ 'ವೇಫರ್-ಸ್ಕೇಲ್' ಚಿಪ್ಗಳನ್ನು AMD ಯ ಹೆಲಿಯೊಸ್ AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಬಳಸಲಾಗುವುದು ಎಂದು ದೃಢಪಡಿಸಿದರು. ಈ ಏಕೀಕರಣವು ಅತಿ-ಕಡಿಮೆ ಲೇಟೆನ್ಸಿಗಾಗಿ ನಿರ್ಣಾಯಕ ಉದ್ಯಮದ ಬೇಡಿಕೆಯನ್ನು ಪರಿಹರಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ, ಇದು ಕ್ಷಿಪ್ರ ಪ್ರತಿಕ್ರಿಯೆ ಸಮಯಗಳ ಅಗತ್ಯವಿರುವ ಉತ್ಪಾದಕ AI ಅಪ್ಲಿಕೇಶನ್ಗಳಿಗೆ ಅವಶ್ಯಕವಾಗಿದೆ. ಈ ವರ್ಷದ ಕೊನೆಯಲ್ಲಿ ಸೆರೆಬ್ರಾಸ್-ನಿರ್ವಹಿಸುವ ಡೇಟಾ ಕೇಂದ್ರಗಳಲ್ಲಿ ಸೆರೆಬ್ರಾಸ್ ಹಾರ್ಡ್ವೇರ್ ಕಾಣಿಸಿಕೊಳ್ಳಲು ಪ್ರಾರಂಭಿಸುತ್ತದೆ ಮತ್ತು ಸರ್ವರ್ ಖರೀದಿದಾರರು ಈ ವೇಫರ್-ಸ್ಕೇಲ್ ತಂತ್ರಜ್ಞಾನದೊಂದಿಗೆ ತಮ್ಮದೇ ಆದ AMD-ಆಧಾರಿತ ಸಿಸ್ಟಮ್ಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡುವ ಆಯ್ಕೆಯನ್ನು ಹೊಂದಿರುತ್ತಾರೆ. ಕಂಪನಿಗಳು ಈ ಸಹಯೋಗವನ್ನು ಪ್ರತಿ ಸೆಕೆಂಡ್ಗೆ-ಪ್ರತಿ ವ್ಯಾಟ್ ದಕ್ಷತೆಯಲ್ಲಿ ಗಣನೀಯವಾಗಿ ಹೆಚ್ಚಿನ ಟೋಕನ್ಗಳನ್ನು ಸಾಧಿಸಲು ಒಂದು ಮಾರ್ಗವಾಗಿ ಪಿಚ್ ಮಾಡಿವೆ, ಇಲ್ಲವಾದರೆ ಪ್ರಮಾಣಿತ GPU-ಆಧಾರಿತ ಕ್ಲಸ್ಟರ್ಗಳಿಂದ ಪ್ರಾಬಲ್ಯ ಹೊಂದಿರುವ ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ ಒಂದು ವಿಶಿಷ್ಟ ಸ್ಥಾನವನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ.
ಮಾರುಕಟ್ಟೆಯ ಪರಿಣಾಮ ಮತ್ತು ಸ್ಪರ್ಧಾತ್ಮಕ ಭೂದೃಶ್ಯ
ಎಎಮ್ಡಿ ಹೀಲಿಯೊಸ್ ಅನ್ನು ಎನ್ವಿಡಿಯಾದ ಬ್ಲ್ಯಾಕ್ವೆಲ್ ಮತ್ತು ವೆರಾ ರೂಬಿನ್ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳಿಗೆ ನೇರ ಪ್ರತಿಸ್ಪರ್ಧಿಯಾಗಿ ಇರಿಸುತ್ತಿದೆ, ಮೆಮೊರಿ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಮತ್ತು AI ತರಬೇತಿ ವೇಗದಲ್ಲಿ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಹೇಳಿಕೊಳ್ಳುತ್ತದೆ. ಎನ್ವಿಡಿಯಾದ ಹೊಸ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳ ಲಾಂಚ್ ಟೈಮ್ಲೈನ್ ಅನ್ನು ಹೊಂದಿಸುವ ಮೂಲಕ, AMD ತನ್ನ ಐತಿಹಾಸಿಕ 'ಕ್ಯಾಚ್-ಅಪ್' ಮಾದರಿಯಿಂದ ದೂರ ಸರಿಯುತ್ತಿದೆ. ಕಂಪನಿಯು ಪ್ರಮುಖ ಆಟಗಾರರಿಂದ ಗಮನಾರ್ಹ ಬದ್ಧತೆಗಳನ್ನು ಪಡೆದುಕೊಂಡಿದೆ: MI455X GPU ಗಳನ್ನು ಬಳಸಿಕೊಂಡು ದೊಡ್ಡ ಪ್ರಮಾಣದ ಕಂಪ್ಯೂಟ್ ಪವರ್ ಅನ್ನು ನಿಯೋಜಿಸಲು OpenAI ಯೋಜಿಸಿದೆ ಮತ್ತು ಹೂಡಿಕೆ ವ್ಯವಹಾರಗಳಿಗೆ ಬದಲಾಗಿ ಆಂಥ್ರೊಪಿಕ್ ಗಮನಾರ್ಹ ನಿಯೋಜನೆಗಳಿಗೆ ಬದ್ಧವಾಗಿದೆ. ಸ್ಪರ್ಧಾತ್ಮಕ ಭಂಗಿಗಳ ಹೊರತಾಗಿಯೂ, ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೆಟ್ರಿಕ್ಗಳಿಗೆ ಸಂಬಂಧಿಸಿದಂತೆ AMD ಹೆಚ್ಚು ಪಾರದರ್ಶಕ ಮಾರ್ಕೆಟಿಂಗ್ ವಿಧಾನವನ್ನು ಅಳವಡಿಸಿಕೊಂಡಿದೆ. ನೈಜ-ಪ್ರಪಂಚದ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ ಪೀಕ್ ಸೈದ್ಧಾಂತಿಕ FLOPS ಅಪರೂಪವಾಗಿ ಸಾಧಿಸಬಹುದು ಎಂದು ಸಾರ್ವಜನಿಕವಾಗಿ ಒಪ್ಪಿಕೊಳ್ಳುವ ಮೂಲಕ, ಸಮರ್ಥವಾಗಿ ಉಬ್ಬಿಕೊಂಡಿರುವ ಮಾರ್ಕೆಟಿಂಗ್ ಅಂಕಿಅಂಶಗಳಿಗಿಂತ ನಿರಂತರವಾದ, ಅಳೆಯಬಹುದಾದ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಆದ್ಯತೆ ನೀಡುವ ಉದ್ಯಮ ಗ್ರಾಹಕರೊಂದಿಗೆ ದೀರ್ಘಾವಧಿಯ ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ನಿರ್ಮಿಸಲು ಕಂಪನಿಯು ಆಶಿಸುತ್ತದೆ.
⚖ The Balanced View
Supporting view
ಹೆಲಿಯೊಸ್ ಪ್ರತಿ ಡಾಲರ್ಗೆ ಉತ್ತಮವಾದ ಕಾರ್ಯಕ್ಷಮತೆ, ಹೆಚ್ಚಿನ HBM4 ಮೆಮೊರಿ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಪ್ರಸ್ತುತ Nvidia ಸಮಾನತೆಗಳಿಗಿಂತ ವೇಗವಾದ ಸ್ಕೇಲ್-ಔಟ್ ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಅನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ಬೆಂಬಲಿಗರು ಗಮನಿಸುತ್ತಾರೆ.
Concerns & criticism
ನೈಜ-ಪ್ರಪಂಚದ AI ಕಾರ್ಯಕ್ಷಮತೆಯು ಸಾಫ್ಟ್ವೇರ್ ಆಪ್ಟಿಮೈಸೇಶನ್ ಮತ್ತು ವರ್ಕ್ಲೋಡ್ ಆಕಾರದ ಮೇಲೆ ಹೆಚ್ಚು ಅವಲಂಬಿತವಾಗಿದೆ ಎಂದು ವಿಮರ್ಶಕರು ಸೂಚಿಸುತ್ತಾರೆ, ಅಂದರೆ 'ಪೀಕ್ ಸೈದ್ಧಾಂತಿಕ' FLOPS ಅನ್ನು ತಲುಪಲು ಕ್ರಿಯಾತ್ಮಕವಾಗಿ ಅಸಾಧ್ಯವಾಗಿದೆ.
→What's next
ಎಎಮ್ಡಿ ತನ್ನ ಸಿಡಿಎನ್ಎ 5-ಆಧಾರಿತ ಜಿಪಿಯು ಪೋರ್ಟ್ಫೋಲಿಯೊವನ್ನು ಎಂಟರ್ಪ್ರೈಸ್ ನಿಯೋಜನೆಗಳಿಗಾಗಿ ನಿರ್ದಿಷ್ಟವಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಿದ ರೂಪಾಂತರಗಳನ್ನು ಸೇರಿಸಲು ಯೋಜಿಸಿದೆ. ಏತನ್ಮಧ್ಯೆ, ಸೆರೆಬ್ರಾಸ್-ಸುಸಜ್ಜಿತ ಹೆಲಿಯೊಸ್ ಸಿಸ್ಟಮ್ಗಳು ಈ ವರ್ಷದ ನಂತರ ಡೇಟಾ ಕೇಂದ್ರಗಳಲ್ಲಿ ಹೊರಹೊಮ್ಮಲು ಪ್ರಾರಂಭಿಸುವ ನಿರೀಕ್ಷೆಯಿದೆ.