रिपोर्टों के अनुसार, NVIDIA AI GPU H200 के अपस्ट्रीम चिप अंत ने Q2 के अंत में बड़े पैमाने पर उत्पादन अवधि में प्रवेश किया और Q3 के बाद बड़ी मात्रा में वितरित किए जाने की उम्मीद है।लेकिन NVIDIA ब्लैकवेल प्लेटफॉर्म का लॉन्च शेड्यूल शेड्यूल से कम से कम एक से दो तिमाहियों से पहले है, जो H200 खरीदने के लिए अंतिम ग्राहकों की इच्छा को प्रभावित करता है।
आपूर्ति श्रृंखला बताती है कि वर्तमान में, क्लाइंट ऑर्डर शिपमेंट की प्रतीक्षा कर रहे हैं, अभी भी ज्यादातर H100 के HGX आर्किटेक्चर में केंद्रित हैं, H200 के सीमित अनुपात के साथ।Q3 में, H200 जो बड़े पैमाने पर उत्पादित और वितरित किया जाएगा, मुख्य रूप से NVIDIA DGX H200 है;B100 के लिए, इसमें पहले से ही आंशिक दृश्यता है और अगले साल की पहली छमाही में भेजे जाने की उम्मीद है।
H100 GPU के एक पुनरावृत्ति उन्नयन उत्पाद के रूप में, H200 ने पहली बार उन्नत हॉपर आर्किटेक्चर पर आधारित HBM3E उच्च बैंडविड्थ मेमोरी तकनीक को अपनाया, तेजी से डेटा ट्रांसफर गति और बड़ी मेमोरी क्षमता प्राप्त की, विशेष रूप से बड़े पैमाने पर भाषा मॉडल अनुप्रयोगों के लिए महत्वपूर्ण लाभ दिखाया।NVIDIA द्वारा जारी आधिकारिक आंकड़ों के अनुसार, जब मेटा के Llama2 जैसे जटिल बड़े भाषा मॉडल से निपटते हैं, तो H200 में H100 की तुलना में जनरेटिव AI आउटपुट प्रतिक्रिया गति में 45% का अधिकतम सुधार होता है।
H200 को AI कंप्यूटिंग के क्षेत्र में NVIDIA के एक और मील का पत्थर उत्पाद के रूप में तैनात किया गया है, न केवल H100 के लाभों को विरासत में मिला है, बल्कि मेमोरी प्रदर्शन में महत्वपूर्ण सफलताओं को भी प्राप्त किया है।H200 के वाणिज्यिक अनुप्रयोग के साथ, उच्च बैंडविड्थ मेमोरी की मांग में वृद्धि जारी रहने की उम्मीद है, जो पूरे एआई कंप्यूटिंग हार्डवेयर उद्योग श्रृंखला के विकास को आगे बढ़ाएगा, विशेष रूप से एचबीएम 3 ई संबंधित आपूर्तिकर्ताओं के लिए बाजार के अवसर।
B100 GPU तरल शीतलन तकनीक को अपनाएगा।चिप प्रदर्शन में सुधार करने में हीट अपव्यय एक महत्वपूर्ण कारक बन गया है।NVIDIA H200 GPU का TDP 700W है, जबकि यह रूढ़िवादी रूप से अनुमान लगाया गया है कि B100 का TDP किलोवाट के करीब है।पारंपरिक एयर कूलिंग चिप ऑपरेशन के दौरान गर्मी अपव्यय आवश्यकताओं को पूरा करने में सक्षम नहीं हो सकता है, और गर्मी अपव्यय प्रौद्योगिकी को तरल शीतलन की ओर व्यापक रूप से नवाचार किया जाएगा।
NVIDIA के सीईओ हुआंग रेनक्सुन ने कहा कि B100 GPU से शुरू होकर, भविष्य में सभी उत्पादों की कूलिंग तकनीक एयर कूलिंग से लिक्विड कूलिंग में शिफ्ट हो जाएगी।गैलेक्सी सिक्योरिटीज का मानना है कि NVIDIA के B100GPU के पास H200 के प्रदर्शन से कम से कम दोगुना है और H100 से चार गुना से अधिक होगा।चिप प्रदर्शन में सुधार आंशिक रूप से उन्नत प्रक्रियाओं के कारण है, और दूसरी ओर, चिप प्रदर्शन में सुधार करने में गर्मी अपव्यय एक महत्वपूर्ण कारक बन गया है।NVIDIA के H200 GPU का TDP 700W है, जो रूढ़िवादी रूप से किलोवाट के करीब होने का अनुमान है।पारंपरिक एयर कूलिंग चिप ऑपरेशन के दौरान गर्मी अपव्यय की जरूरतों को पूरा करने में सक्षम नहीं हो सकता है, और गर्मी अपव्यय प्रौद्योगिकी को तरल शीतलन की ओर पूरी तरह से क्रांति मिलेगी।
