Microsoft Maia 200 AI चिप लॉन्च: 30% कॉस्ट एफिशिएंसी के साथ पेश हुआ

Azure Maia 200 की लागत में कमी के क्लाउड इंफ्रास्ट्रक्चर के लिए क्या मायने हैं

Azure Maia 200 की लागत में कमी एंटरप्राइज ग्राहकों और आंतरिक सेवाओं को कंपनी के डेटासेंटरों में वर्तमान में चल रहे सबसे नए हार्डवेयर की तुलना में परफॉर्मेंस-प्रति-डॉलर में 30% का सुधार प्रदान करती है। AI टोकन जनरेशन के अर्थशास्त्र को अनुकूलित करने के लिए विशेष रूप से डिज़ाइन किया गया यह एक्सीलेटर Microsoft क्लाउड प्लेटफॉर्म पर मांग वाले जनरेटिव AI वर्कलोड को संभालता है। यह कस्टम सिलिकॉन OpenAI के GPT-5.2 सहित आर्टिफिशियल इंटेलिजेंस मॉडल्स को पावर देगा, जबकि Microsoft Foundry और Microsoft 365 Copilot के भीतर सेवाओं को चलाएगा। आंतरिक टीमें भी इस हार्डवेयर का लाभ उठा रही हैं। Microsoft Superintelligence समूह सिंथेटिक डेटा जनरेशन और रीइंफोर्समेंट लर्निंग के लिए इस सिस्टम का उपयोग करता है, जो डाउनस्ट्रीम मॉडल विकास के लिए डोमेन-विशिष्ट ट्रेनिंग डेटा के जनरेशन और फ़िल्टरिंग को तेज करता है।

नए इंफरेंस एक्सीलेटर के तकनीकी विवरण और स्पेसिफिकेशंस

Microsoft Maia 200 के स्पेसिफिकेशंस में TSMC की 3-नैनोमीटर निर्माण प्रक्रिया शामिल है, जिसमें 750-वाट थर्मल डिजाइन पावर लिफाफे के भीतर काम करने वाले 140 अरब से अधिक ट्रांजिस्टर हैं। कम-सटीकता वाली कंप्यूटिंग के लिए डिज़ाइन किया गया प्रत्येक चिप 4-बिट प्रिसिजन FP4 परफॉर्मेंस का 10 से अधिक petaFLOPS और 8-बिट प्रिसिजन FP8 परफॉर्मेंस का 5 से अधिक petaFLOPS प्रदान करता है। डेटा ट्रांसफर की बाधाओं को समाप्त करने के लिए, मेमोरी सबसिस्टम 216GB HBM3e मेमोरी को एकीकृत करता है जो 272MB ऑन-चिप SRAM के साथ 7 TB/s की बैंडविड्थ प्रदान करती है। डेटा मूवमेंट को एक विशेष डायरेक्ट मेमोरी एक्सेस इंजन और नैरो-प्रिसिजन डेटाटाइप्स के लिए तैयार किए गए कस्टम नेटवर्क-ऑन-चिप फैब्रिक द्वारा और तेज किया जाता है।

AI हार्डवेयर बेंचमार्क पर Maia 200 बनाम Trainium 3 की तुलना

परफॉर्मेंस बेंचमार्क में, Maia 200 बनाम Trainium 3 दिखाता है कि Microsoft की चिप Amazon के तीसरी पीढ़ी के एक्सीलेटर की तुलना में तीन गुना अधिक FP4 कंप्यूट थ्रूपुट प्रदान करती है। नया प्रोसेसर Google के सातवीं पीढ़ी के Tensor Processing Unit की तुलना में उच्च 8-बिट प्रिसिजन FP8 कंप्यूट परफॉर्मेंस भी हासिल करता है। Microsoft के अनुसार, ये परिणाम इस डिवाइस को किसी भी हाइपरस्केल क्लाउड प्रदाता द्वारा तैनात सबसे प्रदर्शनकारी फ़र्स्ट-पार्टी सिलिकॉन के रूप में स्थापित करते हैं। कंप्यूट कोर और मेमोरी पदानुक्रम को विशेष रूप से टोकन जनरेशन के लिए अनुकूलित करके, यह आर्किटेक्चर बड़े पैमाने पर मॉडल तैनाती में उच्च निरंतर हार्डवेयर उपयोग हासिल करता है।

TSMC 3nm पर Maia 200 आर्किटेक्चर डेटासेंटर में कैसे स्केल करता है

TSMC 3nm पर Maia 200 आर्किटेक्चर कस्टम सिलिकॉन डिज़ाइन को स्टैंडर्ड Ethernet पर निर्मित टू-टियर स्केल-अप नेटवर्क के साथ जोड़ता है। प्रोप्राइटरी इंटरकनेक्ट फैब्रिक पर निर्भर रहने के बजाय, सिस्टम समग्र तैनाती लागत को कम करने के लिए एक कस्टम ट्रांसपोर्ट प्रोटोकॉल और एकीकृत नेटवर्क इंटरफेस कार्ड का उपयोग करता है। प्रत्येक चिप 2.8 TB/s की समर्पित बाइडायरेक्शनल स्केल-अप बैंडविड्थ प्रदान करती है। सर्वर ट्रे के अंदर, चार एक्सीलेटर हाई-बैंडविड्थ संचार को स्थानीय रखने के लिए डायरेक्ट नॉन-स्विच्ड लिंक्स के माध्यम से जुड़ते हैं। एकीकृत ट्रांसपोर्ट लेयर नोड्स और रैक में 6,144 चिप्स के क्लस्टर तक निर्बाध स्केलिंग की अनुमति देती है। प्रारंभिक हार्डवेयर Des Moines, Iowa के पास US Central डेटासेंटर क्षेत्र में तैनात किया गया है, जिसके बाद Phoenix, Arizona के पास US West 3 क्षेत्र में विस्तार की योजना है।

डेवलपर्स Microsoft कस्टम AI चिप इंफरेंस वर्कलोड को कैसे प्रोग्राम करते हैं

डेवलपर्स एक नए प्रिव्यू सॉफ्टवेयर डेवलपमेंट किट का उपयोग करके Microsoft कस्टम AI चिप इंफरेंस को अनुकूलित करते हैं जो PyTorch के साथ सीधे एकीकृत होता है। SDK में एक Triton कंपाइलर, एक ऑप्टिमाइज्ड कर्नेल लाइब्रेरी और लो-लेवल हार्डवेयर नियंत्रण के लिए Neural Programming Language तक पहुंच शामिल है। इसमें एक सिम्युलेटर और लागत कैलकुलेटर भी शामिल है जो इंजीनियरों को सॉफ्टवेयर विकास जीवनचक्र में जल्दी परफॉर्मेंस और दक्षता को मॉडल करने की अनुमति देता है। प्री-सिलिकॉन सह-विकास ने मॉडलों को आगमन के कुछ ही दिनों के भीतर भौतिक हार्डवेयर पर चलाने की अनुमति दी, जिससे पिछले इंफ्रास्ट्रक्चर कार्यक्रमों की तुलना में डेटासेंटर रैक परिनियोजन समय आधे से अधिक कम हो गया।

प्रश्न और उत्तर

Microsoft Maia 200 Azure AI इंफरेंस लागत को कैसे कम करता है?

एक्सीलेटर Microsoft के सक्रिय फ़्लीट में सबसे नए हार्डवेयर की तुलना में 30% बेहतर परफॉर्मेंस-प्रति-डॉलर प्रदान करके इंफरेंस खर्चों को कम करता है। यह FP4 और FP8 टेन्सर कोर, 216GB HBM3e मेमोरी और एक Ethernet-आधारित स्केल-अप नेटवर्क को जोड़कर यह दक्षता हासिल करता है जो समग्र बिजली की खपत और स्वामित्व की कुल लागत को कम करता है।

Microsoft Maia 200 के तकनीकी विवरण क्या हैं?

140 अरब से अधिक ट्रांजिस्टर के साथ TSMC के 3nm प्रोसेस पर निर्मित, यह एक्सीलेटर 750W TDP पर 10 से अधिक petaFLOPS FP4 कंप्यूट और 5 से अधिक petaFLOPS FP8 कंप्यूट प्रदान करता है। इसमें 7 TB/s बैंडविड्थ पर 216GB HBM3e मेमोरी, 272MB SRAM और प्रति चिप 2.8 TB/s बाइडायरेक्शनल स्केल-अप नेटवर्किंग क्षमता शामिल है।

Maia 200 की तुलना Google TPU और AWS Trainium से कैसे की जाती है?

यह एक्सीलेटर Amazon के तीसरी पीढ़ी के Trainium हार्डवेयर की तुलना में तीन गुना FP4 कंप्यूट थ्रूपुट हासिल करता है। इसके अतिरिक्त, इसका FP8 कंप्यूट आउटपुट Google के सातवीं पीढ़ी के Tensor Processing Unit से अधिक है।