Microsoft Maia 200: новый ИИ-чип снизит расходы на инференс в Azure на 30%
Компания Microsoft 26 января 2026 года представила специализированный ИИ-ускоритель Microsoft Maia 200, созданный для инференса искусственного интеллекта. Новый чип производится по 3-нанометровому техпроцессу и обслуживает крупные языковые модели в дата-центрах Azure. Для корпоративных клиентов с задачами генеративного ИИ процессор снижает аппаратные расходы, обеспечивая на 30% лучшую производительность на один доллар по сравнению с прежними топовыми решениями в облаке компании.
Что означает снижение затрат с Azure Maia 200 для облачной инфраструктуры
Снижение затрат благодаря Azure Maia 200 дает корпоративным клиентам и внутренним сервисам прирост производительности на доллар в 30% по сравнению с самым современным оборудованием в дата-центрах компании. Ускоритель создан специально для оптимизации экономики генерации токенов и справляется с ресурсоемкими задачами генеративного ИИ в облачных платформах Microsoft. Фирменный чип будет обслуживать модели искусственного интеллекта, включая GPT-5.2 от OpenAI, а также работу сервисов в Microsoft Foundry и Microsoft 365 Copilot. Внутренние команды компании также используют данное железо: подразделение Microsoft Superintelligence применяет систему для генерации синтетических данных и обучения с подкреплением, что ускоряет создание и фильтрацию специализированных обучающих наборов для новых моделей.
Технические характеристики нового ускорителя инференса
Характеристики Microsoft Maia 200 включают 3-нанометровый техпроцесс TSMC, более 140 миллиардов транзисторов и тепловой пакет TDP на уровне 750 Вт. Чип спроектирован для вычислений низкой точности: он выдает свыше 10 петафлопс производительности при точности FP4 и более 5 петафлопс при точности FP8. Чтобы устранить узкие места при передаче данных, подсистема памяти объединяет 216 ГБ памяти HBM3e с пропускной способностью 7 ТБ/с и 272 МБ накристальной памяти SRAM. Перемещение данных дополнительно ускоряют специализированный движок прямой адресации памяти DMA и встроенная межсоединительная сеть NoC, оптимизированная для узкоточечных типов данных.
Сравнение Maia 200 и Trainium 3 в бенчмарках ИИ-оборудования
В тестах производительности сравнение Maia 200 и Trainium 3 показывает: чип Microsoft обеспечивает в три раза большую вычислительную пропускную способность FP4, чем ускоритель третьего поколения от Amazon. Новый процессор также превосходит по вычислительной мощности FP8 тензорные процессоры TPU от Google седьмого поколения. По заявлению Microsoft, эти результаты делают устройство самым производительным собственным чипом среди всех гиперскейлеров. Благодаря адаптации вычислительных ядер и иерархии памяти под генерацию токенов архитектура достигает более высокой стабильной загрузки оборудования при развертывании крупных моделей.
Масштабирование архитектуры Maia 200 на базе TSMC 3 нм в дата-центрах
Архитектура Maia 200 на техпроцессе TSMC 3 нм сочетает кастомный дизайн кремния и двухуровневую сеть масштабирования на базе стандартного Ethernet. Вместо проприетарных межсоединений система использует собственный транспортный протокол и интегрированные сетевые карты, что снижает общую стоимость развертывания. Каждый чип обеспечивает 2,8 ТБ/с выделенной двунаправленной полосы пропускания для масштабирования. Внутри серверных шасси четыре ускорителя соединены напрямую без коммутаторов, что сохраняет высокоскоростной обмен данными на локальном уровне. Единый транспортный уровень позволяет легко масштабировать узлы и стойки до кластеров из 6144 чипов. Первые чипы развернуты в дата-центре региона US Central возле Де-Мойна, штат Айова, а следующим шагом станет расширение в регион US West 3 возле Финикса, штат Аризона.
Как разработчики программируют вычисления инференса на ИИ-чипах Microsoft
Разработчики оптимизируют вычисления инференса на ИИ-чипах Microsoft с помощью нового предварительного комплекта разработки SDK, интегрированного с PyTorch. Комплект включает компилятор Triton, оптимизированную библиотеку ядер и доступ к языку Neural Programming Language для низкоуровневого управления железом. В состав также входят симулятор и калькулятор затрат, позволяющие инженерам моделировать производительность и эффективность на ранних этапах разработки ПО. Предварительное совместное проектирование позволило запустить модели на физических чипах в течение нескольких дней после их получения, что сократило время развертывания стоек в дата-центрах более чем вдвое по сравнению с прошлыми инфраструктурными программами.
Вопросы и ответы
Как Microsoft Maia 200 снижает расходы на инференс ИИ в Azure?
Ускоритель сокращает расходы на инференс, обеспечивая на 30% лучшую производительность на один доллар по сравнению с самым новым оборудованием в действующем парке Microsoft. Это достигается за счет комбинации тензорных ядер FP4 и FP8, 216 ГБ памяти HBM3e и сети масштабирования на базе Ethernet, которая снижает общее энергопотребление и совокупную стоимость владения.
Каковы технические характеристики Microsoft Maia 200?
Изготовленный по 3-нанометровому техпроцессу TSMC с более чем 140 миллиардами транзисторов, ускоритель выдает более 10 петафлопс при FP4 и более 5 петафлопс при FP8 при TDP 750 Вт. Он оснащен 216 ГБ памяти HBM3e с пропускной способностью 7 ТБ/с, 272 МБ памяти SRAM и обеспечивает 2,8 ТБ/с двунаправленной сетевой емкости на чип.
Как Maia 200 сравнивается с Google TPU и AWS Trainium?
Ускоритель обеспечивает в три раза большую вычислительную пропускную способность FP4, чем железо Trainium третьего поколения от Amazon. Кроме того, его производительность при вычислениях FP8 превышает показатели тензорных процессоров TPU седьмого поколения от Google.
Взгляд MOZGII
Как бы мы это построили
Если бы мы создавали облачную архитектуру инференса для больших языковых моделей, мы бы сосредоточились на стоимости генерации токенов и пропускной способности памяти. Мы бы запускали модели FP4 и FP8 на специализированных чипах, объединенных сетями Ethernet. Система бы считывала веса моделей из памяти с высокой пропускной способностью и передавала входящие промпты через модуль прямого доступа к памяти. Разработчики адаптировали бы код моделей с помощью PyTorch и Triton для контроля операций низкой точности.
Мы бы поручили операторам отслеживать температуру стоек и перегрузку сети на серверных полках. Работа системы нарушалась бы, если квантование низкой точности ухудшает качество ответов или если буферы Ethernet переполняются при скачках трафика. Мы бы настроили жесткий программный контроль для возврата к повышенной точности, если показатели падают ниже базовых целевых значений. Единственной ключевой метрикой была бы стоимость одного миллиона сгенерированных токенов.
Затем мы бы разработали автоматические инструменты профилирования компилятора для анализа расхода памяти перед развертыванием моделей. Мы бы также внедрили процессы генерации синтетических данных для обучения небольших специализированных моделей на тех же серверных стойках.
Источники
Откуда взяты факты этой новости.