마이크로소프트 Maia 200 공개…비용 대비 성능 30% 향상
마이크로소프트가 2026년 1월 26일 인공지능(AI) 추론 전용 최신 커스텀 실리콘 가속기인 Microsoft Maia 200을 공개했습니다. 3나노미터 공정으로 제작된 이 신형 하드웨어는 Azure 데이터센터 전반에서 대규모 언어 모델을 구동합니다. 생성형 AI 워크로드를 운용하는 기업 고객에게 이 칩은 마이크로소프트 클라우드 내 기존 최고 성능 하드웨어 대비 달러당 성능을 30% 향상시켜 하드웨어 비용을 크게 절감해 줍니다.
Azure Maia 200 비용 절감이 클라우드 인프라에 미치는 의미
Azure Maia 200 비용 절감 기술은 기업 고객과 내부 서비스에 현재 당사 데이터센터에서 가동 중인 최신 하드웨어 대비 달러당 30% 향상된 성능을 제공합니다. AI 토큰 생성의 경제성을 최적화하도록 설계된 이 가속기는 마이크로소프트 클라우드 플랫폼 전반에서 고성능 생성형 AI 워크로드를 처리합니다. 이 맞춤형 실리콘은 OpenAI의 GPT-5.2를 포함한 인공지능 모델을 구동하는 동시에 Microsoft Foundry 및 Microsoft 365 Copilot 내부 서비스를 지원합니다. 내부 연구팀도 이 하드웨어를 적극 활용하고 있습니다. Microsoft Superintelligence 그룹은 합성 데이터 생성 및 강화 학습에 이 시스템을 도입하여 다운스트림 모델 개발을 위한 도메인 특화 학습 데이터의 생성과 필터링을 가속화하고 있습니다.
신형 추론 가속기의 기술 사양 및 명세
마이크로소프트 Maia 200 사양은 750와트 열설계전력(TDP) 범위 내에서 작동하며 1,400억 개 이상의 트랜지스터를 탑재한 TSMC의 3나노미터 제조 공정을 특징으로 합니다. 저정밀도 연산에 최적화된 각 칩은 4비트 정밀도(FP4)에서 10페타플롭스 이상, 8비트 정밀도(FP8)에서 5페타플롭스 이상의 연산 성능을 제공합니다. 데이터 전송 병목 현상을 해결하기 위해 메모리 서브시스템은 7 TB/s 대역폭을 제공하는 216GB HBM3e 메모리와 272MB 온칩 SRAM을 통합했습니다. 전문 다이렉트 메모리 액세스 엔진과 단정밀도 데이터 유형에 맞춰 제작된 맞춤형 온칩 네트워크 패브릭을 통해 데이터 이동 속도가 더욱 향상되었습니다.
AI 하드웨어 벤치마크로 본 Maia 200 대 Trainium 3 비교
성능 벤치마크에서 Maia 200 대 Trainium 3을 비교한 결과, 마이크로소프트의 칩은 Amazon의 3세대 가속기보다 3배 높은 FP4 연산 처리량을 기록했습니다. 또한 이 신형 프로세서는 Google의 7세대 TPU보다 높은 8비트 정밀도 FP8 연산 성능을 달성했습니다. 마이크로소프트에 따르면 이러한 결과는 해당 장치가 하이퍼스케일 클라우드 제공업체가 배포한 자체 실리콘 중 가장 뛰어난 성능을 발휘함을 입증합니다. 연산 코어와 메모리 계층 구조를 토큰 생성에 특화함으로써, 이 아키텍처는 대규모 모델 배포 환경에서 더 높은 지속적 하드웨어 활용률을 달성합니다.
TSMC 3nm 공정 기반 Maia 200 아키텍처의 데이터센터 확장 방식
TSMC 3nm 기반 Maia 200 아키텍처는 커스텀 실리콘 설계와 표준 이더넷 기반의 2계층 스케일업 네트워크를 결합했습니다. 독자적인 인터커넥트 패브릭에 의존하는 대신, 이 시스템은 전용 전송 프로토콜과 통합 네트워크 인터페이스 카드를 사용하여 전체 배포 비용을 낮춥니다. 각 칩은 2.8 TB/s의 전용 양방향 스케일업 대역폭을 제공합니다. 서버 트레이 내부에서는 4개의 가속기가 스위치를 거치지 않는 직렬 링크로 연결되어 고대역폭 통신을 로컬 상태로 유지합니다. 단일화된 전송 계층 덕분에 노드와 랙을 넘어 최대 6,144개 칩 클러스터까지 매끄럽게 확장할 수 있습니다. 초기 하드웨어는 디모인 인근의 미국 중부 데이터센터 지역에 배포되었으며, 피닉스 인근의 미국 서부 3 지역으로의 확장이 다음으로 계획되어 있습니다.
개발자가 마이크로소프트 자체 AI 칩의 추론 워크로드를 프로그래밍하는 방법
개발자들은 PyTorch와 직접 연동되는 새로운 프리뷰 소프트웨어 개발 키트(SDK)를 사용하여 마이크로소프트 자체 AI 칩 추론 워크로드를 최적화합니다. 이 SDK는 Triton 컴파일러, 최적화된 커널 라이브러리, 하드웨어 하위 레벨 제어를 위한 신경망 프로그래밍 언어 접근 권한을 포함합니다. 또한 엔지니어가 소프트웨어 개발 수명 주기 초기부터 성능과 효율성을 모델링할 수 있는 시뮬레이터와 비용 계산기도 제공합니다. 실리콘 제작 전 동시 개발 과정을 거친 덕분에 실물 하드웨어 도착 후 불과 며칠 만에 모델을 구동할 수 있었으며, 이는 기존 인프라 프로그램 대비 데이터센터 랙 배포 시간을 절반 이상 단축시켰습니다.
자주 묻는 질문
마이크로소프트 Maia 200은 어떻게 Azure AI 추론 비용을 절감합니까?
이 가속기는 마이크로소프트 가동 인프라 중 최신 하드웨어 대비 달러당 성능을 30% 향상시켜 추론 비용을 절감합니다. FP4 및 FP8 텐서 코어, 216GB HBM3e 메모리, 이더넷 기반 스케일업 네트워크를 결합하여 전체 전력 소비와 총소유비용(TCO)을 낮춤으로써 이러한 효율성을 달성합니다.
마이크로소프트 Maia 200의 기술 사양은 무엇입니까?
1,400억 개 이상의 트랜지스터를 갖추고 TSMC 3nm 공정으로 제조된 이 가속기는 750W TDP에서 10페타플롭스 이상의 FP4 연산과 5페타플롭스 이상의 FP8 연산을 제공합니다. 칩당 7 TB/s 대역폭의 216GB HBM3e 메모리, 272MB SRAM, 2.8 TB/s 양방향 스케일업 네트워킹 용량을 갖추고 있습니다.
Maia 200은 Google TPU 및 AWS Trainium과 어떻게 비교됩니까?
이 가속기는 Amazon 3세대 Trainium 하드웨어보다 3배 높은 FP4 연산 처리량을 달성합니다. 또한 FP8 연산 출력은 Google 7세대 TPU의 연산 성능을 상회합니다.
MOZGII의 시각
우리라면 이렇게 만듭니다
저희가 대규모 언어 모델용 클라우드 추론 아키텍처를 구축한다면, 토큰 생성 비용과 메모리 대역폭에 집중할 것입니다. 이더넷 네트워크로 연결된 맞춤형 반도체에서 FP4 및 FP8 모델을 구동할 것입니다. 시스템은 들어오는 프롬프트를 직접 메모리 접근 엔진으로 보내는 동안 고대역폭 메모리에서 모델 가중치를 가져올 것입니다. 소프트웨어 팀은 PyTorch와 Triton을 사용해 저정밀도 연산을 제어하도록 모델 코드를 수정할 것입니다.
저희라면 시스템 운영자를 배치해 서버 트레이 전반의 랙 온도와 네트워크 포화를 모니터링하게 할 것입니다. 저정밀도 양자화로 인해 출력 품질이 떨어지거나 트래픽 급증 시 이더넷 전송 버퍼가 넘치면 시스템이 작동을 멈출 것입니다. 정확도가 기준 목표치 이하로 떨어질 때 더 높은 정밀도로 복귀하도록 엄격한 소프트웨어 제어를 설정할 것입니다. 주시해야 할 단 하나의 지표는 생성된 백만 토큰당 비용일 것입니다.
다음으로, 배포 전에 모델 메모리 사용량을 분석하는 자동화된 컴파일러 프로파일링 도구를 구축할 것입니다. 또한 동일한 서버 랙에서 더 작은 전문화된 모델을 학습시키기 위해 합성 데이터 생성 워크플로를 통합할 것입니다.
출처
이 기사의 사실은 다음 출처에서 가져왔습니다.