MS, '마이아' AI칩 멀티기가와트 확대…300은 내년 배포

애저 마이아 300 프로토타입 칩. (사진=MS)

[이데일리 한광범 기자] 마이크로소프트가 자체 AI 가속기 ‘애저 마이아(Azure Maia)’ 배포를 2027년부터 멀티기가와트 규모로 확대한다. 현재 운영 중인 마이아200을 코파일럿 등 주요 서비스에 적용하고, 차세대 마이아300은 긴 문맥과 에이전틱 AI에 최적화한 추론용 시스템으로 내년부터 배포한다.

MS는 13일 애저 마이아 제품군을 자사 AI 인프라의 핵심 축으로 확대하고, 향후 주요 제품과 서비스의 AI 추론 시스템으로 활용할 계획이라고 밝혔다. 마이아200은 이미 MS 코파일럿 등 프로덕션 워크로드에 적용되고 있으며, 마이크로소프트 AI(MAI) 팀의 차세대 모델 개발도 지원하고 있다. 깃허브 코파일럿과 MS 파운드리에도 연말까지 적용될 예정이다.

마이아200은 오픈AI 모델과 마이크로소프트 자체 MAI 모델, 주요 오픈소스 모델을 구동한다. 미국과 유럽, 호주 등에 배포돼 있으며 팀즈와 코파일럿, 코워크 등의 AI 기능을 처리할 때 선도적인 GPU 인프라보다 와트당 최대 1.7배 많은 토큰을 처리한다고 회사 측은 설명했다.

차세대 마이아300은 긴 문맥 추론과 저지연 대화형 AI, 지속적인 다단계 에이전틱 작업을 겨냥한 ‘추론 우선’ 아키텍처로 설계됐다. MS는 마이아300이 선도적인 GPU 기반 시스템보다 메가와트당 최대 40% 더 많은 토큰을 처리하고, 96개 가속기를 탑재한 랙에서는 마이아200 대비 최대 7배의 토큰 처리량을 제공할 것으로 기대하고 있다.

마이아300에는 8개의 HBM4 스택이 적용돼 950와트 TDP 기준 최대 18.0TB/s의 메모리 대역폭을 제공한다. 컴퓨팅 칩렛은 TSMC N2P 공정으로 제조하며, 멀티 칩렛 구조를 통해 컴퓨팅과 메모리 컨트롤러, 입출력 기능을 분리해 효율성과 확장성을 높였다.

네트워크 역시 데이터센터 규모 확장을 고려해 설계됐다. 마이아300 랙 시스템은 167킬로와트 전력 한도 안에서 96개 가속기를 통합하고, 총 27.6TB HBM 용량과 1.7PB/s의 HBM 대역폭을 제공한다.

MS는 마이아200과 300을 깃허브 코파일럿, MS 파운드리, MAI 모델 추론·데이터 생성, 의료용 ‘드래곤 코파일럿’ 등 다양한 AI 서비스에 활용한다는 계획이다. 마이아300은 2027년 프로덕션 배포를 시작한다. MS는 다음 달 열리는 ‘마이크로소프트 이그나이트 2026’에서 AI 인프라 전략과 관련 기술 도입 현황을 추가로 공개할 예정이다.