마이크로소프트 마이아 300 공개—탈엔비디아, 이번엔 진짜다

10년 넘게 IT 시장을 지켜보면서 빅테크들이 "엔비디아 안 쓰겠다"고 선언한 게 벌써 몇 번째인지 모른다. 구글은 TPU로, 아마존은 트레이니엄으로, 메타는 MTIA로—다들 자체 칩 띄우겠다고 했지만 결국 엔비디아 H100, B200 계속 사들이고 있다. 그래서 마이크로소프트가 10월 12일 마이아 300을 공개했을 때 솔직히 처음엔 '또 발표 쇼구나' 싶었다.

근데 이번엔 뭔가 다르다. 숫자가 다르고, 구체적인 배치 계획이 달렸다.

마이아 300, 스펙부터 보자

마이아(Maia)는 마이크로소프트가 Azure 데이터센터용으로 자체 개발해온 AI 가속기다. 2023년 마이아 100을 처음 공개한 뒤 마이아 200을 거쳐 이번 마이아 300이 세 번째 세대다.

스펙을 뜯어보면: HBM4 메모리 8개를 한 칩에 탑재해 총 288GB, 메모리 대역폭은 초당 18TB다. 마이아 200이 초당 약 7TB였으니 2.5배 이상 뛰었다. 연산 성능은 FP4 기준 13.8 PFLOPS, FP8에서는 6.9 PFLOPS. 설계전력(TDP)은 950W다. 마이아 200이 750W였던 것과 비교하면 전력은 올랐지만 처리량이 더 크게 올랐다. 96개 가속기를 하나의 랙으로 구성하면 마이아 200 대비 토큰 처리량이 7배라고 MS는 밝혔다.

제조 공정도 눈에 띈다. TSMC의 N2P, 즉 2나노미터급 공정이다. 메인 연산 칩과 메모리·I/O 칩을 따로 제조해 하나로 결합하는 멀티칩렛 설계를 택했다. 엔비디아 블랙웰 울트라가 TSMC 4nm인 걸 생각하면 공정 세대에서 한 단계 앞서 있다.

핵심 비교 수치 하나: 같은 전력 1메가와트(MW)당 처리하는 AI 토큰이 주요 GPU 기반 시스템보다 40% 많다. 데이터센터에서 전력은 곧 운영비다. 40%면 연간 수조 원 단위 절감이 가능하다는 뜻이다.

'추론 전용'이라는 전략이 영리한 이유

MS가 강조하는 건 추론(inference) 특화다. AI 워크로드는 크게 두 단계로 나뉜다. 모델을 훈련시키는 학습(training)과, 훈련된 모델을 실제로 돌려 답변을 만드는 추론. 마이아 300은 추론에 집중하고, 대규모 학습은 여전히 엔비디아 H200·B200과 AMD GPU를 쓴다고 MS는 못 박았다.

이 이원화 전략이 솔직히 현명하다. 학습 시장은 엔비디아가 CUDA 생태계로 너무 깊이 장악하고 있어서 단기간에 뒤집기 어렵다. 반면 추론은 다르다. 매일 수십억 건씩 들어오는 Copilot 요청, Teams AI 실시간 자막, Azure OpenAI API 호출—이게 전부 추론이다. 규모가 엄청나고, 거기서 전력 효율 40%를 아끼면 숫자가 달라진다.

마이아 300 설계 목적 자체가 "긴 컨텍스트 추론, 대화형 응답, 멀티스텝 에이전트 작업"이라고 MS는 명시했다. 바로 Copilot이 하는 일이다. 자사 제품 인프라를 자사 칩으로 돌리겠다는 수직 통합 전략인 셈이다.

삼성·SK하이닉스는 오히려 이득

이 뉴스에서 덜 주목받는 부분이 있다. MS가 엔비디아를 줄이겠다고 해도 HBM은 오히려 더 많이 필요하다는 거다.

마이아 300 한 개에 HBM4가 8개 들어간다. MS가 2027년부터 마이아 300을 100만 개 이상 배치하겠다고 했으니, HBM4 수요만 800만 개 이상이 새로 생긴다. 서울경제는 삼성전자·SK하이닉스의 HBM 수요가 기존 대비 3배 이상 늘어날 수 있다는 전망을 전했다.

세계 HBM 시장에서 SK하이닉스와 삼성전자의 점유율을 합치면 90%를 넘는다. 탈엔비디아를 하든 안 하든 AI 반도체 공급망의 핵심 고리인 메모리는 여전히 한국산이다. 아이러니하게도 MS가 엔비디아에서 멀어질수록 삼성·SK하이닉스에는 더 유리한 구도가 만들어진다. 엔비디아가 HBM을 독점 확보하던 구조가 MS, 구글, 아마존 등으로 분산되니 협상력도 올라간다.

이번엔 진짜인가—내 판단

솔직히 말하면 이렇다: '진짜 시작점'이라는 건 인정한다. 근데 탈엔비디아 완성은 아직 멀다.

마이아 300은 2027년부터 생산 배치다. 지금은 발표 단계다. 마이아 200이 현재 소수 데이터센터에서 시험 운용 중이고, 300은 그다음 세대다. 그리고 엔비디아도 가만있지 않는다. 블랙웰 울트라가 이미 출시됐고, 루빈 아키텍처가 준비 중이다. 엔비디아의 가장 강력한 해자인 CUDA 생태계는 칩 성능만으로는 단기간에 깰 수 없다.

그럼에도 이번 마이아 300이 과거 발표들과 다른 점 하나: 구체적인 숫자를 달았다. "100만 개 이상 배치", "수 기가와트 규모" — 숫자를 내걸었다는 건 내부 확신이 그만큼 있다는 신호다. 예전 구글 TPU 발표나 아마존 트레이니엄 발표 때는 이만큼 구체적이지 않았다.

빅테크들의 탈엔비디아 시도가 수년째 반쪽짜리로 끝난 이유는 결국 소프트웨어 생태계였다. 하드웨어 성능이 좋아도 CUDA로 짜인 수백만 개의 모델과 라이브러리를 새 플랫폼에서 돌리려면 엄청난 마이그레이션 비용이 든다. MS가 이 문제를 어떻게 풀고 있는지, 마이아용 소프트웨어 스택은 어디까지 완성됐는지—그게 마이아 300 이야기의 진짜 핵심인데 아직 공개된 정보가 많지 않다.

내년 실제 배치 단계에서 그 답이 나올 것 같다.

마이크로소프트가 10월 12일 발표한 마이아 300은 그냥 신제품 공개가 아니라 수 기가와트 규모의 Azure AI 인프라 전환 선언이다. 엔비디아 없이 추론을 돌리겠다는 목표는 명확해졌다. HBM4 수요가 폭증하면 삼성전자·SK하이닉스에도 기회다. 2027년 배치 결과가 이 판의 방향을 바꿀 수도 있다.