Microsoft, 2.8조 파라미터 모델 MAI-Base-2 완성

이 모델의 파라미터는 2.8조 개이며, 파라미터는 모델이 학습하면서 조정하는 수치입니다. 토큰(단어 또는 단어 조각) 하나를 처리할 때 이 가운데 800억 개만 작동합니다.

주장은 대담합니다. Microsoft는 학습에 쓰지 않은 자체 비공개 질문 세트로 돌려 본 오픈 웨이트 모델(파일을 누구나 내려받을 수 있는 모델)을 모두 앞섰다고 밝혔습니다. 비교 대상 중 가장 강한 오픈 베이스 모델인 DeepSeek-V4-Pro-Base보다 사전 학습 효율이 4~12배라고 주장합니다.

학습 데이터 어디에도 다른 모델을 증류(다른 모델의 답변을 따라 하며 배우는 방식)해 얻은 것이 없어서, 기업용 AI 플랫폼 Foundry를 통해 신뢰할 수 있는 파트너에 가중치를 라이선스로 제공할 수 있다고 Microsoft는 밝혔습니다. Constellation Research가 보도했습니다.

사내 회의에서 Microsoft AI 수장 Mustafa Suleyman은 이 베이스 모델이 OpenAI의 GPT 5.6 Sol을 뒷받침하는 모델을 앞선다고 말했다고 Business Insider가 보도했습니다. 학습에는 OpenAI의 4분의 1 수준의 컴퓨팅 자원이 들었다고도 덧붙였습니다.

Microsoft의 라이선스 계획은 자사 클라우드를 쓰는 기업이 자체 데이터로 튜닝할 수 있는 대형 사내 베이스 모델을 제시하는 셈입니다.