A Microsoft treina um modelo próprio de 2,8 trilhões de parâmetros e só vai compartilhá-lo com parceiros
A empresa que bancou a OpenAI agora tem um modelo-base próprio de escala de fronteira. Não vai distribuí-lo de graça.
Por A redação, Reportagem · · 1 min de leitura
Tags: microsoft · modelos · mai · pré-treino
- A notícia
- A empresa que bancou a OpenAI agora tem um modelo-base próprio de escala de fronteira.
- Por que importa
- Não vai distribuí-lo de graça.
- O que está confirmado
- A fotografia foi gerada para esta matéria.
Ligado a uma fonte nomeada. Não marcado como verificado. Microsoft AI news
A notícia
A Microsoft AI disse que concluiu o pré-treino do MAI-Base-2, um modelo de mistura de especialistas com 2,8 trilhões de parâmetros no total e 80 bilhões ativos, treinado em 16.000 GPUs GB200 ao longo de 38 dias, em agosto e setembro, em 50 trilhões de tokens. O modelo está agora em pós-treino, e a Microsoft planeja licenciar os pesos a parceiros de confiança por meio do Foundry.
Por que importa
A Microsoft dependeu da OpenAI para seus modelos de fronteira. Um modelo-base deste tamanho lhe dá poder de barganha, e compartilhar os pesos de forma seletiva, e não abertamente, a diferencia da Meta e da Nvidia.
Os detalhes
A Microsoft afirma que o MAI-Base-2 supera todos os modelos de pesos abertos que testou na medida de bits por byte em dados reservados, que mostra quão bem um modelo prevê texto inédito, e que é de 4,2 a 12,3 vezes mais eficiente em computação no pré-treino do que o DeepSeek-V4-Pro-Base. Os números de eficiência são estimativas a partir de leis de escala ajustadas e foram informados pelo fornecedor.
Cerca de 18% dos dados de treino eram material de visão e linguagem. O corte de conhecimento é março de 2026.
O que não conseguimos checar
- Comparações de modelo-base não podem ser checadas até os parceiros terem acesso.
- A Microsoft comparou alguns rivais apenas como checkpoints já pós-treinados.
Fontes
A fotografia foi gerada para esta matéria. Ela não mostra as pessoas citadas no texto.