Microsoft trainiert ein eigenes Modell mit 2,8 Billionen Parametern und teilt es nur mit Partnern

Die Nachricht

Microsoft AI sagte, es habe das Vortraining von MAI-Base-2 abgeschlossen, einem Mixture-of-Experts-Modell mit insgesamt 2,8 Billionen Parametern und 80 Milliarden aktiven Parametern, trainiert auf 16.000 GB200-GPUs über 38 Tage im August und September auf 50 Billionen Token. Das Modell ist nun im Nachtraining, und Microsoft plant, die Gewichte über Foundry an vertrauenswürdige Partner zu lizenzieren.

Warum es zählt

Bei Frontier-Modellen war Microsoft auf OpenAI angewiesen. Ein Basismodell dieser Größe gibt ihm Hebel, und die Gewichte nur ausgewählt zu teilen, nicht offen, hebt es von Meta und Nvidia ab.

Die Einzelheiten

Microsoft behauptet, MAI-Base-2 schlage jedes Modell mit offenen Gewichten, das es getestet habe, bei zurückgehaltenen Bits pro Byte, einem Maß dafür, wie gut ein Modell ungesehenen Text vorhersagt, und es sei im Vortraining 4,2- bis 12,3-mal recheneffizienter als DeepSeek-V4-Pro-Base. Die Effizienzzahlen sind Schätzungen aus angepassten Skalierungsgesetzen und stammen vom Anbieter.

Etwa 18 Prozent der Trainingsdaten waren Material aus Bild und Sprache. Der Wissensstichtag ist März 2026.

Was wir nicht prüfen konnten

• Vergleiche der Basismodelle lassen sich erst prüfen, wenn Partner Zugang bekommen.
• Einige Rivalen verglich Microsoft nur als nachtrainierte Checkpoints.