Sur quoi le modèle MAI de Microsoft a-t-il réellement été entraîné?

À retenir

• L’affirmation intéressante de MAI ne concerne pas seulement les performances aux benchmarks. C’est le choix de retirer les données générées par l’IA de l’entraînement.
• Si un modèle copie le raisonnement d’un autre modèle, vous héritez d’un comportement qui peut être plus difficile à auditer, à orienter ou à expliquer.
• Pour les builders, le choix d’un modèle devrait tenir compte des hypothèses sur les données d’entraînement, pas seulement des chiffres des classements.

En ce moment, presque tous les laboratoires d’IA entraînent discrètement leurs modèles sur les outputs d’autres modèles. En gros, ils copient le travail des autres. Microsoft a fait l’inverse.

Ils ont refusé d’utiliser des données synthétiques, puis ils ont activement traqué le contenu généré par l’IA et l’ont retiré avant l’entraînement. Et ils ont écrit un rapport de 100 pages qui met au défi tous les autres laboratoires de prouver qu’ils ont fait la même chose.

Ce mois-ci, Microsoft AI a annoncé sept modèles MAI créés à l’interne pour le raisonnement, le code, l’image, la transcription et la voix. Mais celui qui nous intéresse est MAI-Thinking-1, leur modèle de raisonnement phare. Il bat Claude Sonnet 4.6 sur AIME 2025, une compétition de mathématiques très prestigieuse pour les écoles secondaires américaines. Cependant, ce qui rend cette sortie digne de votre attention n’est pas seulement sa performance aux benchmarks, mais aussi son rapport, plus transparent que tout ce que j’ai lu d’un grand laboratoire cette année.

Voici pourquoi c’est important. Presque tous les autres laboratoires d’IA qui ont réussi à faire ça y sont arrivés avec des données synthétiques ou de la distillation. Autrement dit, ils se sont entraînés sur les outputs d’un autre modèle.

DeepSeek a utilisé 800 000 exemples de raisonnement pour y arriver. Llama 4 a été distillé à partir d’un Llama plus gros. Qwen3 a littéralement appelé sa méthode « Strong-to-Weak Distillation » dans son propre rapport. Et puis il y a toutes les affirmations contestées autour d’OpenAI, Anthropic et Google, qui se copieraient les uns les autres.

Tout le monde en IA pose donc la même question embarrassante. Quelle part de l’intelligence d’un nouveau modèle a réellement été apprise, et quelle part a simplement été copiée? Microsoft a décidé de rendre sa réponse parfaitement claire.

À la deuxième page de son rapport, Microsoft écrit : « Nous choisissons de ne pas utiliser de données synthétiques générées par des modèles de langage pendant le pré-entraînement et nous nous efforçons d’éviter et de retirer le contenu généré par l’IA des sources de données recueillies. »

Cela dit, la distillation existe pour une raison. Une fois que vous avez un modèle puissant, produire un million d’exemples d’entraînement supplémentaires avec ce modèle est rapide et peu coûteux. Le faire proprement, trouver et vérifier de vraies données produites par des humains, est coûteux et lent. Et Microsoft a choisi de payer cette facture à la place.

Je suis Louis-François, CTO et cofondateur de Towards AI, où nous transformons des ingénieurs en ingénieurs IA qui créent et livrent des produits d’IA. Entrons dans le vif du sujet!

D’abord, parlons des spécifications. MAI-Thinking-1 est un modèle à mélange d’experts : 1 billion de paramètres au total, dont 35 milliards sont actifs par token. Vous obtenez donc l’échelle d’un modèle à un billion de paramètres, mais chaque token ne paie que pour une mince portion active. C’est ce qui permet de le servir sur des systèmes de classe GB200 au lieu de consommer le compute d’un modèle dense de 1T à chaque passe avant.

Le modèle a été pré-entraîné sur 30 billions de tokens, puis soumis à un mid-training sur 3,55 billions de tokens supplémentaires. Le mid-training est essentiellement une deuxième passe de pré-entraînement sur un mélange plus petit et plus propre. Pour ce modèle, il se concentre sur les STEM, les mathématiques et le code, et a servi à faire passer le contexte de 16K à 64K, puis à 256K.

Les grands résultats aux benchmarks sont réels, et nous verrons plus tard exactement où il gagne et où il perd. Pour l’instant, le point important est qu’ils ont atteint des résultats comparables à ceux des modèles de pointe tout en refusant le raccourci que tous les autres prennent.

Maintenant, il est facile d’exagérer cette histoire, alors soyons précis. Microsoft ne prétend pas n’avoir absolument rien de synthétique. Plus tard, pendant le RL, ils font de l’auto-distillation à partir de leurs propres checkpoints, utilisent des environnements synthétiques à certains endroits et fusionnent de nouveau des modèles enseignants spécialisés dans un seul modèle. La véritable affirmation est plus étroite et plus intéressante : aucune donnée synthétique générée par un LLM pendant le pré-entraînement, retrait actif du contenu généré par l’IA dans les sources recueillies et aucune distillation à partir de modèles tiers. Les capacités de base sont censées provenir de données générées par des humains et de leur propre stack d’entraînement, pas de Claude, GPT, Gemini ou d’un enseignant caché.

Microsoft organise le tout autour de trois principes de design. Premièrement, les capacités devraient être apprises, et non héritées ; un modèle qui a copié la pensée d’un autre est plus difficile à orienter. Deuxièmement, les recettes simples et propres passent à l’échelle ; les raccourcis s’accumulent pour devenir des hacks. Troisièmement et enfin, si vous ne pouvez pas prouver qu’un choix aide, vous ne le faites pas. Et si ces principes ressemblent à des pointes lancées à tous les autres laboratoires en 2026… c’est parce que ce sont bel et bien des pointes.

Beaucoup de laboratoires disent : « Nous n’utilisons pas de données synthétiques. » Mais cette formulation devient vite floue. Microsoft a réellement tracé quatre lignes rouges.

Nous avons vu les deux premières. Les deux autres sont plus inhabituelles. D’un côté : aucun dataset open source prêt à l’emploi. Tout est traité à l’interne à partir de sources brutes qu’ils contrôlent. De l’autre : aucune donnée privée de clients, sauf si l’utilisateur a choisi de participer.

Ils ont même exclu Hugging Face de leur crawl. Le plus grand hub d’IA ouverte de la planète, et ils ont refusé de s’entraîner dessus parce qu’ils ne pouvaient pas faire confiance à ce qui s’y trouvait. Imaginez être en 2015 et ne pas avoir le droit d’utiliser Wikipédia.

Et pendant qu’on en parle, leur attention aux détails va loin. Pour Wikipédia, ils se sont entraînés sur le markup brut plutôt que sur le HTML propre, même s’il est trois fois plus verbeux. Pourquoi? Parce que la version nettoyée perd les infoboxes, ces panneaux structurés qui contiennent les populations, les dates et toute l’information factuelle dense. Ils ont payé trois fois le coût en tokens juste pour conserver ce signal.

Mais voici la partie que les ingénieurs IA devraient vraiment leur voler. Ils n’ont pas choisi leur mélange de données au feeling. Ils ont entraîné 183 modèles à partir de zéro sur 61 mélanges différents pour découvrir ce qui fonctionnait. Et la leçon a été douloureuse : les petits modèles mentent. Un mélange riche en STEM semblait être le meilleur à petite échelle, mais un mélange riche en code a gagné lorsque le modèle est devenu plus gros. Donc, si votre expérience sur les données fonctionne seulement à l’échelle d’un modèle jouet, vous ajustez peut-être votre expérience plutôt que votre véritable modèle.

Le mélange final est aussi intéressant. Il contient surtout du code, qui représente plus de la moitié du mélange, beaucoup de STEM et étonnamment peu de mathématiques… sauf qu’ils répètent ces tokens de mathématiques cinq fois, plus que tout le reste. La stratégie n’était pas de s’entraîner sur Internet et de prier. C’était plutôt : mesurer quelles données prédisent réellement les compétences que vous voulez, puis prouver que le résultat tient encore lorsque le modèle passe à l’échelle.

Maintenant, si vous refusez tous les raccourcis, il faut bien payer la facture quelque part. Et Microsoft est honnête à ce sujet. À la page 30, ils l’admettent clairement : c’est leur premier modèle de raisonnement, alors il est parti de zéro sans chaîne de pensée à copier. Maintenir la stabilité de l’entraînement est donc devenu leur problème central. Avec des traces distillées, le modèle commence avec quelque chose qui ressemble déjà à une chaîne de pensée, puis le RL l’affine. Sans ça, les premiers rollouts sont moins bons, les rewards sont plus bruyantes, les longues traces consomment plus de compute d’inférence et l’entraînement peut s’effondrer de bien plus de façons avant même que le score au benchmark commence à bouger.

Le coût de ne pas partir de données distillées par un tiers se voit à trois endroits. Premièrement : ils ont dû ajouter des mécanismes supplémentaires de stabilité en RL, dont des ajustements à GRPO, de l’auto-distillation à partir de leurs propres checkpoints et du travail d’infrastructure pour éliminer les écarts numériques entre l’entraînement et l’inférence. Deuxièmement : ils ont fortement orienté le mélange de mid-training vers les STEM et le code, essentiellement pour remplacer le démarrage que les traces distillées leur auraient donné. Troisièmement : la courbe de perte du pré-entraînement, à la page 23, montre des pics visibles au début du run. Ils ont surmonté chacun de ces pics sans intervention. Ce dernier point n’est pas anodin. Sur 8 192 GPUs GB200, chaque heure réelle représente 8 192 heures-GPU avant même de compter les ingénieurs, la planification ou le coût d’opportunité. Microsoft rapporte 90 % de goodput sur le run de 30 billions de tokens, avec seulement 6,5 heures de surcharge liée aux recalculs. C’est la version coûteuse de « ça n’a pas planté assez fort pour nous arrêter ».

Alors, après avoir choisi chaque chemin difficile, où est-ce que le modèle arrive réellement? Dans les propres mots de Microsoft, à la page 53 : « il ne domine pas le domaine ». Et je respecte le fait qu’ils l’aient écrit eux-mêmes. La victoire est réelle : sur AIME 2025, il bat Sonnet 4.6, 97 contre 95,6. Les défaites sont tout aussi réelles. Il est derrière les deux modèles d’Anthropic sur SWE-bench Verified et GPT-5.4 double son score sur Terminal-Bench. Mais ils ne l’ont jamais entraîné dans des environnements de terminal. Ce score n’est donc pas un échec, c’est un modèle qui se débrouille bien sur une tâche que personne ne lui a enseignée. Entraînez directement la prochaine version pour cette tâche et elle devrait bondir.

La comparaison humaine côte à côte raconte la même histoire. Face à Sonnet 4.6, MAI gagne sur la concision et le style, et arrive à égalité sur la factualité et le respect des instructions. Préférence globale : plus 0,07, pratiquement une égalité. Face à Opus 4.6, il perd par la même marge. Le pari n’a donc pas fait de Microsoft le meilleur modèle au monde. Il en a fait un vrai concurrent et un laboratoire auquel vous pouvez faire confiance. La vraie question devient alors de savoir si ça valait le coût.

Ce que je veux vraiment faire passer ici est simple. La plupart de ces laboratoires sont d’excellents laboratoires qui font de l’excellent travail. La distillation n’est pas nécessairement un crime ; c’est un compromis. Mais Microsoft est l’un des très rares laboratoires à dire aussi précisément à quoi il s’engage en matière d’honnêteté. Et en 2026, c’est ce niveau de détail qui est rare.

Alors, que devez-vous en retenir si vous êtes en train de construire? Deux choses.

Premièrement, si vous choisissez un modèle ouvert, demandez de quoi il dépend en amont. Ça change les biais, les refus, les formats et les étranges habitudes du modèle enseignant dont vous héritez, ce qui est réellement le sujet du premier principe de Microsoft.

Deuxièmement, si le slop d’IA vous inquiète, cette boucle où les modèles s’entraînent sur les outputs des modèles précédents jusqu’à ce que la qualité se dégrade lentement, MAI-Thinking-1 offre jusqu’ici l’une des réponses les plus propres d’un laboratoire de pointe. Il n’a pas battu tout le monde. Mais le modèle de base n’a pas mangé le slop. Pour les équipes qui se soucient de la provenance et de la confiance en entreprise, ça pourrait compter davantage qu’un ou deux points dans un classement.

La question à laquelle je reviens constamment est de savoir si le coût valait le principe. Microsoft dit que oui. Les chiffres des benchmarks disent « plus ou moins ». Dans six mois, nous verrons si la provenance de Microsoft passe mieux à l’échelle que celle des modèles distillés, ou si les laboratoires qui font de la distillation ont trouvé comment continuer à grimper sans elle. 
Qu’en pensez-vous? Est-ce que ça en valait la peine? Dites-le-moi dans les commentaires. Et comme toujours, on se revoit dans la prochaine!

FAQ

Sur quoi le modèle MAI de Microsoft a-t-il été entraîné?

L’affirmation importante est que Microsoft a retiré le contenu synthétique généré par l’IA et entraîné MAI-Thinking-1 sans copier les outputs d’autres modèles.

Pourquoi les données d’entraînement comptent-elles ici?

Les données d’entraînement façonnent le comportement dont un modèle hérite. Des données synthétiques ou distillées peuvent rendre les capacités et leur provenance plus difficiles à auditer.

Que devraient retenir les builders de MAI-Thinking-1?

Ne jugez pas un modèle seulement selon ses benchmarks. Demandez à partir de quelles données il a appris, de quel comportement il a hérité et à quel point le laboratoire est transparent.

Qu’est-ce que ça signifie lorsque les capacités sont apprises plutôt qu’héritées?

Le modèle développe son comportement à partir des objectifs d’entraînement choisis au lieu de copier les traces de raisonnement générées par un autre modèle.

Pourquoi une expérience sur les données peut-elle échouer lorsqu’on la met à l’échelle?

Une méthode ajustée sur un modèle jouet peut exploiter des propriétés qui disparaissent à l’échelle du véritable entraînement.

Comment MAI-Thinking-1 peut-il avoir un billion de paramètres sans tous les utiliser pour chaque token?

Il utilise une architecture de mélange d’experts qui active environ 35 milliards de paramètres par token au lieu d’exécuter le modèle complet à chaque fois.