Rapport : Microsoft déploiera massivement ses propres puces IA l'année prochaine, visant une amélioration de 40 % de l'efficacité de l'inférence

Microsoft intensifie ses efforts dans le développement de ses propres puces AI, prévoyant de déployer les puces de la série Maia à une échelle de gigawatt, afin de réduire progressivement sa dépendance aux GPU de NVIDIA et de contrôler le coût des infrastructures AI grâce à une meilleure efficacité d'inférence.

Le 12 octobre, selon Bloomberg, Microsoft a annoncé lundi que la nouvelle génération de puces Maia 300 sera déployée dans les centres de données l’année prochaine, spécialement conçue pour les tâches d'inférence AI. Microsoft prévoit que le nombre de tokens pouvant être traités par Maia 300 par mégawatt sera supérieur de 40 % à celui des systèmes GPU classiques, ce qui signifie qu’une charge de travail AI plus importante pourra être supportée à consommation énergétique égale.

Contrairement à Google et Amazon, qui ont ouvert la puissance de calcul de leurs puces maison à des clients cloud, Microsoft n’envisage pas actuellement de louer directement la puissance de calcul des puces Maia à des clients externes. Ce choix reflète la priorité de Microsoft : d’abord répondre aux besoins massifs de ses propres services AI avec ses puces maison, puis transformer l’avantage d’efficacité matérielle en compétitivité commerciale.

Déploiement au niveau gigawatt, l'efficacité énergétique est la logique principale

Le renforcement du développement de puces maison par Microsoft vise essentiellement à améliorer l’efficacité d’inférence AI et à réduire les coûts d’exploitation.

L'inférence consiste à utiliser un modèle AI entraîné pour exécuter des tâches réelles, comme la synthèse de comptes-rendus de réunion, répondre à des questions de recherche, etc. Elle constitue également une source importante du besoin en puissance de calcul lors du fonctionnement d’applications AI. Microsoft indique que la série Maia est spécialement conçue pour les charges d’inférence dans ses propres centres de données, permettant l’exécution de ces tâches de façon plus efficace et réduisant l’achat de GPU NVIDIA, qui reste à ce jour la principale source de puissance de calcul pour l’inférence chez Microsoft.

La responsable des activités hardware des centres de données chez Microsoft, Rani Borkar, a déclaré : « Nous sommes convaincus d'avoir développé le meilleur produit pour ces charges de travail. À partir de l’année prochaine, nous déploierons Maia à l'échelle du gigawatt, pour prouver concrètement notre confiance. »

La génération précédente déjà déployée, le nouveau modèle prend la relève l'année prochaine

La stratégie de développement de puces maison de Microsoft a été lancée depuis longtemps. Au début de cette année, la société a commencé à installer dans ses centres de données la puce Maia 200 de génération précédente, déjà utilisée pour alimenter Copilot et d'autres logiciels AI ainsi que d’autres tâches.

Borkar a précisé que Maia 200 prend en charge les modèles OpenAI, les modèles AI maison développés par Microsoft ainsi que plusieurs séries de modèles open source. Son déploiement couvre des centres de données aux États-Unis, en Europe et en Australie, fournissant des capacités AI à des produits comme Microsoft Teams et Copilot.

La nouvelle génération de Maia 300 devrait commencer à être déployée l’année prochaine. Microsoft espère, grâce à son avantage en matière d’efficacité énergétique, optimiser davantage la répartition de la puissance de calcul dans ses activités AI en expansion continue, et réduire les coûts d’inférence.

Sur la voie des puces maison, Microsoft rattrape Google et Amazon

Dans le contexte où tous les géants du cloud computing développent leurs propres puces AI, Microsoft a pris du retard dans son agenda. Google et Amazon ont démarré plus tôt, établissant une avance dans le domaine, et ont ouvert leur puissance de calcul maison à leurs clients cloud.

Microsoft a opté pour un parcours commercial différent. Borkar a déclaré : « Notre activité de services AI en interne est déjà suffisamment vaste, nous voulons d’abord nous servir nous-mêmes. »

Cela signifie que Microsoft, à ce stade, préfère utiliser les puces Maia pour ses activités AI internes, plutôt que de générer directement des revenus via la location de puissance de calcul. Pour les investisseurs, la valeur commerciale de Maia dépendra davantage de sa capacité à améliorer l’efficacité des services AI, à réduire les coûts d’inférence, et finalement à améliorer la rentabilité des activités associées, plutôt que des revenus directs générés par la location de puces.