Отчет: Microsoft в следующем году масштабно внедрит собственные AI-чипы с целью повышения эффективности инференса на 40%

Microsoft усиливает разработку собственных AI-чипов, планируя развернуть серию Maia в масштабе гигаватт, постепенно снижая зависимость от GPU компании NVIDIA и контролируя стоимость AI-инфраструктуры за счёт повышения эффективности обработки.

12 октября, согласно Bloomberg, Microsoft в понедельник объявила, что новое поколение чипов Maia 300 начнёт внедряться в дата-центрах с следующего года и будет специально разработано для AI-инференса. Microsoft ожидает, что количество токенов, которое Maia 300 сможет обработать на мегаватт, будет на 40% выше по сравнению с актуальными системами на GPU, что означает возможность обслуживания большего объёма AI-нагрузок при том же уровне энергопотребления.

В отличие от Google и Amazon, которые уже открыли вычислительные мощности своих собственных чипов для облачных клиентов, Microsoft пока не планирует напрямую сдавать вычислительную мощность Maia сторонним клиентам. Такой выбор отражает приоритеты компании: в первую очередь использовать собственные чипы для удовлетворения огромного внутреннего спроса на AI-сервисы, а затем превращать преимущества аппаратной эффективности в конкурентоспособность бизнеса.

Развертывание в гигаваттном масштабе: энергоэффективность как ключевое преимущество

Microsoft наращивает инвестиции в собственные чипы, чтобы повысить эффективность AI-инференса и снизить операционные затраты.

Инференс подразумевает выполнение реальных задач с помощью обученных AI-моделей, например, резюмирование встреч, ответы на исследовательские вопросы и т.д. Это важный источник потребления вычислительных ресурсов для AI-приложений. Microsoft отмечает, что серия Maia специально разработана для инференс-нагрузок собственных дата-центров, позволяя эффективнее выполнять такие задачи и снижая потребность в закупках GPU NVIDIA, которая пока остаётся основным источником вычислительных мощностей для AI-инференса Microsoft.

Руководитель аппаратного бизнеса дата-центров Microsoft, Rani Borkar, заявила: «Мы уверены, что создали лучший продукт для этих рабочих нагрузок. С будущего года мы начнем развертывание Maia в масштабе гигаватт, что подтверждает нашу уверенность на практике».

Предыдущие поколения уже внедрены; новый чип выйдет в следующем году

Стратегия разработки собственных чипов Microsoft стартовала давно. В начале этого года компания начала установку предшествующей модели Maia 200 в дата-центрах. Этот чип уже задействован для работы Copilot и других AI-задач.

Borkar рассказала, что Maia 200 поддерживает модели OpenAI, собственные AI-модели Microsoft и несколько серий открытых моделей, и развернута в дата-центрах в США, Европе и Австралии, обеспечивая AI-возможности для Microsoft Teams, Copilot и других продуктов.

Новое поколение Maia 300 ожидается к внедрению в следующем году. Microsoft рассчитывает использовать её энергоэффективность для дальнейшей оптимизации конфигурации вычислительных ресурсов и снижения стоимости AI-инференса в активно растущем бизнесе компании.

Microsoft догоняет Google и Amazon на рынке собственных чипов

На фоне того, что крупнейшие компании облачных вычислений активно развивают собственные AI-чипы, позиции Microsoft выглядят менее передовыми. Google и Amazon начали раньше и уже построили лидирующее положение на рынке, предоставив вычислительные возможности своих чипов облачным клиентам.

Microsoft же выбирает другой путь развития. Borkar отметила: «Наши собственные AI-сервисы уже достаточно масштабные, и мы хотим обслужить их в первую очередь».

Это означает, что на данный момент Microsoft предпочитает применять чипы Maia для внутренних AI-задач, а не сдавать в аренду вычислительные мощности непосредственно для получения дохода. Для инвесторов коммерческая ценность Maia будет зависеть в первую очередь от того, сможет ли она повысить эффективность работы AI-сервисов, снизить затраты на инференс и улучшить прибыльность соответствующего бизнеса, а не от доходов, получаемых от аренды чипов.