Nebius (NBIS.US) приобретает израильский стартап Inferize для усиления бизнеса AI-вычислений, сумма сделки может достигать 150 миллионов долларов.

По данным приложения Zhihui Finance, облачный провайдер AI-инфраструктуры Nebius (NBIS.US) объявил о приобретении израильского AI-стартапа Inferize, что позволит еще больше усилить его возможности в сфере инфраструктуры AI-инференса. Inferize специализируется на сокращении времени простоя графических процессоров (GPU) и ускорении развертывания крупных AI-моделей. Согласно оценкам израильского технологического издания Calcalist, сумма сделки составляет от 100 до 150 миллионов долларов США, однако Nebius не раскрыл точные финансовые условия.

Ключевым моментом этой сделки является повышение эффективности использования ресурсов GPU, особенно в условиях быстро меняющегося спроса на AI-инференс, что поможет Nebius оперативнее перераспределять вычислительные мощности и снижать время простоя дорогостоящего оборудования.

Решение узких мест эффективности AI-инференса Снижение простоя GPU

Ключевая технология Inferize направлена главным образом на решение проблемы “холодного старта” при развертывании AI-моделей. “Холодный старт” означает, что до начала обработки пользовательских запросов AI-модели необходимо загрузить модель и инициализировать соответствующие ресурсы. Когда инициализируется новый экземпляр для инференса, GPU может быть вынужден ожидать завершения загрузки модели перед началом вычислений, что создает кратковременный простой ресурсов.

Эта проблема особенно остро проявляется при резком увеличении спроса на AI-инференс. По мере роста числа запросов пользователей облачные провайдеры должны быстро запускать больше новых экземпляров для инференса, однако если загрузка модели занимает слишком много времени, вновь подключенные GPU не могут быть немедленно использованы, что негативно влияет на скорость реакции сервиса и общую эффективность использования вычислительных мощностей.

Технологии Inferize нацелены на сокращение этого промежутка ожидания, чтобы новые ресурсы для инференса могли быстрее включаться в работу и расширение вычислительных мощностей более точно соответствовало реальным изменениям спроса.

Для Nebius это означает возможность гибко удовлетворять запросы клиентов, повышая эффективность использования уже имеющейся инфраструктуры, не требуя постоянно содержать большие объемы резервных GPU.

По словам технического директора Nebius Danila Shtan, для эффективного запуска AI-инференс-сервисов нужны не только более быстрые GPU и оптимизированные модели, но и способность всей системы своевременно реагировать на изменения спроса, включая быстрое предоставление дополнительных вычислительных ресурсов при его росте. Он подчеркнул, что Inferize принесла не только технологии ускорения этого процесса, но и опытную инженерную команду, специализирующуюся на GPU-системах.

Nebius планирует интегрировать инженеров Inferize в свою команду по инференс-бизнесу и объединить соответствующие технологии с собственной AI-инференс-платформой Token Factory, чтобы повысить способность платформы отвечать на запросы клиентов и максимально задействовать существующую инфраструктуру для выполнения реальных вычислительных задач.

Shtan также добавил, что вклад команды Inferize в будущем не будет ограничиваться только этой начальной интеграцией технологий.

Снижение издержек резервных мощностей Повышение эффективности эксплуатации AI-инфраструктуры

Соучредитель и генеральный директор Inferize Guy Bortnikov в свою очередь отметил, что для оперативного реагирования на клиентские запросы облачные провайдеры обычно вынуждены поддерживать определенный резерв GPU, а эти находящиеся в режиме ожидания вычислительные ресурсы сами по себе означают дополнительные расходы. По его словам, миссия Inferize заключается именно в снижении этих затрат, а присоединение к Nebius позволит внедрить соответствующие технологии непосредственно в работающую AI-облачную платформу.

В бизнесе AI-инференса эффективность распределения вычислительных ресурсов напрямую влияет на эксплуатационные издержки инфраструктуры. Поскольку оборудование GPU довольно дорогостоящее, если компаниям приходится надолго держать большую часть вычислительных ресурсов в резерве для возможных пиковых нагрузок, это сказывается на общей окупаемости инвестиций.

За счет сокращения времени запуска моделей и ускорения ввода ресурсов в эксплуатацию, Nebius рассчитывает повысить гибкость своих сервисов и уменьшить зависимость от резервных емкостей GPU.

Стоит отметить, что ранее Bortnikov также был соучредителем компании Granulate, разрабатывающей ПО для оптимизации вычислительной инфраструктуры. Основное направление этой компании — повышение эффективности использования ресурсов, и в 2022 году она была приобретена Intel (INTC.US). Этот опыт также свидетельствует о компетенциях команды Inferize в сфере оптимизации вычислительной инфраструктуры.

Серийные приобретения AI-компаний: Nebius продолжает усиливать платформу инференса

Поглощение Inferize стало одной из череды недавних сделок Nebius в области AI-инференса и оптимизации моделей. Ранее Nebius уже завершил приобретение Eigen AI стоимостью 643 миллиона долларов. Кроме того, компания не так давно выкупила AI-технологическую компанию Clarifai, но детали этой сделки не разглашались.

Все эти приобретения направлены на усиление способностей Nebius в сфере инференса и оптимизации AI-моделей, что позволит дополнительно совершенствовать услуги по предоставлению AI-инфраструктуры.

В отличие от инвестиций, фокусирующихся на предоставлении мощностей для обучения моделей, AI-инференс уделяет больше внимания эффективности работы моделей в реальных условиях: скорости обработки запросов, управлению вычислительными ресурсами, развертыванию моделей и стоимости единицы мощности.

По мере интеграции новых технологий Nebius расширяет свой бизнес не только как поставщик GPU-ресурсов, но и как провайдер технологий и сервисов, реально повышающих эффективность функционирования AI-моделей.

Поглощение Inferize еще больше укрепит технологические возможности Nebius в области динамического распределения мощностей и быстрого развертывания моделей. Тем не менее, насколько интеграция этих разработок позволит снизить издержки и повысить эффективность, покажет только дальнейшая практика эксплуатации.