Топ-менеджер Google DeepMind: инвестиции в искусственный интеллект в сотни миллиардов — крупнейшая научная ставка в истории человечества, основная ставка делается на «рекурсивное самоусовершенствование»

Автор | Бао Илонг

      Редактор | Твердый AI

Пока технологические гиганты сжигают деньги в беспрецедентных масштабах, строя инфраструктуру искусственного интеллекта, основная логика этой масштабной ставки становится явной — ставка делается на достижение AI «рекурсивного самоусовершенствования».

3 августа главный стратег Google DeepMind Джасджит Секхон на саммите Agentic AI, состоявшемся в Калифорнийском университете в Беркли в минувшие выходные, публично заявил, чторекурсивное самоусовершенствование (Recursive Self-Improvement, RSI) — это «ключевая инвестиционная логика» всей отраслевой капитальной затраты.

Рекурсивное самоусовершенствование — это механизм, при котором искусственный интеллект способен автоматически создавать свои более совершенные версии, и эта концепция рассматривается в отрасли как следующий важнейший рубеж после достижения универсального искусственного интеллекта (AGI).

В то же время Sekhon признал, чтонынешняя выручка от AI «все еще недостаточна», чтобы поддержать масштаб текущих капиталовложений, и отрасль может столкнуться с риском рыночного вакуума.

В этом году расходы Google на дата-центры и сопутствующее оборудование для искусственного интеллекта составляют около $200 миллиардов, при этом на следующий год компания планирует увеличить эти вложения.

Одновременно с этим, исследователь DeepMind Ориол Виньялс и один из основателей OpenAI Войцех Заремба на этой же сцене заявили, чторекурсивное самоусовершенствование может быть достигнуто в 2027-2028 годах.

Логика крупных ставок: рекурсивное самоусовершенствование заменяет AGI

В нарративе индустрии искусственного интеллекта рекурсивное самоусовершенствование быстро вытесняет AGI и становится самым горячим понятием.

AGI — это сокращение от Artificial General Intelligence, что обычно переводится как «универсальный искусственный интеллект». Является одной из конечных целей исследований искусственного интеллекта — системой, способной выполнять большинство экономически значимых задач на уровне человека или выше.

Sekhon охарактеризовал текущие капитальные вложения отрасли искусственного интеллекта как «самую крупную научную ставку в истории человеческой цивилизации», масштаб которой превзошел как программу Apollo, так и Манхэттенский проект, и вложения в развитие интернета.

По-настоящему рекурсивное самоусовершенствование означает, что модель искусственного интеллекта способна самостоятельно перерабатывать свою архитектуру и разрабатывать совершенно новые модели, образуя тем самым цикл непрерывного самосовершенствования.

Sekhon признал, что текущие технологии «далеко не на этом этапе», но отметил, чтоAI-компании уже могут использовать модели для проектирования отдельных компонентов других моделей — это можно рассматривать как «предвестник» рекурсивного самоусовершенствования. Он сравнил этот процесс с историческим использованием паровой машины для создания следующего поколения паровых машин.

Тем не менее, Sekhon отметил:

Делать ставку на то, что рекурсивное самоусовершенствование не будет реализовано, кажется неразумным.

Тем не менее, Sekhon ожидает, что рекурсивное самоусовершенствование «с высокой вероятностью возникнет в ближайшие несколько лет».

Исследователь DeepMind Ориол Виньялс и сооснователь OpenAI Войцех Заремба в рамках панельной дискуссии этого саммита назвали более конкретный срок: 2027 или 2028 год.

Реальность разрыва доходов: обеспокоенность акционеров Google

Несмотря на масштабные стратегические нарративы, Sekhon очень прямо описывает текущую финансовую реальность.

Он четко заявил, что доходы от искусственного интеллекта сейчас «еще не способны покрыть наши капитальные затраты», что означает,что отрасли угрозает риск попасть в «air pocket AI» — когда капитальные вложения реализуются в огромном масштабе, но соответствующие доходы долгое время не реализуются.

Это заявление во многом перекликается с опасениями акционеров Google. Несмотря на то что у многих крупных игроков AI, включая Google, ускорился рост доходов от программного обеспечения и облачных сервисов, акционеров начинает беспокоить поступательный рост расхода наличных средств компании.

Для сравнения: Amazon AWS за этот квартал зафиксировал рост выручки на 37%, квартальный доход составил $42,2 млрд, операционная маржа выросла с 37% до 39%, продемонстрировав ускоренное воплощение спроса на облачные AI-сервисы.

Это, в некоторой степени, обосновывает коммерческую логику колоссальных вложений в индустрии, но также подчеркивает структурную разницу между доходами и расходами Google, о которой откровенно говорит компания.

Карта рисков: от кибератак до биологических угроз

На саммите Sekhon и профессор компьютерных наук Калифорнийского университета в Беркли, недавно присоединившаяся к департаменту «суперинтеллекта» Meta, Доун Сонг уделили много внимания обсуждению рисков безопасности, связанных с AI, особенно его потенциального использования как инструмента для кибератак и биологических атак.

Song отметила, что в ближайшее время AI «будет приносить больше пользы атакующим», поскольку между нападением и обороной есть фундаментальная асимметрия:

Атакующему достаточно добиться успеха лишь один раз, а защитнику нужно отразить все атаки.

Sekhon согласился с этим мнением и предупредил, что по мере загрязнения хранилищ открытого кода атакующими и использования ими низкокачественного человеческого кода, «ближайшее время будет довольно трудным», а такие слабые системы, как электросеть США, больницы и др., особенно уязвимы.

ОднакоSekhon считает еще более серьезной угрозой биологическую безопасность. Он отметил:

Мы уже практически подошли к миру, где для создания вируса или белка человеку достаточно всего лишь общаться на естественном языке с моделью. Это чрезвычайно опасный мир, который в долгосрочной перспективе остается благоприятным для атакующих.

По его словам, реагирование на биологические риски требует более строгих лицензий, мониторинга и механизмов отслеживания, связанных с «материалами биологического происхождения». Он также сообщил, что Google расширяет технологию водяных знаков для AI-контента SynthID на область биологии, чтобы помочь компаниям по синтезу ДНК отсеивать потенциально опасные биологические последовательности, сгенерированные AI.