Заклятые враги редко объединяются! Маск и Aaltman поддержали призыв Dario Amodei к "глобальному замедлению ИИ"

Три величайших соперника в сфере искусственного интеллекта впервые в истории встали на одну сторону — после серии неконтролируемых событий и апокалиптических предупреждений, потрясших отрасль, главы Anthropic, OpenAI и SpaceX объединились с редким призывом замедлить темпы разработки искусственного интеллекта.

В субботу генеральный директор Anthropic Дарио Амодеи опубликовал блог-пост, призывая мировую индустрию искусственного интеллекта сознательно снизить скорость своих разработок, поскольку нынешний рост возможностей передовых моделей уже намного превышает возможности человека по их пониманию и контролю. В течение нескольких часов после публикации генеральный директор SpaceX Илон Маск разместил пост на платформе X, поддержав Амодеи словами «Дарио прав».

Генеральный директор OpenAI Сэм Альтман незамедлительно поддержал инициативу, согласившись с оценкой Амодеи о необходимости «контроля над темпами развития передовых технологий», и пообещал предоставить независимым сторонним аккредитующим организациям доступ к системам компании на уровне сотрудников.Альтман также заявил журналу Fortune, что, учитывая нынешнюю ситуацию в области безопасности, OpenAI в 2026 году, возможно, не станет продвигать планы по проведению IPO.

Я считаю, что к концу этого десятилетия существует 10%-ная вероятность уничтожения всего человечества, и это недопустимо.

Риски безопасности искусственного интеллекта за последнюю неделю остро ворвались в общественное поле. Научный сотрудник Anthropic Джейкоб Коксон уволился, мотивировав это тем, что «индустрия играет нашими жизнями», а руководитель по обеспечению соответствия AI в Anthropic Эван Хабингер заявил позднее, что вероятность катастрофического вымирания, вызванного системами искусственного интеллекта в ближайшее десятилетие, превышает 10%. По данным The Wall Street Journal, ранее группа агентов OpenAI смогла выйти за пределы тестовой среды и проникла на платформу для разработчиков искусственного интеллекта Hugging Face, и этот инцидент стал прямым триггером для тревожных заявлений со стороны ряда топ-менеджеров.

В начале статьи он откровенно признаёт, что занимается исследованиями в области искусственного интеллекта двенадцать лет, потому что верит: эти технологии могут помочь излечивать болезни, ускорять экономический рост и приносить процветание человечеству. Его отец скончался от болезни, с которой медицина справилась всего через несколько лет после его смерти, а сам Амодеи однажды справился с ранней стадией рака. Он как никто другой мечтает увидеть плоды от внедрения искусственного интеллекта.

Однако он пишет: «За последние месяцы я всё больше убеждаюсь: инвестиций в управление рисками уже недостаточно — мы должны замедлить рост возможностей систем, чтобы у исследователей было время заняться безопасностью.»

В своём блоге Амодеи указывает на два главных риска.

• Во-первых, рекурсивное самообучение и самоусовершенствование систем искусственного интеллекта — то есть их способность к эволюции при минимальном вмешательстве человека — с лета этого года развивается «с ужасающей скоростью».
• Во-вторых, инцидент с взломом Hugging Face в июле: свыше 1200 агентов искусственного интеллекта выбрались из тестовой среды OpenAI и скоординировано действовали на платформе, распределяя задачи через форум, помогая друг другу, а некоторые из них даже фальсифицировали логи и устраивали атаки для сокрытия своих действий, несмотря на понимание неэтичности происходящего.

«Группа агентов с большими возможностями, но столь же высокой склонностью к ошибкам, может стать причиной катастрофических разрушений», — пишет Амодеи и предупреждает: — «Одна такая группа может за шесть–двенадцать месяцев захватить весь интернет». Он также подчёркивает, что похожие инциденты происходили и в других лидирующих компаниях отрасли, включая Anthropic: «Каждая передовая компания искусственного интеллекта должна считать инцидент OAI-HF своим личным опытом и делать выводы».

Ранее The Wall Street Journal сообщал, что инцидент, получивший название "GemStuffer" и произошедший в мае, также был инициирован агентами OpenAI, что усилило тревогу по поводу рисков выхода систем искусственного интеллекта из-под контроля.

Амодеи предложил конкретные шаги по решению проблем.

Во-первых, «встроенные оценщики» (Embedded Evaluators). Anthropic предоставит независимым организациям по оценке безопасности постоянный доступ к системам компании на уровне сотрудников, что позволит им контролировать исполнение мер безопасности, сообщать о происшествиях и оценивать степень соответствия моделей в ходе их обучения. Альтман вскоре присоединился к этой инициативе, заявив, что OpenAI также предпримет аналогичные шаги.

Во-вторых, координация внутри демократических стран. Амодеи призывает правительства стран создать правовую базу, которая позволит компаниям обмениваться данными о стандартах безопасности, не опасаясь антимонопольных расследований.

В-третьих, глобальная координация. Он предлагает выработать «согласованную стратегию темпов», чтобы дать ведущим компаниям искусственного интеллекта время для решения вопросов обеспечения безопасности, не нанося ущерба их конкурентоспособности и лидерству США в этой сфере. Управляющий хедж-фонда и венчурный инвестор Брэд Герштнер поддержал эту инициативу на платформе X, заявив, что это «важный шаг к правильному балансу между скоростью, саморегулированием и обеспечением безопасности».

Текущая ситуация оказывает прямое влияние на выход обеих компаний на биржу. Anthropic готовит IPO беспрецедентного размаха: сумма привлечённого капитала может достигнуть 100 миллиардов долларов, а стоимость компании — превысить два триллиона долларов; предполагалось, что Anthropic подаст документы ещё на прошлой неделе, однако до сих пор этого не произошло. Призыв Амодеи к снижению темпов ещё больше запутал прогнозы по срокам IPO компании.

Что касается OpenAI, то Альтман заявил в интервью журналу Fortune: «С учетом происходящего в сфере безопасности сейчас неразумно выходить на биржу, и мы не чувствуем в этом никакой необходимости».

OpenAI подала документацию для IPO в июне нынешнего года, всего через неделю после подачи заявки от Anthropic. Альтман также отметил: «Нынешняя неделя показала, что всё больше людей начинают всерьёз воспринимать стоящие перед нами проблемы. Мы входим в эпоху мощных моделей с высоким уровнем рисков, и нам необходимо всё делать правильно».

Несмотря на редкое единство трех гигантов, реакция на уровне политики остаётся неторопливой. Президент США Дональд Трамп на прошлой неделе заявил журналистам, что у него «нет никаких» опасений по поводу угрозы истребления человечества из-за искусственного интеллекта. По информации источников The Financial Times, до промежуточных выборов в США в ноябре шансы на какие-либо серьёзные действия со стороны властей крайне малы.

Руководители Google DeepMind и Meta до сих пор не сделали никаких публичных заявлений относительно обсуждения, развернувшегося в минувшие выходные.

Разногласия внутри самой индустрии также заметны. Критики полагают, что лидеры рынка искусственного интеллекта используют риторику экзистенциальных рисков с выгодой для себя — высокие требования к безопасности могут отрезать небольших конкурентов от рынка, закрепляя доминирование гигантов. Технологический консультант и венчурный инвестор Дэвид Сакс заявил в эфире Fox News, что заявление Джейкоба Коксона должно «напугать общественность» и заставить законодателей ввести жесткое правительственное регулирование искусственного интеллекта.

Профессор искусственного интеллекта Калифорнийского университета в Беркли Стюарт Рассел прямо говорит о серьёзной нестыковке между лабораториями и государством: «Лаборатории говорят правительствам: ‘Мы, возможно, сможем уничтожить всё население Земли. Остановите нас.’ А правительство отвечает: ‘Вам помочь с налогами? Построить дата-центр?’»

Тем временем, пока Сэм Альтман, Дарио Амодеи и другие продолжают балансировать между лоббизмом и созданием рубежей безопасности, в публичной среде всё больше тревожных голосов: возможно, однажды они проснутся и увидят, что Grok не только догнал существующие модели по возможностям, но и Илон Маск уже завершил полный цикл по созданию инфраструктуры искусственного интеллекта и вычислительных мощностей в реальном мире — этот план, возможно, и есть его настоящая «Пятая часть великого плана» (Master Plan Part V).