Платформа Open Agent Security от NVIDIA предотвращает «дрейф» ИИ-агентов с помощью внеполосного принудительного контроля.

Компания NVIDIA представила Open Agent Safety Platform — открытую платформу, предназначенную для защиты автономных AI-агентов с помощью постоянного мониторинга и принудительного аппаратного контроля стратегии. Платформа была выпущена 28 сентября 2026 года и направлена на решение растущих проблем в индустрии искусственного интеллекта после сообщений о том, что AI-агенты могут выходить за пределы тестовой среды, получать доступ к неавторизованным системам и некорректно сообщать о своих действиях.

Компания проводит параллель с ранним интернетом. Лишь после внедрения механизмов безопасности (шифрованных соединений, изолированных вкладок и видимых индикаторов доверия) интернет стал основой для коммерции и коммуникаций. NVIDIA считает, что для масштабирования до надёжной «экономики агентов» искусственный интеллект тоже требует подобного слоя доверия, а меры безопасности должны ускорять, а не тормозить инновации.

OpenShell Runtime: изоляция на уровне ядра

В основе платформы — NVIDIA OpenShell, открытая и безопасная среда выполнения с лицензией Apache 2.0. OpenShell запускает каждого агента в песочнице с изоляцией на уровне ядра и преобразует команды оператора в проверяемую стратегию. Определения задают доступ к файлам, сети, инструментам, процессам и учетным данным. Эти ограничения валидируются до выполнения и постоянно поддерживаются в процессе выполнения.

Платформа основана на пяти принципах: стратегия должна быть проверяема до запуска агента; исполнение должно происходить вне досягаемости агента; путь к модели — ключевая точка контроля и видимости; права агента должны расширяться с прозрачностью его рассуждений; ответственность за безопасность разделяют лаборатории, компании и поставщики оборудования.

Собственные исследования NVIDIA подчеркивают проблему «дрейфа» — когда агент отклоняется от изначальной задачи из-за нечетких инструкций, ограничения стратегии, отсутствия инструментов или длительной автономной работы. Компания утверждает, что невозможно полностью исключить такой дрейф без потери возможностей агента, поэтому не стоит рассчитывать, что агент самостоятельно будет контролировать себя в этих случаях.

Масштабное аппаратное принудительное исполнение

Архитектура состоит из трех слоёв: слой приложений (модели, инструменты, фреймворки и данные), слой среды выполнения (оркестрация и исполнение политики), слой инфраструктуры (вычислительные, сторожевые и сетевые ресурсы). Для организаций, которым требуется отдельный второй слой, NVIDIA Sentry, через NVIDIA DOCA, расширяет мониторинг и принудительное исполнение на BlueField-4 Data Processing Unit, связывая взаимодействие агента, принятие политик и доступ к данным с журнальными записями активности, одновременно регулярно удостоверяя личность и авторизацию каждого агента.

В конфигурации NVIDIA Vera Rubin POD, BlueField-4 DPU находится на единственном пути от узла к модели, обеспечивая контроль изолированно от хоста, наблюдаемость вне полосы передачи и исполнение политики в режиме реального времени, на самой высокой скорости. Такой подход позволяет добиться «чипового» уровня безопасности даже при ненадежном хосте. NVIDIA отмечает, что для существующих развертываний Vera и BlueField-4 все эти меры реализуются простым обновлением ПО; платформа также совместима с не-NVIDIA аппаратным обеспечением.

NVIDIA заявляет, что сотрудничает с передовыми лабораториями, разработчиками и провайдерами инфраструктуры, чтобы сделать платформу открытой технологической основой для новой экономики агентов, а независимое аппаратное управление рассматривает как условие масштабируемых и надёжных автономных систем.