NVIDIA-nın Open Agent təhlükəsizlik platforması AI agentlərinin "sürüşməsi"nin qarşısını out-of-band icra ilə alır.

NVIDIA şirkəti açıq agent təhlükəsizlik platforması (Open Agent Safety Platform) təqdim etdi. Bu, avtonom süni intellekt agentlərini davamlı monitorinq və hardware əsaslı strategiya idarəetməsi ilə qorumağı hədəfləyən açıq bir çərçivədir. Platforma 28 sentyabr 2026-cı ildə istifadəyə verilib və süni intellekt sənayesində artan narahatlıqları aradan qaldırmağa yönəlib. Daha öncə yayılan xəbərlərdə qeyd olunmuşdu ki, AI agentləri qiymətləndirmə mühitindən qaçır, icazəsiz sistemlərə daxil olur və davranışlarını səhv şəkildə hesabat verir.

Şirkət bunu erkən internet dövrü ilə müqayisə edir. Erkən internet yalnız təhlükəsizlik mexanizmləri (şifrələnmiş bağlantılar, sandbox brauzer nişanları və görünən etibar göstəriciləri) qurulduqdan sonra kommersiya və kommunikasiya üçün əsas oldu. NVIDIA bildirir ki, agent süni intellekti də etibarlı "agent iqtisadiyyatı" şəklində genişlənmək üçün oxşar etibar qatına ehtiyac duyur və təhlükəsizlik tədbirləri innovasiyaları ləngitməməli, əksinə sürətləndirməlidir.

OpenShell runtime: nüvədən izolyasiya

Platformanın əsasını Apache 2.0 lisenziyası ilə yayımlanan açıq mənbəli təhlükəsiz çalışma mühiti - NVIDIA OpenShell təşkil edir. OpenShell hər bir agenti nüvə səviyyəsində izolyasiya olunmuş sandbox mühitində icra edir və operatorun təlimatlarını yoxlana bilən strategiyalara çevirir. Təlimatlar fayl, şəbəkə, alətlər, proseslər və kimlik məlumatlarına çıxışı müəyyən edir. Bu məhdudiyyətlər icradan əvvəl yoxlanır və çalışma müddətində davamlı olaraq tətbiq olunur.

Platforma beş prinsip əsasında qurulub: Strategiyalar agent işləməyə başlamadan öncə yoxlanmalıdır; icra agentlərin əlçatanlığından kənarda reallaşmalıdır; modelə gedən yol əsas idarəetmə və müşahidə nöqtəsidir; agentin səlahiyyətləri onun qənaətinin şəffaflığına görə artırılmalıdır; təhlükəsizliyə görə məsuliyyət laboratoriyalar, müəssisələr və hardware təchizatçıları arasında bölüşdürülməlidir.

NVIDIA-nın öz tədqiqatları "drift" problemini vurğulayır - agentlər qeyri-müəyyən təlimat, məhdud strategiya, uyğun alətlərin olmaması və ya uzun müddətli müstəqil fəaliyyət səbəbindən gözlənilən tapşırıqlardan yayınırlar. Şirkət bildirib ki, agentin imkanlarını itirmədən bu drift tamamilə aradan qaldırıla bilməz və bu hallarda agentin öz davranışını müstəqil idarə etməsini gözləmək düzgün deyil.

Geniş miqyasda hardware səviyyəli nəzarət

Bu arxitektura üç qatdan ibarətdir: tətbiq qatı (modellər, alətlər, çərçivələr və məlumatlar), runtime qatı (orçestrasiya və strategiya icrası) və infrastruktur qatı (hesablama, saxlama və şəbəkə resursları). Müstəqil ikinci qat tələb edən təşkilatlar üçün NVIDIA Sentry, NVIDIA DOCA vasitəsilə monitorinq və icranı BlueField-4 data processing unit-ə qədər genişləndirir. Bu, agent qarşılıqlı əlaqələrini, strategiya qərarlarını və məlumat çıxışlarını kontekstual fəaliyyət qeydlərinə bağlayır və hər agentin kimliyini və icazəsini davamlı yoxlayır.

NVIDIA Vera Rubin POD konfiqurasiyasında BlueField-4 DPU node-un modelə aparan yeganə yolunda yerləşir və host-dan izolyasiya olunmuş halda, out-of-band müşahidə və real vaxt, line-rate strategiya icrası təmin edir. Bu, hətta host resursları etibarlı olmadıqda belə, "çip səviyyəsində" təhlükəsizlik qorunması yaradır. NVIDIA qeyd edib ki, mövcud Vera və BlueField-4 yerləşdirmələri üçün bu qoruma yalnız proqram təminatı yenilənməsi ilə təmin edilə bilər; platforma eyni zamanda NVIDIA olmayan hardware ilə də uyğun gəlir.

NVIDIA bildirib ki, qabaqcıl laboratoriyalar, inkişaf etdiricilər və infrastruktur təminatçıları ilə işləyərək bu platformanı yeni agent iqtisadiyyatının açıq təməlinə çevirməyi və müstəqil, hardware əsaslı idarəetməni genişmiqyaslı etibarlı avtonom sistemlər üçün əsas şərt kimi təyin etməyi qarşıya məqsəd qoyub.