Nvidia запустила дворівневу систему безпеки штучного інтелекту для запобігання несанкціонованому доступу агентів

NVIDIA (NVDA.US) представила нову двошарову систему безпеки штучного інтелекту. Компанія заявляє, що ця система здатна запобігти недавньому резонансному інциденту з безпекою на Hugging Face, який був спричинений моделями штучного інтелекту OpenAI. NVIDIA презентує два інструменти з відкритим вихідним кодом для безпеки програмного забезпечення, які можуть працювати на її апаратному забезпеченні. Вони покликані у режимі реального часу контролювати, до якого контенту можуть отримувати доступ AI-агенти, та вимикати їх у разі порушення правил. Віце-президент NVIDIA з корпоративного штучного інтелекту Джастін Бойтано у понеділок заявив, що якби провідні лабораторії штучного інтелекту використовували цю технологію на ранніх етапах оцінки AI-моделей, можливо, вдалося б уникнути атаки на Hugging Face. Він зазначив: «Виходячи з наявної у нас інформації, ця нова платформа безпеки могла б запобігти даному інциденту з вразливістю».