Nvidia lança sistema de segurança AI em duas camadas para prevenir acesso não autorizado por agentes inteligentes

A NVIDIA (NVDA.US) lançou um novo sistema de segurança de inteligência artificial em duas camadas. A empresa afirma que este sistema pode prevenir incidentes de segurança de alto perfil como o recente ocorrido com o modelo de inteligência artificial da OpenAI, que resultou em vulnerabilidade na Hugging Face. A NVIDIA está lançando duas ferramentas de software de código aberto, que podem ser executadas em seu hardware, com o objetivo de controlar em tempo real o conteúdo ao qual os agentes de IA podem acessar e desligá-los caso violem as regras. Justin Boitano, vice-presidente de IA corporativa da NVIDIA, declarou na segunda-feira que, se os principais laboratórios de inteligência artificial tivessem adotado essa tecnologia desde cedo na avaliação dos modelos de IA, talvez fosse possível evitar o ataque à Hugging Face. Ele afirmou: “Com base nas informações que temos atualmente, esta nova plataforma de segurança poderia ter impedido esse incidente de vulnerabilidade.”