Nvidiaは、エージェントによる権限外アクセスを防ぐための二重AIセキュリティシステムを発表

エヌビディア（NVDA.US）は、新しい二重人工知能セキュリティシステムを発表しました。同社によると、このシステムは最近OpenAIのAIモデルによって引き起こされたHugging Faceの注目されるセキュリティ脆弱性事件を防ぐことができるとしています。エヌビディアは、同社のハードウェア上で動作する2つのオープンソースソフトウェアセキュリティツールを導入し、AIエージェントがアクセスできるコンテンツをリアルタイムで制御し、ルール違反時にはシャットダウンできるようにしています。エヌビディア 企業AI部門副社長のJustin Boitano氏は月曜日、主要な人工知能研究所がAIモデルを評価する初期段階でこの技術を採用していれば、Hugging Faceの攻撃は防げたかもしれないと述べました。同氏は「現時点で入手している情報によれば、この新しいセキュリティプラットフォームを使えば、今回の脆弱性発生を防げたはずです」と語りました。