NVIDIA представила Open Agent Safety Platform, открытую программную платформу и эталонный проект системы для управления и контроля ИИ-агентов от тестирования до развёртывания. В платформу входят OpenShell, ПО с защищённой средой выполнения, которая отслеживает действия агентов и применяет политики, и эталонный проект NVIDIA Sentry.
Sentry непрерывно наблюдает за поведением агентов на DPU BlueField-4 и может изолировать агента, который пытается выйти за свои границы, за миллисекунды.
Проверка утверждений:
- NVIDIA представила Open Agent Safety Platform — открытую программную платформу и эталонный проект системы для управления и контроля ИИ-агентов от тестирования до развёртывания. (подтверждено самой публикацией: доказательство; «NVIDIA today announced NVIDIA Open Agent Safety Platform , an open software platform and reference system design to strengthen AI security from agent testing to deployment, with full-stack governance and control across software and the hardware, compute and robotics systems that run agents.»)
- В платформу входят OpenShell с защищённой средой выполнения, которая отслеживает действия агентов и применяет политики, и эталонный проект NVIDIA Sentry. (подтверждено самой публикацией: доказательство; «NVIDIA Open Agent Safety Platform consists of NVIDIA OpenShell open source software and the NVIDIA Sentry reference system design that enables full-stack governance and control across software and the hardware, compute and robotics systems that run agents. OpenShell software provides a secure runtime boundary that traces all actions and enforces policy as agents run on NVIDIA Vera CPUs.»)
- Sentry непрерывно наблюдает за поведением агентов на DPU BlueField-4 и может изолировать агента, который пытается выйти за свои границы, за миллисекунды. (подтверждено самой публикацией: доказательство; «Sentry adds an out-of-band watchdog that runs on NVIDIA BlueField-4 DPUs to continuously monitor agent behavior. Sentry can quarantine agents that attempt to move outside their boundaries in milliseconds.»)
Публикации:
- https://wired.com/story/nvidias-answer-to-rogue-agents-is-an-open-source-ai-security-system
- https://thenewstack.io/nvidia-openshell-sentry-agents
- https://reddit.com/r/artificial/comments/1wsdyez/nvidia_launches_new_tool_to_keep_ai_agents_from
- https://madrobot.blog/2026/09/28/nvidia-open-agent-safety-platform-openshell-sentry-rogue-ai-agents
- https://techcrunch.com/2026/09/28/nvidia-launches-new-platform-for-reining-in-rogue-ai-agents
- https://cnbc.com/2026/09/28/nvidia-releases.html
Первоисточники:
- https://nvidianews.nvidia.com/news/open-agent-safety-platform
- https://github.com/NVIDIA/openshell
- https://developer.nvidia.com/blog/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring
- https://openai.com/index/hugging-face-model-evaluation-security-incident
- https://huggingface.co/blog/agent-intrusion-technical-timeline
- https://anthropic.com/news/investigating-incidents-cybersecurity-evals
- https://research.meta.ai/blog/addressing-third-party-testing-misconfiguration-muse-spark-1-1
- https://claude.com/blog/giving-companies-more-control-over-their-ai-agents-with-nvidia
- https://techcrunch.com/2026/09/29/heres-why-openai-is-absent-from-nvidias-industry-wide-effort-to-end-rogue-ai-agents
- https://openai.com/the-defense-factory
- https://arxiv.org/abs/2605.15034
оценка 52,0 из 100 · тип: анонс · обновление 5