Anthropic 与 NVIDIA 合作推出企业级 Agent 安全方案
Anthropic 与 NVIDIA 合作，将 Claude Managed Agents 与 NVIDIA 开源的 OpenShell 结合，为企业提供更可控的 AI Agent 安全架构。核心思路是把 Agent 的“大脑”与“执行”分离，工具调用在企业自有基础设施的沙箱中运行。适合需要在自有环境内安全部署 Agent 的企业开发团队。
要点速览
- 01NVIDIA 于 9 月 28 日发布 Open Agent Safety 开放平台，Anthropic 参与协作
- 02Claude Managed Agents 支持自托管沙箱：编排逻辑留在 Anthropic，工具调用在企业自有环境运行
- 03NVIDIA OpenShell 开源，默认全部拦截、按规则放行，并记录每个决策日志
- 04OpenShell 的 policy prover 可用数学证明验证 Agent 在规则下的可达范围
- 05Managed Agents 现已公开测试；OpenShell 以 Apache 2.0 协议在 GitHub 提供
背景
Agent 在执行中会接触网页、代码仓库等不可信内容，存在提示注入风险，业界正趋向将决策与执行分离的架构来应对。
影响
对需要在受监管行业或自有基础设施内部署 AI Agent 的企业团队有直接参考价值，可控制数据边界并审计 Agent 行为。
原文来自 Claude 官方博客，版权归原作者所有。中文标题和摘要由 AI 根据原文自动生成，可能有误，请以原文为准。