每日 Agent 核心知识Day12:安全与合规核心知识(Agent 生命线)

每日 Agent 核心知识Day12:安全与合规核心知识(Agent 生命线)

功能决定 Agent 能飞多高,安全决定 Agent 能活多久。

在企业级落地中,安全与合规往往比效果更优先。今天的内容,是 Agent 上生产环境的最后一道防线


一、工具权限管控(最小权限原则)

核心原则:默认什么都不许做,需要什么开什么。

Agent 拥有调用工具的能力,就像拿到了一串钥匙。我们不能给它万能钥匙。

1. 权限分级策略

权限等级

操作类型

管控策略

🔴 高危(禁止/审批)

删除文件、删库、发送邮件、支付转账

默认禁用​ 或 人工审批

🟡 中危(受限)

写入文件、修改数据、外网 POST 请求

白名单制(仅限特定路径/API)

🟢 低危(允许)

读取文件、HTTP GET 请求、只读数据库

日志监控(记录所有行为)

2. 技术实现手段

  • 沙箱隔离(Sandboxing)

    • Agent 运行的代码解释器(如 Python)必须在 Docker 容器内。

    • 容器内部无网络权限,或通过代理白名单访问。

    • 文件系统只读挂载,仅在 /tmp目录有写权限。

  • 工具封装(Wrapper)

    • 不直接暴露 rm<