用大白话说
当 AI 代理能读取公司数据并执行操作时,安全就不能是事后补上的政策文档。它必须体现在系统的构建方式里:密码和密钥放在哪里、每个代理被允许接触什么、以及它做过的一切都有记录。
为什么 Jenks 这样认为
- 在 Babylon Labs,他从一开始就把安全、凭证处理和审计记录写进 AI 架构里,而不是事后加一层政策。
- 在他打造的 Hall for Murrumbeena 竞选平台上,AI 代理可以准备动作,但需要人工批准。
- 他密切跟进 AI 代理的安全:让代理从不接触机密、让工具在沙箱中运行,并用网关控制代理可达范围。
他怎么做
- 不把密钥放进提示词,只给每个工具所需的最小权限。
- 保留审计轨迹,并在上线前进行测试。
这对你意味着什么
请向任何 AI 供应商或内部团队问三个问题:凭证在哪里?代理能自行做什么?我们能看到它做过什么的记录吗?