Skip to main content
Jenks Guo
全部观点

04 / 07

从设计开始的安全。

从一开始就把安全嵌入 AI 系统——而不是在六个月后再补一条规定。

用大白话说

当 AI 代理能读取公司数据并执行操作时,安全就不能是事后补上的政策文档。它必须体现在系统的构建方式里:密码和密钥放在哪里、每个代理被允许接触什么、以及它做过的一切都有记录。

为什么 Jenks 这样认为

  • 在 Babylon Labs,他从一开始就把安全、凭证处理和审计记录写进 AI 架构里,而不是事后加一层政策。
  • 在他打造的 Hall for Murrumbeena 竞选平台上,AI 代理可以准备动作,但需要人工批准。
  • 他密切跟进 AI 代理的安全:让代理从不接触机密、让工具在沙箱中运行,并用网关控制代理可达范围。

他怎么做

  • 不把密钥放进提示词,只给每个工具所需的最小权限。
  • 保留审计轨迹,并在上线前进行测试。

这对你意味着什么

请向任何 AI 供应商或内部团队问三个问题:凭证在哪里?代理能自行做什么?我们能看到它做过什么的记录吗?

聊聊吧。

发邮件给 Jenks