平易に言うと
AI エージェントが会社のデータを読み、行動できるなら、安全性は後から足す方針文書ではいけません。システムの作りに組み込む必要があります。パスワードや鍵をどこに保管するか、各エージェントが何に触れてよいか、そして実行したことの記録です。
Why Jenks thinks this
- Babylon Labs では、後付けのポリシー層ではなく、最初から AI アーキテクチャにセキュリティ、認証情報の取り扱い、監査記録を組み込みました。
- 彼が構築した Hall for Murrumbeena のキャンペーンプラットフォームでは、AI エージェントはアクションを準備できますが、承認は人が行います。
- AI エージェントのセキュリティを注視しています：秘密を決して見ないエージェント、サンドボックスで動くツール、エージェントが到達できる範囲を制御するゲートウェイ。
What he does about it
- 鍵をプロンプトに入れず、各ツールには必要最小限のアクセスだけを与えます。
- 監査証跡を残し、ロールアウト前にテストします。
What it means for you
AI ベンダーや社内チームには次の3つを確認してください。認証情報はどこにありますか。エージェントは自律的に何ができますか。実行内容の記録は見られますか。