Tous les points de vue
04 sur 07
Sécurité dès la conception.
Intégrez la sécurité aux systèmes d’IA dès le départ — pas comme une règle rédigée six mois plus tard.
En clair
Quand des agents d’IA peuvent lire des données d’entreprise et agir, la sécurité ne peut pas être un document de politique ajouté plus tard. Elle doit faire partie de la conception du système : où sont conservés les mots de passe et les clés, ce à quoi chaque agent a le droit d’accéder, et une trace de tout ce qu’il a fait.
Pourquoi Jenks le pense
- Chez Babylon Labs, il a intégré dès le départ la sécurité, la gestion des identifiants et les journaux d’audit dans l’architecture IA, plutôt que comme une couche de politique ajoutée ensuite.
- Sur la plateforme de campagne Hall for Murrumbeena qu’il a construite, les agents d’IA peuvent préparer des actions, mais une personne les approuve.
- Il suit de près la sécurité des agents d’IA : des agents qui ne voient jamais de secrets, des outils exécutés en bac à sable, et des passerelles qui contrôlent ce à quoi les agents peuvent accéder.
Ce qu’il fait à ce sujet
- Il garde les clés hors des prompts et donne à chaque outil le minimum d’accès nécessaire.
- Il tient un journal d’audit et teste avant le déploiement.
Ce que cela signifie pour vous
Posez trois questions à tout fournisseur d’IA ou à toute équipe interne : Où sont les identifiants ? Que peut faire l’agent de lui-même ? Pouvons-nous voir un enregistrement de ce qu’il a fait ?