Todos los puntos de vista
04 de 07
Seguridad por diseño.
Incorpore la seguridad en los sistemas de IA desde el principio — no como una norma redactada seis meses después.
En palabras claras
Cuando los agentes de IA pueden leer datos de la empresa y ejecutar acciones, la seguridad no puede ser un documento de políticas añadido después. Debe formar parte de cómo se construye el sistema: dónde se guardan las contraseñas y las claves, qué puede tocar cada agente y un registro de todo lo que hizo.
Por qué Jenks lo piensa
- En Babylon Labs incorporó la seguridad, el manejo de credenciales y los registros de auditoría en la arquitectura de IA desde el inicio, en lugar de como una capa de políticas posterior.
- En la plataforma de campaña Hall for Murrumbeena que construyó, los agentes de IA pueden preparar acciones, pero una persona las aprueba.
- Sigue de cerca la seguridad de los agentes de IA: agentes que nunca ven secretos, herramientas que se ejecutan en un sandbox y puertas de enlace que controlan a qué pueden acceder los agentes.
Qué hace al respecto
- Mantiene las claves fuera de los prompts y concede a cada herramienta el mínimo acceso necesario.
- Mantiene una trazabilidad de auditoría y prueba antes del despliegue.
Qué significa para usted
Haga a cualquier proveedor de IA o equipo interno tres preguntas: ¿Dónde están las credenciales? ¿Qué puede hacer el agente por sí solo? ¿Podemos ver un registro de lo que hizo?