Todos los puntos de vista
06 de 07
Lo verificable supera a lo basado en la confianza.
Prefiera sistemas que cualquiera pueda comprobar, en lugar de sistemas en los que simplemente tenga que confiar.
En palabras sencillas
Muchos sistemas le piden que confíe en una empresa o en una persona. Un mejor diseño permite que cualquiera compruebe que el sistema hizo lo que prometió — con matemáticas, código o registros. Jenks lo dice así: "La centralización puede llevar a abusos y usos indebidos."
Por qué Jenks lo piensa
- En Babylon Labs coescribió el white paper de Babylon Trustless Bitcoin Vaults (TBV). TBV permite que Bitcoin se use en finanzas descentralizadas — por ejemplo, como garantía para préstamos — sin confiar en un custodio que lo mantenga.
- En Filecoin trabajó en almacenamiento descentralizado, donde cualquiera puede comprobar que los datos realmente están almacenados.
- Lleva la misma idea a la IA: reglas y registros claros que puedan comprobarse, en lugar de confianza ciega en lo que hizo un agente.
Qué hace al respecto
- Diseña sistemas para que personas fuera del equipo puedan comprobar los resultados.
- Mantiene registros (registros de auditoría) que muestran quién o qué hizo cada paso.
Qué significa para usted
Cuando la IA empiece a tomar o preparar decisiones en su empresa, pregunte cómo las comprobará después — e integre esa verificación desde el primer día.