Tous les points de vue
06 sur 07
Le vérifiable prime sur la confiance.
Privilégiez des systèmes que chacun peut vérifier plutôt que des systèmes qu’il faut simplement croire.
En termes simples
Beaucoup de systèmes vous demandent de faire confiance à une entreprise ou à une personne. Un meilleur design permet à quiconque de vérifier que le système a bien fait ce qu’il a promis — avec des maths, du code ou des preuves. Jenks le dit simplement : « La centralisation peut mener à des abus et à des usages détournés. »
Pourquoi Jenks le pense
- Chez Babylon Labs il a coécrit le white paper de Babylon Trustless Bitcoin Vaults (TBV). TBV permet d’utiliser Bitcoin dans la finance décentralisée — par exemple comme garantie de prêt — sans faire confiance à un dépositaire pour le conserver.
- Chez Filecoin il a travaillé sur le stockage décentralisé, où chacun peut vérifier que les données sont réellement stockées.
- Il applique la même idée à l’IA : des règles et des traces vérifiables, au lieu d’une confiance aveugle dans ce qu’un agent a fait.
Ce qu’il fait en conséquence
- Il conçoit des systèmes de sorte que des personnes extérieures à l’équipe puissent vérifier les résultats.
- Il tient des traces (audit logs) qui montrent qui ou quoi a réalisé chaque étape.
Ce que cela signifie pour vous
Quand l’IA commence à prendre ou à préparer des décisions dans votre entreprise, demandez comment vous les vérifierez ensuite — et intégrez ce contrôle dès le premier jour.