Ĉiuj vidpunktoj
04 el 07
Sekureco laŭdezajne.
Enmetu sekurecon en AI-sistemojn ekde la komenco — ne kiel regulo verkita post ses monatoj.
En simplaj vortoj
Kiam AI-agentoj povas legi kompaniajn datumojn kaj fari agojn, sekureco ne povas esti politika dokumento aldonita poste. Ĝi devas esti parto de la konstruo de la sistemo: kie pasvortoj kaj ŝlosiloj estas konservataj, kion ĉiu agento rajtas tuŝi, kaj registro de ĉio, kion ĝi faris.
Kial Jenks tiel pensas
- ĉe Babylon Labs li enmetis sekurecon, akreditaĵ-traktadon kaj kontrolregistradon en la AI-arkitekturon ekde la komenco, anstataŭ kiel posta politika tavolo.
- Sur la kampanja platformo Hall for Murrumbeena, kiun li konstruis, AI-agentoj povas pretigi agojn, sed homo ilin aprobas.
- Li atente sekvas la sekurecon de AI-agentoj: agentoj kiuj neniam vidas sekretojn, iloj kiuj rulas en sablokesto, kaj pordegoj kiuj regas kion agentoj povas atingi.
Kion li faras pri tio
- Tenas ŝlosilojn ekster la petoj al la AI, kaj donas al ĉiu ilo la minimuman aliron kiun ĝi bezonas.
- Konservas kontrolspuron, kaj testas antaŭ ol enkonduki.
Kion tio signifas por vi
Demandu al ajna AI-vendoro aŭ interna teamo tri demandojn: Kie estas la akreditaĵoj? Kion la agento povas fari memstare? Ĉu ni povas vidi registron pri tio, kion ĝi faris?