用白話說
每用一次 AI 都要花錢,而且不同模型的成本差很多。所以要把 AI 當作其他基礎設施來管理:為每個任務選對模型,給各團隊編列預算,並檢查拿回來的價值。
為什麼 Jenks 這樣想
- 在 Babylon Labs 擔任 AI Lead,他負責全公司的 AI 基礎設施與 AI 營運預算。
- 他公開直問關鍵的花費問題——例如,每位開發者一年約 $20k 的 AI 預算何時真正回本?支出該如何在團隊與模型之間分配?
他怎麼做
- 把每個任務送到「夠好且最便宜」的模型("model routing")。
- 以團隊為單位設預算,並在全面推行前先測試品質。
- 追蹤回報:省下的時間、完成速度與品質。
對你意味著什麼
在擴大量用 AI 之前,先決定誰負責 AI 預算,以及你要如何衡量其價值。否則成本會默默上升,沒人能說清是否有效。