かんたんに言うと
AIは使うたびにコストがかかり、モデルごとに単価が大きく異なります。だからこそ、AIはほかのインフラと同様に管理すべきです。用途に最適なモデルを選び、チームごとに予算を配分し、得られる価値を確認します。
Jenks がそう考える理由
- Babylon Labs の AI Lead として、会社全体のAIインフラとAI運用予算を管掌しています。
- 彼はお金の厳しい問いをはっきりと投げかけます。たとえば、開発者1人あたり年間約$20kのAI予算はいつ実際に回収できるのか、支出をチームやモデル間でどう按分すべきか、という点です。
それに対して彼がしていること
- 要件を満たす中で最も安価なモデルに各タスクを送ります（「model routing」）。
- チームごとに予算を設定し、全社展開の前に品質を検証します。
- リターンを追跡します：節約した時間、作業の速さ、品質。
あなたにとっての意味
AIを拡大する前に、AI予算の責任者と、価値をどう測定するかを決めてください。そうしないと、コストは静かに膨らみ、うまくいったかどうか誰にも言えません。