AI開発の見積もり前に：作り直しを減らす判断と例外の書き出し方
AI開発の作り直しは、人の判断と例外を見積もりの前に書き出すと減らせます。
この記事の要点
- 見積もりの前に、値引きや納期など人が決めている判断を書き出す
- 数量の無い注文などの例外は人に渡すと決め、AIが止まる条件として書く
- 人に残す判断を先に決めて、見積もりの範囲を絞る
目次
見積もりの前に、人が決めている判断を書き出す
A&Aの考え方
外注先に見積もりを頼む前に、今の業務で人が決めている判断を一覧にします。ここでいう判断とは、値引きを受けるか、納期を約束するかのように、担当者がその場で決めていることです。
出典に基づく事実
Anthropicは2026年1月に、AIエージェントの動きを確かめるテスト（評価）の作り方を解説する記事を出しました。AIエージェントは、AIが自分で手順を選んで作業を進める仕組みです。評価は、AIに入力を与え、出力が合格かを確かめるテストを指します。
出典に基づく事実
その記事は、同じ仕様書を読んだ技術者2人でも、AIが例外をどう扱うかで解釈が分かれ得ると書いています。最初のテストでは動いても、書かれていない期待に合わず、何週間も費やすことがあるとも書いています。
A&Aの考え方
この記事を書いているAutomate & Augment（A&A）は、この「書かれていない期待」が作り直しの大きな原因だと見ています。発注する側では、その期待は担当者の頭の中にあります。外注先は、書かれていない判断を見積もりに入れられません。
仮想例
たとえば、社員4人の会社が、取引先からの注文メールを受注表に入れ、納期を返す仕事をAIに任せたいとします。担当者は在庫と工場の予定を見て納期を決め、値引きの依頼は社長に回しています。どちらも手順書には書かれていません。
A&Aの考え方
判断は1件ごとに、だれが、何を見て、何を決めるかの3つを1行に書きます。担当者に、この1か月で迷った注文を思い出してもらうと早く集まります。
出典に基づく事実
評価の記事は、作り始めは手作業の確認と勘でもかなり進められると書いています。作り始めたチームには、厳しい評価がAIの機能の公開を遅らせる手間に見えることもある、とも書いています。
A&Aの考え方
A&Aは、外注では事情が違うと考えます。作り直すたびに、見積もりのやり直しと日数がかかるからです。書き出しに時間を取っても、見積もりの前に済ませる方が安く済むと見ています。
例外は人に渡すと決め、AIが止まる条件として書く
A&Aの考え方
数量の無い注文などの例外は人に渡すと決め、AIに無理に処理させず、止まる条件として書きます。例外とは、いつもの手順では決められない注文のことです。数量の無い注文のほか、前回限りの値引きを今回も求める注文も当たります。
出典に基づく事実
Anthropicは2024年12月の技術記事で、AIエージェントは作業の途中で、人に情報や判断を求めに戻り得ると書いています。区切りの所や行き詰まった所で人の確認を待ち、繰り返す回数の上限のような、止める条件を入れるのも一般的だとしています。
出典に基づく事実
先の評価の記事は、実際の失敗から集めた20〜50件の簡単な例で始めるのがよいとしています。AIが動くのが正しい場合だけでなく、動かないのが正しい場合も試すよう書いています。
A&Aの考え方
A&Aは、例外を過去の注文から拾うのが近道だと考えます。この1か月で担当者が電話で聞き返した注文や、社長に回した注文を20件ほど集めます。1件ごとに、AIがどこで止まり、だれに渡すかを書きます。
A&Aの考え方
A&Aは、例外の1行も同じやり方で確かめられると考えます。社長と担当者が別々に読み、同じ渡し先を選べば、その1行は外注先にも伝わります。
仮想例
注文メールの例では、数量の無い注文は、聞き返す文を作って担当者に渡します。前回限りの値引きを今回も求める注文は、金額を入れずに社長へ渡します。AIが過去の書類から値引きを写すと、今回は使えない条件が返信に残ります。
A&Aの考え方
止まる条件が書いてあれば、外注先は「止まって人に渡す」部分を見積もりに入れられます。書いていないと、納品の後で「この注文はどうするのか」という問いが出て、作り直しになります。
| 場面 | 今だれが決めているか | AIにさせること |
|---|---|---|
| 数量と型番がそろった注文 | 担当者が受注表に写す | 受注表に入れ、納期を空けた返信の下書きを担当者に渡す |
| 数量が書いていない注文 | 担当者が電話で聞く | 止まって、聞き返す文を担当者に渡す |
| 前回限りの値引きを今回も求める注文 | 社長が決める | 金額を入れずに、社長に渡す |
| 希望納期が在庫より早い注文 | 担当者が工場に確かめる | 止まって、担当者に渡す |
| 初めての取引先からの注文 | 社長が受けるかを決める | 止まって、社長に渡す |
人に残す判断を先に決めて、見積もりの範囲を絞る
A&Aの考え方
判断と例外を並べたら、AIに任せる判断と人に残す判断に分け、人に残す側を先に決めます。人に残すと決めた判断は、AIにさせる範囲から外れます。範囲が狭いほど、見積もりの前提も少なくなります。
出典に基づく事実
その記事は、決めた手順で動く仕組みを、AIと道具を前もって書いたコードの道筋で動かすものと説明しています。手順を決めておける仕事には、AIが自分で進め方を選ぶAIエージェントより、この仕組みの方が予測しやすいとしています。
A&Aの考え方
上の表で、AIが止まらずに進めるのは1行目だけです。その1行目でも納期は空けたまま、返信の下書きを担当者に渡します。残りの4行は「止まって渡す」で、AIは値引きも納期も決めません。外注先が作るのは、注文を読み分ける所と、渡す先を選ぶ所までになります。
A&Aの考え方
注文メールの例では、数量と型番がそろった注文を受注表に入れる仕事は、手順を決めておける仕事に当たると考えます。止まって渡す行も、だれに渡すかは表のとおりに書けます。外注先には、AIエージェントにせず決めた手順で作れるかを、見積もりの時に聞けます。
A&Aの考え方
A&Aは、この表を見積もりの依頼にそのまま添えるのがよいと考えます。外注先は、表に無い判断を作らずに済みます。後で「人に残す」行をAIに移したくなったら、別の依頼として見積もり直せます。
A&Aの考え方
どの判断をAIに任せられるかは、AIが今どこまでできるかで変わります。値引きの判断も、いずれAIに任せられるかもしれません。それでも最初の見積もりでは、人に残す判断を多めに取る方が範囲を絞れます。
まとめ
A&Aの考え方
AI開発の作り直しは、書かれていない判断と例外から起きやすくなります。見積もりの前に、値引きや納期など人が決めている判断を書き出します。
A&Aの考え方
数量の無い注文などの例外は人に渡すと決め、AIが止まる条件として書きます。人に残す判断を先に決めると、見積もりの範囲を絞れます。
AI開発の作り直しを減らす準備は、見積もりの前に、人が決めている判断と例外を書き出すことです。次に決めるのは、その中のどれを人に残すかで、それがAIにさせる範囲と見積もりの前提になります。
よくある質問
判断と例外の一覧は、外注先に作ってもらえませんか。
下書きは頼めますが、合否を決めるのは自社です。Anthropicの評価の記事も、要件と利用者にいちばん近い人が、何を成功とするかを決めるのに向いていると書いています。
例外は何件くらい集めればよいですか。
まず20件ほどで始められます。Anthropicの評価の記事は、実際の失敗から集めた20〜50件の簡単な例で始めるのがよいとしています。
Claude Codeで自分で作る場合も、この一覧は要りますか。
要ります。自分で作る時も、一覧はAIに渡す指示と、出来を確かめる例の元になります。
出典・編集情報
記事の調査で確認した一次資料です。資料の公開・更新時期と、調査時の確認日を分けて記載しています。
- Building effective agents
Anthropic · 2024-12-19
確認日 2026-10-24 - Demystifying evals for AI agents
Anthropic · 2026-01-09
確認日 2026-10-24