AIで作った仕組みが想定外の仕事に使われたら：扱いを三つから選ぶ
AIで作った仕組みの想定外の使われ方は、相談が来る前に実行記録で見つけて決めます。
この記事の要点
- 想定外の使われ方は、相談より先に実行記録に出る
- 気づいた時点なら、含める・対象外・作り直すの三つを選べる
- 選ぶ基準は回数ではなく、自分が検査した入力の範囲かどうか
- 決めた扱いは1行で伝え、社内にも同じ行を残す
目次
想定外の使われ方は、相談より先に実行記録に出る
A&Aの考え方
想定外の使われ方とは、見積もりにも仕様にも書いていない仕事に、AIで作った仕組みが使われていることです。社内の別の部署が勝手に始めることもあります。納品した顧客の側で始まることもあります。
A&Aの考え方
使っている側は困っていないので、こちらには何も届きません。届かないまま月が過ぎると、その使い方についての質問と手直しが、気づかないうちにこちらの時間を使っていきます。相談が来たときには、もう断る余地がありません。
A&Aの考え方
ただ、この使われ方は、相手の相談より先に自分の側の記録に出ています。ここで言う実行記録とは、いつ、どの入口から、どんな形の入力が来たかを残したものです。入口とは、その仕組みに入力が入ってくる経路のことです。動いた回数、入ってくる入力の種類、動く時刻。このどれかが、作ったときの想定からずれます。
A&Aの考え方
この話は、顧客に納品した仕組みでも、自社の中だけで動かしている仕組みでも同じです。納品したものなら顧客の社内で別の業務に回り、自社のものなら作った部署の外へ回ります。
出典に基づく事実
Genspark という会社は、一つの指示から資料や表をまとめて作る AI サービスを出しています。Anthropic はこの会社の事例ページを公開しています。そこには、作り手の誰も計画していなかった使い方を、利用者が自分で編み出した、と書かれています。
出典に基づく事実
同じページには例が挙がっています。ニューヨークの不動産の分析担当者は、投資家向けの資料を数時間で作るようになりました。以前は複数人で何週間もかけていた資料です。日本の水産業の経営者は、国内の需要を調べ、新しい取引先を探すのに使っています。
A&Aの考え方
この記事を書いている Automate & Augment (A&A) は、この事例をこう読みます。大事なのは、使い方が増えたことではなく、作り手が知る前に増えていたことです。
出典に基づく事実
Gumloop という会社は、業務の自動化を組む道具を売っています。この会社は2026年2月に、自社のサポートの回し方を公開しました。サポートの担当は二人だけだと書いています。
出典に基づく事実
その記事によると、30分ごとに走る仕組みが、誤りや異常の多い利用者を見つけ出します。利用者が問い合わせを出す前に、こちらから不具合を見つけて連絡できる、と書かれています。同じ記事は、サポートのやり取りをすべて分類して傾向をつかむ仕組みにも触れています。
A&Aの考え方
この2社は、どちらも同じ製品を多数の利用者へ出している会社です。一つの相手に個別に作って渡す場合とは、新しい使い方が出てくる道筋が違います。個別に渡した場合は、利用者の数は増えません。代わりに、渡した仕組みが相手の社内で別の部署や別の業務に回されます。
A&Aの考え方
どちらの会社の話も、不具合を早く見つけることが中心です。面倒を見る範囲をどこで区切るかには触れていません。A&A がこの2社から使うのは、相手の相談より記録が先に出る、という順序だけです。
仮想例
ここから先は仮の例で、実在の顧客の記録ではありません。月次の請求書を作る仕組みを作って渡したとします。実行記録を見ると、見積もりに書いていない処理が毎週動いていました。過去2年分をまとめて出力する使い方です。この時点で、使っている側はまだ何も言ってきていません。
扱いは三つしかなく、遅れるほど選べなくなる
A&Aの考え方
想定外の使われ方に対して取れる手は三つです。今のまま面倒を見る対象に含める。対象外として線を引く。別の案件として作り直す。このどれかです。
A&Aの考え方
含めるとは、これから来る質問と手直しを、今の約束の中で引き受けることです。対象外とは、その使い方については答えず、相手の側で対応してもらうことです。作り直すとは、その使い方を正式な機能として設計し直すことです。顧客に納品したものなら、三つ目は別見積もりになります。
A&Aの考え方
三つのどれを選べるかは、気づいた時点で決まります。記録に出た段階なら、三つとも残っています。
A&Aの考え方
相談が届いた段階では、その使い方はすでに相手の業務の手順に入っています。対象外にすれば相手の仕事が止まり、作り直すことにすれば止めている間の費用を相手が負います。だから実際には、含めるしか残りません。
A&Aの考え方
この三つの分け方は、A&A が決めたものです。
A&Aの考え方
反対に、相手が困っていないうちに線を引くのは早すぎる、という見方も成り立ちます。相談が来てから個別に判断したほうが、関係は穏やかです。この見方を取る場合も、記録に出た日付だけは残します。日付があれば、いつから無償で見ていたかを後で言えます。
仮想例
先ほどの仮の例なら、過去2年分をまとめて出力する使い方が記録に出た週に決めます。毎週動いている以上、来月には相談が来ます。
| 比べる点 | 記録に出た段階 | 相談が届いた段階 |
|---|---|---|
| 選べる手 | 含める・対象外・作り直すの三つ | 実際には含めるだけ |
| 決める人 | こちら | 相手の都合 |
| 対象外にしたとき | 相手の業務はまだ変わらない | 相手の業務が止まる |
| 作り直すときの費用 | 設計し直す分だけ | 止めている間の損も相手が負う |
| 相手への説明 | 先に知らせた形になる | 断りとして受け取られやすい |
選ぶ基準は回数ではなく、確かめた範囲かどうか
A&Aの考え方
三つから選ぶとき、回数の多さを基準にしません。回数が多いほど含めたくなりますが、多いほど無償で引き受ける量も増えます。
A&Aの考え方
基準にするのは三つの問いです。
A&Aの考え方
一つ目は、その使い方で出てくる答えを、こちらが検査した入力の範囲で説明できるか、です。検査していない形の入力が混じっているなら、含めるのは、確かめていないものを保証するのと同じです。
A&Aの考え方
二つ目は、失敗したときに誰が最初に気づくか、です。こちらの記録に出るなら含められます。相手の現場でしか分からないなら、対象外にするか、気づく仕組みを作る別の案件にします。
A&Aの考え方
三つ目は、直すときに元の設計のどこを触るか、です。入口の設定だけで済むなら、含める側に寄せられます。処理の中心を書き換えるなら、作り直しの話です。
A&Aの考え方
注意が一つあります。想定外の使われ方は、いつもよい知らせとは限りません。こちらが安全を確かめていない範囲まで、相手の使い方が広がっているなら、含めるより先に止める判断が要ります。
A&Aの考え方
ここまでの順序は、実行記録がそもそも残っていることが前提です。記録に何を残すかを納品前に決める話は、別の記事で扱っています。
仮想例
先ほどの仮の例なら、過去2年分をまとめて出力する使い方は、入口の設定で期間を制限できました。失敗はこちらの記録に出ます。検査した入力の範囲も、月次と同じ形でした。だから、含める側に寄ります。
決めた扱いは、1行で伝えて記録に残す
A&Aの考え方
決めただけでは、相手の側では何も変わりません。黙っていれば、含めると決めたのと同じ状態が続きます。
A&Aの考え方
伝える文は1行で足ります。使い方の名前と、三つのどれにしたかと、その理由を一つ入れます。
A&Aの考え方
書く場所は三つあります。保守契約の対象の欄、月次の報告、次の見積もりです。どれでも構いませんが、お金の話が動く前に出します。顧客に納品したものなら、次の請求か契約の更新より前です。請求のあとに線を引くと、値上げの通告と受け取られます。
A&Aの考え方
対象外にするときは、代わりに相手ができることを同じ行に書きます。線を引くだけだと、断りとして受け取られます。
A&Aの考え方
決めた結果は自分の側にも残します。使い方の名前、最初に記録に出た日、選んだ扱い、理由の1行です。次に似た使い方が出たときに、そのまま使える前例になります。
仮想例
先ほどの仮の例なら、こう書きます。「過去分の一括出力は保守の対象に含めます。期間の上限は24か月とし、それを超える出力は別途見積もりとします。」
まとめ
A&Aの考え方
想定外の使われ方は、相手の相談より先に、自分の実行記録に出ます。
A&Aの考え方
見つけた時点で、含める・対象外・作り直すの三つから選びます。相談が届いてからでは、含めるしか残りません。
A&Aの考え方
選ぶ基準は回数の多さではなく、自分が検査した入力の範囲に入るかどうかです。
A&Aの考え方
決めた扱いは、お金の話が動く前に、1行で相手に伝えて記録に残します。
想定外の使われ方は、相手が相談してくるより先に、自分の実行記録に出ます。記録に出た段階なら、今のまま含める、対象外として線を引く、別の案件として作り直すの三つがまだ選べます。相談が届いた段階では、その使い方はすでに相手の業務の手順に入っているので、実際には含めるしか残りません。選ぶ基準は回数の多さではなく、検査した入力の範囲で説明できるか、失敗に誰が最初に気づくか、直すのに設計のどこを触るかの三つです。決めた扱いは、お金の話が動く前に1行で相手に伝え、同じ行を自分の側にも残します。ただし、想定外の使われ方がいつもよい知らせとは限らず、安全を確かめていない範囲まで広がっているなら、含めるより先に止める判断が要ります。この順序は、そもそも実行記録が残っていることが前提です。
よくある質問
相手が先に相談してきた場合は、もう手遅れですか。
手遅れではありませんが、選べる手は減っています。すでに業務に組み込まれている使い方を対象外にすると、相手の仕事が止まります。その場合は、いったん含めたうえで、期間や件数の上限をその場で決めます。上限を決めておけば、次の更新で別の案件に移す話ができます。
実行記録は、どこまで細かく残せばよいですか。
この判断に要るのは、使い方を見分けられるだけの細かさです。いつ、どの入口から、どんな形の入力が来たかが分かれば足ります。処理の中身を1行ずつ残す必要はありません。記録に何を残すかを納品前に決める話は、別の記事の主題です。
想定外の使われ方を見つけるために、監視の仕組みを作る必要がありますか。
最初は要りません。先ほどの Gumloop は30分ごとに走る仕組みを持っています。ただしこの会社は、サポートの担当が二人で、サポート関連の処理が週に50万件を超えると書いています。この数字は同社の自己申告で、第三者が確かめたものではありません。手元の規模なら、月に一度、動いている仕組みの記録を開くところから始められます。
出典・編集情報
記事の調査で確認した一次資料です。資料の公開・更新時期と、調査時の確認日を分けて記載しています。
- Genspark's Super Agent orchestrates 150+ tools with Claude
Anthropic · undated customer story page; no publication or update date shown
確認日 2026-10-23 - Supporting the world's most AI-native companies with a 2-person team
Gumloop · 2026-02-17
確認日 2026-10-23