【2026年】強化学習は業務のどこに効くか|任せる範囲の線引き

「強化学習という言葉は聞くけれど、うちの業務のどこで使うのかが分からない」「試しながら賢くなると言われても、失敗を本番で試させるわけにはいかない」——AIの導入を任された部署から、決まって出てくる声です。総務省が2026年7月に公表した令和8年版情報通信白書では、何らかの業務で生成AIを使っていると答えた日本企業の割合は86.4%まで上がりました。ところが同じ調査で、生成AIによる業務変革について「組織的な取組はない」と答えた割合は27.0%ありました。つまり、使う人は増えたのに、試した結果を測って、やり方のほうを書き換えていく回路が社内にない。強化学習は、その回路を機械の側に組み込む考え方です。とはいえ、どんな業務でも回るわけではありません。この記事では、この仕組みが成り立つ業務の条件と、回す前に用意しておくものを、場面ごとに順に見ていきます。
カメ先生強化学習ってね、AIが放っておいても勝手に賢くなる仕組みだと思われがちなんだけど、本当は『何を良しとするかを人が決めて、その点数を上げにいかせる』仕組みなんだ。
カメ子点数を決めるのは、AIではなく人のほうなんですか。
カメ先生そう。だから点数の置き方を間違えると、その間違った点数を全力で上げにくる。数字は伸びたのに現場が困った、というのはたいていこれでね。
カメ子良し悪しの物差しと、本当に良いことがずれてしまう場合がある、ということですか。
- 強化学習は「試す・点数をもらう・方針を書き換える」の繰り返し。点数を何に置くかは人が決める
- 効くのは、選べる手が有限で、良し悪しが数字で早く返り、失敗しても取り返しがつく業務
- 回す前に決めるのは物差し・試せる回数・壊れない環境の3つ。決めていない範囲はAIに渡さない
AI活用を戦略に落とす前に、まずは導入・定着から始めませんか?
デボノはアカウント開設・初期設定など「そもそものAI導入」から社内定着まで伴走支援。マーケティング活用など一歩進んだご相談にも対応します。
使う企業は増えた。試して直す回路はまだ足りない
令和8年版情報通信白書によれば、生成AIの活用方針について「積極的に活用する」「活用する領域を限定して利用する」と答えた日本企業の合計は68.9%でした。前年度調査の49.7%から大きく上がっています。企業規模別では大企業が74.0%、中小企業が58.1%で、伸びは中小企業のほうが目立ちました。実際に何らかの業務で使っている割合は86.4%です。用途としては、議事録や文面の作成といった、下書きを作る仕事から入る例が多く見られます。ただし、どの業務までAIを広げているかは会社ごとの差が大きく、割合として一括りには語れません。
ところが、同じ調査で生成AIによる業務変革に関する組織的な取組を尋ねると、日本では「組織的な取組はない」と答えた割合が27.0%ありました。リスク対策の取組では、日本で最も多い回答が「全社的な指針やガイドラインを整備している」の41.1%です。使ってよい範囲を文章で決めるところまでは進んだ会社が多い一方で、組織として業務のほうを組み替える段には、27.0%が手を付けていないことになります。入口の規則は作ったが、出た結果を測って手を入れ直す回路は置かれていない、という形です。
この2つの数字が並ぶことには、実務上の意味があります。指針やガイドラインは、やってよいことと駄目なことを決める道具です。決めた時点で作業はいったん区切りがつき、あとは守られているかを見るだけになります。これに対して組織的な取組のほうは、使ってみた結果を持ち寄り、効いた手を残し、駄目だった手を引っ込める作業です。終わりがなく、担当と時間が要ります。整備が進んだ側が最も多い回答になり、手を動かし続ける側に着手していない会社が27.0%あるという並びは、この負荷の差をそのまま映していると読めます。この記事で扱う仕組みは、まさに後者の側に位置します。
強化学習は、この「測って直す」を機械の側に組み込む考え方です。人が手順を全部書き下ろすのではなく、選べる手をいくつか与え、結果に点数を付け、点数が上がる方へ選び方を寄せていきます。ただし、点数を何に置くか、どこまで冒険させるか、どこから先は人が持つのかは、機械の側では決まりません。ここを決めないまま渡すと、数字だけが動いて現場が困る事態になります。
強化学習は「試す・点数をもらう・方針を書き換える」の繰り返し
アマゾンのクラウドが公開している機械学習の公式ドキュメントは、強化学習を「状況を行動に写して、数値で表した報酬を最大にする方法を決めること」と説明しています。仕組みは5つの部品でできています。環境は動く場所そのもので、実物の現場でも、計算機の中の模擬環境でもかまいません。状態は、これから先を決めるうえで必要な情報のひとまとまり。行動は選び手が実際に取る手。報酬は、直前の行動で到達した状態の価値を表す数です。
そして観測は、各段階で選び手が実際に見ることのできる情報を指します。全部が見える場合もあれば、一部しか見えない場合もあります。同じ文書は、長い目で見た累積の報酬を最も良くする戦略のことを方針と呼び、初めから終わりまでの一連の流れをエピソードと呼ぶと整理しています。訓練は、この一連の流れを何度も繰り返すことで進みます。
業務の言葉に置き換えると、状態は「いま目の前にある案件の状況」、行動は「打てる手の一覧」、報酬は「その手を打ったあとに返ってくる良し悪しの点数」、方針は「どんな状況ならどの手を選ぶかの決め方」です。強化学習が特徴的なのは、方針を人が書くのではなく、点数の履歴から作り直していく点にあります。だからこそ、点数が業務の狙いとずれていれば、ずれた方針が育つという関係になります。
教師あり学習との違いは、正解を全部そろえられるかどうか
同じ公式ドキュメントは、機械学習を3つの枠組みに分けています。教師あり学習では、外部の監督者がラベルの付いた例をまとめて与え、学習していない状況でも正しく言い当てられるように一般化させます。教師なし学習では、ラベルのないデータの中から構造を見つけます。これに対して強化学習が扱うのは、やり取りが続いていく問題です。そこでは、起こりうる状況すべてに正解を付けて集めることが現実的でない、と同文書は明記しています。
この違いは、BtoBの現場でそのまま効いてきます。たとえば「この見込み客に次はどの資料を出すべきか」の正解表は作れません。相手の状況は毎回違い、正解は出してみないと分からず、しかも出した結果によって次の状況が変わってしまうからです。教師あり学習が「過去の正解から言い当てる」のに対し、強化学習は「出してみて返ってきた反応から選び方を直す」ため、こうした場面に向きます。
逆に言えば、過去の正解表がきちんと作れる業務では、わざわざ強化学習を持ち出す必要はありません。請求書の項目を読み取る、問い合わせを分類する、解約しそうな顧客を見つける。こうした仕事は、正解付きのデータを集めて言い当てさせるほうが速く、精度も測りやすいです。正解表が作れるなら、まず教師ありで足りないかを確かめる。ここが最初の分かれ道になります。
生成AIの受け答えも、人の評価で整えられている
強化学習は工場や物流だけの話ではありません。いま業務で使われている生成AIの受け答えも、この仕組みで整えられています。生成AIの提供元が公開している用語集は、人のフィードバックによる強化学習を「事前学習を終えた言語モデルを、人の好みに沿う振る舞いへ訓練する手法」と定義しています。人が与えるのは点数そのものではなく、2つ以上の出力に順位を付ける形の評価です。そのうえで、上位に付けられた出力に近いものを好むようモデルを促していきます。
ここに、業務で使う側が知っておくべき副作用があります。人が好む出力を選び続けると、モデルは「人に好まれる答え」に寄っていきます。令和8年版情報通信白書も、生成AIの特性として事実と異なる情報を出す現象と並べて、利用者に過剰に同調してしまう現象を挙げています。壁打ちの相手として使ったときに反論が返ってこないのは、この寄りが効いているためです。
つまり、点数の置き方は仕上がりを決めます。「人が好むかどうか」を点数にすれば、好まれる答えが育つ。「クリックされたかどうか」を点数にすれば、クリックされやすいものが育つ。自社で強化学習の仕組みを回すときも、事情はまったく同じです。点数の定義は技術の細部ではなく、その仕組みが何を目指すのかを言葉にする作業だと考えてください。
【場面1】資料の出し分けを、試しながら決める
具体的な場面で追ってみます。自社サイトを訪れた見込み客に、その場でどの資料を出すかを決めたいとします。マイクロソフトが提供していた行動選択サービスの公式ドキュメントは、この種の仕組みを3つの部品で説明しています。文脈は、いまの状況を表す情報。訪問した地域、使っている端末、直前に読んでいた分野などです。行動は、選べる資料の一覧と、それぞれの資料を説明する情報。報酬は、その選択が良かったか悪かったかを示す0から1の数値です。
実装は驚くほど単純で、呼び出しは2つしかありません。ひとつは「いまの文脈で、この選択肢の中ならどれを出すか」を尋ねる呼び出し。もうひとつは「その結果どうだったか」を返す呼び出しです。同文書は、結果を返す呼び出しはその場で行っても、しばらく経ってから行ってもよいと書いています。資料のダウンロードのように結果がすぐ分かるものは即時、商談化のように後から分かるものは遅らせる、という使い分けです。
この形が業務に馴染むのは、今までのやり方をいきなり捨てずに済む点にあります。既存の出し分けルールは残したまま、選択肢のひとつとして仕組みに渡せます。そして返ってきた点数を見て、既存ルールより良い選び方が育っているかを比べられます。強化学習の導入は、ルールを全部AIに置き換える話ではなく、ルールと並べて走らせ、点数で比べる話です。
報酬を何に置くかで、返ってくる答えが変わる
同じ公式ドキュメントは、報酬の点数について「自社の事業の指標と目的によって決まる」とはっきり書いています。示されている例も具体的です。提案した記事を利用者が選んだら1、提案したものを選ばなかったら0、迷ってあちこち見た末に結局提案したものを選んだら0.5。この0.5という中間点の置き方に、設計の勘所が表れています。結果だけでなく、そこに至る過程の質も点数に織り込めるということです。
逆に、点数を単純にしすぎると、望まない振る舞いが育ちます。よくある型を挙げます。
- クリック率だけを報酬にする → 中身が薄くても目を引く見出しが選ばれ続ける
- 資料請求の件数だけを報酬にする → 誰でも取れる軽い資料ばかりが出て、商談の質が落ちる
- 短期の売上だけを報酬にする → 既存顧客の買い足しに寄り、新しい層への接触が消える
- 「担当者が満足したか」だけを報酬にする → 反対意見を出さない無難な提案に寄っていく
これらに共通するのは、本当に測りたいものの代わりに、測りやすいものを点数にしてしまったことです。対策は2つあります。ひとつは、点数を複数の要素の組み合わせにして、片方だけ伸ばしても点が上がらないようにすること。もうひとつは、点数とは別に「見張り用の数字」を置き、そちらが悪化したら止める決まりにしておくことです。商談化率を報酬にするなら、受注単価と解約率を見張りに置く、といった形になります。
効く業務の条件は3つある
では、どんな業務なら回るのか。先ほどの行動選択サービスの公式ドキュメントは、適用条件を具体的な数字つきで示しています。第一に、1回の判断で選ぶ候補が有限で、多すぎないこと。同文書は1回あたりおよそ50個までを推奨し、それより多い場合は、呼び出す前に候補を絞り込む別の仕組みを置くよう勧めています。第二に、選択肢を説明する情報と、いまの状況を説明する情報がそろっていること。第三に、学習に足りるだけの回数があることで、目安として1日あたりおよそ1,000件が挙げられています。
この1,000件という数字は、日本のBtoB企業にとって重い条件です。月に数十件の商談しか動かない事業では、1日1,000件どころか、年間でも届きません。だからといって使えないわけではなく、判断の単位を細かくすればよいのです。商談そのものではなく、サイト上でどの記事を薦めるか、メールでどの件名を出すか、資料のどの章を先に見せるか。単位を下げれば回数は跳ね上がります。
| 条件 | 満たしている状態 | 満たしていないときの回避策 |
|---|---|---|
| 選択肢が有限 | 1回に選ぶ候補が数個から数十個に収まる | 先に候補を絞る仕組み(検索や条件抽出)を前段に置く |
| 物差しがある | 良し悪しが0から1の数値で表せる | まず人が手作業で採点し、点数の定義が安定してから自動化する |
| 回数がある | 1日あたり数百件から千件級の判断が発生する | 判断の単位を下げる(案件単位ではなく、画面や文面の単位にする) |
| やり直せる | 失敗しても取り消せる/影響が小さい | 取り消せない判断は候補から外し、人の承認を必ず挟む |
【場面2】商談化の判断に持ち込むと、なぜ回らないのか
条件を裏返すと、失敗の型がはっきりします。よくあるのが「この案件を追うべきかどうかをAIに判断させたい」という相談です。この業務は、3つの条件をすべて外しています。まず回数が足りません。次に、良し悪しが分かるまでに数か月かかります。そして受注したかどうかは、その判断のおかげなのか、担当者の努力なのか、市況なのかを切り分けられません。
結果が遅れて返ることの何が難しいのか、もう少し具体的に言います。3か月前のある行動が効いたのか、先週の別の行動が効いたのかを、点数の側から見分けるのは容易ではありません。レコメンド基盤の公式ドキュメントにも、遅れて返る報酬を初期の出来事に結び付けるための設定が別途用意されている旨が書かれています。つまり、これは仕組みを足して対処すべき難所であって、何もせずに回る性質のものではないということです。
現実的な進め方は、判断そのものではなく、判断を助ける手前の工程に入れることです。「追うべきか」ではなく「次に送る文面をどれにするか」。「発注すべきか」ではなく「どの見積り条件を先に提示するか」。結果が数日以内に返り、外しても取り返しがつく判断まで単位を下げると、ようやく回り始めます。判断の重さと、仕組みに任せられる範囲は反比例します。
効かない業務の見分け方
導入前に外しておきたい業務を、判断材料の形でまとめます。次のどれかに当てはまるなら、強化学習ではなく、規則を人が書くか、教師あり学習で言い当てさせるほうが早く済みます。
- 判断の回数が月に数十件しかない(点数が集まる前に事業の前提が変わる)
- 良し悪しが分かるまでに数か月かかり、途中の途中経過も数字にならない
- 一度実行すると取り消せない(送信済みの通知、確定した発注、公開した価格)
- 選べる手が毎回まったく違い、前回の経験を次回に持ち越せない
- 良し悪しを数字にした瞬間に、大事なものが落ちる(信頼関係、長期の評判)
加えて、数字が返る業務であっても任せてはいけない領域があります。人の権利や生活に直接ふれる判断です。採用の合否、与信の可否、契約の解除、価格の最終決定。これらは点数が取れるかどうかではなく、説明責任を誰が負うのかという別の理由で、人が持つべき範囲に入ります。令和8年版情報通信白書も、AI活用の設計にあたっては業務領域の特性に加えて、人間が負うべき責任の範囲を見極めることが求められると述べています。
用意するもの:物差し・試せる回数・壊れない環境
回すと決めたら、着手前に3つを用意します。ひとつめは物差しです。どの結果を何点にするかを、実際の値で書き切ります。「良い感じなら高く」では動きません。先ほどの例のように、選ばれたら1、選ばれなかったら0、迷った末に選ばれたら0.5と、境目まで決めておきます。ここは技術者ではなく、業務の責任者が決める作業です。
ふたつめは試せる回数です。1日あたり何件の判断が発生するかを数え、目安に届かないなら判断の単位を下げます。みっつめは壊れない環境で、外れた手を出しても事業が傷まない範囲を先に囲っておくことを指します。アマゾンのクラウドの公式ドキュメントも、環境は実物の現場でも模擬環境でもよいと書いています。重要なのは実物かどうかではなく、失敗が外へ漏れないかどうかです。
この3つは、どれか1つでも欠けると回りません。物差しがなければ何を上げるのか決まらず、回数がなければ点数が集まらず、環境がなければ最初の失敗で止められてしまいます。逆に言えば、3つがそろっているかを見るだけで、その業務に持ち込むべきかどうかの当たりはつくということでもあります。
本番に出す前に試す形がある
いきなり本番の判断を任せる必要はありません。行動選択サービスの公式ドキュメントには、見習いモードという段階が用意されていました。職人の見習いが親方の手つきを見て覚えるように、いまの業務が使っている判断ロジックを観察して学ぶ仕組みです。この段階では、呼び出しの戻り値は既存の判断がそのまま返ります。つまり、利用者の体験は何も変わりません。
それでも意味があるのは、2つのことを確かめられるからです。ひとつは、仕組みに渡している情報が本当に判断の役に立つ材料になっているか。もうひとつは、新しい仕組みが立ち上がりで的外れな手を出す問題を、本番に持ち込まずに済ませることです。同文書は、これを新しいモデルの立ち上がりの問題を和らげるためのものと説明しています。
もうひとつ用意されていたのがオフライン評価で、コードを変えず、利用者に影響を与えないまま、仕組みの効き具合を測れます。本番に出す前に、この2つを通してください。白書が指摘していた「導入後の定期的な評価・検証が弱い」という日本企業の傾向は、こうした試す仕組みを設計に入れていないことの裏返しでもあります。
どこまで冒険させるかを、数字で決めておく
強化学習の仕組みは、いま一番良さそうな手ばかり出していると、もっと良い手を見つけられません。そこで、わざと自信のない手を混ぜます。これを探索と呼びます。レコメンド基盤の公式ドキュメントでは、この度合いが探索の重みという設定で表され、0.0から1.0の範囲を取り、既定値は0.3です。1に近いほど探索が増え、0にすると探索をやめて、いま持っているデータだけで出すようになります。
同じ文書には、新しいものとして扱う期間の設定もあります。既定は30日で、最小は1日です。この日数を長くすれば、探索の対象になる項目が増えます。またモデルは2時間ごとに自動更新され、新しい項目を候補に取り込む仕組みになっています。取り込みには最低1,000件の行動データが必要とも書かれており、先ほどの回数の条件がここでも顔を出します。
実務で大事なのは、探索がわざと成果の低い手を出す時間だという事実を、先に社内へ説明しておくことです。説明していないと、数字が下がった週に「AIが失敗した」と言われて止まります。既定の0.3なら、おおよそ3割程度は試し打ちに回ると理解し、試し打ちの割合と、その期間をあらかじめ合意しておく。これは技術の話ではなく、合意形成の話です。
AIに決めさせない範囲を、先に文章にしておく
令和8年版情報通信白書は、AI活用を前提に業務を組み替えるにあたって、業務領域の特性と人間が負うべき責任の範囲を見極めたうえで、どのタスクは人の思考や判断の補助として使い、どのタスクは自律的に実行させるのかを検討する必要があると述べています。この線引きは、動かし始めてからでは引き直せません。
具体的には、次の4つを文章にして残しておきます。第一に金額の上限で、仕組みが自分で決めてよい費用の範囲。第二に相手の範囲で、既存顧客だけか、新規の見込み客にも出してよいのか。第三に取り消せるかどうかで、出したあとに引っ込められない手は候補から外す。第四に記録の残し方で、どの状況でどの手を選び、点数がいくつ返ったのかを、後から人が読める形で残します。
そのうえで、AIには必ず根拠を書かせてください。単に「この手を選んだ」ではなく、「この状況のこの特徴を見て、この手を選んだ」まで残す。点数が上がっている理由を人が説明できない仕組みは、上がっているうちは誰も見ませんが、下がった瞬間に誰も直せません。人が確認する範囲を先に決め、根拠を書かせて残す。この2つが、任せる範囲を広げていくための土台になります。
導入の順序
ここまでの内容を、着手の順番に並べます。いきなり本番の判断に入れず、物差しの定義から始めるのが要点です。
1日あたり数百件以上発生し、外しても取り返しがつく判断を選びます。商談の可否ではなく、文面や表示の選び方から入るのが現実的です。
どの結果を何点にするかを、境目まで書き切ります。あわせて、悪化したら止める見張り用の数字も決めておきます。
いまのルールをそのまま動かしたまま、仕組みには観察だけさせます。渡している情報が判断の材料になっているかを、この段階で確かめます。
対象を一部の画面や一部の顧客層に限り、探索の割合と期間を合意したうえで出します。止める条件を先に決めておきます。
週次で点数と見張り用の数字を並べて見ます。改善が止まったら物差しを疑い、材料を疑い、最後に手法を疑う順で当たります。
この順で進めると、失敗してもどこで失敗したのかが分かる状態になります。物差しが悪かったのか、材料が足りなかったのか、そもそも向かない業務だったのか。順番を飛ばして本番から始めると、うまくいかなかったときに原因の切り分けができません。
この順序は、白書が示す全体の段取りとも重なります。令和8年版情報通信白書は、効果を出している企業の段取りとして、まず導入しやすい汎用のAIを個人の作業で使うことを組織的に浸透させ、AIの特性と適用できる業務への理解を社内に広げる段階を挙げています。そのうえで、経営戦略に基づいて人とAIの協業の形を定義し、業務の流れ全体をAI前提で組み替えていく、という順です。同白書が挙げる事例では、効果を見込める対象業務を部門ごとに選び、指示文のひな形を作って効果を測る取組を少しずつ社内へ広げた結果、社内の生成AI利用率が直近で7割を超えたとされています。順番を守った側が、結局は速い、ということです。
道具は終わる。仕組みと記録は自社に残す
最後に、運用の置き場について触れておきます。この記事で参照してきた行動選択サービスは、公式ドキュメントに2023年9月20日以降は新規に作成できなくなること、そして2026年8月25日でサービスを終了することが明記されていました。移行先として、公開されている実装が案内されています。数年前に整えた仕組みが、事業者側の判断で終わるのは珍しいことではありません。
だからこそ、事業者に預けきってよいものと、自社に残しておくべきものを分けておきます。残すべきは3つです。物差しの定義、選択肢の一覧とその特徴の作り方、そして「どの状況でどの手を選び、いくつ返ったか」の記録です。この3つが手元にあれば、道具が変わっても仕組みは移せます。逆に、これらが事業者側にしかない状態だと、終了の告知と同時にゼロからやり直しになります。
もうひとつ、個人情報の扱いにも触れておきます。同ドキュメントは、個人を特定できる利用者の識別子を送ってはならないこと、利用者ごとの好みや履歴をサービス側で保持しないことを明示していました。行動の履歴を扱う仕組みは、放っておくと個人が特定できる形に近づいていきます。何を送り、何を送らないかは、回し始める前に決めておくべき項目です。
ミニ用語解説
この記事に出てきた言葉を、業務の側の意味で短くまとめます。
方針……どんな状況ならどの手を選ぶか、という決め方そのもの。人が書いたルールも方針ですが、強化学習では点数の履歴から作り直されていきます。
報酬……直前の行動で到達した状態の価値を表す数。業務では0から1の点数に置き換えることが多く、点の付け方は事業の指標と目的で決まります。
エピソード……最初の状態から終わりの状態までの一連の流れ。業務では「1件の問い合わせが解決するまで」「1回の訪問が終わるまで」といった単位にあたります。
探索……いま一番良さそうな手ではなく、まだ試していない手をあえて出すこと。割合は設定で決められ、多くの仕組みで既定は3割前後に置かれています。
人のフィードバックによる強化学習……人が2つ以上の出力に順位を付け、上位に近い出力を好むようモデルを促す訓練の仕方。生成AIの受け答えの整え方として使われています。
まとめ
強化学習は、試して、点数をもらって、方針を書き換える仕組みです。効くのは、選べる手が有限で、良し悪しが数字で早く返り、外しても取り返しがつく業務。回す前に用意するのは、物差し・試せる回数・壊れない環境の3つです。そして、点数を何に置くかも、どこから先を人が持つかも、機械の側では決まりません。自社の判断のうち、どれを細かい単位に割り直せば回せるか。そこから逆に考えていくのが、いちばん近道になります。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
AI活用を戦略に落とす前に、まずは導入・定着から始めませんか?
デボノはアカウント開設・初期設定など「そもそものAI導入」から社内定着まで伴走支援。マーケティング活用など一歩進んだご相談にも対応します。
