ヒューマンインザループとは？｜人が承認する場所の決め方

「AIの出力は人が確認してから使う、と社内で決めました」「決めたのですが、誰がどこで何を見るのかは曖昧なままです」——生成AIの利用ルールを作った部署から、決まって届く声です。曖昧なのは決め方が甘いからではありません。「人が確認する」という言葉が、位置も権限も材料も件数も指定しない言葉だからです。2,784人を対象にした実験では、AIが抽出した値を人が点検する作業で、誤りを見つけたら訂正まで求める決まりにしたほうが、かえって関与が下がり、誤った提案を受け入れやすくなりました。確認を厚くすれば安全になる、という前提そのものが実測に支えられていないということです。この記事では、ヒューマンインザループという言葉が指すものを分解し、人が入る型を4つに分けて、どの型をどこに当てるかを整理します。

同じ言葉が、まったく別の2つを指している

ヒューマンインザループという言葉は、社内の会議で2つの別のものを指して使われます。1つは学習させるときのループで、人が正解を付けたり、出てきた答えに良し悪しを付けたりして、その結果をモデルの改良に返す流れを指します。もう1つが動かすときのループで、1件ごとの処理の流れの中に人の判断が組み込まれている状態を指します。会議が噛み合わないときは、たいていこの2つが混ざっています。

法人のマーケ部門や情報システム部門が決めるべきなのは、ほぼ後者です。前者は外部から提供されるモデルを使う限り自社の手の届く範囲になく、自社でできるのは学習に使うデータをどう用意するかという別の議論になります。「人が確認する体制を作る」と決裁を取ったのに、出てきた案が学習データの整備計画だった、というずれはここから生まれます。

以降この記事では、動かすときのループに絞ります。決めるのは3つです。位置（工程のどこに人が入るか）、権限（入った人が何をできるか）、材料（何を見て判断するか）。3つのうち、いちばん抜けやすいのが材料です。位置と権限は組織の話なので会議で決まりますが、材料は画面や帳票の話なので、作る側に丸投げされたまま運用が始まってしまいます。

「人が確認します」は、状態の宣言であって設計ではない

社内ルールでいちばんよく見る一文が「AIの出力は人が確認してから使用する」です。この一文は、確認する人も、確認の対象も、確認して何ができるかも、1日に何件来るかも指定していません。指定していないものは、運用が始まった瞬間に現場が勝手に埋めます。多くの場合、埋まり方は「目を通して流す」になります。

権限のほうも、実は4つに分かれます。通す、止める、直す、そもそも使わないと決める。この4つは別々の権限で、同じ人が全部持っているとは限りません。広告の文言を確認する担当者に「直す」権限はあるが「この案件では使わないと決める」権限はない、ということは普通に起きます。権限を「承認」の一語で書くと、この4つの区別が消えます。

材料は、判断の質をいちばん左右します。AIの出力だけを見せて可否を聞くと、点検ではなく読書になります。比べる元がない確認は、誤りを見つけられません。元の資料との差分、機械が自信を持てなかった箇所、直前の抜き取り点検で見つかった誤りの傾向。この3つを添えるだけで、同じ人が同じ時間で見つける誤りの数が変わります。材料を決めるのは設計側の仕事で、確認者の努力で埋められる部分ではありません。

人が入る型は、4つに分かれる

人が入る形は1つではありません。実務で使われているものを整理すると4つになり、既定の動きと、人がすることと、向く場面が全部違います。まず並べて見てください。

型	既定の動き	人がすること	向く場面	弱いところ
事前承認	止まる	1件ずつ中身を見て通す	取り消せない操作の直前	件数が増えると中身を見なくなる
事後監査	進む	出したあと一定割合を抜いて点検する	戻せる誤りで、件数が多い工程	気づくのが遅く、誤りが世に出たあとになる
拒否権	進む	動きを見て、必要なときに止める	長い時間動き続ける処理	見ていなければ働かない
例外送り	条件に当たった件だけ止まる	回ってきた件だけ判断する	件数が多く、回す条件を書ける工程	条件の書き方で見逃しが決まる

表の見方で大事なのは、4つのうちどれか1つを選ぶのではなく、1つの業務の中で工程ごとに違う型を当てるという点です。名刺データの補完という1つの仕事の中でも、情報を探す工程は例外送り、台帳に書き込む工程は事前承認、後から品質を見る工程は事後監査、という組み合わせになります。全工程を同じ型にしようとすると、必ずどこかが回らなくなります。

型1　事前承認——実行の前に、必ず通す

既定の動きが「実行しない」になっている型です。人が通すまで、処理はその場で待ちます。置くべき場所は、取り消せない操作の直前だけです。外部への送信、公開、入金、削除、外部サービスへの登録。実行したあとで元に戻せないものが対象になります。

この型の弱点は、件数に対してまったく強くないことです。1日に200件届く承認を1人で処理すると、1件あたりに使える時間は数十秒になります。数十秒でできるのは、画面を見て押すことだけです。件数が増えたときに壊れるのは仕組みではなく、承認の中身のほうで、しかも外からは壊れたことが見えません。承認の記録はきちんと残り続けるからです。

だから事前承認は、対象を絞ることとセットで設計します。絞り方は2段構えにします。まず取り消せる操作を全部外す。次に、残った取り消せない操作のうち、影響が社内に閉じるものを外す。この2段で、多くの業務では対象が当初の想定の数分の1になります。絞ることは手を抜くことではなく、残した件を実際に見られるようにするための操作です。

型2　事後監査——出したあとに、抜き取りで見る

既定の動きは「進む」で、処理が終わったあとに一定割合を抜いて点検します。向くのは、誤りが出ても戻せる工程と、件数が多くて全件は見られない工程です。記事の下書き、要約、分類、タグ付け、社内向けの資料の初稿あたりが代表例になります。

決めることは3つあります。抜く割合、抜き方、見つけたときの戻し方。割合は最初から低くしすぎないことが要点で、運用の初月は10%前後から始めて、誤りがゼロの期間が続いたら下げます。抜き方は無作為だけでなく、条件を付けた抜き方を混ぜます。初めて扱う種類の案件、金額が大きい案件、担当が交代した直後の案件は、無作為とは別枠で必ず抜きます。

この型でいちばん見落とされるのが、気づくまでの遅れをあらかじめ見積もることです。1日100件処理していて週に1回点検するなら、誤りに気づいた時点で最大700件が世に出ています。「誤りが何件出たあとに気づくか」を数字で出してから、その数を許せるかを判断します。許せないなら、事後監査ではなく例外送りか事前承認に変えるしかありません。

型3　拒否権——既定は進む、人はいつでも止められる

処理は自動で進み続け、人は動きを見ていて、必要なときに止める型です。長い時間動き続ける処理や、連続して大量に処理が走る場面に向きます。制度側の言葉づかいでは、介入して安全に停止できる状態、と表現されます。

実務で決めるのは、止めるための3点です。止める操作がどこにあるか、誰が押せるか、押したら何が起きるか。3つ目が抜けている例が非常に多く、押した瞬間に処理が中断されるだけで、途中まで書き込まれたデータがそのまま残る、という状態になります。止めたあとの状態を決めていない停止は、止めないより厄介な後始末を生みます。

もう1点、この型は「見ていなければ働かない」という前提を持ちます。だから拒否権だけを置いて安心するのは危険で、実際には上限や通知と組み合わせて使います。人が見ていない時間帯に処理を走らせるなら、その時間帯は拒否権が存在しないのと同じだと考えて、別の型を重ねてください。

型4　例外送り——機械が迷った件だけ、人へ回す

既定は進み、あらかじめ決めた条件に当たった件だけが止まって人に回る型です。件数の面ではいちばん現実的で、大量処理の業務ではこれが中心になります。回ってくる件数を設計で調整できるのが強みです。

落とし穴は、回す条件の書き方にあります。よくあるのが、AI自身に自信の度合いを出させて、低い件だけ回すという作りです。これは外している件ほど自信が高く出ることがあるため、いちばん人に見てほしい件が回ってこない結果になります。自信の度合いは、参考の指標としては使えても、回すかどうかを決める唯一の条件にはできません。

代わりに、機械的に判定できる条件を並べて書きます。金額が一定額を超えている、初めての取引先である、宛先が社外である、個人情報にあたる項目を含んでいる、参照した資料が1件も見つからなかった、直前の工程で訂正が入っている。回す条件は、AIに判断させず、決め打ちの条件で書くのが原則です。条件が増えたら回る件数も増えるので、着手前に何件回るかを試算しておきます。

どの型を当てるかは、4つの物差しで決まる

4つの型が並んだところで、割り当ての判断に移ります。使う物差しは4つです。1つ目は取り消せるか。実行したあとに元へ戻せるかどうかで、これが最初の分岐になります。2つ目は影響がどこまで届くか。社内に閉じるのか、特定の顧客に届くのか、広く公開されるのかの3段階で見ます。

3つ目は間違いに誰かが気づけるかです。この物差しは見落とされがちですが、実は割り当てを大きく左右します。社内の議事録の要約なら、間違っていれば参加していた人が気づきます。一方、新規の見込み客に送るメールの文面は、間違っていても誰も指摘しません。気づける仕組みが後段にあるかどうかで、前段に置く型の重さが変わります。

4つ目が1日に何件来るか。ここまでの3つで「事前承認が望ましい」と出ても、件数が現実的でなければその設計は成立しません。判断の順番は、取り消せない、かつ影響が外に届くものから事前承認に割り当て、気づける仕組みが弱い工程に事後監査の割合を厚くし、残りを件数に応じて例外送りへ流す、という流れになります。4つの物差しのうち、最後の件数だけは設計を否決できる物差しです。

マーケの実務に、実際に当ててみる

物差しを当てると、同じ部署の中でも工程ごとに違う型になります。よくある6つの工程で並べてみます。読むときは、型そのものより、なぜその型になったかの理由を追ってください。

• 顧客へ送るメールの本文——送信の直前に事前承認。取り消せず、特定の相手に届き、間違っても誰も指摘してくれない
• 社外に公開する記事の下書き——公開の直前だけ事前承認。それより前の調べ物や構成の工程は例外送りで足りる
• 問い合わせの一次分類と振り分け——事後監査。分類の誤りは後工程の担当者が気づくうえ、付け直せる
• 広告の入札の調整——拒否権に、金額の上限を機械側で持たせる。人が見ていない時間に動くため、上限のほうが実効性がある
• 社内向けの議事録の要約——事後監査で割合は低くてよい。会議に出ていた人が読めば誤りに気づく
• 名刺データの補完と台帳への登録——調べる工程は例外送り、台帳へ書き込む工程だけ事前承認

この一覧で注目してほしいのは、同じ「AIが文章を作る」でも、メールと議事録で型が正反対になることです。分けているのは文章の難しさではなく、届く先と、間違いに気づける人がいるかどうかです。型を決める会議で「どちらもAIの文章だから同じ扱いで」となったら、物差しに戻ってください。

その承認、1日に何時間かかるかを先に計算する

設計の会議で必ずやるべきなのに、まずやられていないのが件数の計算です。1件あたりの確認にかかる時間に、1日の件数をかける。これだけです。1件3分で1日120件なら6時間で、これは1人では回りません。1件30秒で1日40件なら20分で、これは回ります。

計算して回らないと出たときの打ち手は3つです。事前承認の対象を絞る、例外送りに切り替えて回る件数を条件で減らす、確認する人を増やす。3つ目を選ぶ会社は実際にはほとんどないので、実質は前の2つになります。計算をしないまま全件承認を決めた設計は、例外なく形だけの承認に落ちます。落ちたことは記録からは見えません。

あわせて、1件あたりの確認時間そのものを測ってください。想定ではなく実測です。20件だけ人に見せて、時間を計る。ここで多くの場合、想定の2倍から3倍かかることが分かります。差の原因はたいてい材料の不足で、比べる元の資料を探すところから始めているためです。材料を揃えるだけで確認時間が半分になる工程は珍しくありません。

承認が形だけになる条件——実験が示した逆説

「確認する人の意識を高める」という対策は、実測に照らすとあまり効きません。2,784人を対象にした実験が、この領域では珍しく操作の効果を切り分けています。題材は、企業の温室効果ガス排出量の報告書に載った表から、AIが取り出した数値が正しいかどうかを人が点検する作業でした。

操作されたのは3つです。最初の3件でAIの出来が良いか悪いか、誤りを指摘したときに訂正作業まで課すかどうか、そして成果に応じた報酬を出すかどうか。ここで出た結果が実務の常識と逆でした。誤りを見つけたら訂正まで求める決まりにしたほうが、関与が下がり、誤った提案を受け入れる傾向が強まりました。手間を増やせば慎重になる、という前提が崩れたわけです。

もう1つの結果はさらに実務的です。成績を最もよく予測したのは年齢や属性ではなく、その人がAIに対してどういう態度を持っているかでした。AIに懐疑的な人ほど誤りを確実に見つけて精度が高く、自動化に好意的な人ほど提案に過度に頼りました。確認役に「AIに詳しくて前向きな人」を選ぶ運用は、いちばん見逃す側に寄せている可能性があります。

この実験は注釈作業という限定された題材なので、そのまま自社に当てはまるとは言えません。ただし読み取れる方向は使えます。確認を厚くする方向の対策より、誰が見るかを分散させ、確認の手間ではなく材料を増やす方向のほうが筋がよいということです。過度な依存を扱った2026年5月公表の別の整理でも、公開されている事故の記録1,339件のうち147件が過度な依存に分類され、対策は仕組み側と利用者側の両方が要るとされています。

見る側の人が壊れていく、4つの経路

承認が形だけになるのは、人が怠けるからではありません。監督という作業そのものに、時間とともに効かなくなる構造があります。2026年5月に公表された人による監督の枠組みは、効かなくなる経路を4つに整理しています。

1つ目が注意の劣化で、長く監視を続けると単純に見落としが増えます。2つ目が慣れによる油断で、うまくいっている期間が続くほど検証をやめます。3つ目が技能の萎縮で、AIが大半を処理するようになると、いざ介入する側の腕が落ちて、介入しても正しく直せなくなります。4つ目が情報の不足で、中身が見えないまま可否だけを求められると、意味のある監督ができません。

この4つを並べると、実務には不都合な向きが見えてきます。AIの精度が上がるほど、2つ目と3つ目が進み、人の監督は効きにくくなる。精度が上がったから確認を薄くしてよい、という判断は、この構造の上では逆向きです。だから設計側では、確認者を固定しない、1人あたりの件数に上限を置く、意図的に既知の誤りを混ぜて検知率を測る、といった手当てが必要になります。

形だけにしないために、材料と回し方を決める

ここまでを踏まえると、形骸化への対策は「気をつける」ではなく、材料の作り方と人の回し方の設計になります。材料の側で決めるのは3つです。何と比べるのか、どこが不安なのか、直前の点検で何が見つかっているのか。この3つを添えた確認と、出力だけを見せた確認は、別の作業です。

人の回し方の側では、1人あたりの1日の件数に上限を置き、同じ工程の確認者を定期的に入れ替えます。加えて、事後監査で見つかった誤りを、事前承認をしている担当者にも戻します。自分が通したものが後でどう評価されたかが返ってこない限り、確認の精度は上がりません。返す仕組みは月に1回の一覧で足ります。

そのうえで、やってはいけない置き方を並べます。どれも善意で導入されて、結果として確認を弱めるものです。

• AIの出力だけを見せて可否を聞く。比べる元がないので、点検ではなく読書になる
• 同じ人に1日何十件も回す。注意の劣化が先に来て、記録だけが残る
• AIに自信の度合いを出させ、低い件だけ人へ回す。外している件ほど自信が高く出ることがある
• 訂正の手間を重くして慎重にさせようとする。実験では逆に誤った提案の受け入れが増えた
• 確認役をAIに前向きな人だけで固める。誤りを見つけにくい側に寄る
• 承認したかどうかだけを記録する。何を見て決めたかが残らず、後から検証できない
• 範囲を決めずに「全部見てほしい」と頼む。確認が全件の見直しに膨らみ、数週間で続かなくなる

制度が求める「人による監督」との関係

社内の基準を作るとき、公的な整理を下敷きにすると議論の出発点が揃います。欧州のAI法は第14条で人による監督を定めており、附属書に定める高リスクの区分については2026年8月2日から適用されます。日本国内のマーケ業務の多くはこの高リスクの区分には当たりませんが、条文が何を求めているかは設計の参考になります。

第14条が求めているのは、監督にあたる人が次のことをできる状態にしておくことです。全件を人が承認せよ、とは書かれていません。

• 仕組みの能力と限界を理解し、動作を監視して、異常や想定外の挙動に気づけること
• 出力をそのまま受け入れてしまう傾向があることを踏まえていられること。とくに情報や推奨を出す仕組みで
• 用意された解釈のための手段を使って、出力を正しく読み取れること
• 使わないと決められること、および出力を覆したり取り消したりできること
• 停止の操作、または同等の手順で、安全に中断できること

同じ条文には、附属書の生体情報による識別のうち一部の用途について、必要な力量と訓練と権限を持つ2人が別々に確認し裏付けない限り、その識別に基づく行動や決定を行ってはならないという定めもあります（法執行や国境管理などの一部用途は不均衡として除外されます）。2人での確認を要求する用途がここまで限定されているという事実は、裏を返せば、それ以外は1人で足りるという整理でもあります。

実務への持ち込み方はこうです。5つの箇条をそのまま社内の設計基準にして、工程ごとに満たしているかを確かめる。見えていること、介入できること、止められること、この3つが揃えば全件承認は要らない、と読み替えられます。制度の細目は改訂されるので、根拠として社内資料に載せる場合は公式の公表資料で最新版を確認してください。

ミニ用語解説

この領域は近い言葉が多く、社内で定義がずれたまま議論が進みがちです。とくに「監督」と「承認」を同じ意味で使うと、実現できない運用を目指してしまいます。この記事で使った言葉を、取り違えたときに何が起きるかとセットで並べます。

言葉	指しているもの	取り違えると起きること
ヒューマンインザループ	1件ごとの処理の流れに、人の判断が組み込まれている状態	学習させるときの人手と混同し、運用側の設計が丸ごと抜ける
ヒューマンオンザループ	処理は自動で進み、人は監視して必要なときだけ介入する状態	全件承認と同じものだと思い、件数が回らない仕組みを作る
ヒューマンアウトオブザループ	人が関与しないまま完結する状態	意識せずに置くと、取り消せない操作まで無人で通る
例外送り	機械が定めた条件に当たった件だけを人へ回す仕組み	自信の度合いに任せて、外した件ほど回ってこなくなる
抜き取り監査	出したあとに一定割合を抽出して点検する仕組み	割合を決めずに始め、点検が気づいたときだけになる
停止の手順	動いている処理を安全に止めるための決められた段取り	操作だけ用意し、止めた後の状態を決めず中途半端に残る

表の1行目と2行目の違いが、実務ではいちばん効きます。全部の処理に人の判断を挟むのがヒューマンインザループで、監視して必要なときだけ介入するのがヒューマンオンザループ。件数が多い業務は、前者では成立せず、後者で設計するしかありません。この2つを言い分けられるようになると、会議の結論が変わります。

型を決める手順

最後に、着手前に踏む順番として並べます。関係者3人で半日あれば1つの業務分は決まります。上から順に埋めれば、抜けが出にくい形になっています。

• 型は工程ごとに違ってよい。1つの業務に4つの型が混ざるのが普通の姿
• 確認者を1人に固定しない。同じ人が続くと、注意の劣化と慣れによる油断が先に出る
• 承認したかどうかだけでなく、何を材料として見たかを記録に残す
• 抜き取りの割合は固定しない。誤りが出たら上げ、一定期間ゼロなら下げる
• 個人情報を含む件を人に回すときは、閲覧できる人の範囲を先に決めておく
• 機械が動作を止める仕組みは別に要る。人が入る場所を決めても、機械側の検査を置き換えるものではない

まとめ

ヒューマンインザループは、人が確認するという状態の名前ではありません。人が入る位置と、入った人の権限と、判断するための材料を、工程ごとに決める設計の作業です。決め方が曖昧なまま運用が始まると、空欄は現場が埋め、埋まり方は目を通して流す形になります。

型は4つに分かれます。取り消せない操作の直前に置く事前承認、戻せる誤りを後から抜き取る事後監査、長く動く処理を見ていて止める拒否権、条件に当たった件だけを回す例外送り。当てるときの物差しは、取り消せるか、影響がどこまで届くか、間違いに誰かが気づけるか、1日に何件来るか。最後の件数だけは、ほかの3つが導いた結論を否決できる物差しです。

そして、確認を厚くすれば安全になるという前提は置けません。2,784人の実験では、訂正まで求める決まりにしたほうが誤った提案を受け入れやすくなり、成績を最もよく予測したのはAIへの態度でした。監督そのものにも、注意の劣化、慣れによる油断、技能の萎縮、情報の不足という4つの経路があり、精度が上がるほど効きにくくなります。欧州の制度が求めているのも全件承認ではなく、見えていること、介入できること、止められることでした。承認の場所を決める作業は、AIを疑うための工程ではなく、任せてよい範囲を先に確定させて、人の時間を本当に必要な件へ寄せるための工程だと考えてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。