AIの判定に異議を受け付ける方法｜納得できない人への備え

「書類の一次の絞り込みをAIに任せていることを応募者に伝えたら、なぜ落ちたのかを説明してほしいと言われました」「取引の可否を機械で見ていると説明したところ、もう一度人の目で見てくれと返ってきました」——AIを判定の一部に組み込んで1年から2年が経った会社から、決まって届く相談です。制度の側も同じ方向を向いています。欧州連合のAI規則は第86条で、高リスクに挙げられた用途のAIの出力に基づく決定によって重大な影響を受けた人が、決定の主要な要素について説明を求められる仕組みを定め、2026年8月2日から適用されます。つまり判定の精度を上げることと、判定を見直せる道を用意することは、まったく別の備えです。この記事では、AIが関わった判定に異議が来たとき、誰がどう受け付けて、どう決め直すかを7つの工程に分けて整理します。

受け付ける道がないと、残るのは苦情ではなく不信です

異議を受け付ける仕組みがない会社で、実際に何が起きるかを順に追うと分かりやすくなります。まず相手から問い合わせが来ます。窓口が決まっていないので、最初に受けた担当者がその場で答えます。答えは担当者ごとに違います。ある人は判定の仕組みを説明し、別の人は個別の事情には答えられないと返し、また別の人は上長に相談してから折り返すと言ったまま止まります。相手から見ると、会社の中で話が通っていないように映ります。

ここで失われるのは件数ではありません。同じ相手から二度目の申し出が来なくなるだけです。不満を言った側は、言っても何も動かないという経験を1回すれば、次は黙って離れます。応募者なら選考を辞退し、取引先なら別の会社に見積もりを取ります。表に出てこないので、社内の数字にはまったく現れません。異議の受付を作らない損は、気づける形で現れないところにあります。

ここで言葉を分けておきます。苦情は、AIが返した回答の中身や態度に対する不満で、対応と再発防止が中心になります。異議は、AIが関わって出た判定の結論そのものを、もう一度決め直してほしいという申し出です。苦情は中身への不満、異議は結論を決め直す手続きで、必要な仕組みも回す人も違います。なお、苦情が来たときの対応手順そのものは別の記事の領分なので、この記事では扱いません。

制度の側が求めているのは、判定の正しさではなく見直せることです

外の枠組みを先に見ておくと、社内で何を決めればよいかが絞れます。総務省と経済産業省がまとめたAI事業者ガイドラインは、第1.0版が2024年4月19日、第1.1版が2025年3月28日、第1.2版が2026年3月31日に公表されています。AIを使う側に求められることとして、人間の判断を適切に介在させる仕組みの構築、提供元から案内された利用ルールの順守と異常時の速やかな情報共有、操作の履歴を定期的に確かめて報告することなどが挙げられています。いずれも判定を正確にせよという話ではなく、人が関われる形にしておけという話です。

もう1つが欧州連合のAI規則です。第86条は、附属書3に挙げられた高リスクの用途のAIの出力に基づく決定によって、法的な効果を受けるか、健康・安全・基本的な権利に重大な影響を受けた人が、そのAIを業務で使っている側に対して、AIが果たした役割についての明確で意味のある説明と、下された決定の主要な要素についての説明を求められると定めています。適用は2026年8月2日からです。日本の会社にそのまま及ぶわけではありませんが、欧州向けの業務を持つ場合は関わってきます。求められているのは仕組みの中身の開示ではなく、決定の主要な要素の説明だという点は、社内の線を引くときの目安になります。

国内の個人情報の扱いにも、同じ方向の考え方が入っています。令和2年に改正された個人情報保護法は2022年4月に全面施行され、利用停止や消去を請求できる場面が広がりました。本人から得た情報をもとに行動や関心を分析する場合には、本人が予測・想定できる程度に利用目的を特定しなければならないとされています。また、認定個人情報保護団体が、開示・訂正・利用停止の請求への対応についての苦情を受け付け、事業者とともに対応する仕組みも置かれています。本人の側から動ける道を前提にした作りになっている、と読めます。

受け付けから決め直しまでを、7つの工程に分ける

ここからが手を動かす部分です。異議の受付は、文章を1本書けば終わる話ではなく、誰が何をいつまでにやるかを決める手続きの設計です。7つの工程に分けて、上から順に決めていきます。全部を一度に整える必要はありません。前の工程が決まらないと次が決まらない、という順番になっているので、上から埋めるのがいちばん速く終わります。

この7つを1枚の紙に書き、担当と期限の欄を付けたものが運用の本体になります。分量としては1枚に収まります。収まらないなら、対象にした判定が多すぎる合図です。次の章から、7つの工程を順に見ていきます。

工程1：対象になる判定を、先に列挙して線を引く

最初に決めるのは、どの判定について異議を受け付けるかです。ここを曖昧にしたまま窓口だけ作ると、AIと関係のない不満や、判定ですらない事務の要望まで流れ込みます。書き出し方は単純で、社内でAIが何らかの形で関わっている判断を一覧にし、それぞれについて相手が誰かを書き、受け付けるかどうかを決めます。次の表は、実務でよく対象になる5つを並べたものです。

AIが関わる判定	影響を受ける相手	異議を受け付けるか	受け付けるときに必ずそろえるもの
応募書類の一次の絞り込み	応募した人	受け付ける	判定に使った項目の種類と、人が目を通した範囲
取引の可否と与信の目安	取引先とその候補	受け付ける（示す範囲は先に決める）	判定に使った区分と、人の確認があったかどうか
問い合わせの優先度付け	問い合わせた人	受け付ける（簡易な手続きでよい）	並び替えに使った基準と、順番が変わった記録
人事評価の下書きの作成	評価される従業員	受け付ける	下書きに使った材料と、最終の評価者が加えた判断
広告や投稿の掲載可否	出稿した部署と取引先	受け付ける	引っかかった分類名と、人が見直した結果

線を引くときの目安は2つです。1つ目は、その判定で相手に不利益が及ぶかどうか。落選、取引の見送り、掲載の停止のように、相手の側で何かが失われるものは対象にします。2つ目は、人の確認を挟まずに結果が確定しているかどうかです。自動で完結していて、かつ相手に不利益が及ぶものは、必ず対象に入れますこの2つに当てはまらないものは、最初は対象外にしてかまいません。

忘れられがちなのが、対象外にしたものも同じ紙に書いておくことです。書いていないと、受け付けなかったときに「なぜこれは対象ではないのか」という新しい争点が生まれます。対象外の理由は1行で足ります。判定ではなく参考情報だから、相手に不利益が生じないから、別の手続きで受け付けているから。この1行があるだけで、窓口の担当者が自信を持って断れるようになります。

工程2：窓口と期限、出す側に求める情報を決める

窓口をどこに置くかは、既存の問い合わせ先と同じにするか、別に立てるかの2択です。同じにすると相手は迷いませんが、通常の問い合わせに埋もれて期限の管理が効かなくなります。別に立てると管理はしやすくなりますが、存在が知られていなければ使われません。実務では、受け口は既存の窓口と同じにして、社内で受け付けた後に別の流れへ切り替える形が、いちばん破綻しにくくなります。

出す側に求める情報は、絞るほど出してもらえます。必要なのは3つです。いつのどの手続きについての申し出か、結論のどこに納得できないのか、そして連絡先。これ以上を求めると、様式を書くところで相手が止まります。逆に、この3つが無いと突き合わせができないので、様式の側に欄を作って必ず埋めてもらいます。理由の欄は自由記述にしておき、選択肢で選ばせないほうが、後で理由の型を作るときの材料になります。

匿名を認めるかどうかは、対象によって答えが変わります。社外からの申し出は匿名でも受け付けられますが、社内の評価に関わる申し出は、誰の評価かが分からないと突き合わせようがありません。受付番号を先に振り、見直し役には番号と資料だけを渡す形にすると、名前を出さずに中身を見直せます。この分離は、見直し役が相手を知っていることによる偏りを減らす効果もあります。

工程3：受理と不受理を分ける基準を、先に書いておく

すべてを受理する前提で作ると、仕組みは必ず止まります。止まる場所は決まっていて、受け付けた件が滞留し、期限を過ぎ、対応が遅れたことへの不満が新しく積み上がるという順番です。だから最初から、受け付けないことがあるという前提を置きます。ここで大事なのは、基準を担当者の判断ではなく、文章にしておくことです。文章が無ければ、担当者は断る根拠を持てません。

不受理にしてよい型は、実務では4つに収まります。対象の一覧に載っていない判定についての申し出、決めた期限を過ぎてからの申し出、同じ内容で結論が出ている件の繰り返し、そして判定と関係のない要望です。4つ目には、条件を変えてほしい、別の担当者に代えてほしいといった申し出が入ります。これらは異議ではなく別の相談として扱い、受け口を案内するほうが、双方にとって早く終わります。

不受理の場合でも、返事は必ず返します。返さないと、受け付けていないのか放置しているのかが相手に分かりません。文面は3つ用意すれば足ります。対象外である場合、期限を過ぎている場合、すでに結論が出ている場合。それぞれに、なぜそうなるかの1行と、別の受け口の案内を入れておきます。不受理の文面を先に作っておくと、担当者が断る判断を先送りしなくなります。

工程4：見直す人は、判定に関わっていない人にする

ここが仕組みの中心です。異議を受け付けても、見直すのが元の判定を作った人であれば、結論はほとんど変わりません。これは担当者の姿勢の問題ではなく、構造の問題です。自分が出した結論を自分で覆すには、前の自分が間違っていたと認める手続きが要ります。人はそこに強く抵抗するので、仕組みの側で最初から別の人に割り当てます。次に挙げるのは、この工程で実際に起きる失敗です。

• 申し立てを受けた人が、元の判定を作った担当者と同じ：結論が変わらないまま件数だけが積み上がり、半年後に窓口ごと止まる
• 見直し役を役職の上下で決める：上長は元の判定を承認した側なので、実質は同じ人が二度見ていることになる
• 見直し役を1人に固定する：その人の傾向がそのまま二次の判定の傾向になり、外から見ると判定が1段増えただけになる
• 見直しの結果を、元の担当者に伝えないまま閉じる：同じ型の判定が翌月も同じように出続ける
• 外部の専門家に全件を回す：費用と日数が跳ね上がり、決めた期限を守れなくなって受付そのものが形だけになる

人数が足りない会社では、完全に無関係な人を用意できないことがあります。その場合の現実的な置き方は2つです。1つは、別の部署の担当を持ち回りで見直し役に当てる形。もう1つは、元の担当者と別部署の担当の2人1組で見る形です。後者では、意見が割れたときにどちらを採るかを先に決めておきます。決めていないと、割れた瞬間に手続きが止まります。

もう1つ確かめておくのが、見直し役に与える権限です。元の判定を覆せる権限が無いまま見直し役に置かれると、その人にできるのは報告だけになり、相手には何も変わりません。見直し役には、結論を覆す権限そのものを渡します。渡せないなら、覆す判断をする人を工程の中に1人足して、その人の名前を紙に書きます。名前が無い工程は、実務では存在しないのと同じです。

工程5：見直しで実際に見る材料は、4つで足ります

見直し役が毎回ゼロから調べる形にすると、1件に何日もかかります。見る材料を4つに固定して、受付の時点でそろえる決まりにします。4つとは、判定に渡った入力、返ってきた出力、判定に使った根拠、そして例外の手当てがあったかどうかです。この4つがそろっていれば、見直し役は仕組みの中身を知らなくても判断できます。

このうち現場で足りないことが多いのが3つ目です。AIに判定をさせるとき、結果だけを受け取って保存している運用だと、後から根拠が取り出せません。対策は運用を始める前に打ちます。判定させるときに、結論と一緒にその根拠を書かせて同じ記録に残す形にしておきます。根拠の形は、使った項目の名前と、それぞれがどちらの方向に効いたか、という程度で十分です。文章で長く書かせると、見直し役が読み切れません。

4つ目の例外の手当ては、見落とされやすい割に効きます。判定の後に人が手で通した、あるいは止めた記録です。この記録があると、見直し役は「そもそも人が一度見ている案件かどうか」を最初に切り分けられます。人が一度も触っていない判定は、見直しの優先度を上げます。逆に、既に人が個別に判断している案件は、同じ材料を二度見るだけになりやすいので、別の見方を足す必要があります。

工程6：出口は、覆す・維持する・判定そのものを止めるの3つ

見直しの結論は3つに限ります。元の判定を覆す、元の判定を維持する、そしてその判定の仕組みを止めるか使い方を変える。3つに限る理由は、見直し役が迷わないためと、記録を数えられるようにするためです。出口が現場ごとに増えると、半年後に集計しても何も読み取れなくなります。

実務で作りにくいのは2つ目です。維持するという結論を選びにくい空気があると、見直し役は覆すか判断を先送りするかのどちらかに寄ります。維持できる形にするには、維持したときにも理由を書いて相手に返す、という手続きを同じ重さで用意することです。理由を書いて返すのであれば、維持は放置とは違う結論になります。ここが整うと、覆した件数の多少で仕組みの良し悪しを測る誤解も減ります。

3つ目の出口は、個別の件を超えた対応です。同じ型の申し立てが続けて来るときは、その判定に使っている材料か、線の引き方そのものに問題があります。同じ理由の申し立てが3件続いたら、その判定を一度止めて人の手に戻すという決めごとを先に置いておくと、判断が個人の勇気に依存しなくなります。止めている間の代替の手順も、あわせて書いておきます。

工程7：結果の伝え方で、次に来る申し立ての数が変わります

同じ結論でも、伝え方によって相手の受け取り方は変わります。書くのは4つです。受け付けた申し出の要旨、見直した人が元の判定に関わっていないこと、見直しの結論、そしてその理由。3つ目と4つ目だけを書くと、社内で握りつぶしたのではないかという疑いが残ります。誰が見直したのかという立場の情報が、結論と同じくらい効きます。

書かないものも先に決めます。判定の内部の重み付けや、しきい値の具体的な数値は書きません。書けば、次からそこに合わせて出してくる人が出るためです。代わりに、書けない理由を1行添えます。なお、どこまでなら説明できるのかという範囲そのものの線引きは、別の記事の領分です。ここで必要なのは、書く項目と書かない項目を先に決めて、担当者ごとにぶれさせないという1点だけです。

伝える形は、口頭ではなく文面にします。口頭で済ませると、言った言わないの争いになったときに残るものがありません。加えて、文面にすると社内でも同じ内容が共有されるので、次に似た申し出が来たときに担当者が過去の返し方を参照できます。返した文面をそのまま記録に残し、理由の型ごとに並べておくと、半年後には返答の下書きがそろいます。

異議の判定はAIにさせない。人が決めて、理由を書く

この仕組みにAIを入れるなら、任せる範囲を先に区切ります。向いているのは3つです。届いた申し出を対象の判定ごとに振り分けること、長い申し出の内容を3行に要約すること、そして過去に似た理由で受け付けた件を呼び出してくること。どれも見直し役が判断するための材料を用意する作業で、判断そのものではありません。

任せないのは2つです。受理か不受理かの判断と、覆すか維持するかの判断。理由は明快で、判定への異議をまた判定で処理すると、相手から見れば同じ機械がもう一度答えただけになるからです。この仕組みが成り立っているのは、人がもう一度見るという点にしか根拠がありません。AIに判断させず、判断に使う材料だけを作らせます。要約を作らせるときは、元のどの文からそう書いたのかという根拠を必ず添えさせます。根拠が無い要約は、合っていても見直し役が確かめられません。

あわせて、人が確認する範囲を先に決めます。全件を人が読む対象、抜き取りでよい対象、結果だけを見る対象の3段に分けます。たとえば、人の確認を挟まずに確定した判定への申し出は全件を人が読む、人が一度見ている判定への申し出は月に何件かを抜き取る、不受理にした件は結果だけを見る、という置き方です。この3段を先に書いておくと、件数が増えても確認の手間がそのまま比例して増えることはありません。

期限を置かないと、受け付けた件から先に滞ります

受け付ける仕組みでいちばん壊れやすいのが期限です。窓口も見直し役も決まっているのに、いつまでにという欄が空いているだけで、件は静かに溜まります。置く期限は3つです。受け付けたことを相手に知らせるまで、一次の回答を返すまで、そして最終の結論を返すまで。3つを別々の数字にするのが要点で、1つにまとめると、調べている間ずっと相手に何も届かなくなります。

日数は業務によって変わるので、他社の数字を借りずに自社で決めます。決め方は、過去に似た問い合わせを処理したときの実績から引きます。実績が無ければ、最初は長めに置いて、3か月後に記録を見て詰めます。守れない期限を最初から置くほうが害が大きく、守れなかった実績が積み上がると、期限そのものが社内で無視されるようになります。守れなかったときにどうするかも同じ紙に書きます。延長の連絡を入れる、見直し役を1人足す、といった手当てです。

期限は相手にも先に伝えます。いつ返ってくるか分からない状態は、結論が遅いことより強い不満を生みます。受付の自動返信に、一次の回答までの日数と最終の結論までの日数を書いておくだけで、途中の問い合わせが目に見えて減ります。減った問い合わせの分だけ、見直し役の時間が中身の検討に回ります。期限の明示は、相手のためだけでなく自分たちの工数のためでもあります。

記録に残す4項目と、規程に返す回し方

残す項目は4つです。申し立ての件数、理由の型、見直しの結果、そして受付から結論までにかかった日数。この4つを、対象の判定ごとに分けて残します。項目を増やしたくなりますが、増やすほど埋まらなくなるので、最初は4つで固定します。埋める作業は窓口の担当者が申し出を受け付けた時点と、結論を返した時点の2回だけにします。

• 件数だけを見ると、増えたことが悪いことのように読めてしまう。理由の型と結果を必ず並べて見る
• 覆した件が0のまま3か月続いたら、見直しが働いていないか、対象にした判定の線が広すぎる
• かかった日数は平均ではなく、いちばん遅かった件で見る。平均は滞留を隠す
• 理由の型は最初から分類を作らず、3か月ぶんの自由記述を読んでから作る

記録は集めるだけでは意味がありません。四半期に一度、記録を見て直す対象は3つです。対象にする判定の一覧、受理と不受理の基準、そして判定そのものの設計。たとえば同じ判定で申し立てが集中しているなら、判定に使っている材料を見直します。不受理が半分を超えているなら、窓口の案内文が何を受け付ける場所なのかを伝えられていない可能性が高く、直す先は基準ではなく案内文のほうになります。

この回し方には持ち主が要ります。窓口の担当者は日々の受付で手一杯なので、記録を読んで規程を直す役は別に置きます。置かないと、記録は3か月で誰も開かない表になります。持ち主は、法務や内部統制の担当でも、AIの導入を進めている部署でもかまいません。名前が1つ書いてあることのほうが、どの部署に置くかより大事です。

窓口が形だけになる兆候は、件数ではなく中身に出ます

受け付ける仕組みが形だけになっているかどうかは、申し立ての件数を見ても分かりません。件数は、周知の度合いや判定の対象の広さで簡単に動くからです。見るのは中身のほうで、兆候は3つあります。1つ目は、結論がすべて維持で揃っていること。2つ目は、受付から結論までの日数が回を追うごとに伸びていること。3つ目は、理由の欄が定型の1行で埋まるようになっていることです。

3つとも、手当ては同じ方向を向いています。見直し役の負荷を下げて、判断に使える時間を戻すことです。材料を4つに固定する、要約を先に作っておく、不受理の文面を用意しておく。どれも見直し役が中身を考える時間を増やすための手当てです。人を増やす前に、ここを整えるほうが速く効きます。それでも伸びるなら、対象にした判定が現在の体制に対して多すぎます。

だから広げる順番も決めておきます。最初から全部の判定を対象にせず、相手に不利益が及ぶものを1つか2つだけ選んで始めます。3か月回して記録がたまってから、次の判定を足します。一度に広げた仕組みは、最初の滞留で止まったまま元に戻らないことが多いので、狭く始めて足していくほうが結果的に早く行き渡ります。足すときは、対象の一覧と不受理の基準の2枚だけを書き換えれば済むようにしておきます。

よくある質問

異議を受け付けると、件数が増えて回らなくなりませんか

対象を絞って始めれば、回らなくなる前に実測が取れます。実務で多いのは、想定より件数が少なく、周知が届いていなかったと分かる展開です。むしろ注意したいのは逆のほうで、受け付けていないときも不満は同じだけ発生していて、見えていないだけです。見えている不満は手当てできますが、見えない不満は次の取引や次の応募が来なくなる形でしか現れません。回らなくなる心配は、対象の線と不受理の基準で調整できます。

AIではなく人が最終判断をしている場合も、受け付ける必要がありますか

必要かどうかで言えば、優先度は下がります。ただし人が最終判断をしているという説明が、相手にとって確かめようのないものであれば、効果は薄いという点は押さえておきます。実務では、AIの出力をそのまま採用した割合を記録しておき、聞かれたときに示せる形にしておくのが有効です。人が見ていると言いながら9割をそのまま通しているなら、相手から見れば自動で決まっているのと変わりません。人が確認する範囲を先に決めて、その通りに運用されているかを記録で確かめます。

判定に使った項目は、どこまで示せばよいですか

項目の種類までは示し、それぞれの重み付けや具体的なしきい値は示さない、という線が実務では扱いやすくなります。項目の種類とは、勤務した年数、取引の実績、申込の内容といった区分です。ここまでなら、相手は自分の状況と突き合わせられます。一方で数値まで出すと、次からその数値に合わせて出してくる人が現れます。示さないと決めた部分については、示さない理由を1行書いておきます。何も言わずに空欄にするのがいちばん不信を招きます。

社外向けと社内向けで、仕組みは分けるべきですか

窓口は分け、見直しの手続きは同じにするのが扱いやすくなります。社外からの申し出は既存の問い合わせ先から受け、社内の評価に関わる申し出は人事や内部通報の受け口から受ける、という形です。受け口が違っても、見直し役を判定に関わっていない人にする点、材料を4つに固定する点、出口を3つにする点は共通にできます。手続きを2つ作ると、片方が必ず先に形骸化します。受け口だけを分けて、中身は1本に保ちます。

まとめ

異議を受け付けるというのは、判定の説明文を用意することではなく、結論を決め直す手続きを先に書いておくことです。決めるのは7つ、つまり対象になる判定の一覧、窓口と期限と求める情報、受理と不受理の基準、判定に関わっていない見直し役、見直しで見る4つの材料、覆す・維持する・止めるという3つの出口、そして結果の伝え方と記録です。制度の側も同じ方向を向いていて、AI事業者ガイドラインは人の判断を適切に介在させる仕組みを求め、欧州連合のAI規則の第86条は2026年8月2日から、重大な影響を受けた人が決定の主要な要素について説明を求められる仕組みを適用します。異議の判定はAIにさせず、人が決めて理由を書きます。AIに任せるのは振り分けと要約までで、要約には必ず根拠を添えさせ、人が確認する範囲は先に3段に分けておきます。まず今週やることは1つです。社内でAIが関わっている判断を紙に書き出して、相手に不利益が及ぶものに印を付けてください。印が3つ以上付いたなら、そのうち人の確認を挟んでいないものから対象にします。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。