社内AIの答えが部署で違うのはなぜ？｜同じ問いに同じ答えを返す

総務省が2026年7月に公表した令和8年版情報通信白書によると、何らかの業務で生成AIを利用している日本企業の割合は86.4%で、前年度調査の55.2%から大きく伸びました。活用の方針を定めた企業も68.9%に達しています。一方で、業務の変革について「組織的な取組はない」と答えた割合は27.0%あり、同じ調査の米国1.4%、ドイツ4.9%、中国2.6%と比べて際立って高い数字でした（調査時期は2026年1月から2月）。使い始めた会社の側では、こんな声が出ています。「社内向けのAIに同じことを聞いたのに、営業部と管理部で違う答えが返ってきました」「どちらが正しいのか誰にも分からず、結局これまで通り総務に電話しています」。これはAIの精度の問題ではありません。参照できる範囲・語の指すもの・索引の更新日が部署ごとに違えば、同じ問いでも答えは違って当たり前です。この記事では、部署差の原因を3つに分けたうえで、どこまで揃え、どこから先は揃えないと決めるのかを整理します。

同じ問いに違う答えが返るのは、AIが壊れているからではない

部署で答えが違うと分かった瞬間、社内では「精度が低い」という言い方がされます。ところが、返ってきた二つの答えを並べて出典を見ると、どちらも自分が読んだ資料の内容を正しくまとめていることがほとんどです。読んだ資料のほうが違っていたのです。

社内向けのAIは、問いを受け取ったあと、まず社内の資料の中から関係のありそうな部分を探し、その中身を材料にして文を組み立てます。つまり答えは、問いと、そのとき手元に集まった材料の組み合わせで決まります。材料が違えば答えが違うのは、仕組みの通りに動いている結果にすぎません。

この見方に立つと、原因の探し方が変わります。文の出来を比べるのではなく、材料の集まり方を比べる。最初に見るのは答えの文ではなく、答えに付いている出典です。出典が違っていれば探す側の問題、出典が同じなのに答えが違えば文にする側の問題、と切り分けられます。評価の考え方でも、探す側の失敗と文にする側の失敗を切り分けることが欠かせないとされています。

誤った答えが出る原因を五つに分けて公開している実例もあります。答えのもとになる資料が社内に無い、材料として読ませる対象の選び方が悪い、検索の結果に無関係な情報が混ざる、事例の記述が規程より優先されてしまう、問い合わせの文が整っていない、の五つです。このうち部署差として表に出やすいのは、二つ目と三つ目が部署ごとに違っている場合になります。

揃えるべき違いと、揃えてはいけない違いを先に分ける

部署差をすべて無くそうとすると、たいてい行き詰まります。社内の問いには、全社で答えが一つしか無いものと、部署ごとに正しく異なるものが混ざっているからです。先に仕分けておかないと、揃えてはいけないものまで揃えにいくことになります。

問いの種類	例	扱い
全社で答えが一つ	経費の上限、申請の提出先、就業の規則	台帳に載せて揃える
部署で正しく異なる	決裁の経路、担当する区域、使う様式	揃えない。答えに前提を書かせる
権限で出し分ける	人事の評価、未公開の価格、進行中の交渉	揃えない。設計は権限の側で行う
答えが変わり続ける	案件の進み具合、在庫の数	台帳に載せない。元の画面を見る

三行目は、意図して違う答えを返している場合です。見せてよい相手が違うのだから、答えが違うのは正しい動きです。この設計は権限の側で行うもので、一貫性の問題とは切り離して扱います。ここを混ぜると、権限を緩めて揃えるという危うい対策が出てきます。

実際に困るのは一行目です。経費の上限のように、誰が聞いても同じであるべき問いに違う答えが返ると、現場は確認の電話に戻ります。揃える対象は、全社で答えが一つに決まる問いに絞ると決めるところから始めてください。

原因1：参照できる範囲が部署で違う

一つ目の原因は、参照できる範囲の差です。社内向けのAIは、利用者本人が見てよい資料の中からしか材料を集めません。事務ソフト群に組み込まれたCopilotの索引について公開されている仕様書にも、索引された内容が表示されるのは、その利用者が役割に基づく権限ですでにアクセスできる内容に限られる、と明記されています。

この仕組み自体は正しい動きです。問題は、参照できなかったことが、答えの中で説明されない点にあります。片方の利用者には規程の本文が集まり、もう片方には概要の資料しか集まらなかった場合、後者は概要の範囲で正しく答えます。利用者から見ると、単に答えが浅いだけに見えて、材料が欠けていたことに気づけません。

対策の方向は二つに分かれます。参照できる範囲を広げるか、参照できなかったことを答えに書かせるか。広げるほうは権限の設計そのものなので、まずは後者から手を付けるのが現実的です。材料が足りないときは推し量らずに足りないと言わせる。これは設計で決められます。

参照範囲は権限だけでは決まらない

見落とされやすいのが、権限があるのに索引に入っていない置き場です。先ほどの仕様書には、索引の対象について具体的な条件が並んでいます。組織全体の索引は共有の文書置き場にあるテキスト主体のファイルから作られ、利用者単位の索引は本人のメールボックスを対象とします。

そして、委任されたメールボックス、共有メールボックス、保存用に退避したメールボックス、退避した文書置き場のデータは索引の対象外と書かれています。部署の問い合わせ窓口が共有メールボックスで運用されている場合、そこに蓄積された過去の回答は、権限の有無にかかわらず材料になりません。窓口の運用形態が部署ごとに違えば、それだけで参照できる範囲が変わります。

サイトの設定も効きます。文書置き場のサイト設定で検索結果への表示をしない側に切り替えると、検索と索引の両方から同時に外れます。片方だけを外すことはできない、と仕様書に明記されています。過去に機密を理由に検索から外した置き場が、そのままAIの材料からも外れていることがあります。

やっかいなのは、この差が利用者の側からはまず見えないことです。答えが返ってこなかった理由が、権限が無いからなのか、索引に入っていないからなのか、そもそも資料が存在しないからなのか、画面の上では区別が付きません。確かめるときは、同じ資料を両方の利用者に直接開いてもらい、開けるのに答えに出てこないなら索引の側を疑う、という順で見ます。

• 対応する形式は文書・資料・PDF・Webページ・手書きノートの形式などで、画像だけの資料は材料になりにくい
• 機密の度合いを示す表示も検索の絞り込みに使われるため、表示を付けた資料は出てこないことがある
• 索引に入っている置き場の一覧を誰も持っていないと、参照範囲の差は毎回その場で調べ直すことになる

原因2：同じ語が部署ごとに違うものを指している

二つ目の原因は、語の指すものの差です。「単価」が、営業では受注1件あたりの金額を指し、製造では材料1個あたりの原価を指す。「案件」が、営業では商談を指し、情報システムでは開発の依頼を指す。どちらの部署も社内の資料を正しく読んでいて、それでも答えが食い違います。

この差は、権限を広げても消えません。むしろ参照できる範囲が広がるほど、両方の意味の資料が同時に材料に集まり、答えが混ざるようになります。範囲を広げることが一貫性の対策にならないのは、この理由によります。

実務でよく効くのは、語の定義をどこか一か所に置き、その文書を定義の置き場として明示することです。同じ語が複数の意味を持つとき、どの部署の定義を既定にするかを人が決めておく必要があります。決めずに放置すると、集まった資料の並び順によって答えが変わります。

既定を決めるときは、どちらが正しいかで選ばないほうがうまくいきます。どちらの定義も、その部署の中では正しいからです。選ぶ物差しは、その語を使っている文書の数と、取り違えたときの影響の大きさの二つです。既定を決めたら、もう一方の意味で使っている部署には、答えの中で前提を書かせる設定にします。呼び方を取り上げるのではなく前提を添える扱いにしておくと、合意が取りやすくなります。

語のゆれは、吸収される部分とされない部分がある

検索の側にも、語の違いを吸収する仕組みがあります。公開されている仕様書には、語形の違いや同義語を捉えて、探せる範囲を広げると書かれています。表記が少し違うだけの語や、言い換えにあたる語は、同じものとして扱われます。

吸収されるのは、違う言い方で同じものを指している場合です。逆に、同じ言い方で違うものを指している場合は、仕組みの側では区別できません。前者は検索の工夫で減りますが、後者は人が決めない限り残り続けます。一貫性の話で手間がかかるのは、必ず後者です。

見分け方は単純です。社内で使われているその語が、どの文書に定義として書かれているかを数えます。定義が2か所以上にあって中身が違っていれば、それは吸収されない種類のゆれです。定義が1か所も無い語は、そもそも台帳に載せる前に、定義を文にする仕事が先に立ちます。

数えるだけなら、いまある道具でその日のうちにできます。社内の資料を横断して、その語が見出しに入っている文書を並べ、定義らしき一文が書かれているものを拾う。見つかった文書が2つ以上あれば、どちらを既定にするかの話に進みます。ゼロだった語については、答えを揃える以前に、社内の誰も定義を書いていないという事実のほうが分かります。

原因3：索引が更新される速さが置き場ごとに違う

三つ目の原因は、材料が更新されるまでの時間差です。公開されている仕様書には、更新の速さが置き場によって違うことが書かれています。利用者のメールボックスの中で作られた文書はほぼ即時に索引され、2人以上がアクセスできる共有の文書置き場に新しく追加された文書は日次で索引されます。すでに索引済みの文書が更新された場合は、その変更は即時に索引されます。

つまり、新しく置いた資料は当日中に材料にならないことがあり、既にある資料を書き換えた場合はすぐに反映されるという、直感と逆に近い動きをします。規程を新しいファイルとして追加した日と、既存のファイルを上書きした日とでは、答えの内容が切り替わるタイミングが違うということです。

版の入れ替えや失効の管理そのものは、文書の鮮度という別の論点になるのでここでは深入りしません。部署差の話として押さえておきたいのは一点だけです。同じ日に同じ問いをしても、置き場が違えば材料の新しさが違う。だから、答えを比べるときは必ず同じ日に取り、出典の更新日まで並べて見ます。

3つの原因のどれから手を付けるか

三つの原因は、現れ方が違います。現れ方から逆算すると、どれを疑えばよいかが絞れます。次の表は、実際に起きている現象と、疑う原因、確かめ方を並べたものです。原因を当てにいくのではなく、現象から入るのが速道です。

起きていること	疑う原因	確かめ方
片方だけ分かりませんと返る	参照できる範囲	同じ資料を両方の利用者が開けるか見る
片方の答えが明らかに浅い	索引の対象外	その置き場が索引に入っているか設定を見る
両方が答えるが数字が違う	語の指すもの	その語の定義が書かれた文書を数える
片方が古い内容を答える	索引の更新	出典の更新日と元の資料の更新日を比べる
同じ人が日を変えると違う答えになる	材料の集まり方	同じ日に3回聞いて出典が同じか見る

手を付ける順番は、上から順で構いません。参照できる範囲と索引の対象は設定の話なので、部署間の合意を待たずにその日から確かめられます。語の指すものは合意が要るので、どうしても時間がかかります。

逆の順番で始めると、用語の統一という大きな仕事から入ることになり、たいてい途中で止まります。設定で説明のつく差を先に消してから、残ったものを用語の問題として扱う。この順番だけは動かさないでください。

答えが違ったときの切り分け方

現場から「答えが違う」という申し出が来たときの手順を決めておきます。手順が無いと、受けた担当者が二つの答えを見比べてどちらが正しいかを考え始め、そこで止まります。考えるべきは正しさではなく、どこで分かれたかです。

三つ目と四つ目の分かれ目が、この手順でいちばん大事なところです。出典が違うなら探す側の問題、出典が同じなら文にする側の問題で、直す場所がまったく違います。ここを飛ばすと、設定の問題を用語の会議で議論することになります。

五つ目は、社内にそもそも答えが書かれていない場合です。この場合に返ってくる答えは、どちらの部署のものも根拠がありません。直す対象はAIではなく、文書の不在のほうです。

問いの台帳を人が持つ

揃える問いを決めたら、それを一覧として持ちます。これが問いの台帳です。台帳には、問いの文、揃えると決めた答え、根拠になる文書の名前と版、最後に確かめた日、確かめる人、という項目を書きます。道具の中に持つか表計算で持つかは問いません。

台帳の役割は二つあります。一つは、答えが揃っているかを定期的に確かめる対象を決めること。もう一つは、揃えないと決めた問いを、揃えないと決めた記録として残すことです。後者が無いと、現場から差異の申し出が来るたびに、毎回ゼロから議論することになります。

大事なのは、台帳の持ち主が情報システムではなく、その問いに答える責任を持つ部署であることです。経費の上限の問いなら経理、就業の規則なら人事が持ちます。持ち主が道具の管理部門になると、答えの正しさを判断できない人が台帳を抱えることになります。

台帳に載せる問いをどう選ぶか

すべての問いを載せることはできません。選ぶ条件を先に決めます。実務で使える条件は三つです。答えが全社で一つに決まること、間違えたときの影響が大きいこと、そして聞かれる回数が多いこと。三つとも当てはまるものから順に載せます。

聞かれる回数は、利用の記録から拾えます。回数の多い問いから順に、答えが一つに決まるかどうかだけを人が判定していくと、台帳の初版は短い時間で作れます。判定は二択なので、迷ったものは保留にして先へ進みます。保留の一覧も残しておくと、次の周に持ち越せます。

件数の目安は、最初は絞ったほうがうまくいきます。数十件で始めて、差異の申し出が出た問いを足していく。台帳が大きくなりすぎると、確かめる作業が回らなくなって形だけになります。載せた以上は周期を決めて確かめる、という約束とセットで数を決めてください。

選び方でもう一つ効くのが、区分の網羅です。よく聞かれる問いばかりを集めると、特定の部署の問いに偏った台帳になります。部署や業務の区分を先に並べておいて、どの区分からも最低1件は載せるという置き方にすると、台帳そのものが部署差を見つける材料としても使えるようになります。

AIに一貫性を判定させない

二つの答えを並べて、どちらが正しいかをAIに判定させたくなります。これは避けてください。判定に必要なのは、どちらの文書が現行かという情報で、それは文書の中ではなく運用の事実の側にあるからです。文面だけを比べれば、新しく書かれたほうがもっともらしく見えます。

条件によって答えが変わる問いに対しては、推し量って一つの答えを返すのではなく、足りない条件を聞き返す設計のほうが安全だと指摘されています。複数の解釈が資料の中に存在する場合は、現行の規程ではこう、旧の規程ではこう、と条件を付けて並べて示すのが筋です。

AIに任せてよいのは、二つの答えの差分を言葉にすることまでです。どこが違うかは機械に出させ、どちらを正とするかは人が決める。この線を引いておかないと、台帳の答えが誰の判断でもないまま書き換わります。

答えに根拠を書かせる

部署差を早く見つける方法として、いちばん割に合うのが、答えに根拠を付けさせることです。付けさせる項目は決まっています。文書の名前、版、施行日または更新日、置き場所。この四つがあれば、二つの答えを並べたときに原因の見当がつきます。

文書の側にも準備が要ります。専門家が挙げる鉄則として、施行日・失効日・版・適用範囲・状態をメタデータとして付けておくことが挙げられています。廃止済みの規程と現行の規程が同じ置き場に残っていれば、AIは古いほうを根拠にして答えることがあるためです。

根拠を書かせると、利用者の側の使い方も変わります。答えの文だけを読んで信じるのではなく、出典の名前を見て「これは自分の部署の様式ではない」と気づけるようになります。一貫性は、揃えることだけでなく、違いに気づける形にすることでも守れます。気づいた人が申し出る先を決めておけば、台帳は現場の側から育ちます。

揃っているかを定期的に測る

台帳を作ったら、次は測り方です。答えが揃っているかどうかは、現場から申し出が来たときだけ確かめるのでは足りません。資料が更新され、問いの傾向が変わると、気づかないうちに答えがずれていきます。同じ問いを定期的に流して確かめる仕組みが要ります。

国内の実例として、社内向けのAIヘルプデスクで正答率を初期の50%前後から80%まで引き上げた取り組みが公開されています。そこでは、直近1か月の問い合わせから操作に関する質問を抜き出して約100件のテストケースを作り、すべての区分を網羅するようにそろえています。評価はAIによる5段階の採点と人の確認の二段構えで、機械の採点は正確性の一軸だけに絞り、3点以上を合格としています。

この二段構えが、そのまま人が確認する範囲を決めるやり方になっています。全件を人が読むのではなく、機械の採点が基準を下回ったものと、区分ごとに決めた抜き取り分だけを人が読む。測る仕組みは、小さい件数で定期的に回すほうが続きます。基準を下回ったときに知らせが飛ぶ形にしておけば、資料の更新や問いの傾向の変化による劣化に、人が気づくより先に手を打てます。

揃えようとして起きる失敗

部署差を無くそうとして起きる失敗を並べます。どれも、原因の切り分けを飛ばして対策から入ったときに出てくる形です。

• 全部署に同じ権限を与えて揃える：見せてはいけない資料まで材料に入り、別の事故になる
• 出力のばらつきを抑える設定だけで揃えようとする：探す側が違う資料を拾っていれば、文を安定させても答えは揃わない
• 差異の申し出が来た問いだけを個別に直す：原因が残るので、次の問いでまた同じことが起きる
• 用語の統一から始める：合意に時間がかかり、設定で消せる差まで止まったままになる
• どちらが正しいかをAIに決めさせる：根拠を確かめられない答えが台帳に載ることになる

二つ目は特に多い形です。出力のばらつきを抑える設定は確かに効く場面がありますが、それは同じ材料が集まっている場合に限られます。材料の集まり方が部署で違っているなら、文の側をいくら安定させても差は残ります。

失敗の共通点は、原因を一つだと決めてかかっていることです。三つの原因は同時に起きます。切り分けの手順を先に通してから、対策を選んでください。

もう一つ付け加えるなら、一度揃えたら終わりだと考えることです。資料は更新され、部署の担当範囲も変わり、問いの傾向も動きます。揃えるのは状態ではなく、ずれに気づいて直し続ける仕組みのほうだと置き直すと、台帳と測り方の両方に手が回るようになります。

実務仕様：先に決める項目

最後に、着手の前に決めておく項目をまとめます。ここが決まっていないまま道具の設定に入ると、あとから全部やり直しになります。決めるのは設定ではなく、誰が何をどの周期で見るかです。

• 揃える問いの条件と、台帳に載せる件数の上限
• 台帳の持ち主（問いごとに、答える責任を持つ部署の名前まで書く）
• 答えに必ず付ける項目（文書の名前・版・施行日または更新日・置き場所）
• 材料が足りないときの返し方（推し量らずに、足りないと返す）
• 索引に入っている置き場の一覧と、その一覧を更新する人
• 同じ語が複数の意味を持つときに、既定とする定義の持ち主
• 差異の申し出の受付先と、直すまでの期限
• 人が確かめる範囲（台帳の全件か抜き取りか、周期は月次か四半期か）
• 揃えないと決めた問いの一覧と、その理由

この中で先に決めにくいのが、八つ目の確かめる範囲です。台帳が数十件なら全件を月次で、百件を超えるなら影響の大きいものだけを月次、残りを四半期といった形に分けます。全件を毎月見ると決めて守れなかった場合、台帳そのものが信用されなくなります。

九つ目を忘れないでください。揃えないと決めた問いの一覧は、現場への説明にそのまま使えます。違う答えが返るのは不具合ではなく設計だ、と言える状態にしておくことが、問い合わせの往復をいちばん減らします。

まとめ

社内のAIが部署で違う答えを返す原因は、参照できる範囲が違う、同じ語が違うものを指している、索引が更新される速さが違う、の3つに分かれます。現れ方から原因を絞れるので、設定で説明のつく差を先に消し、残ったものを用語の問題として扱います。揃えるのは全社で答えが一つに決まる問いだけで、部署で正しく異なる問いと、権限で出し分ける問いは揃えません。その線引きを問いの台帳として人が持ち、答えには文書の名前と版と更新日を書かせ、どちらが正しいかの判定はAIに任せない。まずは、社内でいちばん多く聞かれている問いを一つ選び、部署の違う二人に同じ日に聞いてもらって、出典を並べてみてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。