AIの答えは誰が確かめる？｜鵜呑みを組織で止める

「部長に出した資料の数字を突っ込まれて、その場で誰も原典を見ていなかったことが分かりました」「確かめようとは思っているのですが、全部やっていたら手で書いたほうが早くなってしまうんです」——AIを業務に入れて半年ほど経った会社から、決まって出てくる声です。これを担当者の意識の問題として片づけると、まず直りません。確かめずに使う人が出るのは知識が足りないからではなく、確かめない側が得をする条件がそろっているからです。この記事では、その条件を3つに分けて名前を付け、教育ではなく仕事の組み方の側から減らす手立てを整理します。なお、AIの側の出来が落ちていく現象と、その気づき方は別の記事で扱っているので、ここではAIの出来が変わらなくても人の側で起きる変化だけを見ていきます。

決裁の直前に、その数字はどこから来たのかと聞かれる

よくある形はこうです。新規事業の企画書に、市場規模の数字が1行入っています。書いたのは若手の担当者で、AIに聞いて出てきた数字をそのまま使いました。課長が読み、部長が読み、体裁の修正だけが入って役員会に上がります。役員が「この数字の出どころは」と聞きます。その場にいる誰も答えられません。3人が読んでいて、原典に当たった人が1人もいなかったことが、この瞬間に分かります。

起きることは2つです。1つは、その数字を消して企画書を出し直すこと。もう1つは、会議そのものが止まり、次の枠が2週間先になることです。金額の大きい案件ほど後者になります。ここで失われるのは2週間の時間だけではありません。その企画に書かれている他の数字も、全部疑われることになります。

この場面を「若手の確認不足」として処理すると、同じことが3か月後に別の部署で起きます。3人とも自分の役割は果たしていたからです。作った人は作り、読んだ人は体裁を見て、決める人は筋を見ました。抜けていたのは能力ではなく、誰が原典に当たるのかが、どこにも書かれていなかったことです。

間違いが、間違いに見えなかった理由

生成AIは、次に来そうな言葉を確率にもとづいて選びながら文を組み立てる仕組みです。この作り方は、書かれている内容が事実かどうかとは無関係に働きます。結果として、誤った内容も、正しい内容とまったく同じ姿かたちで出てきます。文法は整い、語調は落ち着き、数字には桁がそろい、必要なら出典らしきものまで添えられます。

人が誤りを見つけるとき、実は内容そのものより先に、外側の手掛かりを使っています。言いよどみ、あいまいな表現、書式の乱れ、話の飛び、根拠のない断言。これらが「ここは確かめよう」という合図になっていました。AIの答えからは、この合図が消えています。合図が消えると、確かめる動機は個人の意志だけで支えることになります。意志の量には個人差があり、忙しさで簡単に上下します。

ハルシネーションという言葉は、この現象に名前を付けたものです。名前が付いたことで説明はしやすくなりましたが、名前だけでは対策になりません。誤りが起きることを全員が知っているのに、誰も確かめない状態は、知っていることと行動が別の回路で決まっているために起きます。だから次章からは、知識ではなく行動が決まる条件のほうを見ていきます。

確かめる人は、実際に減っている

これは印象論ではなく、数字に出ています。ナイルが2026年5月27日から6月1日にかけて全国の20代から60代の男女3,000人に実施した調査では、生成AIの回答を他の情報源で裏取りするかという問いに「する」と答えた人は28.1%でした。前回の2025年10月の調査では35.1%だったので、半年ほどで7ポイント下がったことになります。「たまにする」は50.8%で、合わせると約8割が何らかの形で確かめてはいます。

気になるのは別の数字です。同じ調査で「裏取りを意識したことがない」と答えた人が、前回の7.6%から11.1%に増えています。確かめるかどうかを迷った末に確かめない人ではなく、確かめるという選択肢が頭に浮かばない人が増えているという動きです。これは慣れの効果で、使う期間が長くなるほど強く出ます。

企業の側の認識も出ています。帝国データバンクが2026年3月に実施した企業の動向調査（有効回答10,312社）では、生成AIの活用上の課題として「情報の正確性」を挙げた企業が50.4%で最多でした。一方で「トラブル時の責任の所在に関するルール」を課題に挙げた企業は25.5%にとどまります。正確性が心配だという認識は広く共有されているのに、誰がどこまで確かめるかを決める作業は半分も進んでいない、という開きがあります。

鵜呑みは、知識不足では起きない

研修を何度やっても鵜呑みが減らない、という相談をよく受けます。減らないのは、鵜呑みの原因が知識ではないからです。現場を分解していくと、確かめずに使うという行動は、次の3つの条件がそろったときにだけ起きます。1つでも欠けると、人は自然に確かめます。逆にいえば、3つのうち1つを外す設計をすれば、意識を変えなくても行動は変わります。

条件は、答えが完成形の文で返ってくること、確かめる手間が確かめようとした人自身の時間から出ていくこと、そして確かめなくても当面は誰にも分からないことの3つです。この3つは独立していて、それぞれ別の手立てで外せます。以降の3章で1つずつ見ていきます。

どれから外すかは会社によって変わります。外しやすいのは2つ目と3つ目です。1つ目は道具の性質そのものなので、完全には外せません。ただし、完成形のまま成果物に入らないようにする形であれば、仕事の組み方の側から手が打てます。

条件その1：答えが完成形の文で返ってくる

検索で調べるとき、人は断片を受け取ります。見出しの一覧があり、複数のページを開き、書いてあることを自分の頭の中で組み立てます。この組み立ての過程で、どれを採るか、どれを捨てるかという判断が必ず入ります。判断が入るということは、採用した根拠が本人の中に残るということでもあります。

AIに聞くと、この工程がまるごと消えます。返ってくるのは、すでに組み立て終わった文章です。組み立てを人がやっていないので、なぜその内容になったのかという根拠も本人の中にありません。それでも文章としては完成しているので、資料にそのまま貼れてしまいます。貼った瞬間、その文章は「自分が書いた文」になり、自分が書いたものを疑うのは、他人の文を疑うより難しくなります。

だから手立ての方向は「完成形で出させない」になります。具体的には、AIに出させた文章を、成果物に入れる前に一度分解させます。この主張の根拠は何か、どこから採ったのか、確かめられるのはどの部分かを、箇条書きで別に書かせる。分解させると、根拠のない主張は空欄になって現れます。空欄が出れば、確かめる場所は探さなくても分かります。

条件その2：確かめる手間が、確かめようとした人の時間から出る

確かめる作業には時間がかかります。数字1つの原典に当たるのに、慣れていても10分から20分かかります。固有名詞なら5分、法令の条文なら30分かかることもあります。この時間は、確かめようとした本人の時間から出ていきます。ところが確かめたことによる利益は、本人にはほとんど返りません。間違いが表に出なかったという結果は、誰の目にも見えないからです。

この構造が続くと、丁寧にやる人ほど納期に遅れ、確かめない人ほど早く出せる、という逆転が起きます。逆転が半年続くと、丁寧にやっていた人も確かめなくなります。個人の心掛けの問題ではなく、心掛けが割に合わない仕組みになっていることが原因です。精神論で持ちこたえられるのは、だいたい3か月です。

手立ての方向は「確かめる時間を工数に入れる」です。資料作成の見積もりに、作成の行とは別に確認の行を立てます。2時間で作る資料なら、確認に30分を立てる。立てておけば、確認は削るべき無駄ではなく、消化すべき工程になります。工数に入っていない作業は、忙しい週から順に消えるというだけの話です。

条件その3：確かめなくても、当面は誰にも分からない

3つ目がいちばん厄介です。確かめずに使っても、その場では何も起きません。誤りが表に出るのは、社外に資料が出たとき、決裁の場で問われたとき、あるいは監査で抜き取られたときです。多くの場合、使ってから数週間から数か月あとになります。しかも、表に出ずに終わる誤りのほうが数としては多いはずです。

表に出るのが遅いと、人の中では「確かめなかったがうまくいった」という記憶だけが積み上がります。機械が出した答えを、自分で確かめた結果より優先してしまう傾向は、人間工学の分野で自動化バイアスとして古くから指摘されてきました。AIに特有の現象ではなく、当たり続ける自動化された相手に対して、人が必ず示す反応です。個人差はありますが、なくなりはしません。

手立ての方向は「表に出るのを早める」です。誤りそのものを早く見つけるのではなく、確かめたかどうかを早く見える形にします。成果物の中に、誰がいつ何を確かめたかを書く欄を作る。欄が空のまま回ってくれば、読む側はその場で気づきます。誤りの発見を数か月先から、次の工程まで前倒しできます。

鵜呑みが表に出やすい場所を、先に名指ししておく

全部を同じ強さで確かめるのは無理です。だから場所を絞ります。実務で問題になるのは、ほぼ次の5か所に集まります。表の4列目は、誰がいつ確かめるかを書いた欄です。ここが空のまま運用を始めると、確認は必ず「気づいた人がやる作業」になり、忙しい人ほどやらなくなります。

鵜呑みが表に出やすい場所	実際に出る誤りの形	当たるべき原典	誰がいつ確かめるか
社外に出る提案書や告知の文章	実在しない出典が添えられる。言い切りすぎた表現が残る	自社の確定資料と、引用元の原文	作った人が下書きの時点で。出す前に別の人が全文を
市場規模や占有率などの数字	近い数字だが、年次や対象範囲が入れ替わっている	調査を公表した組織の最新の資料	資料に貼る前に、作った人が数字を1つずつ
会社名・製品名・部署名などの固有名詞	似た名前に置き換わる。統合や改称の前の名前が残る	相手先の公式サイトの会社情報	宛先や相手先を書いた時点で、作った人が
法令・規格・社内規程の条文	条番号や施行時期がずれる。改正前の内容が返る	官公庁が公表する条文と、社内規程の原本	文章に入れた時点で、法務または規程の担当が
他社の事例や実績	事実に近いが、公表されていない話が混ざる	相手先が自ら公表している資料	資料に入れる前に、担当する営業が

2行目の「年次や対象範囲が入れ替わる」は、いちばん見つけにくい形です。数字そのものは実在するので、検索すれば似た数字が出てきます。違っているのは、何年の数字か、どの国の話か、どの業種を含むかといった条件のほうです。数字が合っているかではなく、条件が合っているかを見ると決めておくと、確認の目の付けどころが変わります。

4行目は、確かめる人を作った本人にしないほうが確実です。条文は読み慣れていないと、正しく見えるものと正しいものの区別が付きません。法務や規程の担当に回す仕組みを1本通しておけば、回ってきた文章の中に条文があるかどうかを見るだけで済みます。1件あたり数分の作業です。

研修を増やしても戻るのは、記憶ではなく段取りの問題だから

研修でできることは、はっきりしています。誤りが起きる仕組みを理解してもらうこと、社内で決めた手順を周知すること、危ない場所を共有すること。この3つです。どれも必要で、やらなければ手順そのものが知られません。ただし、研修でできるのはここまでだと割り切っておかないと、効果が出ないときに研修の回数を増やすという打ち手に流れます。

研修でできないことも、はっきりしています。忙しい日に確認の時間を作ること、確かめた人が報われる構造を作ること、確認を飛ばした人にその場で気づかせること。これらは全部、仕事の組み方の側の問題です。研修の直後は確認率が上がり、3週間ほどで元に戻る、という動きを何度も見ます。戻るのは、忘れたからではなく、戻すだけの力が段取りの側にかかっているからです。

研修をやるなら、判定の仕方を変えてください。理解度テストの点ではなく、半年後の成果物を抜き取って、確かめた跡が残っているかどうかで測ります。跡が残っていなければ、内容が伝わらなかったのではなく、残せる欄が成果物になかったのだと考える。判定の対象を人から成果物に移すと、打ち手が自動的に段取りの側へ向きます。

仕事の組み方で減らす、4つの手立て

ここまでの3条件に対応する手立てを、着手しやすい順に並べます。4つとも道具は要りません。要るのは、書式を決めることと、上長が工数を認めることだけです。全部を一度に入れる必要もありません。1と3は今日から始められ、2と4は上長の承認が要ります。

順番に意味があります。1と3を先に入れると、確認をしている人としていない人の差が目に見えるようになります。差が見えてから工数の話をすると、承認が通りやすくなります。逆に、工数の話から入ると「そんな時間はない」で止まります。見えていないものに時間は付きません。

4つとも、AIの使い方を変える話ではないことに注意してください。変えているのは成果物の形と、見積もりの行だけです。使う道具が何であっても効きますし、来年に道具が入れ替わっても、この4つはそのまま残ります。

出典は、書式まで決めないと書かれない

手立ての1つ目を、もう少し細かく見ます。「出典を書く」という決めごとが定着しない理由は単純で、何を書けば書いたことになるのかが人によって違うからです。ある人は資料の名前だけを書き、ある人は組織名だけを書き、ある人は見た日だけを書きます。4つの欄をあらかじめ用意し、埋まっていなければ差し戻すと決めた時点で、はじめて運用に乗ります。

ここで必ず起きるのが、出典の確認までAIに任せてしまう形です。AIに「出典も付けて」と頼むと、出典らしきものが付いてきます。ところが、その資料そのものが実在しないことがあります。実際に、2023年には米国で弁護士が生成AIの作った架空の判例を裁判所に提出し、2025年にはオーストラリア政府に納品された報告書に実在しない引用や誤った脚注が含まれていたことが判明して、作成した側が報酬の一部を返金しています。出所が実在するかどうかの確認だけは、必ず人が原典を開いて行う。ここを機械に任せると、確認の記録そのものが作り話になります。

運用としては、AIに出させてよいのは根拠の候補までと決めてください。「この主張の根拠になりそうな資料の種類を挙げて」までは頼んでよく、「その資料に書いてあるか」を判定させてはいけません。判定に必要な材料をAIが持っていないためです。候補が挙がれば探す時間は短くなるので、これだけでも確認の負担は目に見えて下がります。

確かめやすい形で出させると、確認そのものが短くなる

確認の負担は、確認する側の頑張りだけで決まるわけではありません。返ってきた答えの形によって、同じ内容でも確認にかかる時間は数倍変わります。長い散文でまとめて返ってくると、まずどこを確かめるべきかを探す作業から始まります。探す時間は確認の時間として数えられないので、体感の負担だけが増えます。指示の出し方を変えるだけで、この探す時間は丸ごと消せます。

指示の側で決めることは3つです。1つ目は、主張と根拠を分けて出させること。文章にせず、主張の行と根拠の行を分けた形で出させます。2つ目は、行ごとに確からしさを自分で書かせること。確実に言える、要確認、推測の3段階で十分です。3つ目は、分からない場合は分からないと書かせることです。3つとも、指示の定型文に1行ずつ足すだけで済みます。

効くのは2つ目です。要確認と書かれた行だけを人が確かめる運用にすると、1件あたりの確認時間は目に見えて短くなります。ただし、この自己申告をそのまま信じてはいけません。確実に言えると書かれた行の中に誤りが混ざることがあるからです。確実と書かれた行からも毎回2行だけ抜き取って確かめる、という決めごとを併せて置いてください。確からしさの判定そのものを、AIに任せ切らないための最小の保険です。

この形は、先ほどの手立ての2つ目とも組み合わせられます。主張と根拠を分けた表のうち、根拠の行が空欄になっているものに下書きの印を付ければ、印の付いた行がそのまま確認すべき箇所の一覧になります。資料を作った本人以外が見ても、どこを見ればよいかが1目で分かる形になります。慣れると、この表を作る手間は5分ほどで済みます。

確かめた跡を成果物に残し、確かめる時間を工数に入れる

手立ての3つ目と4つ目は、組み合わせて入れると効きます。まず跡の残し方です。確認の記録を別の管理表に書かせる形は、ほぼ確実に失敗します。表を開く手間が増えるうえ、成果物を読む人がその表を見ないからです。資料の末尾に5行の欄を置くだけで十分です。次のような中身にします。

• 確かめた人の名前。部署名ではなく個人名で書く
• 確かめた日。資料を作った日ではなく、原典を開いた日を書く
• 見た原典の名前と、公表された年。リンクではなく資料の名前で書くと、後から探し直せる
• 確かめられなかった箇所。空欄にせず、確かめていないと書く
• 確かめた範囲。全文か、数字だけか、固有名詞だけかを1行で書く

4行目が最も重要です。確かめられなかった箇所を空欄にすると、確かめたのか確かめていないのかが区別できなくなります。確かめていないと書いてある資料は、確かめた資料より安全です。読む側がどこを見ればよいか分かるからです。空欄を許す運用は、確認欄そのものを飾りに変えます。

工数のほうは、見積もりに行を立てるだけでは足りません。締切の置き方も変えます。提出日の当日を締切にすると、確認は前日の夜に押し出され、翌朝には消えます。提出日の半日前を作成の締切にし、残り半日を確認に当てる。この半日を守れるかどうかで、確認欄が埋まる率がはっきり変わります。

確かめる文化が壊れるのは、急ぎの案件で例外を1回認めたとき

ここまでの仕組みを入れた会社でも、半年後に元に戻っていることがあります。戻る原因は、ほぼ1つです。金曜の夕方に急ぎの案件が入り、月曜の朝が提出で、確認の工程を1回だけ飛ばした。この1回です。悪意もなく、その場では正しい判断に見えます。実際、その案件では何も起きません。

問題は次からです。1回認めた時点で、それは前例になります。次に急ぎの案件が来たとき、飛ばしてよい理由はすでに社内にあります。3か月もすると、急ぎでない案件のほうが珍しくなります。確認を飛ばす判断そのものではなく、飛ばした記録がどこにも残らなかったことが壊れる原因です。

手立ては、例外をなくすことではありません。締切が動かせない仕事は実際にあります。決めるのは、例外の出し方のほうです。誰が承認するのか、何を飛ばしてよくて何は絶対に飛ばせないのか、飛ばした分をいつまでに埋めるのか。この3つを先に書いておけば、例外は前例になりません。なお、人がどの工程で承認に入るかという型そのものの設計は、別の記事で扱っています。ここで決めるのは、すでにある確認の工程を飛ばすときの手続きだけです。

これをやると、鵜呑みは仕組みとして残る

最後に、善意で導入されて逆効果になる進め方を5つ挙げます。どれも実際に見かける形です。1つでも当てはまるなら、次の四半期に入る前に外してください。

• 「AIの答えは必ず確認すること」とだけ規程に書く：何をどこまで見るかが人によって違い、忙しい週から順に消える
• 確かめた記録を、成果物とは別の管理表に書かせる：表を開く手間が増え、3か月で空欄が並ぶ
• 出典が実在するかの確認までAIに任せる：実在しない資料名が、実在するかのような書式で返ってくる
• 確かめなかった人を会議で名指しする：報告が上がらなくなり、誤りは同じ数だけ残ったまま見えなくなる
• 急ぎの案件は確認を飛ばしてよい、と口頭で決める：3か月後には、急ぎでない案件のほうが珍しくなる

4つ目は、経営側の善意で起きます。問題を重く受け止めていることを示そうとして、個別の事例を会議で取り上げる形です。取り上げた瞬間から、誤りの報告は上がらなくなります。誤りの件数が減ったように見えるので、対策が効いたと判断され、翌期にはもっと見えなくなります。報告された誤りの件数は、誤りの多さではなく報告のしやすさを測っていると覚えておいてください。

1つ目は、規程を作る側がいちばん陥りやすい形です。文としては正しく、反対する人もいません。ただ、読んだ人が明日から何をすればよいかが1つも書かれていません。規程に書くなら、確認する場所と、確認する人と、確認した跡を残す欄の3つまで書き切ってください。書き切れないなら、規程ではなく手順書の側に置いたほうが実際に使われます。

この記事で使った言葉の整理

鵜呑み

ここでは「AIが返した内容を、原典に当たらないまま成果物や判断に使うこと」を指しています。信じたかどうかという心の状態ではなく、確かめる行動を取らなかったという事実だけで判定します。行動で定義しておくと、確認欄が埋まっているかどうかで後から数えられます。

ハルシネーション

生成AIが、事実ではない内容を事実のような形で出力する現象です。次に来そうな言葉を確率で選ぶという作り方から生まれるもので、性能が上がっても完全にはなくなりません。原因を説明する言葉であって、対策そのものではない点に注意してください。

自動化バイアス

機械が出した答えを、自分で確かめた結果や自分の判断より優先してしまう人の傾向です。人間工学の分野で古くから指摘されてきたもので、AIに限った話ではありません。自動化された相手が当たり続けるほど強く出るため、精度が上がるほど確認の設計が重要になります。

原典

その情報が最初に公表された資料のことです。調査結果なら調査を実施した組織の公表資料、法令なら官公庁が出している条文、他社の実績ならその会社自身の発表が原典にあたります。まとめ記事や解説記事は原典ではないので、確認欄の3行目には書けません。

まとめ

確かめずに使う人が出るのは、その人が不注意だからではありません。答えが完成形で返り、確かめる時間が本人から出ていき、確かめなくても当面は誰にも分からない。この3つがそろえば、誰でもそうなります。だから打ち手は、人を変えるのではなく、3つの条件のどれかを仕事の組み方の側から外すことになります。出典は書式まで決めて書かせる。根拠を分解させて、空欄の主張に下書きの印を残す。確かめた跡は成果物の中に残す。確かめる時間は見積もりの行に立てる。そして、急ぎの案件で例外を認めるときの手続きを先に書いておく。まず今週やることは1つです。直近に社外へ出した資料を3本開いて、確認欄にあたる場所があるかどうかを見てください。なければ、5行の欄を足すところから始まります。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。