社内データはAIに覚えさせるか渡すか｜追加学習とRAGの選び方

「社内のマニュアルを全部読ませて、うちの専用のAIを作りたい」「自社の言葉を覚えさせれば、答えの精度が上がるはずだ」。AIの社内展開を任された担当者のもとに、この形の要望が届きます。どちらも自然な発想ですが、期待しているものと手段が合っていません。覚えさせる作業で変わるのは主に答え方で、知っている事実を増やしたいなら、覚えさせるのではなく、その都度渡すのが本来の手段です。この記事では、追加学習で変わるものと変わらないもの、必要な件数と費用の内訳、更新のたびに発生するやり直し、その場で検索して渡す方式との比較、そして決める前に確かめる手順を整理します。

覚えさせると渡すは、そもそも別の目的の手段

言葉の整理から始めます。追加学習は、配布された状態のモデルの内部にある数値を、自社のデータで少しずつ書き換える作業です。書き換えた結果はモデルの中に溶けて残ります。もう一方の、その場で検索して渡す方式は、モデルには手を入れません。質問が来るたびに関係しそうな社内資料を探し出し、質問と一緒に渡して答えさせます。

この2つは、目的が違います。前者は答え方をそろえる手段、後者は答えの材料を与える手段です。同じ「社内データを使う」という言葉で語られるので混ざりますが、解決する問題が別です。答えが的外れなのは材料が足りないからで、答えの形が毎回ばらつくのは答え方が決まっていないからです。

相談が噛み合わない理由もここにあります。稟議の目的欄に精度向上と書くと、どちらの手段でも説明が通ってしまい、何が改善したのかを後から検証できなくなります。決める前に、直したい症状を「事実が足りない」と「答え方が乱れている」のどちらかに寄せておく。これだけで手段の選択は半分が終わります。

追加学習で変わるもの：口調と書式と分類の傾向

覚えさせて実際に変わるものは3つに絞れます。1つ目は文体と口調です。社内の言い回し、敬語の水準、避けたい表現。2つ目は出力の書式で、見出しの立て方、項目の順番、文字数の水準。3つ目が分類の傾向で、社内の区分に沿った振り分け方や、境目のものをどちらに寄せるかの癖です。

実務での効き方は具体的です。問い合わせを社内の10区分に振り分ける作業で、指示文をどれだけ丁寧に書いても境目のものが揺れる場合があります。過去の振り分け実績を覚えさせると、この揺れが小さくなります。提案書の書式も同じで、毎回同じ直しを人が入れているなら、それは覚えさせる候補です。逆に直しの内容が毎回違うなら、原因は別のところにあります。

判断の目安として、「人が直している内容が3か月分たまっていて、その直しが同じ種類か」を見ます。同じ種類なら覚えさせる価値があり、毎回違うなら覚えさせても揺れは残ります。追加学習が効くのは、正解の形が反復して現れる仕事だけです。この見極めを飛ばすと、費用をかけて何も変わらない結果になります。

追加学習で変わらないもの：知らない事実は増えない

ここが最大の誤解です。内部の数値を書き換えても、事実が確実に記憶されるわけではありません。価格表を覚えさせても、次の改定は反映されません。しかも困るのは、知らないと答えないことです。覚えた口調のまま、もっともらしい形で違う数字を返します。答え方が社内の様式にそろっているぶん、読む側は疑いません。

この性質は、実務では危険側に働きます。社内の様式で整った文書は、内容も社内で確認されたもののように見えます。手を入れる前のモデルであれば、答えの粗さが読む側の警戒を呼び起こしていました。覚えさせた後は、その警戒が働きません。見た目が整うことと、中身が正しいことは、はっきり別に扱う必要があります。

したがって判断は明快です。最新の社内情報に答えられるAIが目的なら、追加学習は手段として外れています。目的が「規程の最新版に基づいて答える」「今期の価格で見積もる」であれば、必要なのはその都度資料を渡す仕組みです。この切り分けを最初にやっておけば、要望の多くはそこで行き先が決まります。

どれくらいのデータが要るのか

覚えさせる方向で進める場合、件数の目安があります。2026年時点の実務向けの手引きでは、用途ごとに次の水準が示されています。最低の件数でも形にはなりますが、業務で使うなら推奨の水準を見込んでおくのが安全です。

1. 文体と口調をそろえる：最低50件、推奨200件から500件、高い品質を求めるなら1,000件以上
2. 決まった区分への分類：区分あたり最低50件、推奨200件、高い品質なら500件以上。区分が10あれば合計で2,000件規模になる
3. 分野に特化した質問応答：最低100件、推奨500件から1,000件、高い品質なら5,000件以上
4. 定型の書類作成：最低200件、推奨1,000件。書式の型が複数あるなら型ごとに必要

件数より重要なのが品質です。複数の解説が一致して指摘しているのは、500件の丁寧に整えたデータのほうが、5,000件の雑なデータより結果が良い場合が大半だということです。雑なデータには、古い記載、担当者の癖、そもそも間違っている過去の判断が混ざります。それも一緒に覚え込みます。

そして実務でつまずくのは、ここです。データは社内にあるのですが、使える形ではありません。分類の実績は担当者の頭の中にあり、良い提案書は個人のフォルダにあり、直しの履歴は電子メールの往復に散っています。集めて形をそろえる作業に、誰の時間を何時間割り当てるかを先に決める。ここを決めないまま始めた案件は、データ整備の途中で止まります。

作り方の手順も見ておきます。過去の実績から該当する記録を抜き出し、誤っていたものと例外的なものを外し、入力と正解の対の形にそろえる。この作業は1件あたり数分で終わるものですが、1,000件なら数十時間になります。データ整備の工数は、件数に比例して素直に増えます。だから最初は推奨の下限で始め、効果を確かめてから足していく形が現実的です。

費用の内訳。計算は安く、重いのは人の時間

金額の感覚を持っておきます。70億パラメータ規模のモデルに1,000件のデータで3周学習させる場合、外部の仕組みを使えば3米ドルから10米ドル、日本円で数百円から千数百円程度です。時間貸しの機材を使っても5米ドルから15米ドルの水準です。自前で機材を持つなら約30万円の初期投資と電気代がかかります。計算にかかる費用は、想像よりはるかに小さいのが実態です。

必要な機材も手法で変わります。モデル全体を書き換える方式は70億規模で60ギガバイト超の記憶容量を要しますが、一部の層だけを付け足す方式なら16ギガバイト、そこに重みを粗く丸める処理を併せると6ギガバイトまで下がります。付け足す方式で更新するのは全体の0.2%程度で、手元の機材で小さく試せる水準に来ています。

では何が重いのか。データを集めて整える工数、結果を評価する工数、思ったように動かなかったときのやり直しです。費用の大半は計算ではなく人の時間で、しかもその大半が最初のデータ整備に集まります。決裁の場では、見積もりを計算費用と人の工数に分けて出してもらってください。計算費用だけが並んだ見積もりは、実際の負担を映していません。

更新するたびにやり直しになる、という性質

覚えさせる方式の性格を決めているのが、この点です。データが変わったら、原則としてもう一度学習させます。四半期ごとにデータを追加していく運用が一般的で、そのたびに学習、評価、入れ替えの3工程が回ります。使う版の管理と、前の版に戻す手段も用意しておく必要があります。

この性質から、扱う情報の更新頻度で向き不向きが決まります。文体や書式のように年単位で変わらないものは向いています。価格、在庫、人事、規程の細目のように月次で動くものは向きません。更新のたびにやり直す作業が、得られる効果を上回ります。頻度で切ると判断が速くなります。

もう1つ、やり直しの過程で起きる事故があります。追加したデータの偏りで、それまでできていたことが崩れる現象です。よく指摘される失敗の型には、少ないデータで学習を繰り返した結果の過度な適合、以前できていたことを忘れてしまう現象、学習の強さの設定を誤って全体が壊れる例が並びます。だから入れ替えの前後で同じ問題を流し、落ちた項目がないかを毎回見ます。

戻せる形にしておくことも実務の要点です。残すのは3点で、学習に使ったデータの版、出来上がったモデルの版、そのとき使っていた指示文の版です。この3点は組で残し、戻すときは同時に戻します。1つだけ差し替えると、以前の結果が再現できなくなります。組で残していない現場では、調子が悪くなったときに戻る先が分からず、作り直しから始めることになります。

その場で渡す方式と、正面から比べる

2つの手段を同じ観点で並べます。ここでは検索して渡す方式の仕組みそのものには立ち入らず、選択に効く違いだけを見ます。

観点	覚えさせる（追加学習）	その場で渡す
得意なこと	答え方をそろえる。口調、書式、分類の癖	答えの材料を与える。事実、数値、最新の記載
反映の速さ	学習と評価が終わるまで反映されない	資料を差し替えれば次の質問から反映される
初期の重さ	データの整備が最も重い。件数と品質の両方が要る	資料の置き場と権限の整理が要る
更新の手間	更新のたびに学習と評価をやり直す	資料を更新するだけで済む
答えの根拠	どの資料から来た答えか示せない	使った資料をたどれる
権限の反映	1つのモデルが全員に同じ知識を持つ	人ごとに渡す資料を変えられる
向く更新頻度	年単位で変わらないもの	月次や週次で変わるもの

表の下2行が、実務では決定的に効きます。覚えさせた知識は全員に同じだけ渡りますから、閲覧権限が違う人に同じモデルを使わせる形は成り立ちにくくなります。人事情報や取引条件を覚えさせると、権限のない人からも引き出せる経路ができる可能性があります。

逆に、渡す方式では答え方の乱れが残ります。資料は正しく渡っているのに、出てくる文書の形が毎回違う。この不満は資料をいくら整えても消えません。両方の不満が同時に出ている職場では、どちらか一方の手段では足りません。次の節以降で、その組み方を見ます。

検証で分かっていること：条件をそろえると差は小さい

感覚論ではなく、比較した検証があります。2024年7月に公開された研究では、公開されている約700の機能を対象にした専用の言語でのコード生成という題材で、専用に用意した学習データで追加学習した版と、渡し方を最適化した版を比べています。

結果は実務の判断に効きます。似ている度合いの指標では追加学習が最も良い成績でしたが、渡し方を最適化すると同等の水準に到達しました。構文が通る割合では、渡す方式が2ポイント上回っています。一方で見落としてはいけないのが作り話の率で、こちらは渡す方式のほうが劣りました。存在しない関数名を出す率で1ポイント、引数の名前を作ってしまう率で2ポイント、追加学習した版に及びませんでした。

読み替えるとこうなります。条件をそろえれば両者の差は小さく、新しい仕様が次々に増える場面では渡す方式が有利です。ここで注意したいのは、渡す方式にすれば作り話が減るとは限らないという点です。この検証では逆にわずかに増えていて、材料を渡すこと自体が正確さを保証するわけではないと分かります。ただし1つの領域での検証なので、自社で決めるときは自社の評価セットで測るという原則は変わりません。

併用の形は3つに整理できる

実務の落ち着きどころは併用です。ただし何となく両方やるのではなく、役割を分けます。組み方は3つあり、下にいくほど手間がかかります。

1. 事実は渡し、書き方だけ覚えさせる：材料は毎回渡し、出力の型と口調を覚えさせる。最も素直で、更新の手間も小さい
2. 分類だけ覚えさせ、本文は渡す：振り分けの癖を覚えさせ、答えに使う本文は資料から渡す。区分の多い業務に効く
3. まず渡す方式で運用し、残った不満だけ覚えさせる：3か月ほど回して、毎回同じ直しが出る部分を特定してから覚えさせる。判定の材料がそろう

順番が重要です。先に覚えさせてしまうと、何が効いたのかが分からなくなります。渡す方式を先に動かせば、残る不満が「材料が足りない」のか「答え方が乱れている」のかがはっきりします。3番目の形が遠回りに見えて最も速いのは、この判定ができるからです。

体制としては、効果の判定を工程ごとに分けて記録します。渡す資料を増やしたときに何が変わったか、覚えさせたときに何が変わったか。同時に2つを変えると、効かなかった側にも費用を払い続けることになります。決裁の面でも、段階を分けたほうが小さい金額で承認を取り、実績を持って次に進めます。

覚えさせると、なぜそう答えたかが追えなくなる

見落とされやすい違いを1つ挙げます。覚えさせた知識はモデルの内部の数値に溶けるので、答えがどの資料から来たのかを示せません。渡す方式なら使った資料をたどれますが、追加学習にはその手掛かりがありません。間違いを見つけても、どの学習データが原因かを特定できないのです。

実務で困る場面は3つあります。社外に出す文書で根拠を求められたとき、監査や社内の点検で経緯を問われたとき、そして1件だけ内容を訂正したいときです。特に3つ目は厄介で、覚え込んだ内容を1件だけ消す方法はなく、データを直して学習をやり直すことになります。「昨日から誤った記載が出るので、今すぐ止めたい」という要求に応えられません。

だから人が確認する範囲を先に決めます。確認の対象は事実を含む記述だけに絞り、書き方や口調は対象から外す。書き方は覚えさせた成果なので、そこを毎回見直しては意味がありません。事実の記述は元の資料と照らし、書き方は照らさない。この線引きができるのは、事実の側を渡す方式で扱っている場合だけです。事実は渡し、書き方は覚えさせるという分担に落ち着く理由がここにあります。判断そのものをモデルに任せず、人が見る対象を先に決めておく。この順番だけは、どちらの手段でも変わりません。

どちらを選んでも直らない3つの問題

手段の議論に入る前に確かめることがあります。次の状態にある場合、覚えさせても渡しても結果は改善しません。原因がAIの側にないからです。

• 元データが存在しない：良い提案書の型が誰の頭の中にもあるが、文書として書かれていない
• 定義が曖昧：分類の区分の境目が人によって違う。何が正解かが社内で一致していない
• 記録が残っていない：なぜその判断をしたのかが議事にも稟議にも残っていない
• 最新版が特定できない：同じ規程の文書が3つあり、どれが現行か分からない
• 表記が揺れている：同じ製品が3通りの名前で書かれ、突き合わせができない

上の2つは特に多く見かけます。「うちの標準的な提案の型を覚えさせたい」という要望が来たとき、その型が文書として存在しないことは珍しくありません。存在しないものは覚えさせられません。分類の定義も同様で、担当者3人に同じ100件を振り分けてもらうと一致しない、という状態のまま学習させると、揺れをそのまま覚えます。

したがって着手の順番は、データの整備が先です。型を1枚の文書にする、区分の定義を書く、現行版を1つに決める。この作業は地味ですが、覚えさせる場合の学習データにもなり、渡す場合の資料にもなります。どちらに進んでも無駄になりません。逆にここを飛ばすと、両方の手段で失敗します。

外に出せないデータがあるときの扱い

扱うデータに外部へ出せないものが含まれる場合、選択の条件が1つ増えます。覚えさせる方式では、学習に使ったデータの内容が条件次第で出力に現れる可能性が指摘されています。断定はできませんが、権限の違う人に同じモデルを使わせる形では、見えてはいけない情報が出てくる経路になりえます。

渡す方式なら、この点は設計で扱えます。人ごとに渡す資料を変えられるので、閲覧権限をそのまま反映できます。覚えさせる方式で権限を分けるには、権限の区分ごとに別のモデルを用意することになり、学習も評価も入れ替えも区分の数だけ増えます。権限の粒度が細かい業務では、この差が実質的な結論を決めます。

• 外部の仕組みで学習させる場合は、渡したデータが事業者側の学習に使われない条件かを契約で確認する
• 権限の区分が3つ以上あるなら、覚えさせる方式は運用が重くなると見ておく
• 個人情報を学習データに含める場合、利用目的の範囲に入るかを先に確認する
• 外に出せないデータだけを扱う用途は、手元でモデルを動かす選択と組み合わせる
• 学習データそのものの保管場所と保存期間も、資料と同じ基準で決めておく

この確認は、情報システム部門と法務に先に通しておくのが結果的に速いです。データを整え終えてから差し戻されると、整備の工数がそのまま無駄になります。確認する内容は、使うデータの種類、置き場所、保存期間、権限の区分の数の4点です。

決める前に確かめる手順

最後に、手段を決めるまでの進め方をまとめます。この4段を踏むと、要望の段階では見えなかった選択肢が見えます。

この手順の効き目は、要望の段階で挙がった手段が、そのまま採用されることが少ない点にあります。覚えさせたいという要望の多くは、材料を渡す形で解決します。残るのは書式と分類の癖で、そこだけを対象にすれば件数も費用も小さく収まります。

選び方の対応表

症状から手段を引ける形にまとめます。判断に迷ったとき、まずこの表で当たりを付けてから細部を検討してください。

出ている症状	選ぶ手段	理由
規程の最新版と違う内容を答える	その場で渡す	覚えさせても更新のたびにやり直しになる
答えの形式が毎回ばらつく	覚えさせる	書式と口調は反復して現れるので学習が効く
社内の区分への振り分けが揺れる	覚えさせる	過去の振り分け実績が学習データになる
社外に出す文書で根拠を求められる	その場で渡す	覚えさせると答えの由来をたどれない
人によって見せてよい情報が違う	その場で渡す	権限ごとに渡す資料を変えられる
形式も内容もどちらも不満がある	併用（渡す方式から）	先に材料を渡し、残った不満だけ学習させる
そもそも社内に元の文書がない	どちらでもない	文書化が先。どちらの手段も材料を必要とする

表を使う前に、次の項目が埋まっているかを確認してください。ここが空欄のまま手段を決めると、後戻りになります。

• 直したい症状が1つに絞れていて、それが材料の不足か答え方の乱れか判定できている
• 評価に使える実務の記録が50件以上集められる
• 合格の基準が、測る前に決まっている
• 学習データを整える担当と、その工数が割り当てられている
• 扱うデータの権限の区分がいくつあるか把握できている
• データを更新する頻度が、年単位か月単位かはっきりしている
• 外部の仕組みを使う場合、渡したデータの扱いを契約で確認済み
• 人が確認する対象を、事実を含む記述に絞ると決めている

8つのうち埋まらない項目があれば、それが手段の検討より先に着手すべき作業です。特に3番目と4番目が空欄のまま進んだ案件は、途中で判断の基準を作る作業に戻ることになり、そのぶん期間が延びます。埋まっていない項目を1つずつ埋めるほうが、手段を先に決めるより早く結果に届きます。

ミニ用語解説：相談の場で通じる言い換え

この領域の相談では英語の略語が飛び交います。そのまま決裁文書や議事に書くと、1年後に読む人が別の意味に取ります。社内で使う言い換えを決めておくと、議論の食い違いが減ります。

• 追加学習：配布された状態のモデルの内部の数値を、自社のデータで書き換える作業。覚えさせる側の手段
• 「指示による調整」：学習させず、指示文と数件の例示だけで振る舞いを寄せる方法。費用がかからないので最初に試す
• 「一部の層だけ足す方式」：全体を書き換えず、小さな部品を付け足して学習する。必要な記憶容量が4分の1程度に下がる
• 「粗く丸める処理」：数値の精度を落として容量を圧縮する。付け足す方式と併せると6ギガバイト級の機材でも学習できる
• 「過度な適合」：与えたデータに寄りすぎて、初めて見る問いに弱くなる状態。同じデータを通す回数を1回から5回の範囲で始めて防ぐ
• 「忘却」：新しく覚えさせた結果、前にできていたことが崩れる現象。入れ替えの前後で同じ問題を流して見つける
• 評価セット：合否を測るための問題と正解の組。手段を選ぶ前に作るのが原則

言い換えを決める効き目は、意思決定の場に出てきます。「うちのデータで学習させます」と言われたときに、それが内部の数値を書き換える話なのか、指示文に例を並べる話なのかで、費用も期間もまったく違います。同じ言葉で違う作業を指したまま議論が進むのが、この領域でいちばん多い行き違いです。用語の対応表を1枚作り、見積もりの依頼文にも同じ言葉を使うだけで、後の確認作業が目に見えて減ります。

まとめ

社内データをAIに使わせる道は2つあり、目的が違います。覚えさせる追加学習で変わるのは口調と書式と分類の傾向で、知らない事実は増えません。価格表を覚えさせても次の改定は反映されず、しかも知らないと言わずに社内の様式で整った誤りを返します。必要な件数は文体で推奨200件から500件、分類は区分あたり200件、分野特化の質問応答は500件から1,000件が目安で、5,000件の雑なデータより500件の丁寧なデータのほうが良い結果になります。計算にかかる費用は数百円から千数百円の水準で、重いのはデータを整える人の時間です。データが変わればやり直しになるため、月次で動く情報には向きません。2024年に公開された比較検証では、追加学習と、渡し方を最適化した方式が同等の水準に並び、構文が通る割合では渡す方式が2ポイント上回る一方、作り話の率では渡す方式が1〜2ポイント劣りました。覚えさせると答えの由来をたどれず、1件だけの訂正もできないので、事実は渡し、書き方だけ覚えさせる分担が実務の落ち着きどころになります。確認する対象は事実を含む記述に絞り、書き方は対象から外す。そして元の文書がない、定義が曖昧、記録が残っていないという3つの状態は、どちらの手段でも直りません。まずは直したい症状を1つに絞り、実際に出た答えを20件並べて、材料の不足か答え方の乱れかを判定するところから始めてください。そこで行き先の大半は決まります。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。