Haystackで社内RAGを標準化する方法|版上げと保守の持ち方

Haystackで社内RAGを標準化する方法|版上げと保守の持ち方

「Haystack はオープンソースだから、社内の検索と回答の仕組みに使っても費用はかからないはずだ」「3.0 で大きく変わったらしいから、いっそ別の枠組みに乗り換えたほうが早いのでは」——社内の資料にAIで答えさせる仕組みを、自前で組んできた情シスやAI導入の担当から出てくる声です。どちらも、版上げを技術者だけの作業だと見ている点で、少しずれています。Haystack を標準にしてよいかを決めるのは、枠組みの出来ではありません。大きな版上げのたびに、回答の質を確かめ、移行を引き受ける人と仕組みを社内に持てるかどうかです。この記事では、2026年7月に出た Haystack 3.0 で何が壊れたのか、2系に留まる選択、外に出た部品の保守、商用版に移る境目、先に持つべき評価の仕組み、内製に必要な人員、費用とやめ方を、選択肢を比べながら整理します。コードの書き方は扱いません。


カメ先生カメ先生

Haystack は、資料を取り込み、探し、AIに答えさせるまでの部品を、処理の流れとしてつなぐための枠組みなんだ。部品を自由に差し替えられるのが強みで、そのぶん組んだ会社が中身に責任を持つことになる。


カメ子カメ子

部品を差し替えられるなら、版が上がっても困らないように思えますが、そうではないんですか。


カメ先生カメ先生

部品の置き場所や名前、動き方そのものが版上げで変わることがある。3.0 では約30の部品が別の包みに移り、資料の識別番号の付け方まで変わった。気づかずに上げると、答えが静かに変わることがあるんだ。


カメ子カメ子

版上げは動くかどうかだけでなく、答えが変わっていないかを確かめる作業でもある、ということですね。


この記事のポイント
  • Haystack はドイツの deepset が開発する、Apache 2.0 のオープンソースの枠組み。2026年7月20日に 3.0 が出て、その後も 10月21日の 3.4.1 まで版が続き、2系の保守版も出ている
  • 3.0 では、約30の部品の外部の包みへの移動、古い文章生成の部品の削除、資料の識別番号の付け方の変更など、回答の中身に関わる変更がある。上げる前に評価の仕組みを持つ
  • 3.0 へ上げる、2系に留まる、商用の支援を足す、管理型の基盤へ移る、の四つを、人員と評価の体制で比べて選ぶ。AIに答えの正しさを判断させず、人が確かめる線を先に決める

うちの業務、AIで何が自動化できる?

「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。

目次

Haystack とは:deepset が育てる、検索と回答の部品をつなぐ枠組み

Haystack は、ドイツのベルリンに拠点を置く deepset が開発するオープンソースの枠組みで、ソースは GitHub で公開され、使用許諾は Apache 2.0 です。資料を読み込んで区切り、検索用の索引を作り、質問に近い資料を探し、AIのモデルに根拠として渡して答えさせる、という一連の処理を、部品をつないだ処理の流れとして組み立てるのが基本の考え方です。近年は、AIに道具を選ばせて段取りを進めさせるエージェントの機能も中心に据えています。

つなげるAIのモデルや資料の保存先は幅広く、OpenAI、Anthropic、Hugging Face のモデルや、手元で動かす Ollama などに対応しています。資料の保存先も、専用の索引の製品から一般的な全文検索の製品まで、別の包みとして用意されています。deepset の公式サイトには、欧州委員会のAI基盤やドイツ連邦の省庁の事例、ドイツの大手部品メーカーの講演が並び、自分たちの管理下でAIを動かしたい欧州の公的機関や大企業で使われていることを前面に出しています。

商用の提供もあります。2025年8月には、オープンソースの Haystack はそのままに、非公開のメールでの支援、相談の時間、検証済みの処理の流れの雛形、Kubernetes 上で動かすための手引きなどを付けた有償の支援を発表しました。その上には、開発、評価、配備、統制までをまとめた管理型の基盤があり、deepset はこれを Haystack Enterprise の名前で案内しています。無償の枠組み、有償の支援、管理型の基盤の三層になっていると考えると整理しやすいでしょう。

2026年7月の 3.0:何が変わり、何が壊れたのか

GitHub の公開記録によると、Haystack 3.0.0 は2026年7月20日に出ました。公式の発表は、本番で使うエージェントを作るための大きな版としています。主な追加は、エージェントの各段階に処理を差し込める仕組み、道具の呼び出しの回数や使用量を内部で数える機能、同期と非同期の処理の流れの統合などです。人の確認を挟む仕組みも、道具を使う直前に差し込む処理として作り直されました。

一方で、壊れる変更もはっきり書かれています。公式は「小さく意図的な破壊的変更」と呼んでいますが、社内の検索と回答の仕組みにとっては軽くない項目が含まれます。約30の部品が本体から外れて別々に出される包みに移り、古い文章生成の部品は削除され、保存した処理の流れを読み込むときには、信頼できる部品の一覧に載っていないものを読み込めなくなりました。さらに、資料の付帯情報を持つ文書は、2系とは異なる識別番号が自動で付くと明記されています。

公式の移行の手引きは、3系は2系の作り直しではなく延長であり、多くの場合は読み込み先の書き換えと機械的な変更で済むと説明しています。それは事実でしょう。ただし、この手引きは技術者向けの変更の一覧で、回答の質が変わっていないかを確かめる手順までは含んでいません。そこを誰が引き受けるかが、標準にするかどうかの分かれ目になります。

誤解1:「版上げは技術者の作業」で終わらない

版上げが技術者の作業だけで終わるのは、動き方が変わらない場合に限られます。3.0 の変更の中には、動き方が変わるものがいくつかあります。たとえば、資料の識別番号の付け方が変わると、同じ資料を二重に取り込んだり、更新したはずの資料の古い版が索引に残ったりすることがあります。利用者から見ると、古い規程の文面を根拠にした答えが、ある日から混ざり始めるという形で現れます。

3.0 以降の小さな版にも、答えに関わる変更があります。2026年10月1日の 3.3.0 では、語の一致で探す検索の一部が、質問の語を一つも含まない資料を返さなくなりました。改善ではありますが、これまで拾えていた資料が拾えなくなる場面もありえます。版上げの記録には、技術的な変更点と、回答に影響しうる変更点を分けて書くことを、運用の決まりにしておくと安全です。

ここで大切なのは、版上げの可否を技術者だけで判断しないことです。社内の資料の持ち主や、回答を使う部署の代表が、版上げの前後の答えを見比べて承認する手順を置きます。AIに新旧の答えを比べさせて「差はない」と判定させるのは便利ですが、その判定をそのまま承認の代わりにしてはいけません。

誤解2:「OSSだから無料で保守できる」わけではない

Haystack の本体は無償で、2025年の有償支援の発表でも、使用許諾の変更も、共同体向けの機能の囲い込みもしないと明言しています。費用がかからないのは事実です。ただし、無償なのは枠組みの使用料であって、版を追いかけ、壊れたところを直し、答えの質を確かめる人の時間は、すべて自社持ちです。

この負担の大きさは、版の出る頻度で見積もれます。GitHub の記録では、2026年は 3.0.0 の後、8月24日に 3.1.0、9月24日に 3.2.0、10月1日に 3.3.0、10月15日に 3.4.0、10月21日に 3.4.1 と、ほぼ毎月新しい版が出ています。3.4.0 では Python 3.10 の対応が終わり、3.4.1 では侵害された認証局を信頼しないよう、関連する部品の最低の版を引き上げる安全上の修正が入りました。安全上の修正だけは、遅れずに取り込む体制が要るということです。

つまり、OSSで内製を続けるかどうかは、使用料ではなく、こうした追随の仕事を毎月こなせるかで決まります。こなせないまま放置すると、古い版に安全上の問題が残り、いざ上げようとしたときには変更がたまりすぎて、移行が大がかりになります。

比べる四つの道:3.0へ上げる、2系に留まる、支援を足す、管理型へ移る

Haystack で社内の検索と回答の仕組みを組んでいる会社が、いま取れる道は大きく四つです。どれが正しいかは、社内の人員と、評価の仕組みがあるかどうかで決まります。

道向いている会社主な負担人が確かめる所
3.0 へ上げて自前で続ける版の追随と評価を回せる技術者が二人以上いる移行作業と毎月の追随版上げの前後の答えの比較
2系に留まる近く作り直しや乗り換えを予定している保守の期限が公表されていない不確かさ安全上の修正が届いているか
有償の支援を足す人は少ないが自前の環境で動かしたい支援の費用と、社内の窓口役支援の助言を採るかの判断
管理型の基盤へ移る評価と統制を自前で作る余力がない利用料と、基盤への寄りどの資料を基盤に預けるか

表の四つは、排他的ではありません。たとえば、まず2系に留まったまま評価の仕組みを作り、それが整ってから 3.0 へ上げる、という順番も取れます。どの道を選んでも、評価の仕組みが無いまま動くのが一番危ないという点は共通です。以下では、四つの道それぞれで判断の要になる点を見ていきます。

なお、Haystack 以外の枠組みに乗り換える道もありますが、その場合も同じ問題が別の名前で現れます。どの枠組みも版上げで壊れることがあり、評価の仕組みと追随の人員が要ることは変わりません。乗り換えを考える前に、今の仕組みの何が困っているのかを、枠組みの問題と運用の問題に分けて確かめるのが先です。

3.0へ上げる場合:壊れる部分を、業務の言葉に直す

3.0 へ上げると決めたら、技術者向けの変更の一覧を、業務への影響の言葉に直して関係者と共有します。移行の手引きは変更点を網羅していますが、そのままでは資料の持ち主や回答を使う部署には意味が伝わりません。変更点ごとに「利用者から見て何が変わりうるか」を一行で書き添えるだけで、承認の議論がしやすくなります。

たとえば、資料の識別番号の変更は「資料を取り込み直す必要があり、その間は答えの根拠が一時的に欠ける可能性がある」、文書を作る部品の指示文の変数が必須になった変更は「設定の漏れがあると、黙って空の指示で答えるのではなく、止まるようになる」と書けます。保存した処理の流れの読み込みの制限は「自社で作った部品を使っている場合、許可の設定を足さないと起動しない」です。

移行の手引きは、自動で付いた識別番号に頼っている場合は、保存した資料を取り込み直すか移す必要があると書いています。取り込み直しは、索引の作り直しと同じ規模の作業になることが多く、資料の量によっては数日かかります。その間の回答をどうするか、古い索引で答え続けるのか、一時的に止めるのかを、業務の側と先に決めておきます。

2系に留まる場合:いつまで頼れるかが公表されていない

すぐに上げない選択も、十分に合理的です。GitHub の記録では、3.0 が出た後も2系の版は続いており、2026年11月2日には 2.31.1 の候補版が出ています。2系の最後の大きな版である 2.31.0 は7月8日に出ており、3.0 に向けて部品を外へ移す作業を2系の中で先に始めた版と説明されています。

ただし、2系をいつまで保守するかについて、公式の移行の手引きには期限が書かれていません。手引きにあるのは、1系の保守が終わったことの記載と、2系の古い説明書と保守用の枝への案内だけです。期限が分からないということは、ある日、安全上の修正が2系に届かなくなる可能性を前提に計画する必要があるということです。

2系に留まるなら、少なくとも二つのことを決めておきます。一つは、2系の版の記録を誰が毎月確かめ、安全上の修正を取り込むか。もう一つは、どの条件がそろったら 3.0 へ上げるか、です。たとえば、2系に安全上の修正が出なくなった、使っている部品が2系で動かなくなった、評価の仕組みが整った、といった条件を文書にしておけば、先延ばしが続くのを防げます。

部品が外に出た後の保守:だれが、どの包みを追うのか

3.0 の大きな変化の一つは、約30の部品が本体から外れ、別々に出される包みに移ったことです。公式の発表は、これで依存する外部の部品が減って監査すべき範囲が小さくなり、本体の出す周期と切り離して部品を出せるようになったと説明しています。これは利点ですが、追いかける対象が、本体一つから、使っている部品の数だけに増えるという意味でもあります。

外に出た部品には、Hugging Face のモデルを使う部品、音声の書き起こし、文書の文字を読み取る部品、外部の検索の部品、外部の仕組みの API を呼ぶ部品、処理の追跡の部品などが含まれます。社内の仕組みがどの部品を使っているかを一覧にし、部品ごとに、版の記録を確かめる担当を決めておくのが保守の出発点です。一覧が無いと、どこかの部品の安全上の修正を見落とします。

もう一つ気をつけたいのが、エージェントに外部の仕組みを呼ばせる部品です。3.0 では、外部の API の定義から道具を作る部品も外部の包みに移りました。こうした部品は、社内システムに書き込める権限を持たせることが多いため、版を上げたときに呼べる範囲が変わっていないかを、技術者だけでなく、システムの持ち主にも確かめてもらうべきです。

評価の仕組みを先に持つ:版上げの前後で、同じ問いを解かせる

四つの道のどれを選ぶにしても、最初に作るべきは評価の仕組みです。考え方は単純で、社内でよく聞かれる質問と、資料の持ち主が認めた正しい答えと根拠の組を用意し、版上げの前後で同じ質問を解かせて比べるというものです。質問の数は、最初は数十件で十分です。

Haystack 自体にも、評価のための部品がそろっています。公式の説明書は、探した資料の当たり具合を数で測る統計的な評価と、AIのモデルに採点させる評価の二種類を挙げています。前者は、正しい根拠の資料を上位で拾えたかを測るもので、正解の資料を人が決めておく必要があります。後者には、答えが探した資料に沿っているか、探した資料が質問に関係するかを、AIに判定させる部品があります。

ここで注意したいのは、AIに採点させる評価は正解を用意しなくても動くぶん、採点そのものが誤っている可能性を、人が抜き取りで確かめる必要があるという点です。AIの採点で点が下がらなかったことを、版上げの承認の根拠にしてはいけません。統計的な評価と、人による抜き取りの確認を組み合わせて使います。

STEP1
質問の組を作る

社内でよく聞かれる質問を数十件選び、資料の持ち主に、正しい答えと根拠の資料を決めてもらいます。

STEP2
今の版で解かせて記録する

今の版で全問を解かせ、拾った資料、答え、根拠の箇所を記録して、比較の基準にします。

STEP3
新しい版で同じ問いを解かせる

検証用の環境で新しい版に上げ、資料を取り込み直してから、同じ質問を解かせます。

STEP4
差を人が読む

拾った資料の順位が変わった問いと、答えが変わった問いを、資料の持ち主が読み、良くなったか悪くなったかを判定します。

STEP5
承認して切り替える

悪くなった問いの理由が分かり、許容できると判断できたら、利用する部署の代表が承認して本番を切り替えます。

評価で見るもの:探せたか、根拠に沿ったか、答えてよかったか

評価の項目は、三つに分けて持つと整理しやすくなります。一つ目は、正しい根拠の資料を探せたか。二つ目は、答えが探した資料に沿っているか。三つ目は、そもそもAIが答えてよい質問だったか、です。三つ目は、AIにも統計にも判定できず、人が決めるしかない項目です。

三つ目の例は、人事の個別の事情、契約の解釈、価格の例外といった、資料に書いてあっても、AIの答えだけで判断させてはいけない質問です。こうした質問には、答えを出させずに担当の部署へ案内させる、あるいは根拠の箇所だけを示して判断は人に委ねる、といった線を引きます。版上げで答え方の傾向が変わると、この線を越えて答え始めることがあるため、答えてはいけない質問も、評価の質問の組に必ず入れておくことが大切です。

根拠の示し方も評価の対象です。答えに資料の名前や箇所を添えさせる設定にしていても、版上げや指示文の変更で、根拠の添え方が崩れることがあります。利用者が根拠を開いて確かめられる形を保つことは、AIの答えをうのみにさせないための前提です。根拠の無い答えを返した問いは、内容が合っていても不合格として数える、という決め方を勧めます。

商用版に移る境目:何が足りなくなったら考えるか

deepset の商用の提供は、有償の支援と管理型の基盤の二段です。有償の支援は、2025年の発表によれば、非公開のメールでの支援と相談の時間、検証済みの処理の流れの雛形、Kubernetes 上で動かすための Helm の設定と手引き、指示文の乗っ取りへの対策などの機能の先行提供を含みます。管理型の基盤は、公式サイトによれば、構築、試験、配備、統制までを扱い、監査の記録や役割ごとの権限、資料の来歴の追跡を備え、クラウドでも自社の環境でも動かせるとしています。価格は公表されていません。

移る境目は、足りないものが技術か、統制か、人かで考えます。版の追随と障害の切り分けで手が止まるなら有償の支援、監査の記録や権限の管理を自前で作る余力がないなら管理型の基盤が候補になります。逆に、技術者が足りていて、統制の仕組みも社内の別の製品で持てているなら、無償の枠組みのままで困ることは少ないはずです。

商用版に移るときに確かめておきたいのは、オープンソースの処理の流れがそのまま動くか、資料と索引をどこに置くか、やめるときに処理の流れの定義と資料を持ち出せるか、の三点です。商用版に寄せるほど、やめるときの持ち出しの手順が大事になるので、契約の前に確認します。

  • 版上げで困ったことを理由に、評価の仕組みを作らないまま管理型の基盤に移る
  • 有償の支援を契約したことで、社内の窓口役を置かずに丸投げする
  • 価格が非公開のまま、無償の枠組みとの比較を人件費抜きで行う
  • 移行の途中で2系と3系と商用版が混在し、どの仕組みがどの資料を答えているか分からなくなる

内製を続けられる人員:最低限、誰がいればよいか

Haystack で社内の検索と回答の仕組みを続けるには、技術者だけでなく、資料と回答の質に責任を持つ人が要ります。最低限の顔ぶれは、版の追随と移行を担う技術者、評価の質問の組を持つ資料の持ち主、答えてよい範囲を決める利用部署の代表、の三者です。技術者が一人だけの体制では、その人が休んだ月に安全上の修正が止まるため、版の追随は二人以上で回せるようにしておきます。

資料の持ち主の役割は、見落とされがちです。社内の規程や手順書は毎月のように更新され、古い版が索引に残ると、AIはそれを根拠に答えます。資料の更新と索引の取り込み直しをつなぐ担当を決め、資料を差し替えたら、評価の質問の組の答えも見直す流れにしておくと、版上げのときだけでなく、日々の運用でも答えの質を保てます。

この三者の時間を確保できない場合は、自前で続けるより、有償の支援や管理型の基盤、あるいは既製の社内検索の製品に寄せたほうが、結果として安くつくこともあります。内製を標準にするかどうかは、技術の好みではなく、この人員を毎月確保できるかで決めてください。

費用の増え方:使用料ではなく、人とモデルの呼び出し

Haystack を使う費用は、枠組みの使用料がかからない代わりに、別の所で増えます。大きいのは、版の追随と評価にかかる人の時間、AIのモデルを呼び出す料金、索引を置く保存先と動かす環境の費用の三つです。利用者が増えるとモデルの呼び出しと保存先の費用が、版が上がると人の時間が増えると覚えておくと、予算の見積もりで漏れが減ります。

エージェントの機能を使う場合は、モデルの呼び出しの回数が読みにくくなります。3.0 では、エージェントの段階の数、使用量、道具ごとの呼び出しの回数を内部で数えられるようになり、それに応じて上限をかけたり、安いやり方に切り替えたりできると公式は説明しています。一回の質問あたりの呼び出しの上限を、標準の設定として決めておくと、費用の暴れを抑えられます。

評価の費用も忘れずに入れます。AIに採点させる評価は、質問の数だけモデルを呼ぶため、版上げのたびに数十から数百回の呼び出しが発生します。公式は 3.0 で、試験や試作のために、鍵も通信も要らない模擬の部品を加えたとしています。動作の確認は模擬の部品で済ませ、本物のモデルを呼ぶのは答えの質を見る評価に絞る、という分け方が無駄を減らします。

やめ方と出口:処理の流れと資料を、持ち出せる形で残す

オープンソースの枠組みは、やめるときの縛りが小さいのが利点です。それでも、何年も使ううちに、処理の流れの定義、自社で作った部品、索引、評価の質問の組が積み上がり、乗り換えの手間は大きくなります。資料の原本と、評価の質問の組は、枠組みに依存しない形で別に保管しておくのが、出口を確保する一番の方法です。

索引は、作り直せるものとして扱います。元の資料と、区切り方や索引の作り方の設定が残っていれば、別の枠組みでも作り直せます。逆に、索引だけが残って元の資料が散逸していると、乗り換えの際に答えの根拠をたどれなくなります。評価の質問の組は、乗り換え先が今の仕組みより良いかを確かめる物差しになるため、どの枠組みに移っても使える、最も価値の高い資産です。

やめる判断の目安も、先に決めておきます。版の追随が三か月以上止まった、評価の結果が二回続けて悪化した、技術者が一人になった、といった条件です。条件を満たしたら、有償の支援や管理型の基盤、別の製品への移行を検討する会議を開く、と決めておけば、惰性で古い版を使い続ける事態を避けられます。

  • 3.0 では、エージェントを途中で止めて状態を保存する一部の機能が外され、処理の流れの途中で止める機能が残ったと移行の手引きは説明している。途中で人が確認する運用をしている場合は、移行の前に代わりの方法を確かめる
  • 2系の保守の期限は、公式の移行の手引きに書かれていない。2系に留まる場合は、GitHub の版の記録を毎月確かめる担当を決めておく

よくある質問

Haystack を使うのに、deepset との契約は必要ですか

必要ありません。Haystack は Apache 2.0 のオープンソースで、deepset も有償の支援の発表で、使用許諾を変えず共同体向けの機能も囲い込まないと明言しています。契約が要るのは、非公開の支援や、管理型の基盤を使いたい場合だけです。

3.0 が出たら、すぐに上げるべきですか

急ぐ必要はありませんが、上げない理由と期限は決めておくべきです。2系の版は 3.0 の後も出ていますが、保守の期限は公表されていません。評価の仕組みを先に作り、検証用の環境で 3.0 の答えを比べてから上げる順番を勧めます。安全上の修正だけは、どちらの版でも遅れずに取り込みます。

社内の資料を、外部のAIのモデルに送ることになりますか

つなぐモデルによります。外部の提供元のモデルを使えば、質問と探した資料の一部が提供元に送られます。手元で動かすモデルにつなげば、社外に出さずに済みます。どの資料を外部のモデルに送ってよいかは、枠組みではなく社内の情報管理の規程で決め、規程に合わない資料は索引に入れないのが確実です。

AIに答えの正しさを判定させれば、評価は自動化できますか

一部は自動化できますが、承認の代わりにはなりません。AIに採点させる評価は、答えが資料に沿っているかを手早く見るのには役立ちますが、採点自体が誤ることがあります。答えてよい質問だったかどうかは、AIには判断させず、資料の持ち主と利用部署が決めます。

まとめ

Haystack は、deepset が開発する Apache 2.0 のオープンソースの枠組みで、2026年7月20日の 3.0 で、エージェントの機能の強化と引き換えに、約30の部品の外部への移動や、資料の識別番号の付け方の変更などの破壊的な変更を加え、その後もほぼ毎月版を重ねています。社内の検索と回答の標準にしてよいかを決めるのは、枠組みの出来ではなく、版上げの前後で答えを比べる評価の仕組みと、版を追う技術者、資料の持ち主、答えてよい範囲を決める利用部署の三者を、毎月確保できるかどうかです。3.0 へ上げる、2系に留まる、有償の支援を足す、管理型の基盤へ移るのどれを選ぶにしても、AIに答えの正しさを最終判断させず、根拠を示させ、人が確かめる範囲を先に決めてから進めてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。

うちの業務、AIで何が自動化できる?

「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。

運営会社:株式会社デボノ

目次