プロンプトキャッシュとは？｜同じ前置きの費用を下げる

「社内の規程と用語集をまとめた前置きを毎回つけているのですが、請求を分解したら、その前置きの部分だけで大半が消えていました」「返事が返るまで十数秒かかるので、現場が先に手で打つようになりました」。——相談が持ち込まれる窓口は経理と現場で分かれますが、出どころは同じ一点です。毎回同じ文章を、毎回いちから読ませ直している。プロンプトキャッシュの公開されている仕様では、取り置いた前置きを読み直すときの単価は通常の入力単価の10分の1に下がり、取り置く側には1.25倍、保持を1時間に延ばす場合は2倍の割増がかかります。この数字だけで、同じ前置きを2回送るなら取り置いたほうが安いという線が引けます。ここで検討が止まりやすいのは、前置きを短く書き直す工夫の話だと受け取られるからです。実際は文章術の話ではなく、同じものを何回送っているかを数える話です。この記事では、何を前置きに置けて何を置けないか、どれくらい効いて、どこで効かなくなるのかを、運用の手順として整理します。

請求と待ち時間の前に、同じ前置きを何回送ったかを数える

請求が膨らむ話と、返事が遅い話は、別々の部署から出てきます。ところが原因は1つで、1回の入力が長いという一点に行き着きます。入力が長ければ、送った回数の分だけ請求が伸び、1件の中では読み終わるまで答えが始まらないので待ち時間が伸びます。出てくる場所が違うだけです。

数えるものは2つしかありません。1日あたりの呼び出し回数と、1回の入力のうち毎回同じ文章が占める割合です。前置きの中身を実際に書き出すと、役割の指示、守ってほしい決まり、社内規程の抜粋、用語集、出力の型、例文が並びます。これが数千字から数万字になっている一方で、その日の質問そのものは数十字ということが珍しくありません。入力の9割が毎回同じ文章、という状態は普通に起きます。

この割合を出さずに製品の比較を始めるのが、最も多い遠回りです。毎回同じ部分が3割なら、取り置きを入れても効果は限定的です。9割なら効き方が変わります。先に測るのは製品ではなく、自社の入力の形です。半日で終わる作業なので、検討の初日にここを済ませます。

プロンプトキャッシュとは、前置きを読んだ計算の途中結果を取り置く仕組み

保存されているのは答えではありません。文章を先頭から読み進める過程で、各語まで読んだ時点の計算の途中結果が作られます。取り置かれているのはこれです。次に同じ先頭が来たとき、その部分を計算し直さず、保存してあるものを読み出します。省いているのは読む手間であって、考える手間ではありません。

安くなる理由もここにあります。費用の大半は演算装置を動かしている時間です。読み出しはほとんど演算を伴わないので、同じ文字数でも桁が変わります。逆に言えば、答えを作る工程は毎回新しい計算なので、出力側の単価は下がりません。出力が長い用途では、全体の削減率は薄まります。ここを取り違えたまま試算すると、期待した数字と実際の請求がずれます。

先頭からの共有が安全に成り立つのは、文章の後ろに語が足されても、その前の語の状態は変わらないという性質があるためです。だから「先頭から途中まで」という単位でしか共有できません。途中だけを差し替えて後ろを使い回す、という使い方はできない仕組みになっています。これが後で出てくる制約のほぼ全部の理由です。

どこに置かれ、どれくらいの時間で消えるのか

保持時間は既定で5分、指定すれば1時間です。注意したいのは時間の起点で、書き込みや読み出しを開始した時刻から数え始めます。答えを作っている時間も含まれるので、生成に4分かかる処理なら、次の呼び出しが始まるまでの猶予は1分ほどしかありません。処理が長い用途ほど、既定の5分は短く感じられます。

一方で、読み直すたびに時計は延び直します。しかも延ばすことに追加の費用はかかりません。つまり呼び出しの間隔が5分より短い状態が続くなら、既定の5分のままで温まったままになります。1時間の保持を選ぶ意味があるのは、間隔が5分から1時間の間に空くときだけです。それより長く空くなら、どちらを選んでも次はいちから読み直しになります。

保存される場所にも区切りがあります。公開されている仕様では、組織をまたいで共有されることはないとされています。そのうえで、同じ組織の中でも作業領域ごとに分かれるもの、地域をまたぐと分かれるものがあります。ここが見落とされやすく、部署ごとに別の作業領域を切っている会社では、まったく同じ前置きが何本も別々に取り置かれていることがあります。効かない原因を文章の中に探す前に、経路が分かれていないかを見ます。

効く条件は3つ。長い・毎回同じ・先頭にある

1つ目は長さです。ある量に届かない前置きは取り置かれません。しかも届かなかったときにエラーは返りません。黙って通常の料金で処理されるだけです。必要な量はモデルによって512、1,024、2,048、4,096トークンと差があり、しかも世代が新しいほど小さいとは限りません。短い前置きで試して「効かなかった」と結論づけるのが、いちばん多い誤判定です。

2つ目は、毎回同じであることです。2回目が来なければ、割増を払って保存しただけで終わります。3つ目は、その同じ部分が文章の先頭にあることです。前方一致でしか照合されないので、変わる部分が先頭に1つでもあれば、それ以降は全部別物として扱われます。

順番にも決まりがあります。道具の定義、前置き、やりとりの順に評価されるため、前の段階を1文字変えると、後ろの段階は全部外れます。使える道具を1つ足しただけで、前置きも会話の履歴も丸ごと取り直しになる、という形です。

• 前置きの長さが、使っているモデルの必要量に届いているかを確認する。届かない場合はエラーが出ないまま通常料金になる
• 同じ前置きが1日に何回送られるかを数える。2回に満たないなら、取り置きは割増を払うだけになる
• 毎回変わる文字列が前置きの先頭側に混ざっていないかを見る。日付、案件番号、担当者名が代表例
• 使える道具の一覧を実行ごとに組み替えていないかを見る。組み替えるとその後ろが全部外れる

効かない条件。日付・番号・並び順が先頭に紛れ込む

いちばん多い混入は、今日の日付です。前置きの冒頭に日付を差し込む書き方は広く使われていますが、これを入れた瞬間に、毎日どころか毎回別の前置きになります。担当者名、案件番号、問い合わせ番号も同じです。先頭に1つでも動くものがあれば、その後ろは全部無効になります。

気づきにくい混入もあります。一覧を組み立てる順番が実行ごとに変わる、条件によって前置きの節が足されたり外れたりする、利用者ごとに名前が差し込まれる。いずれも見た目はほぼ同じ文章ですが、組み合わせの数だけ別の取り置きができ、どれも2回目が来ません。同じに見えて同じでない前置きが、費用だけを増やしている状態です。

遡って探す範囲にも上限があります。区切りから20ほどの塊までしか遡らないため、長い会話の履歴の途中に区切りを置くと、そこまで届かないことがあります。直し方は単純で、変わるものを後ろに寄せるだけです。日付が必要なら、前置きではなく質問の側に書きます。

置けるものは、内容ではなく更新の頻度で3つに分ける

何を前置きに置くかを内容で決めると、ほぼ確実に失敗します。仕分けの軸は更新の頻度です。変わらないものを先頭に、月単位で変わるものを中ほどに、毎回変わるものを末尾に置きます。区切りは1回のやりとりにつき最大4か所しか置けないので、頻度の階段に合わせて割り当てます。

更新の頻度	中身の例	置き場所	区切り
変わらない	役割の指示、出力の型、用語集、例文	先頭	ここに1つ置く
月単位で変わる	社内規程の抜粋、手順書、料金表	中ほど	改定の単位で1つ置く
週単位で変わる	担当表、対応中の案件の一覧	後ろ寄り	量が多いときだけ置く
毎回変わる	質問文、案件番号、日付、相手の名前	末尾	置かない

この表で効いてくるのは2行目です。手順書や料金表を前置きに焼き付けると、改定のたびに、それより後ろが全部取り直しになります。月に何度も変わるものは、前置きに焼き付けず、必要なときだけ探して渡す側に置くのが定石です。前置きに置くか、探して渡すかは、更新の頻度で決まります。

4行目も軽く見られがちです。相手の会社名や担当者名を丁寧に前置きへ入れてしまうと、その会社の分だけ別の取り置きができます。相手ごとに分かれる情報は、どれだけ短くても末尾に置きます。分かれた数だけ、2回目が来る確率が下がるためです。

過去のやりとりをどこまで前置きに含めるか

会話の履歴は、前置きとは別の積み上がり方をします。やりとりが進むたびに末尾へ足されていくので、最後のやりとりに区切りを置くと、それまでの履歴がまるごと使い回せます。相談が長く続く用途ほど、ここが効きます。1往復ごとに、前の全部を読み直さずに済むためです。

ただし、履歴を途中で編集したり、古い発言を削って短くしたりすると、その位置から後ろが全部外れます。古い発言を要約に差し替える運用は、差し替えた瞬間に取り置きを捨てています。長さを詰める作業と、取り置きを効かせる作業は、同じ場所で真正面からぶつかります。

実務上の順番は決まっています。入力できる量の上限に当たるまでは、履歴を削らない。当たってから初めて削る。先回りして削ると、削った効果より取り置きを失う損のほうが大きいという形になりやすいためです。削る必要が出た日を記録しておくと、次に上限へ当たるまでの間隔も見えます。

秘密情報を前置きに置くときは、人が確認する範囲を先に決める

前置きに置いたものは、毎回送られ、取り置きとして一定時間保存されます。社内規程の抜粋や用語集は置きやすい一方で、顧客の氏名、取引条件、未公開の価格は扱いが違います。効率のために前置きへまとめる作業は、そのまま外に出す情報の範囲を広げる作業でもあります。

公的な注意喚起も出ています。個人情報保護委員会が令和5年6月2日に公表した「生成AIサービスの利用に関する注意喚起等について」では、個人情報取扱事業者が個人情報を含む入力を行う場合、その内容が特定された利用目的の達成に必要な範囲内であることを十分に確認する必要があるとされています。あわせて、本人の同意なく個人データを含む入力を行い、その個人データが応答結果の出力以外の目的で取り扱われる場合には、法に違反する可能性があるとされ、機械学習に利用されないことなどを確認する必要があると示されています。

• 前置きに置いてよいものの一覧を先に作る。部署ではなく情報の種類で決める
• 顧客の氏名、連絡先、取引条件、未公開の価格は、置く前に置き換えるか落とす
• 取引先から預かった資料は、契約に目的外の利用を禁じる条項が入っていることがある。契約ごとに確かめる
• 一覧を誰が読んで承認するかを決める。作った人の手元だけに置かない

順番として大事なのは、置いてよいかどうかをAIに尋ねないことです。尋ねれば、それらしい根拠を並べた賛成の答えが返ってきます。人が確認する範囲を先に決めてから、作業に入ります。ここは自社の判断だけで進めず、法務および外部の専門家の確認を入れる領域です。

どれくらい効くのか。元が取れるのは2回目か3回目

計算そのものは簡単です。5分の保持なら、書き込みの1.25と読み直しの0.1で合計1.35。取り置かずに2回送れば2.0なので、2回目で逆転します。1時間の保持なら、書き込みの2.0と読み直し2回分の0.2で2.2。取り置かずに3回送れば3.0なので、3回目で逆転します。

保持時間	書き込みの割増	読み直しの単価	元が取れる回数	向く使い方
5分	1.25倍	通常の10分の1	2回目	呼び出しが5分以内に続く用途
1時間	2倍	通常の10分の1	3回目	間隔が5分から1時間の間に空く用途

実際の削減率は、回数と共通部分の割合で決まります。2026年5月に公表された国内事業者の記事では、共通部分が98%を占める処理で10回の呼び出しなら77.0%、100回なら87.1%の削減になるという試算が示されています。共通部分が67%の場合は、10回で52.3%、100回で59.2%です。削減率を決めているのは製品の違いではなく、この2つの数字です。

同じ記事では、約80%の削減を実現した条件として3つが挙げられています。翌日の結果でよい処理であること、大部分が共通の前置きであること、呼び出し回数が多いこと。逆に言えば、1日に数十回しか呼ばない用途では、設定と検証の手間のほうが、削減額より大きくなります。回数が少ないうちは、前置きを短くする側で削るほうが確実です。

効いたかどうかは、2つの数字で確かめる

応答には3つの量が返ってきます。取り置きに書き込んだ量、取り置きから読み直した量、どちらにも当たらなかった量です。この3つを見ずに、請求書の合計だけで効果を判断しないこと。合計は使い方の変化にも動くので、取り置きが効いたのかどうかを切り分けられません。

読み方は3通りです。書き込みも読み直しも0なら、そもそも取り置きが起きていません。前置きが必要な量に届いていない可能性が高いところです。書き込みだけが増えて読み直しが0なら、割増だけを払っている状態で、先頭に毎回変わる文字列が混ざっています。読み直しが伸びていれば効いています。最初に見るのは削減額ではなく、読み直しが0かどうかです。

記録は導入前から取ります。切り替えてから基準を作ることはできません。1週間分の呼び出し回数と入力の長さを先に取っておけば、切り替えた後の比較がそのまま成立します。前後で同じ記録が取れていない検証は、あとから作り直せません。

思い込みで導入しない。1週間の実測から入る

設定そのものは短時間で終わります。時間がかかるのは、どこに区切りを置くかを決める作業と、効いたことを確かめる作業です。順番を決めておかないと、設定だけ済ませて確認が後回しになり、割増を払い続ける期間が生まれます。

決める人と確かめる人を分けておくと、判断が遅れません。作った本人は、効いていない兆候が出ても「置き場所を直せば改善する」と考えがちで、割増を払う期間が延びます。止める判断は、請求書を毎月見ている人に渡すのが実務的です。

使えなくなる2つの場面。前置きを直し続ける運用と、モデルを行き来する運用

1つ目は、前置きの文言を直し続けている段階です。試行錯誤の最中は、直すたびに取り置きが外れます。この段階で取り置きを入れても、割増だけが積み上がります。対策は単純で、直す日をまとめることです。文言の改定を週に1回の締め切りに寄せるだけで、残りの6日は効きます。

2つ目は、複数のモデルを行き来する運用です。取り置きはモデルごとに分かれるので、問い合わせの内容によって安い側と賢い側に振り分ける仕組みを入れると、どちらの取り置きも温まりません。考える深さの設定を変えても外れることがあり、使える道具の一覧を足し引きすれば先頭から全部外れます。

つまり振り分けの仕組みと取り置きは、正面から食い合います。両立させたいなら、量の多い経路を1つのモデルに固定し、例外だけを別に流す形にします。回数の少ない経路で取り置きを狙わないこと。設計を複雑にした分の手間が、削減額を上回ります。

提供元ごとに型が違う。見るのは4点

仕組みは大きく2つの型に分かれます。区切りを自分で置く明示指定型と、何もしなくても前方一致で効く自動型です。自動型は手間がかからない代わりに、どこを取り置くかを選べません。明示指定型は置き場所を設計できる代わりに、区切りの数に上限があります。

比べるのは4点です。保持時間を指定できるか、それとも最小保証だけか。必要な最小の量はいくつか。読み直しの割引率はどれくらいか。書き込みに割増があるか。2026年7月に公表された比較では、読み直しの割引率は提供元により約84%から98%まで幅があり、それまで書き込みが無料だった提供元が、新しい世代で1.25倍の課金に変わった例も挙げられています。無料だった前提のまま設計を引き継ぐと、想定より高くなります。

乗り換えを検討するときに、単価表だけを並べても答えは出ません。同じ前置きでも、必要な最小の量に届くかどうかで結果が変わるためです。先に自社の前置きの長さを測り、それから各社の必要量と照らします。順番を逆にすると、届かない前提で比較表を作ることになります。

AIに任せてよい工程と、人が決める3つ

この作業でAIに任せてよい範囲は限られています。前置きの中で毎回変わっている箇所を洗い出す下書きを作ること、同じ内容が重複している箇所を指摘すること、記録から読み直しの推移を要約すること。いずれも指摘と下書きまでで、削除や採否の判断は含みません。

指摘には必ず根拠の箇所を書かせます。「この部分が毎回変わっています」ではなく、「前置きの3段落目の冒頭に日付が入っています」という形です。根拠の箇所を示せない指摘は採用しないという規則を先に置くと、確認の手間がむしろ減ります。読む側は、位置が示されたものだけを追えばよくなるためです。

人が決めるのは3つです。何を前置きに置くか、つまり秘密情報の線引き。保持時間をどちらにするか。効かなかったときに戻すかどうか。この3つをAIに尋ねてはいけません。尋ねれば、それらしい根拠を並べた賛成の材料が返ってきます。材料を集めさせるところまでにして、決めるのは会議の場に戻します。

よくある質問

前置きを短くするのと取り置くのは、どちらを先にやるべきですか

短くするのが先です。使われていない例文、重複した決まり、過去の経緯の説明が残っていることが多く、落とすだけで効きます。短くしたうえで残ったものが「長くて毎回同じ」なら、そこで取り置きの出番になります。順番を逆にすると、要らないものを取り置くことになります。

1日に数回しか呼びません。それでも意味はありますか

5分の保持では次の呼び出しまでに消えます。1時間の保持でも、割増を回収できる回数に届きません。回数が少ないうちは、前置きを短くする側で削るほうが確実です。回数が増えてから入れても遅くはありません。

取り置いた内容が他社から見えることはありますか

公開されている仕様では、組織をまたいで共有されることはないとされています。ただし自社の中でも作業領域や地域の単位で分かれるため、どこまでが同じ範囲なのかは提供元の仕様を読んで確認します。仕様は改定されるので、確認した日付と該当箇所を記録に残します。

同じ前置きのはずなのに効きません。どこを疑えばよいですか

先頭から順に3つを疑います。日付や番号や利用者名の差し込み、一覧の並び順が実行ごとに変わっていないか、条件によって節が足し引きされていないか。3つとも当てはまらなければ、必要な最小の量に届いているかを見ます。届いていない場合はエラーが出ないので、量の側を疑うのは最後で構いません。

保持時間は長いほうが得ですか

呼び出しの間隔で決まります。間隔が5分より短いなら、読み直すたびに時計が延びるので、5分の保持のほうが安く済みます。5分から1時間の間に空くときだけ、1時間の保持が効きます。1時間を超えて空くなら、どちらを選んでも次はいちからです。

進め方の失敗と、この記事で扱っていないこと

同じ失敗が繰り返されています。どれも設定した直後ではなく、1か月から3か月たってから請求書の側で表に出るものです。

• 自社の入力の形を測らずに製品の比較から入る。毎回同じ部分が何割かで削減率は決まる。3割なら効果は限定的で、9割なら形が変わる
• 前置きの冒頭に日付や案件番号を差し込んだまま導入する。先頭に動くものがあれば、それ以降は全部別物になり、割増だけが残る
• 取り置いた量と読み直した量を記録せず、請求書の合計だけで効果を判断する。合計は使い方の変化にも動くので、切り分けられない
• 月に何度も変わる手順書や料金表を前置きに焼き付ける。改定のたびに、それより後ろが全部取り直しになる
• モデルを内容で振り分ける仕組みと同時に入れる。取り置きはモデルごとに分かれるため、どちらの経路も温まらない
• 秘密情報の線引きを決める前に、効率を理由に前置きへまとめる。前置きに置いたものは毎回送られ、一定時間保存される

• 保持時間、必要な最小の量、区切りの上限、料金の倍率、無効化の連鎖、保存の分離に関する記載は、提供元が公開している技術文書の2026年9月時点の内容です。数値はモデルと提供元によって異なり、改定されます。実際の設計にあたっては、対象となる提供元の最新の仕様を確認してください
• 読み直しの割引率が約84%から98%まで幅があること、新しい世代で書き込みが有料に変わった例があることは、2026年7月28日に公開された比較記事の記載です。特定の提供元について可否や優劣を述べるものではありません
• 共通部分の割合と呼び出し回数ごとの削減率、および約80%の削減という数値は、2026年5月29日に公開された国内事業者の記事に示された、特定の構成での試算と実績です。自社で同じ数字が出ることを示すものではありません
• 個人情報を含む入力に関する記載は、個人情報保護委員会が令和5年6月2日に公表した「生成AIサービスの利用に関する注意喚起等について」の内容です。実際の運用にあたっては、最新の公表資料を確認し、法務および外部の専門家の確認を経てください
• この記事は、同じ前置きを送り直している状態をどう直すかを扱っています。従量課金の予算化と上限の置き方、考える時間の長いモデルの使い分け、大きいモデルを小さく移す判断、一度に渡せる量の上限そのものは、いずれも別の作業として整理する必要があります

まとめ

プロンプトキャッシュが取り置いているのは答えではなく、前置きを先頭から読み進めたところまでの計算の途中結果です。だから省けるのは読む手間だけで、答えを作る工程は毎回新しい計算になり、出力側の単価は下がりません。ここを取り違えたまま試算すると、期待した削減率と実際の請求がずれます。効くのは3つの条件がそろったときだけです。前置きが必要な量に届くだけ長いこと、毎回同じであること、そして文章の先頭にあること。長さが足りない場合はエラーが返らず、黙って通常の料金で処理されるので、短い前置きで試して効かないと結論づけるのは早すぎます。先頭の条件がいちばん壊れやすく、今日の日付、案件番号、担当者名を冒頭に差し込んだ時点で、それ以降は全部別物になります。気づきにくいのは、一覧の並び順が実行ごとに変わる場合と、条件によって節が足し引きされる場合で、見た目はほぼ同じ文章でも、組み合わせの数だけ別の取り置きができ、どれにも2回目が来ません。置くものを決めるときは、内容ではなく更新の頻度で3つに分けます。変わらないものを先頭に、月単位で変わるものを中ほどに、毎回変わるものを末尾に。月に何度も変わる手順書や料金表は、前置きに焼き付けず、必要なときだけ探して渡す側に置きます。会話の履歴は末尾に積み上がるので、最後のやりとりに区切りを置けばまるごと使い回せますが、古い発言を要約に差し替えた瞬間に取り置きは捨てられます。長さを詰める作業と取り置きを効かせる作業は正面からぶつかるので、入力量の上限に当たるまでは削りません。秘密情報については、前置きに置いたものが毎回送られて一定時間保存される、という事実から逆算します。個人情報保護委員会が令和5年6月2日に公表した注意喚起では、個人情報を含む入力が利用目的の達成に必要な範囲内かを十分に確認すべきこと、本人の同意なく個人データを含む入力を行い応答の出力以外の目的で取り扱われる場合に法に違反する可能性があることが示されています。置いてよいかどうかをAIに尋ねず、人が確認する範囲を先に決めてから作業に入ります。費用の計算は単純で、5分の保持なら2回目、1時間の保持なら3回目で元が取れます。削減率を決めるのは製品の違いではなく、共通部分の割合と呼び出し回数の2つです。効いたかどうかは請求書の合計では分かりません。取り置きに書き込んだ量と読み直した量を、導入の前から記録しておきます。書き込みだけが増えて読み直しが0なら、割増だけを払っている状態です。使えなくなる場面は2つに集約されます。前置きの文言を直し続けている段階と、複数のモデルを行き来する運用。前者は改定の日をまとめれば解け、後者は量の多い経路を1つに固定するしかありません。次の一手は製品の比較ではありません。いま送っている前置きを1回ぶん全文で書き出し、そのうち毎回同じ文字がどれだけを占めるかを数えてみる。その割合が3割を下回るなら、今年は取り置きの検討をしなくて済みます。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。