コンテキストウィンドウとは？｜大きいほど良いのか

「上限が100万まで使えるモデルに替えたのに、答えの質が変わりません」「長い資料を丸ごと渡したら、途中に書いてある条件を無視されました」——上限の大きさを頼りにAIを使い始めた部署から、そのまま届く声です。原因は使い方の下手さではなく、言葉の受け取り方にあります。上限は入る量の上限であって、読み切れる量の保証ではありません。18のモデルを同じ条件で試した2025年7月の検証では、上限の内側であっても、入力が長くなるほど成績が落ちました。この記事では、一度に渡せる量の上限が何を数えていて、なぜ大きくしても精度が上がらないのか、費用はどこで決まり、どこで会話を切り直すのかを整理します。

まず用語：一度に渡せる量とは、何を数えているのか

コンテキストウィンドウは、AIが一度に扱える情報の量の上限です。数えているのは文字数ではありません。AIは文章を、文字を数える単位に置き換えてから処理します。この単位のことをトークンと呼びます。同じ日本語でも、数え方は提供元ごとに違います。だから自分の資料が何単位になるかは、換算の目安で決めず、提供元が出している数え上げの機能で測ります。

上限に入るものを取り違えると、計算が合わなくなります。含まれるのは、いま打った指示だけではありません。これまでのやり取り、渡した資料、使える道具の説明、道具が返してきた結果、そして返ってくる答えの分も同じ器に入ります。入力の上限と、出す側の上限は別の値として公表されています。2026年3月以降は、仕様として問い合わせれば両方の値が返ります。

出す側の上限も見ておきます。入力の上限が100万まで広がっても、一度に出せる答えの上限はそれよりずっと小さく、12万8千あたりに置かれています。だから長い報告書を一度に書かせようとすると途中で切れます。切れた答えは、続きを頼めばつながるように見えて、前半で指定した条件を引き継がないことがあります。長い成果物は、章ごとに分けて頼むほうが安全です。

上限を超えたときの振る舞いは、使っている仕組みによって変わります。エラーで止まるか、古い部分から静かに落ちるか、要約して詰め直されるかのいずれかです。厄介なのは2つ目です。落ちたことは画面に出ないので、答えが雑になった理由が分からないまま使い続けることになります。

いまの上限はどのくらいか。2026年8月の時点

桁を押さえておきます。2026年8月時点の比較では、公称の上限は最小で12万8千、最大で1,000万まで幅があります。100万を掲げるモデルが13並び、主要な提供元の現行の並びでは100万が標準、小型のものは20万という配置です。1年前と比べると、標準の桁が1つ上がっています。

ただし、公称のまま使えるという整理にはなっていません。同じ比較記事は、実際に効く量は公称の6割から7割程度で、落ち方はなだらかではないと書いています。公称の上限は、使ってよい量ではなく、入れても弾かれない量だと読み替えるほうが実務に合います。

そして桁は水ものです。半年で入れ替わります。だから社内の手順書に具体の桁を書き込むと、すぐに古くなります。書くのは値ではなく「使うモデルの上限を四半期ごとに確かめる」という決めごとにします。値が変わっても手順が生き残る形にしておくところが実務の分かれ目です。

課題：上限の大きいモデルに替えても、答えは良くならない

よくある期待はこうです。上限が大きいものに替えれば、関係しそうな資料を全部渡せて、探す手間もなくなる。実際に起きるのは別のことです。答えが長くなるだけで、指示に書いた条件が守られない。資料の真ん中に書いた指定が反映されない。同じ材料を渡しても、日によって拾う箇所が変わる。

この食い違いは、上限という言葉が2つの意味で使われていることから来ます。器に入る量と、器の中身を読み切れる量です。前者は仕様として公表されますが、後者は仕様として公表されていません。だから利用する側が測るしかありません。

落ち方にも癖があります。実際に効く量は公称の6割から7割程度で、しかも落ち方はなだらかではないという整理でした。徐々に悪くなるなら気づけますが、ある量を超えたところで段差のように落ちると気づけません。だから量を少しずつ増やしながら確かめる手順が要ります。1回だけ上限の近くで試して問題がなかった、では判断できないということです。

以下では、なぜ長くなると落ちるのかを4つに分けて見ます。長さそのもの、置いた位置、言い方の距離、紛らわしいものの混入です。4つは別々の話ではなく、どれも「探す手間を機械に押し付けている」ことの表れです。原因が分かると、対策が量の調整ではなく選び方の話になります。

原因1：長くなるほど成績が落ちる。18のモデルで同じ傾向

2025年7月に公表された検証があります。大小合わせて18のモデルを同じ条件で並べ、入力の長さを変えて成績の変化を測ったものです。課題は複数用意されています。長い文章の中に答えを1文だけ埋めて探させる形、記憶をまたいで答えさせる形、同じ語を並べて1語だけ違うものを混ぜる形。結果は共通で、どのモデルも入力が長くなるほど成績が落ちました。

測り方が細かいところに意味があります。埋める位置は11通り、長さは8通り。位置と長さを分けて動かしているので、落ちた原因を長さの側に切り分けられます。同じ語を並べる課題では、長さの組み合わせを1,090通り、語数は最大1万まで振っています。特定のモデルの癖ではなく、長さそのものが効いていることが確かめられたという点が重要です。

実務にいちばん近いのは、記憶をまたいで答えさせる課題です。306件の問いを、平均で11.3万単位の全文を渡した場合と、必要な部分だけに絞って約300単位で渡した場合で比べています。絞ったほうが良く、考える手数を増やしても差は残りました。全部渡して探させるより、選んで渡すほうが強い、という結論が数字で出ています。

原因2：真ん中に置いた情報は、読み落とされる

位置の影響は、それより前から知られています。2023年7月に公表され、同年に学術誌に載った研究が、答えのある位置を動かして測りました。複数の文書から答えを組み立てる課題と、対応表から値を引く課題の両方で、成績は先頭か末尾に置いたときが最も高く、真ん中に置くと大きく落ちるという形になりました。

この研究がわざわざ書き添えているのは、長文への対応をうたっているモデルでも同じことが起きる、という点です。対応の広さは、位置による偏りを消しません。上限を増やしても、真ん中は真ん中のままです。先の2025年の検証でも、1語だけ違うものを探す課題で、先頭近くに置いたときの正確さがいちばん高いという結果が出ています。

対策は3つに落ちます。指示は先頭と末尾に短く二度置く。長い資料の真ん中に条件を書かない。渡す資料は結論から並べる。渡し方を変えるだけで拾われ方が変わるので、モデルを替える前に試す価値があります。費用もかかりません。

原因3：言い方が離れている、紛らわしいものが混ざる

同じ2025年の検証から、実務に直結する2点を取り出します。1つは言い方の距離です。埋めた文と質問の言い方が意味として近い場合と離れている場合を分けて測ると、離れているほうが落ち方が速いという結果でした。表現が違うだけで見つけられなくなる、ということです。

これは社内の資料でそのまま起きます。渡す資料が「解約」と書き、質問が「離脱」と書いていれば距離が開きます。製品名の略し方、部署ごとの言い回し、旧称と新称。渡す側で言い方を揃える作業は、量を減らすより先に効きます。用語の対応表を1枚作って先頭に置くだけでも変わります。

もう1つは紛らわしいものの混入です。答えではないが似ている情報を1件だけ入れた場合と4件入れた場合を比べると、落ち方は一様ではなく、特定のものが強く効きました。関係ありそうな資料を足す行為は、当てる方向にも外す方向にも働きます。足す前に、その資料が答えと取り違えられないかを見る手順が必要です。

きれいに並べた資料のほうが、成績が落ちたという結果

同じ検証には、直感に反する結果もありました。周りの文章の順序をばらばらにした状態のほうが、論理的に並べた状態より成績が良かったのです。理由の説明は簡単ではありませんが、実務の教訓は明確です。読みやすく整えたから拾ってもらえる、とは限りません。

ここから導けるのは、労力の振り分け方です。整えることに時間をかけるより、何を渡さないかを決めることに時間をかけるほうが結果に効きます。体裁を整える作業は人向けの作業で、機械に渡すときの効き目とは別勘定だと考えます。

起きていること	何が原因か	渡し方でできる対策
条件を無視される	入力が長く、指示の比重が下がっている	指示を先頭と末尾に短く二度置く
資料の中の指定が反映されない	位置による読み落ち。真ん中が弱い	条件を真ん中に書かず、結論から並べる
書いてあるのに見つけられない	資料と質問で言い方が離れている	用語の対応表を1枚、先頭に置く
近い別のものを答えてくる	紛らわしい情報が混ざっている	似ているが答えではない資料を外す
日によって拾う箇所が違う	量が上限に近く、落ちる位置が動く	運用の上限を公称の半分に置く

表の右の列に、モデルの入れ替えが1つも出てこないところを見てください。ここまでの症状は、渡し方の調整で動きます。上限の大きいものへ替える判断は、渡し方を整えたあとに残った問題に対して出すものです。

課題：長いやり取りで、最初に決めた条件が薄れる

使っていて分かりやすく困るのが、往復を重ねたときの崩れです。最初に決めた出力の形や禁止事項が、20往復を過ぎるあたりから守られなくなります。忘れたわけではありません。器に入っている全体に対して、最初の指示が占める割合が下がっているのと、途中で入れた別の指示が優先されているのが理由です。

ここには器の側の事情も混ざります。長いやり取りでは、位置による読み落ちが最初の指示に当たります。往復の初期に書いた条件は、やり取りが伸びるほど真ん中に沈んでいきます。会話が長くなるとは、大事な指示が真ん中に沈んでいくことでもあります。

対策は2つです。大事な条件は毎回の指示に短く再掲する。そして提供元によっては、やり取りの途中に運営側の指示を差し込める仕組みが用意されているので、決まりごとはそこに置きます。再掲を面倒だと感じたら、それは会話を切り直す時機だという合図です。

費用は入力の量で決まる。往復ごとに全部を送り直している

費用の仕組みを押さえると、判断が変わります。前提は1つで、やり取りは向こう側に保存されていません。往復ごとに、それまでの全部をもう一度送っています。だから10往復目の入力は、1往復目の何倍にもなります。長い会話を続けることは、同じ話を毎回長くして聞き直しているのと同じです。

価格は入力と出力で別に決まり、出す側のほうが高くなります。主要な提供元の公表価格では、出力の単価は入力の5倍という並びです。ここから導ける読み方があります。長い資料を渡す費用は、思っているより安く、長い答えを出させる費用は思っているより高い。

実務では、1回いくらではなく1件の仕事でいくらで見ます。1件で5往復するなら、送り直しの分を含めて見積もります。100件流すなら、その100倍が請求になります。試したときの体感で判断すると、まとめて流した月に桁が合わなくなります。

費用を下げる仕組みも押さえておきます。すぐに答えが要らない仕事は、まとめて出して後から結果を受け取る形にすると、単価が半額になる仕組みが用意されています。下書きの一括生成や、溜まった問い合わせの分類のように、その場で待つ必要のない処理が対象です。急ぎのものと急がないものを分けるだけで、月の請求は変わります。

上限まで詰めると、1回でいくらかかるのか

桁の感覚を持つために、実額を見ます。2026年8月時点の比較では、100万の上限をいっぱいに満たしたときの入力費用は、安いもので0.14ドル、高いもので10.00ドルでした。同じ量を入れて71倍の開きがあります。上限の大きさだけを見て選ぶと、この開きを踏みます。

公表価格の並びで見ると、入力100万単位あたりは1ドル、3ドル、5ドル、10ドルの4段階に主要なものが並びます。加えて、一定量を超えると割増になる価格の付け方もあります。上限まで詰める設計は、費用の上限を先に置いてから作ります。置かずに作ると、月末の請求で初めて気づきます。

この数字は、渡す量を絞る判断の後押しになります。100万をいっぱいに使う代わりに、必要な部分だけ絞って渡せば、費用は桁で下がります。先の検証でも、絞ったほうが成績が良いという結果でした。絞ることは、質と費用の両方で得になる珍しい選択です。

上限に近づいたとき、器の側は何をしているか

使っている仕組みの側にも、上限に対する備えが入っています。代表的なものが2つあります。1つは、それまでのやり取りを要約して詰め直す仕組みです。初期の設定では15万単位あたりに達すると動き出すものがあります。もう1つは、道具が返してきた古い結果だけを消す仕組みで、こちらは要約ではなく消去です。

便利ですが、副作用を知らないと事故になります。要約されると、元の言い回しは残りません。数字や固有名詞、細かい条件は、要約の過程で落ちることがあります。落ちたことは表に出ないので、後半の答えだけが妙に曖昧になります。

だから決めごとは1つです。大事なものを会話の中に置かず、外に書き出しておく。決めた条件、確定した数字、参照した資料の場所は、やり取りの外の文書に残します。会話は作業の途中経過であって、記録の置き場所ではないという線を引きます。

自分で仕組みを組む場合は、もう1つ落とし穴があります。詰め直しは、その結果を次に送るときにそのまま戻すことで成り立ちます。戻す処理を書き忘れると、詰め直した内容が失われて、また元の長さに戻ります。動いているように見えて費用だけが増える形なので、詰め直しが効いているかは、実際に送っている量を見て確かめます。

対策1：渡す前に落とす。落とす順番を決める

ここから対策です。最初にやるのは、渡す前に落とすことです。落とす順番を決めておくと、その場の判断が要らなくなります。同じことを言っている資料、古い版、結論に関係しない付録や履歴、答えと紛らわしいもの。この4段の順で落とします。

残すものも先に決めます。判断に効く数字、守る条件、決まっているルール、直近の経緯の4つです。ここに入らないものは、渡さなくても答えは変わりません。落とす判断は人が持ちます。AIに要らないものを選ばせない。何を捨てるかは、答えの正しさを左右する判断なので、機械に任せる範囲の外です。

量の目安も置きます。実際に効くのは公称の6割から7割という整理があるので、運用の上限は公称の半分に置くのが無理のない線です。半分を超えたら、渡すものを見直すか、仕事を分けるかの判断に入ります。上限まで使い切る前提で組まないことが要点です。

対策2：会話を切り直す場所を決める

次に切り直しです。合図を3つ決めておきます。話題が変わった、同じ指摘を2回した、返答が目に見えて雑になった。どれか1つでも出たら切ります。感覚で粘ると、長さの側の問題が積み上がっていきます。

切り直すときの持ち出し方が大事です。前のやり取りを全部貼り直すと、切った意味がなくなります。持ち出すのは決まったことだけで、箇条書きの3行から5行にまとめます。引き継ぐのは結論と条件で、経緯ではありません。経緯は外の文書に残しておけば足ります。

切り直しを運用に入れるときは、記録の残し方も同時に決めます。決まったことを外の文書に3行書き足してから切る、という順番です。切ってから思い出そうとすると、結局は前のやり取りを貼り直すことになります。書き残す作業と切る作業を1つにまとめておくと、面倒でも続きます。

• 上限の大きいモデルに替えることを最初の対策にする。渡し方を整えないままだと、費用だけが増える
• 関係しそうな資料を全部渡して探させる。絞って渡したほうが成績が良いという検証結果が出ている
• 長い資料の真ん中に、守ってほしい条件を書く。位置による読み落ちがいちばん強く出る場所
• 会話を切るときに、前のやり取りを全部貼り直す。切った意味がなくなり、費用も戻る
• 要約して詰め直す仕組みに任せたまま、数字や固有名詞を会話の中だけに置く。落ちても表に出ない
• 手順書に具体の上限の桁を書き込む。半年で古くなり、古い前提のまま運用が続く
• 何を落とすかをAIに選ばせる。捨てる判断は答えの正しさに直結するので人が持つ

対策3：同じ前置きは使い回す

3つ目は費用と速さの両方に効きます。毎回同じ前置き（規則、用語集、書式の指定など）を送っている場合、2回目以降を安く扱う仕組みがあります。読み出しは元の1割ほど、書き込みは1.25倍ほどという値です。効くのは、おおむね1,000単位以上の前置きからです。

崩れ方に癖があります。判定は先頭からの一致で行われるので、前置きの先頭に日付や案件の番号を1文字入れるだけで、それ以降は全部効かなくなります。だから並べる順番が決まります。変わらないものを先頭、変わるものを後ろ。今日の日付や個別の質問は、必ず最後に置きます。

効いているかどうかは、確かめられます。読み出された量が返ってくるので、それがいつも0なら効いていません。効いていない原因の多くは、前置きに時刻や識別の番号が混ざっていることです。使い回しは費用の話に見えて、実際は渡す材料を毎回揃える運用の話になります。

効く時間にも期限があります。前置きを覚えている時間は既定では数分で、もっと長く保つ設定を選べる仕組みもあります。1日に1回しか動かさない処理では、この仕組みは効きません。効かせたいなら、同じ前置きを使う処理をまとめて連続で流す形にします。使い回しを前提にするなら、走らせる時間の組み方まで含めて決めます。

対策4：桁を勘で決めず、数えて測る

最後は測り方です。3つやります。1つ目は、自分の資料が何単位になるかを数え上げの機能で測ること。文字数からの換算で決めると、日本語では特にずれます。2つ目は、使うモデルの上限を仕様として問い合わせて確かめること。入力の上限と出す側の上限は別の値なので、両方を見ます。

3つ目が本番です。自社の題材で、渡す量を3段階に分けて比べます。必要な部分だけに絞る、半分渡す、全部渡す。同じ問いを20件流して、当たり方と費用と待ち時間を並べます。たいてい真ん中か、絞った側が勝ちます。この20件の結果が、社内で量を議論するときの唯一の材料になります。

そして測り直す間隔を決めます。桁も価格も半年で動くので、四半期ごとに同じ20件を流し直します。前回との差が出たら、渡す量の設定を見直します。1回測って終わりにすると、古い前提のまま運用が固まってしまいます。

上限について、決めておくこと一覧

ここまでを、着手前に決める項目として並べます。関係者3人で半日あれば埋まります。埋めた内容は手順書に残し、四半期ごとに見直します。

• 渡しているものの一覧（指示、資料、道具の説明、道具の結果、これまでのやり取り）を書き出したか
• 使うモデルの入力の上限と出す側の上限を、仕様として確かめたか
• 運用の上限を、公称の半分の値で決めたか
• 落とす順番を4段（重複、古い版、付録と履歴、紛らわしいもの）で決めたか
• 切り直す合図を1つ以上決め、持ち出す内容を3行から5行に限ったか
• 変わらない前置きを固定し、日付や番号を後ろに移したか
• 決めた条件と数字を、会話の外の文書に置く運用にしたか
• 自社の題材20件で、渡す量を3段階にして測ったか

• 上限の桁と価格は半年で動く。手順書には値ではなく「四半期ごとに確かめる」と書く
• 要約して詰め直す仕組みは便利だが、数字と固有名詞が落ちる。落ちたことは画面に出ない
• 前置きの使い回しは先頭からの一致で判定される。読み出された量が0なら効いていない
• 渡す量を減らす判断と、探させる仕組みを入れる判断は別。まず減らして、それでも足りないときに探させる

まとめ

コンテキストウィンドウは、AIが一度に扱える情報の量の上限です。数えているのは文字ではなく、AIが文字を置き換えた単位で、その器には指示もこれまでのやり取りも道具の結果も答えの分も入ります。2026年8月の時点で公称の上限は12万8千から1,000万まで幅があり、100万を掲げるものが13並びます。ただし実際に効くのは公称の6割から7割という整理が出ており、上限は使ってよい量ではなく弾かれない量だと読み替えるほうが合います。

大きくしても答えが良くならない理由は4つに分かれます。18のモデルを試した2025年7月の検証では、どれも入力が長くなるほど成績が落ちました。2023年の研究は、先頭か末尾に置いた情報が最も拾われ、真ん中が大きく落ちること、それが長文対応をうたうモデルでも起きることを示しています。加えて、資料と質問で言い方が離れていると落ち方が速くなり、紛らわしい情報が混ざると引っ張られます。整えた資料のほうが成績が落ちたという結果まで出ているので、体裁を整える労力は、渡さないものを決める労力に振り替えるのが妥当です。

費用の側も同じ結論を指します。やり取りは保存されていないので、往復ごとに全部を送り直しています。100万の上限をいっぱいに満たす入力費用には、安いものと高いもので71倍の開きがありました。だから決めることは4つです。渡す前に4段の順で落とす。運用の上限を公称の半分に置く。切り直す合図を1つ決め、持ち出すのは結論と条件だけにする。変わらない前置きを先頭に固定する。そのうえで自社の題材20件で測り、四半期ごとに測り直します。上限を気にするのは、AIを疑うことではなく、任せて大丈夫な量を先に確かめる作業だと考えてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。