AIの呼び出し上限で業務が止まる原因｜待たされない設計

「AIの返事が急に戻らなくなったので、壊れたと思って情報システムに連絡しました」「月初だけ処理が終わらないのですが、どこが悪いのか誰も分かりません」——AIを業務に組み込んだ会社から、この2つが同じ時期に届くようになりました。追いかけてみると、原因の多くは不具合ではありません。契約している枠の上限に当たって、順番待ちになっているだけです。上限に当たること自体は異常ではなく、どのサービスにも最初から備わっている、混雑を分け合うための仕組みです。壊れているのは上限の側ではなく、当たった瞬間に業務まで止まってしまう組み方のほうです。この記事では、上限の種類と当たり方の見分け方、そして待たされないための逃がし方を順に整理します。

上限に当たるのは不具合ではない

最初に前提を揃えます。呼び出しの上限は、事故で発生するものではありません。限られた計算資源を利用者全体で分け合うために、契約の時点から置かれている決まりです。アンソロピックが公開している上限の説明（2026年9月時点）にも、上限は不正な使い方を防ぎつつ資源を公平に配るためのもので、ここに書かれた数字は保証された最低量ではなく上限だと明記されています。

だから「当たらないようにする」は目標になりません。使う量が増えれば、いつかは当たります。実務で問うべきは、当たったときに業務が止まるか、遅れるだけで済むかです。止まる組み方をしていれば当たった日に業務が消え、遅れるだけの組み方をしていれば誰も気づかずに終わります。差は上限の数字ではなく、周りの組み方のほうに出ます。

扱う範囲もはっきりさせます。この記事は、サービスが落ちたとき、提供そのものが止まったときの備えは扱いません。そちらは別の記事の領分です。ここで扱うのは、サービスは正常に動いているのに、枠の上限に当たって待たされている状態だけです。相手は生きていて、こちらの順番が回ってきていないだけ、という場面に絞ります。

最初にやることは1つです。新しい枠を買う前に、業務ごとに何分待てるかを書き出します。即時でなければ困る業務、その日のうちに終わればよい業務、翌朝までに揃えばよい業務。この3つに仕分けるだけで、当たったときに何を後ろへ回せるかが決まります。仕分けをしていない会社は、当たった瞬間にすべてを同じ重さで扱うので、全部が一斉に遅れます。

上限は3種類ある。当たる場所が違う

上限はひとまとまりではありません。実務で当たるのは主に3つで、一定時間あたりの回数・一定時間あたりに扱える文量・同時に走らせられる本数です。アンソロピックの公開文書（2026年9月時点）でも、1分あたりの回数、1分あたりの入力の量、1分あたりの出力の量が別々に決められており、どれか1つを超えた時点で断られると書かれています。

回数に余裕があっても文量で先に当たる、という外れ方が最も多く起きます。マイクロソフトが公開しているクラウド上のAIの割り当てに関する文書（2026年8月20日更新）には、文量1,000あたり回数10件という換算で枠が決まる型と、文量1,000あたり1件で決まる型があると書かれています。同じ枠でも、長い資料を渡す使い方では回数を使い切る前に文量で止まります。

3つ目の同時に走らせる本数は、音声や対話をつなぎっぱなしにする使い方で効きます。同じ文書には、同時につなげる本数の上限が段階ごとに決まっており、既定では10、最も上の段階でも500と書かれています。加えて、画像を作る口は1分あたり9件というように、同じ契約の中でも用途ごとに桁が違う点も見落とされます。

上限の種類	先に当たりやすい使い方	業務側に出る症状	最初に打つ手
一定時間あたりの回数	一件ずつ短い問いを大量に投げる、一斉配布した直後	多数の利用者が同時に待たされる	投げる速さをこちらで抑える
一定時間あたりの文量	長い資料や議事録を丸ごと渡す、参照範囲を広げた	特定の業務だけが遅い、他は普通	渡す範囲を絞る、章ごとに分ける
同時に走らせる本数	音声や対話をつなぎっぱなしにする	つなごうとした人から順に入れない	同時に使える人数を先に決める
月あたりの支払の上限	月末に処理が集中する、試験運用が増えた	月の途中から全業務が通らない	上げる権限を持つ人に即日つなぐ

どの上限に当たっているかの見分け方

当たっている枠は、推測しなくても分かります。返信には残量を伝える欄が付いてくるからです。アンソロピックの公開文書（2026年9月時点）には、残りの回数・残りの入力量・残りの出力量・それぞれが満ちる時刻が欄として返ると書かれています。断られたときの返信にも、どの上限を超えたのかと、何秒待てばよいのかが入ります。

この欄は現場には見えません。見えるのは「遅い」という体感だけです。だから見る人を決めます。情報システムの担当者が週に1回、残量が週の中でどこまで下がったかの最小値を3つとも記録する。5分で終わる作業ですが、これをしていないと、当たった日に初めて数字を探し始めることになります。

記録のときに一緒に見るのは、使い切った時刻です。毎週同じ曜日の同じ時間帯に底を打っているなら、原因は総量ではなく山の形です。総量が足りないのか、一時に集まっているのかで、打つ手が正反対になります。総量なら枠を上げる話ですが、山の形なら時刻をずらすだけで消えます。

• 残りの回数・残りの入力量・残りの出力量の3つを、週に1回それぞれの最小値で記録する
• 底を打った時刻と曜日を一緒に残す（総量不足と山の集中を見分けるため）
• 断られたときの返信に入っている上限の種類と待ち秒数を、そのまま記録に写す

上限に当たっていないのに遅くなることがある

厄介なのは、数字の上では枠に収まっているのに遅くなる場合があることです。マイクロソフトの文書（2026年8月20日更新）には、使用量の水準を超えると断られるのではなく応答の待ち時間が伸び、水準内で動かした場合の2倍以上になることがあると書かれています。断られていないので、記録には失敗として残りません。

同じ文書には、文量の数字が枠を下回っていても断られることがある、とも明記されています。原因は瞬間の山です。1分あたりの上限が、実際にはもっと短い間隔で運用されるためです。アンソロピックの公開文書にも、1分あたり60件の上限が1秒あたり1件として運用されることがあり、短い山は上限を超えて弾かれると書かれています。

もう1つが、急に増やしたときです。同じ文書には、使う量が急に伸びると数字の上では下回っていても断られることがあり、徐々に増やして一定の使い方を保つようにと書かれています。全社に配った翌日や、研修の直後に固まるのはこの型です。人が増えた分だけ、山も鋭くなります。

業務側の意味は1つです。当たった・当たらないの2択で見ていると、この帯を見落とします。記録に残すのは断られた回数だけでなく、返事が返るまでの時間の、遅いほうから1割の値です。この数字が伸び始めたら、断られる前に混み始めています。

待てば戻る上限と、待っても戻らない上限

上限には性質の違う2種類があり、混ぜて扱うと対応を誤ります。1つ目は使う速さの上限です。アンソロピックの公開文書には、この枠は決まった時刻にまとめて戻るのではなく、水が入れ物に少しずつたまるように連続して回復する方式だと書かれています。だから数十秒待てば通ります。

2つ目は月あたりの支払の上限です。同じ文書には、こちらに達した場合は翌月の初日まで利用が止まり、待ち秒数の欄も付かず、道具の側の自動のやり直しも含めて再試行は通らないと明記されています。同じ断り方に見えても、片方は数十秒、もう片方は最長で1か月です。

見分けは返信の中身で付きます。同じ文書には、支払の上限に達したときは専用の符号が返るので、速さの上限と区別できると書かれています。運用の側では、この符号が出たら再試行を止めて人に上げる、と決めておきます。再試行で復旧しない上限に対して再試行を続けるのが、最も多い時間の浪費です。

• 月あたりの支払の上限は、技術の担当者では上げられないことが多い（購買や契約の承認が要る）ため、上げてよい人と連絡先を先に決めておく
• 自分たちで設定した上限と、契約の段階に付いている上限は別物。自分で下げていた場合は、その場で戻せる
• 従量の課金が付く使い方では、月あたりの件数を先に試算しておく（試算なしで配ると、月の途中で全社が止まる）

当たったとき、業務側では何が起きるか

上限に当たった結果は、3つの形のどれかで業務に現れます。待たされる、途中で落ちる、静かに件数が減るの3つです。最も見つけにくいのが3つ目で、後回しにされた分が翌日に積み残るため、その日の数字だけを見ていると何も起きていないように見えます。

最初に気づく人は、社内とは限りません。問い合わせへの返答をAIで下書きしている会社では、返信が遅れたことを先に知るのは顧客です。夜間にまとめて流している処理なら、翌朝に出力が揃っていないことで気づきます。気づく人と、直せる人が離れているほど、復旧までの時間が伸びます。

もう1つの現れ方が、現場の自衛です。遅いと感じた人は押し直します。押し直した分だけ枠を食うので、混雑はさらに延びます。個人が別の手段を使い始めることもあり、そうなると記録に残らない使い方が増えます。混雑の対処を現場任せにすると、統制の話に飛び火します。

だから当たったときの案内文を先に作っておきます。いま混み合っているので順番待ちです、押し直さないでください、という一文が出るだけで、押し直しは止まります。技術の手当ての前に、この一文を用意するほうが早く効きます。

予兆はどこに出るか

当たる前に出る兆候は3つあります。1つ目は残量の底です。週ごとの最小値が下がり続けていれば、あと何週で当たるかが見えます。2つ目は1件あたりの文量です。使い方が同じでも、渡す資料が増えれば文量の枠から先に当たります。件数が変わっていないのに遅くなったときは、ここを疑います。

3つ目が時間帯の偏りです。1日の合計が枠の半分でも、9時台に6割が集まっていれば、その1時間だけは上限を超えます。合計で見ている限り、この偏りは見えません。1時間ごとの最大値で見るのが、混雑を見つける最短の方法です。

文量を減らす方法として、一次情報に具体的な記載があります。アンソロピックの公開文書には、繰り返し送っている部分を使い回す仕組みに載せた分は入力の量に数えない型が多く、上限が200万の枠でも使い回しが8割なら1分あたり1,000万相当を通せる、という例が挙げられています。毎回同じ指示文と同じ資料を送っている業務ほど、この効き目が大きくなります。

予兆を見る期間の目安は4週です。1週だけでは、月初や連休の影響と本当の増加を区別できません。4週分の週ごとの最小値を並べ、下がり続けているなら総量の増加、上下しているだけなら山の形の問題と判断します。材料が2つの数字だけで済むので、担当が替わっても同じ結論になります。

原因①：枠の数え方が想像と違う

部署ごとに別の入り口を作れば枠も別になる、と考えている会社が少なくありません。実際は逆のことが起きます。マイクロソフトの文書には、2026年5月7日以降、枠はリソースごと・地域ごとではなく契約の単位でまとめて追跡される方式に変わったと書かれています。入り口を分けても、同じ財布から出ています。

この変更の実務上の意味は明確です。ある部署が大量の処理を流した日に、別の部署の業務が待たされます。待たされた側は原因を自分の中に探すので、見つかりません。枠を共有している範囲を1枚の図にしておくだけで、この探し物はなくなります。

手当ては、枠の中に仕切りを作ることです。アンソロピックの公開文書には、作業の場ごとに上限を設定して、他の場が使い切られないよう守れると書かれています。組織全体の上限は常に優先されるので、仕切りの合計が全体を超えても意味はありませんが、1つの業務が全部を飲み込む事態は防げます。

仕切りを入れるときの配分は、希望ではなく実績で決めます。過去3か月の1時間あたりの最大値を業務ごとに出し、その値に少し上乗せした数を割り当てる。希望で配ると、使っていない業務に大きな枠が残り、混んでいる業務が待つという逆転が起きます。

原因②：使い方の山が一点に集まる

総量が足りているのに当たる会社では、ほぼ例外なく山が重なっています。月初の締め、週明けの朝、月末の報告。人の業務の締め切りが揃っている以上、AIの呼び出しも揃います。ここに、夜間にまとめて流す処理を全部同じ時刻に置いていると、機械の山と人の山が重なります。

山をずらす作業は、枠を上げるより速くて安く済みます。まとめて流す処理の開始時刻を15分ずつずらす、資料の一括の取り込みを業務時間外に寄せる、一斉配布の日を分ける。いずれも設定の変更だけで、契約には触りません。実際に起きる失敗は、次のような形です。

• 全社に新しい使い方を配った翌日の午前中に問い合わせが殺到し、同じ時間帯に動いていた受注処理まで巻き添えで遅れた
• 夜間の一括処理を全部0時ちょうどに置いていたため、1本が枠を使い切り、残りが翌朝まで終わらなかった
• 遅いと感じた利用者が一斉に押し直し、混雑がさらに30分伸びた（最初の遅れは3分だった）
• 枠を使い切った日に、誰が上げてよいか決まっていなかったため、承認を探している間に1日が終わった

山を見つける道具は、すでに手元にあります。1時間ごとの呼び出し件数を1週間分並べるだけです。上位3つの時間帯で1日の半分を超えていたら、総量の問題ではなく山の問題です。この判定をしてから枠の増額を検討すれば、要らない契約を避けられます。

逃がし方①：待たせる

1つ目の逃がし方は、こちらから投げる速さを抑えることです。呼び出しを列に並べ、一定の間隔で流します。上限に当たってから慌てるのではなく、当たらない速さで最初から流すほうが、全体では早く終わります。押し合いが起きないぶん、やり直しも減ります。

断られたときのやり直しには作法があります。返信に入っている待ち秒数に従うことです。アンソロピックの公開文書には、この秒数より早くやり直しても失敗すると書かれています。勝手な間隔で押し直すのは、混雑を伸ばすだけで一度も得をしません。

見落としやすいのが、やり直しの二重化です。アンソロピックの利用の仕方を整理した技術記事（2026年9月）では、道具の側が自動で2回やり直す作りになっているため、自分でもやり直しを書くと1回のつもりが実際には3回になると指摘されています。混雑時に自分で自分の枠を食う形です。どちらか片方に寄せます。

業務側で決めることは1つです。待たせてよい上限の時間を、業務ごとに書きます。3分なのか、30分なのか、翌朝でよいのか。この数字がないと、列に並べる設計そのものが作れません。書いたら画面にも出します。待ち時間が見えている待ちは、見えない待ちよりずっと短く感じられます。

逃がし方②：小分けにする

2つ目は、急がない処理をまとめて流す口へ回すことです。多くのサービスは、すぐに返さなくてよい代わりに大量を安く通せる口を用意しています。その日のうちでよい処理を全部そちらへ移すだけで、即時の枠が空きます。夜間の集計、過去分の整理、大量の分類はこの口に向いています。

ただし、こちらにも別の落とし穴があります。マイクロソフトの文書には、まとめて流す口の枠は列に入れた分の量で数えられ、処理が終わるまで数え続けると書かれています。大量に投げ込むと枠を占有したままになり、翌日の分が入りません。投げ込む量を日ごとに分けておく必要があります。

小分けは、長い資料の渡し方にも効きます。1つの資料を丸ごと渡すのをやめ、章ごとに分けて渡す。文量の上限に当たりにくくなるだけでなく、どの章で結果が崩れたのかが分かるので、後から直す場所も特定できます。分けた単位は、後の検査の単位にもそのまま使えます。

小分けにしたら、分けた単位ごとに結果を記録します。どこまで通ってどこから落ちたかが残っていれば、翌日の投げ直しは落ちた分だけで済みます。全体をもう一度流すと、通っていた分まで枠を使うので、混雑した翌日にまた当たります。記録は単位の名前と件数の2つで足ります。

逃がし方③：落として後回しにする

3つ目は、通す処理と落とす処理を分けることです。全部を通そうとすると全部が遅れます。混雑時に何を落とすかを先に決めておけば、落とした分の遅れと引き換えに、残りは平時と同じ速さで通ります。決めていない会社は、当たった瞬間に一律で遅くなります。

落とす順番は業務の重要度で決めます。ここで大事なのは、何を落とすかをAIに判断させないことです。混雑の最中に優先順位を考えさせると、判断の根拠が残らないうえ、その判断のためにまた枠を使います。順番は平時に人が書いた一覧を読むだけの形にしておきます。

落とした処理の行き先も決めます。行き先は3つしかありません。人が手で処理する、翌朝に回す、簡易な返しに切り替える。行き先のない「落とす」は、ただの消失です。消えた件数は誰にも見えないので、翌週になって取りこぼしが発覚します。

落としたことは記録に残します。日時、業務名、件数、行き先の4つで足ります。この記録があると、翌月に枠を上げるかどうかの判断が数字でできます。記録がないと、当たった記憶の強さで判断することになり、たいてい必要以上の枠を買うことになります。

枠を上げると、費用以外に何が増えるか

枠を上げる判断は最後に来ます。導入そのものの費用対効果の試算はこの記事では扱いませんが、上げるときに増えるのは費用だけではない、という点は先に知っておく必要があります。マイクロソフトの文書には、引き上げの申請は受け付けた順に処理され、既に割り当てを積極的に使っている利用者が優先されると書かれています。

同じ文書には、条件を満たさない申請は却下されることがある、とも書かれています。つまり使ってもいない枠を先回りして押さえるのは通らないということです。上げるなら、いま使い切っている実績を出せる状態にしてから申請します。残量の記録を取っていれば、そのまま材料になります。

段階が自動で上がる仕組みもあります。同じ文書には、段階は7つあり、使用量に応じて自動で上位に移ると書かれています。自動で上がるのを止める設定もあると明記されているので、枠で費用を抑えている運用をしている場合は、この設定を先に確認します。知らないうちに上がると、請求の形が変わります。

上げても消えない上限がある点も押さえます。同時に走らせられる本数、1件あたりに渡せる量、用途ごとの個別の上限は、段階を上げても同じ比率では伸びません。上げる前に、いま当たっている枠がどれかを特定しておかないと、上げた後も同じ場所で止まります。

上限を前提にした業務の組み方

ここまでの手当てを、平時の作業として並べ直します。混雑した日に考える作業をゼロに近づけるのが目的です。順番は次の5段で、1段目と4段目は業務の担当者、2段目と3段目は情報システムの担当者が手を動かします。

5段のうち、いちばん飛ばされるのが3段目です。仕切りを作る作業は目に見える効果が出にくいため、後回しにされます。ところが当たった日に業務ごとの被害の差を決めているのはこの段です。仕切りのない枠は、いちばん多く投げた業務が全部を持っていきます。

5段目の1枚は、翌月の判断だけでなく、申請の材料にもなります。前の節で触れたとおり、実際に使い切っている実績がある側が優先されるので、記録そのものが交渉の材料です。作るのに15分かからない1枚が、契約の場面で効きます。

誰が気づき、誰が判断するか

最後は役割です。混雑への対応が遅れる会社では、技術の問題より先に、誰が見て誰が決めるかが決まっていないことが原因になっています。必要な役は3つです。残量を見る人、落とす判断をする人、枠を上げる人。この3つは同じ人でなくて構いませんが、空席があってはいけません。

残量を見る人は、週1回の記録だけを担当します。落とす判断をする人は、平時に順番の一覧を書いておき、当日はその一覧が守られているかだけを見ます。当日に新しい判断をしない形にしておくのが、いちばん速い対応です。枠を上げる人は、支払の上限に達したときにその日のうちにつながることだけが仕事です。

ここでAIに任せない範囲もはっきりさせます。混雑の検知や集計は任せてよい作業ですが、どの業務を落とすかという判断は人が決めます。要約を作らせるときも、根拠になった数字を必ず一緒に書かせ、人が見る範囲を先に決めておきます。混雑時は判断の速さが求められるぶん、根拠の残らない判断が後から検証できなくなります。

連絡の道筋も1本に絞ります。現場は「遅い」とだけ伝えればよく、どの枠に当たっているかを現場に調べさせません。受けた側が返信の欄を見て種類を特定し、待てば戻る側なら案内文を出し、戻らない側なら上げる人につなぐ。この3手が15分以内に回れば、当たった日でも業務は止まりません。

まとめ

呼び出しの上限は不具合ではなく、契約に最初から含まれている決まりでした。当たること自体は避けられないので、問いは「当たったときに止まるか、遅れるだけか」に変わります。上限は回数・文量・同時に走らせる本数の3つに分かれ、返信に付く残量の欄で当たっている枠を特定できます。加えて、数字の上では収まっていても待ち時間だけが伸びる帯があり、急に増やした直後は下回っていても断られます。

待てば戻る速さの上限と、月が替わるまで戻らない支払の上限は性質が違うので、再試行を続けてよいのは前者だけです。逃がし方は3つで、投げる速さを抑えて待たせる、急がない処理をまとめて流す口へ小分けにする、通さない処理を決めて後回しにする。落とす順番は平時に人が書き、当日にAIへ判断させません。平時の作業は5段にまとまるので、月に1回、残量の底と落とした件数を1枚にするところから始めてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。