社内AIの応答配信はAblyか自作か|配信層を買う判断の目安

「社内のAIチャットで長い回答を待っていたら、途中で止まって最初から聞き直しになった」「会議室のパソコンで頼んだ作業の続きを、自席に戻ってから見られない」——社内向けにAIの画面を配り始めた会社で、利用者からまず上がってくる不満です。多くの場合、原因はAIの賢さではありません。問題は、答えを作る処理と、それを画面に届ける通り道が一本の接続に縛られていることにあります。この記事では、英国の配信基盤 Ably がAI向けに出している配信の仕組みを例に、その通り道を外部の基盤に任せるか自作するかを、会話の中身の置き場所、差し込まれた指示の権限、利用者数課金、やめ方の順に整理します。
カメ先生AIの応答が途中で切れるのは、モデルや社内の回線が悪いからだと思われがちなんだ。でも本当は、答えを作る処理と画面へ届ける接続がひとつにつながっていて、接続が切れると答えごと消える作りになっていることが多いんだよ。
カメ子AIそのものは最後まで答えを作っていても、画面に届く道が切れたら見えなくなる、ということですか。
カメ先生そう。だから届ける部分を切り離して、外部の基盤に任せる選択肢が出てくる。ただ、任せれば会話の中身がその基盤を通るし、利用者が増えれば費用も増える。途中で足された指示を誰のものとして扱うかも、基盤は決めてくれないんだ。
カメ子便利になる部分と、自分たちで決めなければいけない部分を分けて考えるんですね。
- Ably のAI向け配信は、エージェントの処理と利用者の接続を切り離し、再接続後の続き表示・複数端末への同時配信・作業中の指示の差し込みを受け持つ
- 会話の中身や道具の入出力は配信基盤を通り、保存期間のあいだ残る。長期の記録は自社のデータベースが持つ前提で、許可の範囲を会話ごとに絞る
- 課金は月ごとの利用者数で、エージェントは数えない。識別子の振り方で費用が変わり、指示の権限や承認の判断は自社の仕組みに残る
うちの業務、AIで何が自動化できる?
「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。
切れる・続きが見えない・指示を足せない:三つの症状はどこで起きるか
社内AIの画面で起きる不満は、大きく三つに分かれます。一つ目は、長い応答の途中で接続が切れ、それまでの文章が消える症状です。Ably が2026年10月16日に公開した解説では、一般的な通信の仕組みでは接続が切れるとその要求自体が終わり、途中まで作られた応答を自動では再開しないと説明しています。社内ネットワークでは、中継の機器が静かな接続を切ることもあり、例としてアマゾンの負荷分散装置は既定で60秒何も流れない接続を閉じると書かれています。Ably の配信は常時接続の通信方式を基本にしつつ、それが通らない環境では一定間隔で問い合わせる方式へ自動で切り替えるとロードマップで説明しており、社内の中継機器との相性は試験で確かめる項目になります。
二つ目は、別の端末やタブで続きが見えない症状です。応答の途中経過がブラウザの記憶にしかなければ、再読み込みや端末の持ち替えで消えます。三つ目は、エージェントが作業している最中に、利用者が方向を修正できない症状です。調査を頼んだあとで「対象は国内企業だけで」と足したくても、最後まで待ってから頼み直すしかない画面は珍しくありません。
この三つは、答えを作ること、答えを保持すること、答えを届けることが一本の接続に乗っているという同じ根から出ています。AIの処理が止まったときのやり直しの範囲や、処理そのものの耐久性は別の層の論点で、ここで扱うのは届ける層の判断です。
Ablyとは:人と人の即時配信の基盤が、AIの応答の配信へ広げたもの
Ably は、ロンドンに拠点を置くリアルタイム配信の基盤です。チャット、共同編集、試合速報のように、同じ情報を大勢の画面へ遅れなく届ける用途で使われてきました。公式の会社紹介では、7,000社を超える企業が使い、世界12の地域に配信の拠点を置き、稼働率99.999%の保証を掲げています。同じ「プッシャー」という名前で語られることのある別の配信サービスとは、別の会社です。
2026年に入ってから、この基盤の上にAI向けの配信機能(公式名は英語で「AIトランスポート」)を載せました。仕組みは単純で、エージェントは応答を会話ごとの通り道(チャネル)へ流し、その通り道を購読しているすべての画面が同じ内容を受け取るというものです。利用者がパソコンと携帯電話で同じ会話を開いていれば両方に流れ、再読み込みした画面は途中から追いつけます。
公式の説明では、会話そのもの、エージェントの進み具合の表示、エージェントが作る成果物(文書や計画など)を一つの通り道に載せられるとしています。対応する開発の枠組みとして、Vercel の開発キット、OpenAI の応答用の窓口、エージェントと画面をつなぐ共通の取り決め(AG-UI)を挙げ、それ以外は自前の変換部品で載せる形です。モデルや指示文、道具の定義、画面の作りはそのまま残せると説明しています。
2026年の更新:作業中の指示の差し込みと、途切れない応答の考え方
鮮度の面では、2026年後半に更新が続いています。7月22日には版0.6.0で、実行中のエージェントに利用者が追加の指示を差し込める機能を公開しました。利用者の画面が差し込みの指示を通り道に流し、エージェントは応答の区切りごとに新しい入力があるかを確かめ、会話を組み直して続けます。進行中のモデル呼び出しだけを止めて方向を変えることもでき、それまでの出力は残ります。
同じ発表では、差し込みのほかに「取り消し」と「並行してもう一つ頼む」の二つの選択肢を並べています。前の指示が間違っていたなら取り消し、方向を少し曲げたいなら差し込み、別件なら並行という使い分けです。10月7日には応答を一つずつ育つメッセージとして保存する考え方を、10月16日には再接続で応答が壊れる理由と、再開に必要な四つの条件を解説しました。
11月5日には料金体系を月ごとの利用者数で数える形へ改めています。公開中のロードマップでは、AIと人の担当者のあいだで会話を引き継ぐ機能と、Anthropic のモデルへの直接対応を「開発中」、Python 版の開発キットを「次」としています。予定は予定なので、導入判断は今出ている機能だけで行うのが安全です。
自作・枠組みの付属機能・配信基盤の三案を並べる
届ける層の作り方は、ほぼ三つに絞れます。一つ目は、自社のサーバーから画面へ一本の接続で流し、切れたら自前の保存と再送の仕組みで補う自作です。二つ目は、使っている開発の枠組みに付いている再開の補助機能を使う方法、三つ目が Ably のような配信基盤に通り道を任せる方法です。Ably 自身も解説記事で、短い回答が中心で再読み込みからの復旧だけ欲しいなら、枠組みの補助で足りると書き、外部の基盤が合うのは応答が長い場合や、すべてのタブと端末に届けたい場合だとしています。
| 観点 | 自作(一本の接続+自前の保存) | 枠組みの付属機能 | 配信基盤(Ably) |
|---|---|---|---|
| 再読み込み後の続き | 保存と再送を自分で作る | 多くは対応 | 通り道の履歴から追いつく |
| 複数端末への同時配信 | 作り込みが大きい | 限られる | 購読している画面すべてに届く |
| 作業中の指示の差し込み | 受け口を自作 | 枠組みしだい | 版0.6.0で提供 |
| 会話の中身の通り道 | 自社内で完結 | 自社内で完結 | 外部の基盤を通り、保存期間だけ残る |
| 費用の増え方 | サーバーと運用の人手 | ほぼ追加なし | 月ごとの利用者数で増える |
| やめやすさ | 自社の資産 | 枠組みに依存 | 画面と送り出し側の部品を戻す作業が残る |
表で見ると、配信基盤の強みは「複数の画面」と「長い応答」に集中していることが分かります。逆に言えば、一人が一つの画面で短い質問をする使い方しかないなら、外部に任せる理由は弱くなります。
自作で十分な画面、任せたほうが早い画面
自作や枠組みの補助で足りるのは、応答が数十秒で終わり、利用者が一つの画面で完結する社内チャットです。社内規程の質問に答える窓口や、文章の手直しを頼む画面なら、切れたら聞き直せば済み、聞き直しの費用もわずかです。この場合、配信基盤を足すと、会話の中身が通る先が一つ増えるだけになりかねません。
任せたほうが早いのは、エージェントが数分から数十分かけて調べものや資料作りをし、利用者がその間に席を立つ使い方です。会議室で頼んで自席で続きを見る、携帯電話で進み具合だけ確かめる、上長と担当者が同じ会話を見るといった場面では、複数の画面へ同じ内容を順番どおりに届ける仕組みを自作すると、保存の形、再接続時の追いつき方、順番の保証を一から作ることになります。
判断の目安は、「切れたときに、聞き直しで済むか、作業のやり直しになるか」です。聞き直しの費用が小さいなら自作で始め、やり直しが業務を止めるなら任せる案を検討します。どちらの場合も、切れたことに利用者が気づける表示は必要です。
会話の中身はどこを通り、どこに残るか
配信基盤に任せるとき、最初に確かめるのはデータの流れです。Ably の構成では、利用者の質問、エージェントの応答、道具の呼び出しの入力と出力、進み具合の表示が、会話ごとの通り道を通る形になります。公式の制約の説明には、許可を持つ購読者は通り道のすべてのメッセージを読め、そこには道具の入出力も含まれると明記されています。社内データベースを検索した結果を道具の出力として返すなら、その中身も通り道に乗ります。
一方で、公式は会話の正本は自社のデータベースが持つ前提を繰り返し書いています。開発キットは会話の状態を保持せず、会話と成果物の長期の保存は利用側の責任です。完了した応答は自社のデータベースへ一度にまとめて書き込み、配信基盤の側は進行中と直近の応答を保持して、遅れて開いた画面に渡す役割です。
つまり、データの置き場所は「配信基盤に短期」「自社に長期」の二か所に分かれます。社内の情報管理の台帳には、AIのモデルの提供元に加えて、配信基盤も外部の処理先として載せる必要があります。分析や検索のために会話を集めたいときは、ウェブフックや Kafka で自社のデータ基盤へ流す片道の経路が用意されています。
保存期間と消し方:配信基盤に置く期間を短く決める
配信基盤に会話がどれだけ残るかは、通り道ごとの規則で決まります。注意したいのは、AI向けの配信で応答を一つのメッセージとして育てるには「追記を許す」規則を通り道に付ける必要があり、この規則を付けると、対象の通り道のメッセージは保存の設定にかかわらず保存される点です。規則は名前の型で対象を選ぶので、会話用の通り道だけに絞った名前の型にしないと、関係のない通り道まで保存の対象になります。
保存期間の上限は、公式の情報で表記が分かれています。10月7日の解説記事では、無料プランは24時間、有料プランは既定72時間で、プランに応じて延ばせるとしていました。11月の料金改定後の料金ページでは、無料プランで1か月、Pro と Business で1年、Enterprise は無期限と掲げています。改定の前後で数え方が変わった可能性があるため、契約するプランで既定値と上限を必ず確かめてください。
社内向けの判断としては、配信基盤に置く期間は「利用者が席を外して戻るまでの最長の時間」で足りると考えるのが筋です。公式の本番前の確認表も、自社のデータベースが長期の履歴を持つので、保存期間は利用者が配信基盤だけから追いつく最長の間隔を覆えばよいと書いています。長く置けば置くほど、外部に残る会話が増えます。
誰が見られるか:会話ごとの通り道と、許可の範囲
Ably では、利用者の画面に配信基盤の鍵を直接持たせず、自社のサーバーが利用者を確かめたうえで有効期限の短い許可証を発行します。許可証には、どの通り道で何ができるか(購読、履歴の読み出し、書き込みなど)と、利用者の識別子が入ります。公式は1時間程度の有効期限を妥当な既定とし、強制的に締め出すための失効の仕組みも用意するよう求めています。
ここで起きやすい失敗は、開発中の設定のまま本番に出ることです。公式の手順例は、会話の通り道の名前が事前に分からないため「会話用の通り道すべて」を許す書き方で始まり、本番では利用者ごとに狭めるよう注意しています。全会話を読める許可証を全社員に配る状態のまま公開すれば、他人の会話や道具の出力を読める画面になります。
- 開発中の「会話用の通り道すべて」を許す設定のまま、全社員に公開する
- 利用者の識別子を画面の側で決めさせ、自社のサーバーで確かめない
- 退職や異動のときに許可証を失効させる手順を用意していない
- 道具の出力に社外秘の検索結果をそのまま載せ、閲覧の範囲を確かめていない
識別子は画面ではなく許可証の中で決めるのが原則で、公式も画面側で付けた識別子は確かめられず、なりすましに使えると書いています。社内の認証基盤と同じ利用者を指すように対応づけておけば、後で利用の記録を突き合わせるときにも困りません。
途中で差し込まれた指示は、誰の権限として扱うか
作業中の指示の差し込みは便利な一方、社内では新しい問いを生みます。7月の発表は差し込みの仕組みを説明していますが、差し込んだ人の身元や権限をどう扱うかは書いていません。仕組みの上では、差し込みの指示は会話の通り道に流れ、その会話を開いているすべてのタブと端末に表示されます。上長と担当者が同じ会話を見ていれば、どちらも指示を足せる作りにできてしまいます。
配信基盤が保証するのは、許可証に入った識別子と書き込みの許可です。公式の認証の説明では、識別子は書き込みのたびに基盤側で確かめられるとしています。つまり「誰が差し込んだか」は記録できますが、その指示をエージェントが受け入れてよいかは、自社のエージェントの側で決めるしかありません。たとえば、経理の承認者だけが金額の条件を変えられる、閲覧だけの参加者は差し込めない、といった線は自社で引きます。
- 差し込める人を会話の持ち主に限るか、参加者全員に開くかを先に決める
- 差し込みの指示は、最初の依頼と同じく会話の記録として自社のデータベースに残す
- 差し込みで作業の範囲が広がる場合(対象の追加、送り先の変更など)は、AIに判断させず人の確認を挟む
取り消しも同じです。取り消しの合図を受けたエージェントは処理を止めますが、公式の説明では、処理が途中で止まっても自動では画面に止まったことを知らせません。止まった、取り消した、失敗した、という知らせをエージェント側から流す作りにしておかないと、利用者は待ち続けることになります。
人の承認待ちを画面にどう出すか
エージェントに社外へのメール送信や基幹系への登録をさせるなら、実行前に人の承認を挟むのが基本です。Ably の説明では、会話の中に道具の実行の承認依頼や、エージェントから利用者への問いかけも含まれるとしています。Vercel の開発キットと組み合わせた場合は、承認の返事を返す操作も配信の仕組みに載ります。
配信基盤が受け持つのは、承認依頼を利用者のすべての画面に確実に届け、返事を戻す部分です。承認するかどうかを決めるのは人で、承認者の資格や、承認の前に見せる根拠は自社の仕組みで決める必要があります。承認依頼にはエージェントが何をしようとしているか、その根拠になった資料はどれかを必ず書かせ、承認者がそれを読んでから押す画面にします。
もう一つの論点は、承認待ちの間に利用者が席を外す場合です。複数端末への配信があれば携帯電話で承認できますが、それは同時に、落ち着いて確かめにくい小さな画面で承認ボタンが押されることでもあります。金額や送り先が大きい操作は、承認できる端末や画面を限る運用も検討してください。なお、AIと人の担当者のあいだで会話を引き継ぐ機能はロードマップ上で開発中の扱いです。
利用者単位の課金は、全社展開でどう増えるか
11月の改定後、Ably の請求はその月に配信基盤へ接続した利用者の数で決まります。利用者は識別子ごとに月1回数えられ、会話の回数、流したトークンの量、接続していた時間は請求に影響しないと公式は説明しています。エージェントやサーバーは数えません。そのため、エージェントを何本増やしても、配信の費用は答えを受け取る人の数で決まります。
公表の価格は、無料プランが500人まで、Pro が1,000人で月29ドルから(年払い)、5万人では1人あたり月2.3セントです。単純に計算すると、5万人で月1,150ドル前後になります。5万人を超える規模は個別見積もりです。社内の全社展開なら人数の上限は社員数で決まるため、費用の見通しは立てやすい部類です。
ただし、識別子の振り方で費用が変わる点は見落とされがちです。公式は、同じ人が携帯電話とパソコンで別の識別子を使うと2人分になり、匿名の利用者に訪問ごと新しい識別子を振ると訪問ごとに1人と数えると注意しています。エージェント側の接続をサーバーとして宣言し忘れると、利用者として数えられます。社員1人に識別子1つを、社内の認証基盤と同じ単位で振ることが、費用と記録の両面で前提になります。モデルの利用料は別にかかるので、合計の費用は配信と生成を分けて見積もります。
改定前からの契約で、メッセージ数・通り道の利用時間・接続時間で請求される旧来の資源量課金のままの場合は、数え方がまったく違います。公式の説明では、メッセージは送り出しで1回、受け取る画面・エージェント・履歴の保存先ごとにさらに1回数えられ、画面一つとエージェント一つの会話なら1件が4回分になります。応答の細切れの追記をまとめる間隔(既定40ミリ秒)を広げると件数は減らせますが、どちらの課金で契約するのかを最初に決めないと、見積もりの前提が揃いません。
置き場所の地域と、第三者の審査
公式の説明では、Ably はSOC 2 の第2種の認証を持ち、米国の医療情報の保護に関する法律にも対応しているとしています。料金ページでは、SOC 2 の報告書の取り寄せと、欧州・米国・オーストラリアへの経路の固定は Business 以上のプランの機能です。社内の審査で報告書の提出を求めるなら、プランの選択に直結します。
データを置く国や地域を指定したい場合について、公式の本番前の確認表は「地域ごとの配置について Ably に問い合わせる」としています。日本国内に限って置けるかは、公表情報からは確認できません。個人情報や取引先の情報が会話に乗る使い方なら、契約前に問い合わせて書面で確かめる項目です。
第三者の審査は、配信基盤そのものの管理を示すもので、自社の使い方の安全を保証するものではありません。許可証の範囲、保存期間、道具の出力に何を載せるかは自社の設計で決まります。審査の資料を受け取ったら、自社側で決めた設定を同じ台帳に並べて残しておくと、社内監査で説明しやすくなります。
任せても自社に残る仕事
配信基盤に任せれば届ける部分は軽くなりますが、残る仕事もはっきりあります。公式の本番前の確認表を読むと、完了した応答を自社のデータベースへ保存し、どこまで保存したかの印を一緒に残すこと、画面を開いたときは自社のデータベースから読み、その印から先だけを配信基盤から追いつかせることが求められています。追いつきは最大1,000件までで、それを超えると途中に抜けができると書かれています。
ほかにも、接続が約2分以上切れた場合は通常の再開ができず、画面側で回復の処理が要ること、一つの会話で同時に走らせる応答は一つに限ること、エージェントが途中で止まったら失敗の知らせを流すことなど、作り手が決める細部が並びます。処理そのものをやり直す仕組み(テンポラルなどの実行基盤)と組み合わせる場合は、やり直しの回ごとに印を付け、古い回の出力を画面で捨てる作りも必要です。エージェントが接続を失った場合、在席の表示から外れるのは約15秒後と公式は説明しており、画面に「作業中」と出し続けない工夫も要ります。
運用の面では、配信の失敗率、モデル側の遅延と失敗率を分けて監視するよう公式は勧めています。画面が止まったとき、原因がモデルか配信か社内の許可かを切り分けられることが、社内の問い合わせ窓口の負担を左右します。AIの答えの正しさは配信基盤の守備範囲外で、根拠を示させる作りと人の確認は従来どおり自社で持ちます。
小さく試す順番
いきなり全社のAIチャットを載せ替える必要はありません。三つの症状のうち、どれが一番業務を止めているかを確かめ、それが起きている画面から一つだけ試すのが確実です。次の順番で進めると、判断に必要な材料が揃います。
社内AIの画面で、応答が途中で切れた件数、端末を替えて続きが見えなかった件数、頼み直しの件数を2週間ほど記録します。症状が少なければ、自作のままで十分かもしれません。
長い作業を頼む画面、複数人で見る画面など、配信基盤の強みが出る画面を一つ選びます。社外秘の情報が道具の出力に乗るかどうかも、この段階で確かめます。
誰がどの会話を読めるか、誰が指示を差し込めるか、配信基盤に何日置くかを文書にしてから作ります。開発中の広い許可のまま試さないことが条件です。
無料プランの範囲で試し、管理画面で利用者の数え方が想定どおりか(1人1識別子になっているか)を確かめます。
最初に数えた件数と比べ、頼み直しや問い合わせが減ったかで続けるかを決めます。減らなければ、原因は届ける層ではない可能性があります。
試す期間を通じて、AIの答えを人が確かめる範囲は変えないことも大切です。配信が安定すると、長い作業を任せやすくなり、確認が甘くなりがちだからです。
やめるときに残るもの
配信基盤から離れる場合に残るものは、比較的はっきりしています。会話の正本は自社のデータベースにあるので、会話の記録そのものは手元に残ります。配信基盤の側に残るのは、保存期間内の直近の会話と、利用の記録です。料金ページでは、管理操作の記録の保存期間も無料プランで7日、Pro で30日、Business で90日、Enterprise は無期限と掲げています。
作り直しが要るのは、エージェントの送り出し側の部品と、画面の受け取り側の部品です。両者は会話の形式を変換する共通の部品でつながっているため、そこを自作の接続か別の仕組みへ置き換えることになります。作るときから、送り出しと受け取りを自社の部品で包んでおくと、やめるときの改修が小さくなるので、最初の設計で意識しておきます。やめる際は、許可証の発行を止め、配信基盤の鍵を失効させ、保存されている会話の削除を確かめてから契約を閉じます。
- 三つの症状のうち、業務を止めているのはどれか。件数で確かめたか
- 道具の入出力を含め、通り道に乗るデータの種類を情報管理の台帳に載せたか
- 追記を許す規則の対象を、会話用の通り道だけに絞ったか
- 配信基盤での保存期間を、利用者が戻るまでの最長の時間に合わせたか
- 許可証の範囲を利用者ごとに絞り、失効の手順を用意したか
- 差し込みの指示を受け入れる人と、人の確認を挟む条件を決めたか
- 社員1人に識別子1つを振り、エージェントをサーバーとして宣言したか
- 置き場所の地域と審査の報告書について、契約前に書面で確かめたか
まとめ
社内AIの応答が切れる、続きが見えない、作業中に指示を足せないという不満は、答えを作る処理と届ける接続が一本に縛られていることから生まれます。Ably のAI向け配信は、その届ける層を切り離し、複数の画面への同時配信、再接続後の追いつき、作業中の指示の差し込みを受け持ちます。短い質問に一つの画面で答えるだけなら自作で足り、長い作業を複数の画面で追う使い方ほど任せる価値が出ます。任せる場合も、会話と道具の出力が外部を通ること、保存の規則と期間、許可証の範囲、差し込まれた指示を誰の権限として扱うか、承認を誰がどの画面で下すかは自社が決めることです。配信は買えても、判断と確認は買えないという線を引いたうえで、症状の件数を数え、一つの画面から試してください。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
うちの業務、AIで何が自動化できる?
「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。
