Gremlinで探るAI機能が止まる原因|障害注入を誰が承認するか

Gremlinで探るAI機能が止まる原因|障害注入を誰が承認するか

「社内のAIアシスタントは便利だが、外部のAIの提供元が落ちたら何が起きるのか、誰も試したことがない」「障害をわざと起こす試験をAIに任せられると聞いたが、どこまで壊させてよいのか決められない」——生成AIを業務に組み込んだ会社の情シスやシステム部門の責任者から、2026年の後半に増えてきた声です。背景には一つの事実があります。障害をわざと起こして耐性を試す基盤の Gremlin が、2026年10月7日、試験の提案から実行、修正案、週報までをAIエージェントが担う Foresight AI を一般提供しました。試験そのものより先に、壊してよい範囲と承認する人を決めておかないと、AIに任せた瞬間に「誰が許したのか」が分からなくなります。この記事では、社内のAI機能が依存先の障害でどう振る舞うかを Gremlin で試す場面を三つ取り上げ、環境の線、試験と修正の承認、結果の伝え方を整理します。


カメ先生カメ先生

障害をわざと起こす試験は、壊れるかどうかを見る作業だと思われがちなんだ。でも本当に確かめたいのは、壊れたときに業務がどう止まり、どう戻るか。生成AIの機能は外部の提供元や社内の検索、データ基盤に頼っているから、どこか一つが落ちるだけで止まり方が変わるんだよ。


カメ子カメ子

壊れるかどうかではなく、止まり方と戻り方を確かめる試験ということですか。


カメ先生カメ先生

そう。そして Gremlin の新しい機能は、その試験をAIが提案して、承認されれば実行して、直し方まで出す。便利なぶん、どの環境で、誰の許可で動かすかを人の側で先に決めておく必要がある。


カメ子カメ子

AIが試験を回すほど、許可を出す人の役割が重くなるんですね。


この記事のポイント
  • Gremlin の Foresight AI は4役のAIエージェントが試験の提案・実行・修正案・週報を担うが、公式は承認なしに試験も修正も実行しないと説明している
  • AI機能の止まり方は、外部のAIの提供元・社内のAPI・データ基盤の三つの依存先ごとに試し、本番に向ける前に環境と時間帯の線を引く
  • 結果は信頼性の点数ではなく「どの業務が何分止まるか」に直し、止まってよい時間を事業側と先に合意する

うちの業務、AIで何が自動化できる?

「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。

目次

Gremlinとは:わざと障害を起こして耐性を確かめる基盤

Gremlin は2016年に設立された米国の会社で、北米に分散した在宅中心の体制をとっています。公式サイトによれば、創業者はアマゾンやネットフリックスで障害対策に携わった技術者で、わざと障害を起こしてシステムの耐性を確かめる「カオスエンジニアリング」を企業向けの製品にしてきました。米国の大手銀行5行のうち4行が利用していると公表しており、利用企業は金融、小売、企業向けのクラウドサービスといった、止まると損失が大きい業種が中心です。

仕組みは単純です。試したいサーバーやコンテナにGremlin の実行役(エージェント)を入れ、クラウド上の制御基盤から指示を出して障害を起こします。処理能力やメモリを使い切らせる、ホストを止める、特定の通信先への通信を遮断する、遅らせる、といった試験が用意されています。公式の安全面の文書では、実行役は外向きの暗号化通信で制御基盤に指示を取りに行くだけで、社内側に受け口を開ける必要はなく、通信の中身は読まずに経路の情報だけを見て障害を起こすと説明しています。

試験の間は、監視の道具から取り出した値でサービスが健全かどうかを確かめ続け、基準を外れたら試験を自動で止めて元に戻します。公式はこれを試験の安全装置と位置付けており、Datadog や PagerDuty などの監視ツールとつなげて使います。2025年には自社の閉じたネットワークに置ける版と、失敗した試験の原因を分析する機能を、2026年には災害復旧の試験を加え、その延長に今回のAIエージェントがあります。

2026年10月の Foresight AI:4役のエージェントと、承認の約束

2026年10月7日、Gremlin は Foresight AI をプラットフォームの追加機能として一般提供しました。公式ブログによれば、中身は4役のAIエージェントです。サービスの情報を集めて試験を勧め、結果を分析する分析役、試験の予定を組んで実行する試験役、結果から結論と修正の手引きを出す運用役、そして各サービスの状態を追って週ごとの報告書を書き、担当と期限の付いた改善の約束を管理し、Slack に更新を流す進行管理役です。

判断の根拠として、同社は10年近くにわたる数百万回の障害注入の試験から作った、障害と回復の独自の記録集を挙げています。公式ブログは、判断はこの記録と顧客の環境のデータに基づいて行い、LLMには結果の要約や検索、平易な説明をさせるだけで、「LLMに推測はさせない」と書いています。また、顧客のシステムのデータをLLMの学習に送ることはないとも明記しています。

導入の判断で最も重いのは、ブログの次の一文です。Foresight AI は、利用者の承認なしに試験を実行することも、修正を適用することもない。ただし、これは製品の既定の動き方の説明であって、社内の誰が承認してよいかまでは決めてくれません。後で見るように、対話画面から「この試験を回して」と頼めば、それ自体が承認として扱われます。承認の線は、製品ではなく会社の側で引くものです。

なぜAI機能は依存先の障害で止まるのか:三つの原因

社内で動かす生成AIの機能は、見た目は一つの画面でも、裏では複数の依存先に頼っています。代表的なのは、外部のAIの提供元、社内のAPI、そして検索の索引や顧客データを置くデータ基盤の三つです。どれか一つが落ちたり遅くなったりしたとき、機能がどう止まるかは作りによって大きく違い、多くの場合は誰も確かめていません。

止まり方がまずくなる原因は、だいたい次の三つに集約されます。第一に、待ち時間の上限がなく、応答のない相手を待ち続けること。利用者の画面が固まり、裏では処理の待ち行列が積み上がります。第二に、失敗したら何度もやり直す設定が、障害の最中に相手へさらに負荷をかけること。第三に、検索の索引に届かないときに、根拠となる社内文書なしでAIが答えてしまうことです。三つ目は画面上は「動いている」ので、監視の数値には現れません。

Gremlin は依存先の検出を自動で行います。公式文書によれば、実行役がDNSの通信と接続の一覧を見て、サービスがどこへ通信しているかを洗い出し、依存先として登録します。外部のAIの提供元の宛先も、社内のAPIも、データ基盤も、通信があれば一覧に並ぶということです。まずこの一覧を、AI機能の担当者と一緒に読むところから始めると、「こんな先にも頼っていたのか」という発見が必ずあります。

シナリオ1:外部のAIの提供元が応答しなくなる

最初に試したいのは、社内のAIアシスタントや問い合わせの下書き機能が呼び出している、外部のAIの提供元が応答しなくなる場面です。Gremlin の標準の試験には、特定の依存先への通信をすべて遮断する試験(約10分)と、通信を100ミリ秒遅らせる試験(約10分)が用意されていると公式文書は説明しています。提供元の障害そのものは起こせませんが、自社のサービスから見て「届かない」「遅い」状態は再現できます。

このとき見るべきは、エラーが出るかどうかではありません。利用者の画面に何が表示されるか、問い合わせ対応の担当者が手作業に切り替えられるか、待ち行列に溜まった依頼が復旧後に二重に処理されないか、です。別の提供元の模型に切り替える作りにしている場合は、切り替えが本当に起きるか、切り替えた先で回答の品質や社外に出るデータの扱いが変わらないかも確かめます。

ここで「止まってよい」と「止まり方がまずい」は別の話だと押さえておきます。外部の提供元が落ちればAI機能が使えなくなるのは避けられません。試験の目的は、使えないことを利用者に正しく伝え、業務を人の手で続けられる状態に倒れるかどうか、つまり安全な止まり方をするかを確かめることです。

シナリオ2:社内のAPIが遅くなり、待ち行列が積み上がる

二つ目は、AIエージェントが顧客管理の基盤や在庫の照会など、社内のAPIを呼び出して作業する場面です。APIが完全に落ちるより、遅くなるほうが厄介です。エージェントは応答を待ち、待っている間に次の依頼が来て、処理の待ち行列が積み上がり、最後は関係のない機能まで巻き込んで止まることがあります。遅延の試験は、この連鎖を起きる前に見つけるためのものです。

Gremlin には、失敗した試験の原因を分析して直し方を示す機能があります。公式文書の関連項目には、依存先への呼び出しに「遮断器」をはさみ、相手が不調なら早めに失敗させる作りへの変更を勧める例が載っています。遮断器とは、相手の失敗が続いたら一定時間呼び出しを止める仕組みのことで、待ち続けて共倒れになるのを防ぎます。

ただし、遮断器を入れれば済むわけではありません。止めている間、エージェントの作業は途中で終わります。途中まで進んだ処理を、誰がどう確かめて再開するかを業務の側で決めておかないと、試験には合格しても、実際の障害の後で中途半端な更新が残ります。エージェントに社内のデータを書き換えさせている場合は、特にこの点を試験の確認項目に入れておきます。

シナリオ3:検索の索引やデータ基盤に届かない

三つ目は、社内文書を検索してから答える仕組みや、顧客データを読んで提案を作るエージェントで、検索の索引やデータ基盤に届かなくなる場面です。前に触れたとおり、この障害は画面上「動いている」ように見えるのが厄介です。根拠となる文書が取れなくても、AIはそれらしい文章を返せてしまうからです。

Gremlin の健全性の確認は、エラーの率、要求の数、応答の遅さといった数値でサービスの状態を見ます。公式文書によれば、自動で作られる確認もこの三つの指標を使います。逆に言えば、回答に根拠が付いているか、内容が正しいかは、Gremlin の確認では測れません。この場面だけは、試験の間にAI機能へ決まった質問を投げ、根拠の文書が引用されているかを人が見る、あるいは自社の監視で「根拠なしの回答の件数」を数え、それを健全性の確認につなぐといった工夫が要ります。

ここから導かれる原則は単純です。AIの出力の品質を、障害注入の合否でAIに判断させない。試験の合否は仕組みが倒れなかったかどうかの判定であって、業務として正しい答えを返したかの判定ではありません。人が確認する範囲を、試験の計画の段階で書いておきます。

どの環境まで壊してよいか:検証・準本番・本番の線

障害注入の試験で最初に決めるのは、どの環境に向けてよいかです。Gremlin では利用者を「チーム」に分けて管理し、MCPの道具の説明によれば、チームごとに本番かどうかの区分を持っています。試験できる対象は実行役を入れた範囲に限られるので、どの環境に実行役を入れるかが、そのまま壊せる範囲の線になります。最初は検証環境だけに入れ、本番には入れないところから始めるのが無難です。

本番に広げる場合も、使える仕組みがあります。公式文書によれば、チームごとに試験を禁止する時間帯を1日最大3つまで設定でき、その時間に入ると予定の試験も実行中の試験も止まります。リリース作業の時間や、月末の締め、繁忙期の受付時間などを入れておく使い方です。設定できるのはチームの管理者だけです。注意点として、コンテナの区画を他のチームと共有している場合、相手のチームはこちらの禁止時間帯に関係なく試験できると明記されています。

もう一つ、落ちれば全体が止まると分かっている依存先には「単一障害点」の印を付けられます。印を付けた依存先は、一括実行や自動の定期実行から外れます。外部のAIの提供元を単一障害点として扱うかどうかは、技術の判断ではなく事業の判断です。代わりの手段がないなら印を付けて試験を手動に限り、代わりの手段を作る計画を別に立てる、という分け方になります。

  • 検証環境と本番に同じチームで実行役を入れ、どちらに向けた試験かを名前で区別するだけにしている
  • 禁止時間帯を設定したが、コンテナの区画を共有している別チームの試験が止まらないことを知らない
  • 外部のAIの提供元を、事業側に相談せずに単一障害点として試験から外している

試験の実行を誰が承認するか:AIに頼んだ人の権限で動く

Foresight AI の対話画面について、公式文書は利用者と同じ範囲のアクセスを持ち、試験の実行やAPIの呼び出しもできると説明しています。例として挙がっているのは「このサービスで区域の冗長性の試験を回して」という依頼です。つまり、試験を回す権限を持つ人が対話画面で頼めば、その依頼が承認として扱われます。AIが勝手に回さないことと、誰が頼んでもよいことは別の話です。

外部のAIエージェントからつなぐ入口も用意されています。Gremlin のMCPサーバーは、Gremlin が提供する版を使う場合、ログインした人の権限で動くと公式文書は書いています。読み取りの道具は確認なしで動く印が付き、試験を始める書き込みの道具は「破壊的」の印が付いて、つないだ側のAIの画面で毎回確認を求める作りです。試験を始める道具には、試験を実行する権限が必要です。この入口は Foresight AI を契約していなくても使えます。

ここから決めるべきことは、権限の配り方です。Gremlin は役割ごとに権限をまとめる方式で、会社全体の役割とチームの役割に分かれ、全試験を一斉に止める権限も独立しています。権限は足し算で効くため、複数の役割を持つ人は一番強い権限を持つことになります。試験を実行できる人を絞り、AIをつなぐときはその人のアカウントでしかつながないのが基本です。

役割持たせる権限AIとの関係
システム部門の責任者本番チームの試験の承認・禁止時間帯の設定本番向けの試験の依頼は、この人の確認を経てから
サービスの担当技術者検証チームでの試験の実行・結果の閲覧対話画面やMCPから試験を頼めるのはこの人まで
情シス・AI導入担当閲覧と、全試験の一斉停止AIへのアクセスの許可設定と、権限の棚卸し
事業部門・経営報告の閲覧のみ週報を読み、止まってよい時間の合意に加わる

AIの修正案を誰が確かめるか:試験に通っても正しいとは限らない

Foresight AI の運用役は、失敗した試験から原因を特定し、修正案を出します。料金ページの説明では、助言だけでなく具体的な設定の差分や、インフラを定義するコードの差分まで示すとしており、製品紹介の画面例では、AIが修正の変更依頼を作り、それが取り込まれたら同じ試験を再実行して直ったことを確かめる流れが描かれています。公式ブログは、試験に通らなければ直っていないとみなし、通るまで続けると説明しています。

この「試験に通るまで直す」流れには、確かめる人が必要です。試験に通ったことは、その障害に対して倒れなくなったことを示すだけで、修正がほかの機能を壊していないこと、費用を増やしていないこと、運用の手順と食い違っていないことは示しません。たとえば、メモリ不足で落ちる場面への修正として台数を増やす案は、試験には通りますが、クラウドの費用は増えます。修正案はサービスの担当者が読み、通常の変更と同じ審査を通してから取り込むという線を崩さないことです。

公式の文書は、Foresight AI の結果をAPIとMCP経由で開発の流れに組み込み、失敗した試験への修正を「コーディング用のエージェント」に実装させる使い方にも触れています。ここで避けたいのは、AIが作った修正をAIが審査し、AIが取り込む流れです。修正の提案と取り込みの間には、必ず人の承認を一つ置きます。

  • 公式は判断の根拠を独自の障害の記録集に置き、LLMには説明だけをさせると説明していますが、報道ではこれは同社の主張で、外部の検証は示されていないと指摘されています
  • 修正案の採否の記録(誰が、なぜ採用・却下したか)は、AIの週報とは別に変更管理の記録に残す

止める仕組み:健全性の確認と、一斉停止の権限

AIに試験を任せる前に、止める仕組みが働くかを確かめておきます。Gremlin の健全性の確認は、監視ツールの監視項目や警報に問い合わせ、応答の時間、状態の値、中身を基準と照らし合わせ、外れたら試験を止めて元に戻します。公式文書は、健全性の確認が一つも設定されていないサービスは、安全のため試験しないと明記しています。AI機能の担当者が普段見ている監視項目を、そのまま確認につなぐのが近道です。

気を付けたいのは、監視ツールの認証情報の扱いです。公式文書によれば、一度登録した認証情報は保存され、同じチームの他の人も再利用できます。認証情報を Gremlin に預けたくない場合は、AWS の秘密情報の管理機能から実行時に取り出す方式も選べますが、現時点ではその一つに限られます。監視ツールの読み取り専用の鍵を別に発行して登録する、といった準備を情シスの側で決めておきます。

最後の手段が、会社全体の試験を一斉に止める権限です。公式の権限表では、既定の役割の多くにこの権限が付いています。止める権限は広く配ってよい権限なので、「何かおかしいと思ったら誰でも止めてよい」と周知し、止めた人を責めないと決めておくと、AIが提案した試験を回すときの心理的な重さが下がります。

何が社外に出るか:テレメトリ、設定、そしてLLM

Gremlin はクラウドの制御基盤を中心に動くので、試験の結果、サービスの定義、依存先の一覧、監視の数値などは同社の基盤に集まります。Foresight AI の公式のよくある質問では、Foresight AI は Gremlin がすでに集めているのと同じデータを使い、すべて Gremlin の制御基盤の中にとどまると説明しています。使うAIの模型は Claude だと明記されており、今後ほかの選択肢を足す可能性にも触れています。一方、開発者向けの技術メディアの報道では、同社が閉じた模型と公開された模型をその時々で使い分けていると伝えています。契約前に、自社のデータがどの模型の提供元の、どの地域の処理を通るかを書面で確かめておくべき点です。

止める手段もあります。公式文書によれば、会社の設定にある「LLMへのアクセスを許可する」の項目を外すと、Foresight AI のアクセスを止められます。失敗した試験の原因分析の機能についても、同社は利用者の同意なしにLLMやAIのサービスへデータを送らず、学習にも使わないと明記しています。また、Foresight AI は現時点でクラウド版のみの提供で、自社の閉じたネットワークに置ける版では使えません。閉じた環境でしか試験できない会社は、ここで判断が分かれます。

依存先の一覧には、自社がどの外部サービスにつながっているかという、攻撃者にとっても価値のある情報が含まれます。Gremlin は第三者の監査報告の一つである SOC 2 の型2を取得していると公表していますが、依存先の一覧と試験の結果を、社内の構成情報と同じ機密度で扱うことを、情シスの規程に書き込んでおくと迷いません。

結果を経営・事業側にどう伝えるか:止まってよい時間の合意

Gremlin はサービスごとに0から100の信頼性の点数を出します。公式文書によれば、この点数は稼働率ではなく、チームが決めた試験への合否と、検出された危険の数から計算されます。合格は100、合格したが1か月以上再試験していないものは75、不合格は50、未実施は0として平均します。点数は試験の網羅度を示す社内の物差しであって、「何分止まるか」は示しません。経営に点数だけを見せると、点数が上がったから安心だという誤解が生まれます。

Foresight AI の進行管理役は、チームの目標と前回の状態を比べ、改善と後退をまとめた文章の報告書を作り、Slack に流します。公式文書によれば、既定の対象期間は14日で、担当者、やること、期限を付けた改善の約束を一度に最大5件まで提案し、受け入れた約束が未完了のままなら次の報告で優先事項として挙げます。報告書の文章はAIが書くので、経営に渡す前に、システム部門の責任者が数字と結論の対応を確かめる手順を一つはさみます。

事業側と合意すべきなのは、点数ではなく止まってよい時間です。たとえば「問い合わせの下書き機能は外部の提供元の障害で使えなくなってよいが、担当者が手作業に切り替えるまでの案内は1分以内に出す」「顧客向けの回答機能は根拠なしの回答を一件も出さない」といった形で、AI機能ごとに決めます。試験は、この合意を守れるかの確認として位置付けると、事業側にも結果の意味が伝わります。

費用の増え方と、やめ方

Gremlin は価格を公開していません。料金ページによれば、基盤は試験するサービスの数で、Foresight AI はチームの数で価格が決まり、チームの人数は無制限で、AIの処理量の枠も含まれるとしています。実行役の数や試験の対象数、試験の量は契約時に個別に決めるとあり、サービスを増やすほど基盤の費用が、AIを使うチームを増やすほど追加機能の費用が増える構造です。なお、料金ページでは Foresight AI を早期提供の扱いと表記しており、契約の条件は個別に確かめる必要があります。

試用は30日で、支払い情報は不要、自動で有料に切り替わらないと明記されています。試用の期間で、検証環境の一つのサービスに絞り、三つのシナリオを回し切れるかを試すのが現実的です。費用で見落としやすいのは、試験そのものより修正の費用です。AIの修正案が台数や容量を増やす方向に偏っていないかを、試験と並べて記録しておきます。

やめ方も先に決めておきます。AIだけをやめるなら、会社の設定でLLMへのアクセスを外します。基盤ごとやめる場合は、各環境から実行役を外し、監視ツールに登録した認証情報を無効にします。アプリケーションの中に障害の注入点を埋め込む仕組みについては、公式文書が、試験を流していないときは何もせず、同社の障害時にも業務に影響しないこと、開発キットは自由に使える条件で公開され、乗り換えの妨げにならないことを説明しています。

導入の段階:読むだけから、本番の限定実行まで

AIに障害注入を任せる範囲は、一度に決めず段階で広げます。各段階で次に進む条件を書いておくと、AIの提案が増えても判断がぶれません。

STEP1
依存先を読むだけ

検証環境に実行役を入れ、検出された依存先の一覧と、AIの分析役が勧める試験を読むだけにします。AI機能の担当者と一緒に、外部のAIの提供元・社内のAPI・データ基盤のどれに頼っているかを確かめます。

STEP2
止まってよい時間を合意する

AI機能ごとに、止まったときの案内と手作業への切り替え、止まってよい時間を事業側と決めます。この合意が試験の合格基準の元になります。

STEP3
検証環境で人が実行する

担当技術者が三つのシナリオを検証環境で実行し、健全性の確認で自動停止することを確かめます。AIの修正案は通常の変更審査を通します。

STEP4
定期実行と週報

検証環境で定期実行を組み、進行管理役の週報を責任者が確かめてから関係者に回します。修正の採否は変更管理の記録に残します。

STEP5
本番は限定して実行

禁止時間帯を設定したうえで、本番の試験は責任者の承認を経た依存先と時間帯に限ります。単一障害点の扱いは事業側と決め直します。

よくある質問

AIが勝手に本番で試験を回すことはありませんか

公式は、Foresight AI は利用者の承認なしに試験も修正も実行しないと説明しています。ただし、試験を回す権限を持つ人が対話画面やMCPから依頼すれば、それが承認になります。実行役を入れる環境と、試験を実行できる人を絞ることが、実際の歯止めになります。

外部のAIの提供元そのものを壊すことになりませんか

なりません。依存先の遮断や遅延の試験は、自社のサービスの側で通信を止めたり遅らせたりして、届かない状態を再現するものです。提供元に負荷をかける試験ではないので、負荷試験のように相手先へ事前に知らせる必要は通常ありません。

監視ツールを使っていなくても始められますか

公式文書によれば、AWS、Google のクラウド、Azure などでは、エラーの率、要求の数、応答の遅さから自動で健全性の確認を作る機能があります。ただし、AIの回答の品質は測れないので、根拠の有無などは別に確かめる必要があります。

日本語での支援はありますか

公式サイト、文書、対話画面の説明は英語です。日本語での支援体制は公表されていないため、契約前に問い合わせ、障害時の連絡の言語と時間帯を確かめておくべき点です。

まとめ

Gremlin の Foresight AI は、障害をわざと起こす試験の提案から実行、修正案、週報までをAIエージェントが担い、承認なしには試験も修正も実行しないと公式が説明しています。社内のAI機能が、外部のAIの提供元、社内のAPI、データ基盤のどれかが落ちたときに安全に止まるかを確かめる道具として、検討の価値はあります。ただし、承認は頼んだ人の権限で行われ、試験の合否はAIの回答の正しさを示しません。壊してよい環境、試験を実行できる人、修正を取り込む前の審査、止まってよい時間の合意の四つを先に決め、検証環境で読むだけの段階から始めてください。AIに試験を任せるほど、人が決めておくことは増えます。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。

うちの業務、AIで何が自動化できる?

「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。

運営会社:株式会社デボノ

目次