AI事故の指揮が止まる原因とCYGNVS|別系統に載せる判断

「AIの回答が顧客に誤った案内をしていると分かったら、誰が止めて、誰に連絡するのか決まっていない」「サイバー攻撃の訓練はしているが、AIの事故もその手順で回せるのか分からない」——AIを業務や顧客対応に入れた企業の、情報システム部門とリスク管理の担当から出てくる声です。米国の CYGNVS が保険仲介大手のマーシュと2026年10月に公表した調査では、9,500を超える回答のうち約9割の組織がすでにAIの事故を経験し、AIの事故専用の別系統の環境を持つのは3社に1社にとどまると報告されています。足りないのは、AIを監視する道具ではありません。事故の日に、疑わしいAIから離れた場所で指揮し、記録し、報告する段取りです。この記事では、CYGNVS が2026年6月に一般提供を始めたAIの事故向けの指揮機能を手がかりに、AIの事故で指揮が止まる原因、専用の基盤に載せるか既存のサイバー危機対応・事業継続計画の延長で足りるか、載せる記録と社外に出るもの、基盤のAIにさせない判断、費用と止め方を整理します。画面の操作や料金の一覧は扱いません。
カメ先生AIの事故は、ふだんのサイバー攻撃の手順で回せると思われがちなんだ。でも本当は、誤回答や偏りは攻撃ではないから、攻撃を前提にした手順の入り口が開かないことが多いんだよ。
カメ子攻撃されたわけではないから、そもそも事故として扱い始めるきっかけがない、ということですか。
カメ先生そう。しかも相談に使うチャットや、要約に使うAIそのものが疑わしい場合もある。だから、どこで指揮を執るかを先に決めておく必要があるんだ。
カメ子道具を増やす話というより、事故の日の居場所と順番を決める話なんですね。
- CYGNVS は社内の連絡網から切り離した別系統の危機対応基盤で、2026年6月に自社のAIの事故を扱う指揮機能を一般提供した
- AIの事故で指揮が止まるのは、攻撃ではないため手順が起動しない、疑わしいAIと同じ連絡網で相談する、報告の型がない、の三つが重なるから
- 専用の基盤に載せるかは、顧客向けのAIの規模・海外の規制・社外の関係者の数で決め、判断と公表は人が持つ
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
CYGNVSとは:社内の連絡網が使えない日に動く、別系統の危機対応基盤
CYGNVS は米カリフォルニア州に拠点を置く会社で、ランサムウェアなどのサイバー攻撃を受けたときの危機対応を、社内の単一認証・メール・基盤から切り離した別系統で指揮するための基盤を提供しています。攻撃を受けると、社内のメールやチャットが使えない、あるいは攻撃者に読まれている恐れがあり、対応の相談そのものを社内の道具でできなくなります。そこで、本番とは別の本人確認と別の連絡の場を用意し、経営・法務・広報・外部の専門家が同じ場所で動けるようにする、というのが同社の出発点です。
公式サイトでは、3,000を超える組織が71か国で使い、週に50件を超える重大な事故がこの基盤の上で扱われていると説明しています。顧客のロゴには保険会社や保険仲介会社が多く並び、東京海上グループの海外の保険会社も掲載されています。2023年1月には Andreessen Horowitz 主導で5,500万ドルのシリーズAを調達したと発表しており、今回確認した範囲では買収や社名変更の報道はありません。本業はサイバー攻撃の危機対応であり、AIの事故向けの機能はその上に足されたものだという点を、まず押さえておく必要があります。
同社が特許と説明する機能に、社内の認証が落ちていても使える別系統の本人確認と、許可した参加者だけに対応の場を閉じる隔離モードがあります。情報セキュリティの認証としては ISO 27001 と SOC 2 の表示があります。ログインの窓口は米国・欧州・英国・カナダ・豪州・インドに分かれていますが、日本の窓口は公式サイトで確認できませんでした。データの置き場所は契約前に確かめるべき項目です。
2026年の動き:AIの事故を扱う指揮機能の一般提供と、9割の調査
2026年6月、CYGNVS はAIの事故を扱う指揮機能を一般提供しました。報道と公式ページによれば、対象はモデルの偏り、もっともらしい誤り、データの漏えい、エージェントの暴走、プロンプトの乗っ取り、複数のエージェントのかみ合わない動きの六つです。準備(業種・地域・事故の型ごとの手順書)、演習(机上演習)、対応(記録が残る一つの場での調整)、報告(規制当局向けのひな形)の4段階を扱うと説明しています。
報告のひな形については、拘束力のある法令56本と、推奨される枠組み47本を追跡しているとしています。例として挙がっているのは、欧州のAI法、米コロラド州とカリフォルニア州のAI法、ニューヨーク市の採用に使うAIの規制、米食品医薬品局のAIと機械学習の指針、英国の金融行為規制機構の枠組み、シンガポールのAIガバナンスの枠組みなどです。公式ページの例に日本の法令は挙がっておらず、国内の制度にどこまで対応しているかは問い合わせて確かめる必要があります。
10月には、マーシュと共同でまとめた調査を公表しました。約9割がAIの事故を経験した一方、事故対応の計画を見直す頻度が年1回以下の組織が84%、規制当局への通知の手順を決めていない組織が52%、机上演習をまったくしていない組織が17%でした。誰がいつ何をしたかの記録に欠けがあると認めた組織は69%、AIの事故が起きたら即興で対応すると答えた組織は約半数あったと報告しています。同社の基盤を売る側の調査である点は割り引いて読むべきですが、どこが手薄かを点検する材料にはなります。
課題:AIの事故が起きた日、指揮はどこで止まるのか
AIの事故の初動を一般論として整理した記事は多くあります。ここで扱うのはその手前の、事故だと分かっても、指揮が動き出さない・途中で止まるという問題です。サイバー攻撃なら、監視の担当が警報を受け、手順書に沿って責任者を呼び、外部の調査会社と弁護士に連絡するという流れが、多くの企業ですでに形になっています。
ところがAIの事故では、たとえば顧客向けのチャットが誤った料金を案内していた、社内向けのエージェントが権限外の共有フォルダから資料を引いて回答していた、という知らせが、問い合わせ窓口や営業から非公式に上がってきます。その時点で、これは障害なのか、品質の問題なのか、情報漏えいなのかが決まらず、誰が責任者かも決まらないまま半日が過ぎる、というのが典型的な止まり方です。
この記事では止まる原因を四つに分け、それぞれに対策を当てていきます。CYGNVS のような専用の基盤は、その対策の一部を引き受けますが、全部ではありません。基盤を入れるかどうかの判断は、四つの原因のうち、自社でどれが一番重いかで決まります。
原因1:疑わしいAIと同じ連絡網の上で、対応を相談している
CYGNVS がAIの事故向けの機能を説明するときに強調しているのは、調べられているAIに、対応の相談そのものを見られない・左右されない場所で指揮するという点です。報道によれば、こうした仕組みがない場合、対応の担当はメールや社内チャットに頼ることになり、そこには調査対象のAIが接続していることがある、と同社は説明しています。
これは誇張に聞こえるかもしれませんが、社内のメールやチャットの要約、議事録の自動作成、社内文書の検索にAIエージェントをつないでいる企業では、現実的な問題です。事故の相談をしているチャットの内容を、事故を起こしたエージェントが次の回答の材料として読み込む、要約機能が事故の経緯を誤って要約して経営に上げる、といったことが起こりえます。原因が分からない段階では、AIがつながっている道具を対応の場に使わない、というのが原則になります。
一方で、すべての企業が別系統の基盤を契約する必要があるわけではありません。AIを社内の連絡網に深く組み込んでいない企業なら、電話会議の番号、個人の連絡先の一覧、紙の手順書といった、AIと切り離された手段を決めておくだけで足りることもあります。問題は、それが事故の日に誰でも分かる形で決まっているかです。
原因2:誤回答や偏りは攻撃ではないため、サイバーの手順が起動しない
既存のサイバー危機対応の手順書は、多くが「攻撃を検知した」「不正な侵入の疑いがある」を入り口にしています。ところがAIの事故の多くは、外部からの攻撃がありません。誤回答・偏り・権限の付けすぎによる漏えいは、正しく動いた結果として起きるため、警報も鳴らず、手順書のどの入り口にも当てはまりません。
CYGNVS が対象に挙げる六つの型のうち、プロンプトの乗っ取りは攻撃に近く既存の手順に乗せやすい一方、偏り、もっともらしい誤り、複数のエージェントのかみ合わない動きは、情報セキュリティの部門ではなく、事業部門やAIの推進担当が最初に気づく型です。誰が「これは事故だ」と宣言できるのかが決まっていないと、品質の問題として改善の依頼が出されるだけで、顧客への影響の範囲を数える作業も、記録の保全も始まりません。
ここで必要なのは基盤より先に、AIの事故を事故として扱い始める条件を、文章で決めておくことです。たとえば「顧客に誤った条件を案内した」「権限外の情報を回答に含めた」「エージェントが人の承認なしに外部へ送信した」のどれか一つに当たれば、規模にかかわらず事故として宣言する、という形です。
原因3:責任者と社外の連絡先が、AIの事故用に決まっていない
サイバー攻撃では、情報セキュリティの責任者が指揮を執り、外部の調査会社・弁護士・保険会社の連絡先が手順書に並んでいる、という企業は少なくありません。AIの事故では、指揮を執るのが情報セキュリティの責任者なのか、AIの推進担当なのか、顧客対応の部門長なのかが決まっていないことが多く、決まっていない分だけ、最初の数時間が責任者探しに使われます。
社外の連絡先も同じです。CYGNVS の調査では、危機広報の計画を持つ組織は88%あった一方、その計画が頼りにする外部の専門家を確保していない組織が4割を超えたと報告されています。AIの事故で特に抜けやすいのは、AIの提供元(モデルやエージェントの基盤のベンダー)と、そのAIを組み込んだ委託先の窓口です。原因の切り分けにはベンダーのログが要りますが、事故の日に初めてサポートの窓口を探すと、契約の範囲や応答の時間でつまずきます。
CYGNVS は、事故の前に外部の専門家(社外の弁護士、調査会社、広報会社など)を基盤に登録しておけると説明しています。登録しておけば事故の日に連絡先を探す手間は減りますが、誰を呼ぶか、どの契約で呼ぶかを決めるのは自社です。基盤は名簿の置き場所であって、名簿の中身は作ってくれません。
原因4:報告の型が、国内外の制度ごとに揃っていない
AIの事故は、個人情報の漏えい、消費者への誤認、採用での差別、医療や金融の規制など、複数の制度に同時に触れることがあります。CYGNVS の調査では、規制当局への通知の手順を決めていない組織が52%ありました。どの制度で、いつまでに、誰が、何を報告するかが決まっていないと、法務が条文を読み始めるところから報告の準備が始まります。
国内では、個人データの漏えいのおそれがあれば、個人情報保護委員会への報告と本人への通知の義務が動き、速報はおおむね3〜5日以内、確報は30日以内(不正の目的によるものは60日以内)とされています。AIが権限外の顧客情報を回答に含めて第三者に見せた場合、これに当たる可能性があります。海外に拠点や顧客がある企業は、欧州のAI法など海外の制度も重なります。CYGNVS のひな形は海外の制度が中心なので、国内の報告の型は自社で用意する前提で考えるのが安全です。
報告で問われるのは、いつ気づき、何を止め、どこまで影響が及んだかの時系列です。調査で69%が「誰がいつ何をしたか」の記録に欠けがあると答えている点は、報告の質に直結します。CYGNVS が対応の場の記録をそのまま報告のひな形に流し込むと説明しているのは、この欠けを埋めるための設計です。
対策1:既存の危機対応・事業継続計画の延長で足りる会社、足りない会社
四つの原因を見ると、専用の基盤が効くのは主に原因1(別系統の場)と原因4(記録と報告のひな形)で、原因2(事故として扱い始める条件)と原因3(責任者と社外の連絡先)は自社で決めるしかありません。そのうえで、既存の手順の延長で足りるか、専用の基盤に載せるかは、次の表のような条件で分かれます。
| 判断の観点 | 既存の手順の延長で足りる | 専用の基盤を検討する |
|---|---|---|
| AIの使い方 | 社内の文書作成・要約が中心 | 顧客向けの回答や、外部へ送信するエージェントがある |
| 社内の連絡網とAI | メール・チャットにAIをつないでいない | 連絡網の要約・検索にAIが深く入っている |
| 規制と拠点 | 国内だけ・個人情報の報告が中心 | 海外の拠点・顧客があり、複数の制度に報告しうる |
| 社外の関係者 | ベンダー1社と顧問弁護士程度 | 保険会社・調査会社・委託先など多数 |
| 既存の危機対応 | サイバーの危機対応も小規模 | すでにサイバーの危機対応基盤を検討・利用している |
表の右側に多く当てはまる企業ほど、専用の基盤の価値が出ます。逆に、左側が中心の企業がいきなり基盤を契約しても、事故として扱い始める条件や責任者が決まっていなければ、空の指揮所を借りるだけになります。サイバー攻撃向けの危機対応基盤をすでに検討している企業なら、AIの事故を同じ基盤の上で扱えるかを確かめるのが近道です。
対策2:別系統に載せるなら、何を載せ何を載せないか
専用の基盤に載せるとは、事故の記録を社外の基盤に置くということです。何が社外に出るかを先に整理しておかないと、事故対応のために別の情報管理の問題を作ることになります。載せるのは、手順書、連絡先の一覧、役割の割り当て、事故の時系列、判断の記録、報告の下書きが中心になります。
迷うのは、事故の証拠そのものです。誤った回答の実例には顧客の氏名や問い合わせの内容が含まれ、漏えいの事故なら漏えいした情報の写しが証拠になります。これを外部の基盤にそのまま貼れば、漏えいした情報をもう一か所に広げることになります。証拠の原本は社内の保全場所に置き、基盤には保全した場所と件数・範囲だけを書くという線を引くのが無難です。
CYGNVS は、役割ごとのアクセス制御、閲覧の記録への電子署名、証拠の受け渡しの記録を自動で保つと説明しています。米国の訴訟で問われる弁護士との秘匿特権の保持も挙げていますが、これは米国の手続きを念頭に置いた機能で、日本の手続きで同じ効果があるとは限りません。データの保管地域、保存期間、解約後の削除、基盤のAIの学習に自社のデータが使われるかは、契約前に書面で確かめます。
- CYGNVS AI の学習について、公式ページは「匿名化・集約した事故のパターンを使い、顧客のデータは共有しない」と説明している
- 自社の事故の記録が学習や他社向けの助言に使われないかは、契約書の条項で確かめる
- 日本のログイン窓口は公式サイトで確認できなかったため、データの保管地域は個別に確認が必要
対策3:演習を、AIの事故の型で回す
CYGNVS の調査では、机上演習をまったくしていない組織が17%、1〜2年に1回しかしていない組織が66%でした。サイバー攻撃の演習をしている企業でも、AIの事故の型で演習した企業はまだ少ないはずです。AIの事故の演習で確かめたいのは、技術的な復旧の速さよりも、事故として宣言するまでの時間と、止める判断を誰が下すかです。
演習の筋書きは、自社で実際に使っているAIから作ります。CYGNVS は手順書を事故の型・業種・地域ごとに作ったり取り込んだりでき、演習の振り返りの報告は5分以内に作れると説明していますが、筋書きの中身が一般論では、自社の弱点は見つかりません。
顧客向けのチャットが誤った料金を案内した、社内のエージェントが権限外の資料を引用した、など、自社のAIで起こりうる一件に絞る。
情報セキュリティの部門ではなく、問い合わせ窓口や営業が最初に気づく設定にし、誰に、どの手段で知らせるかを確かめる。
AIを止めると業務も止まる場面を入れ、止めるか、範囲を絞って続けるかを誰が決めるかを演じる。
顧客・当局・ベンダー・保険会社への連絡の下書きを作り、承認の順番と時刻を記録する。
誰がいつ何をしたかの記録だけで経緯を再現できるかを確かめ、抜けた判断の理由を手順書に戻す。
演習の頻度は、AIの使い方が変わるたびに見直します。新しいエージェントに外部への送信の権限を渡したときや、顧客向けのAIの対象を広げたときは、次の演習の筋書きに、その変更を入れることを運用の決まりにしておくと、手順書が古いまま残るのを防げます。
対策4:基盤に付いたAIにさせること、させないこと
CYGNVS は、自社のAI(CYGNVS AI)が、対応中に役割ごとの要約を出す、手順書を作って業界の標準と比べる、演習の振り返りを作る、報告の下書きを埋める、と説明しています。学習には、マーシュと共同で集めた実際の事故や障害2万5千件超のパターンを使ったと公式ページにあります(報道では保険業界の重大事故2万件超とされています)。
事故の最中にAIの助言を使うこと自体は、時間の節約になります。ただし、AIの事故の対応で、AIに判断させないという線は外せません。止めるか続けるか、顧客に公表するか、当局に報告するか、ベンダーとの契約上の責任をどう主張するかは、人が決めます。AIの要約は下書きとして受け取り、事実の確認は記録の原本に当たって人がします。
- 基盤のAIが出した影響範囲の見積もりを、そのまま当局への報告に書く
- AIが提案した手順書を、自社の業務に照らさずに採用する
- 演習の振り返りの報告をAIの生成のまま配り、抜けた判断を議論しない
- 公表文の下書きを、法務と広報の確認前に社外へ出す
AIに助言を出させるなら、根拠を書かせることも決めておきます。どの手順書のどの項目に基づく助言か、どの事故の型に当てはめたかが示されなければ、採るか捨てるかを判断できません。採った助言と捨てた助言を、理由とともに記録に残しておくと、後の報告と振り返りでそのまま使えます。
社外への連絡:顧客・当局・保険会社・委託先の型
AIの事故で連絡が必要になる相手は、サイバー攻撃より広がりがちです。顧客には誤った案内の訂正、当局には法令に沿った報告、保険会社には事故の通知、AIのベンダーや委託先には原因の調査の依頼と記録の保全の依頼が要ります。相手ごとに、誰が承認して誰が送るかを事前に決めておくことが、指揮が止まらないための最後の条件です。
保険会社への連絡は見落とされがちです。CYGNVS の顧客や提携先には保険会社や保険仲介会社が多く、2026年9月には保険業界の団体が同社を事故対応の基盤として採用したと発表しています。サイバー保険の契約によっては、事故を知ってからの通知の期限や、保険会社が指定する調査会社を使う条件が付いていることがあります。AIの事故がその保険の対象になるかどうかも含めて、保険の約款を事故の前に読んでおく必要があります。
委託先との関係も整理しておきます。AIを組み込んだシステムを外部の開発会社が運用している場合、ログを持っているのは委託先で、止める操作ができるのも委託先ということがあります。契約に、事故の際のログの提出、止める操作の応答時間、記録の保全の義務が書かれているかを確かめ、書かれていなければ次の更新で足します。
費用の増え方と、止め方・やめ方
CYGNVS の料金は3段階のプランで示されていますが、価格は公開されておらず、いずれも営業への問い合わせです。公式の料金ページによれば、机上演習の支援と事故・規制の報告は中位以上のプランに含まれ、外部システムとの連携、一斉の緊急通報、利用者数の無制限は上位のプランだけです。AIの事故で欲しい報告のひな形は、下位のプランに入っていない点に注意が必要です。上位2プランには情報セキュリティの責任者個人の賠償責任保険(AIG が引き受け、最大300万ドル)が付くと同社は説明しています。
費用が増えるのは、利用者の数、外部の関係者を何社登録するか、演習の回数と支援の有無、外部システムとつなぐかどうか、のあたりと考えられます。同社は「7日でAIの事故に対応できる状態になる」とうたっていますが、これは基盤の設定の話で、事故として扱い始める条件や責任者を社内で決める時間は含まれていないと見るべきです。
止め方とやめ方も、契約前に決めておきます。基盤そのものが使えなくなったときに備え、連絡先の一覧と最小限の手順書は、基盤の外にも紙か別の手段で持つことが前提です。解約するときは、事故の記録と演習の記録を自社が読める形で書き出せるか、書き出したあとの削除の証明が出るか、法令で保存が求められる期間の記録をどこに移すかを確かめておきます。
導入前に確かめる項目
ここまでの整理を、契約前の確認の一覧にまとめます。上の半分は基盤を入れるかどうかにかかわらず自社で決めること、下の半分は CYGNVS に問い合わせて確かめることです。
- AIの事故として扱い始める条件を、文章で決めているか
- AIの事故の指揮を執る責任者と、不在のときの代理を決めているか
- AIのベンダー・委託先の事故時の窓口と、ログの提出の取り決めがあるか
- AIがつながっていない連絡手段(電話・個人の連絡先・紙の手順書)があるか
- 国内の報告(個人情報保護委員会など)の型と、承認の順番を決めているか
- 基盤に載せる記録と、社内の保全場所に残す証拠を分けているか
- データの保管地域、保存期間、解約後の削除、学習への利用の有無を書面で確かめたか
- 日本の法令がひな形の対象に入っているか、入っていない場合の扱いを確かめたか
- 欲しい機能(演習の支援・報告・外部連携)がどのプランに含まれるかを確かめたか
- 基盤のAIの助言を採るか捨てるかを、人が判断して記録する決まりがあるか
一覧の上の半分が埋まっていない段階では、基盤の比較より先に社内の決めごとを作るほうが効果があります。逆に、上の半分が埋まっていて、AIを社内の連絡網に深く組み込んでいる企業ほど、別系統の基盤に載せる意味が大きくなります。
よくある質問
CYGNVS はAIの監視ツールですか
いいえ。公式ページの説明は、AIの事故が起きたあとの準備・演習・対応・報告を扱う指揮の基盤で、AIの出力を常時監視して異常を見つける製品ではありません。報道では、AIの導入先と連携して不具合の兆しを集め、合う手順書を起動すると説明されていますが、どの道具とどうつなぐかは個別に確かめる必要があります。
サイバー攻撃の危機対応の基盤をすでに使っていれば、それで足りますか
足りる部分と足りない部分があります。別系統の連絡の場と記録の仕組みは流用できますが、AIの事故として扱い始める条件、AIのベンダーへの連絡、AI固有の報告の型は、サイバー攻撃の手順書には入っていないことが多いため、既存の手順書にAIの事故の型を足す作業が要ります。
中堅企業でも専用の基盤は必要ですか
必須ではありません。顧客向けのAIや外部へ送信するエージェントがなく、国内だけで事業をしているなら、AIと切り離した連絡手段と、事故として扱い始める条件、責任者、報告の型を文書で決めることが先です。規模より、AIの使い方と社外の関係者の数で判断します。
まとめ
AIの事故で指揮が止まるのは、攻撃ではないため手順が起動しない、疑わしいAIと同じ連絡網で相談している、責任者と社外の連絡先が決まっていない、報告の型が揃っていない、という四つが重なるからです。CYGNVS のような別系統の危機対応基盤は、指揮の場と記録・報告のひな形を引き受けますが、事故として扱い始める条件や責任者、国内の報告の型は自社で決めるしかありません。顧客向けのAIや外部へ送信するエージェントがあり、海外の制度や社外の関係者が多い企業ほど、専用の基盤に載せる意味は大きくなります。いずれの場合も、止める判断と公表の判断は人が持ち、基盤のAIの助言には根拠を書かせ、採否を記録に残すことから始めてください。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
