AIで作られた詐欺メールは見分けられない｜組織で止める備え

「日本語が不自然なメールなら気づけると、ずっと研修で教えてきました」「その教え方が、もう通じない気がします」——情報システム部門と総務から同時に上がってくる声です。感覚の問題ではなく、公表資料の側が先に前提を書き換えています。情報処理推進機構が2026年1月29日に公表した「情報セキュリティ10大脅威 2026」では、組織向けの3位に「AIの利用をめぐるサイバーリスク」が初めて入り、その説明として、翻訳の能力が上がったことで、だましのための文面を標的の母国語で違和感なく表現できるようになったと明記されました。つまり文面の粗さを手がかりにする見分け方は、もう組織の防御の中心には置けません。この記事では、見分ける力に頼らず、組織の手順で詐欺メールを止める備えを整理します。

「日本語が不自然だから気づけた」が手がかりにならなくなった

まず、前提が変わったことを数字ではなく文言で確認します。情報処理推進機構の2026年版の資料は、AIをめぐるリスクの説明のなかで、翻訳の機能と能力が上がったことにより、ウェブページの翻訳やだましのための文面を、標的の母国語で違和感なく表現することが可能になったと書いています。続けて、言語の壁を実質的に乗り越え、多言語での攻撃が格段に容易になったとも書かれています。攻撃側が日本語を書けるかどうかは、もう条件ではなくなりました。

同じ資料は、生成AIを攻撃の助手として使うことで、出来事の頻度と数量が増え、平均的な攻撃の技術水準が高まるとしています。ここは読み方に注意が必要です。とんでもなく高度な攻撃が来るようになった、という話ではありません。これまで下手だった攻撃の下限が引き上がり、数が増えたという話です。だから守る側で崩れるのは、最先端の対策ではなく「粗い攻撃なら人が気づく」という前提に依存していた部分です。

順位の側も見ておきます。組織向けの10位に「ビジネスメール詐欺」が入っていて、2018年の初選出から9年連続で9回目です。派手な順位ではありませんが、9年間ずっと選ばれ続けているという事実のほうが、実務では重い情報です。手口が新しくないのに減らない領域は、技術ではなく手続きの側に穴が残っていることを意味します。

なお、この記事では自社が騙られる側、つまり自社の名前で偽のメールや偽のサイトが出回る話は扱いません。ここで扱うのは受け取る側の防御に限ります。自社が受け取るメールで、金が動く判断を守ることが目的です。

数字は件数ではなく、1件あたりの金額で見る

米国の捜査機関が運営する通報窓口が公表した2025年の年次報告を材料にします。この年の申告は1,008,597件、被害額は208億7,700万ドルで、前年から26%増えました。平均の被害額は20,699ドルです。ここまでは全体の話で、そのまま日本の実務に当てるものではありません。使いたいのは内訳の偏りです。

種類別に見ると、件数で最も多いのはだましのメールやなりすましで191,561件です。一方でビジネスメール詐欺は24,768件しかありません。ところが被害額は約30億4,660万ドルで、投資関連に次ぐ2番目です。1件あたりに直すと約12万3,000ドルで、全体の平均の6倍近くになります。件数の少なさで安心する種類ではないということです。

さらに細かい数字があります。同じ報告のなかで、AIが関わっていると申告された案件は22,364件、被害額は8億9,335万ドルとされています。そのうちビジネスメール詐欺として分類されたのは135件で、被害額は3,000万ドルを超えます。単純に割ると1件あたり20万ドルを超え、種類全体の平均よりさらに大きい計算になります。件数が少ないのは、AIが使われたと被害者が気づけないだけかもしれません。

この3つの数字を並べると、社内で説明すべき順序が決まります。頻度で語ると軽く見え、金額で語ると重く見える。決裁者に持っていくときは、月に何件届くかではなく、1件通ったときにいくら出ていくかで話を組み立ててください。

日本国内でも、同じ形の被害が公表されている

海外の統計だけでは社内が動きません。国内の公表事例を2つ押さえます。1つは、2025年1月に、米国を拠点とする製造委託先からの虚偽の支払依頼に子会社が応じてしまったと、上場企業のモダリスが公表した件です。被害額は日本円で約1,400万円でした。

この事例で見るべきは金額ではありません。虚偽のメールは、相手方担当者の正規のメールアドレスから送信されていました。内容もタイミングも的確で、一定期間にわたって相手方のメールを盗み見ていたと推測されると公表資料に書かれています。送信元のドメインを見ても、文面の日本語を読んでも、この形は判別できません。

もう1つは、2025年12月以降に相次いだ形です。社長や役員になりすましたメールが従業員に届き、無料通話アプリのグループを作ってほしいという簡潔な依頼をする。ほとんど本文がないので、不自然さを探しても何も出てきません。運営事業者と警視庁がそれぞれ2026年1月に注意を呼びかけ、少しでも不審に感じたら周囲や警察に相談するよう促しています。文面が短いほど、文面での判別は効かなくなるという逆説がここにあります。

狙われているのは文面ではなく、判断が1人に閉じる瞬間

手口の中身に踏み込む前に、共通点を1つ置きます。どの形でも、攻撃側が最後に必要とするのは1人の担当者が単独で完結できる操作です。振込先の口座を書き換える、支払いを実行する、アカウントの情報を返信する。相手が自然な日本語を書けるようになったことは、この最後の1手を通しやすくしただけで、狙う場所は変わっていません。

情報処理推進機構の資料は、準備の段階についても書いています。取引に関わるメールのやり取りを盗み見て、取引や請求の情報だけでなく、その業務に関与している関係者の情報も手に入れる。つまり誰に頼めば1人で処理してもらえるかを、先に調べられているという前提で考える必要があります。組織図が公開されている会社ほど、この下調べは容易になります。

だから対策の設計は、文面を見る精度を上げる方向ではなく、1人で完結できる操作を減らす方向に向けます。以下の章はすべてこの1点の言い換えです。見分けられないことを認めたうえで、通らない手続きを組む。これがこの記事の骨格です。

受け取る側が確かめる項目を、型ごとに固定する

手口を型で押さえます。ここで書くのは攻撃の手順ではなく、受け取った側が何を確かめれば止まるかです。公表資料が挙げている装いの種類に対して、確認する相手と確認の経路を先に決めておきます。決めておく理由は単純で、届いてから考えると、急いでいる状況では必ず省略されるからです。

装いの種類	依頼の中身によくあるもの	受け取った側が確かめること	確かめる相手と経路
取引先を装う	請求書の口座が変わった、今回だけ別口座へ	口座の変更の事実そのもの	台帳に登録済みの代表番号へ自社から発信
経営者や役員を装う	至急の送金、他の従業員には秘密	本人がその指示を出したかどうか	本人の内線か、直属の上位者に直接
社外の権威ある立場を装う	手続きの都合で先に振り込んでほしい	そもそも自社の取引に関係があるか	法務と経理の両方に同時に照会
取引先の担当者の受信箱ごと乗っ取る	過去のやり取りの続きとして届く	金額と支払先が前回と同じか	口座の名義を金融機関に照会

表の右端が要点です。確かめる経路を、届いたメールの中に書かれた連絡先にしない。これを外すと、確認したつもりが相手への確認になります。連絡先は台帳から引くと決め、台帳の更新は経理と営業のどちらが持つかまで書いておきます。

なお、公表資料には、生成AIで経営者の声や画像を作ってだます手口も確認されていると書かれています。音声や動画そのものへの備えはこの記事の範囲外ですが、確認の設計に1つだけ影響します。電話で確認する場合は、必ず自社から掛ける。掛かってきた電話で本人性を判断しない、と決めるだけで足ります。

前提を置き換える：見分ける訓練から、止める手順へ

ここから運用の話に入ります。最初にやるのは、社内の言い方を変えることです。「怪しいメールに注意」という掲示を、「支払先が変わる依頼は、内容にかかわらず止める」という掲示に置き換えます。前者は個人の技量に依存し、後者は手続きに依存します。同じ注意喚起でも、依存先が違います。

言い方を変えるだけで効く理由は、判断の対象が狭くなるからです。「怪しいかどうか」は無限に判断の余地がありますが、「支払先が変わるかどうか」は事実の確認で済みます。担当者に判定を求めるのをやめ、分類だけを求める。分類なら、経験の浅い担当でも間違えません。

この置き換えを実際にやると、たいていの会社で最初に問題になるのは例外の扱いです。急ぎだから今回は飛ばす、という運用が過去に何度あったかを先に洗うことをおすすめします。例外が過去に通っていた事実を認めないまま規程を作ると、同じ例外がそのまま残ります。

• 「不自然な日本語に注意」だけを掲示に残す。文面の粗さは、もう前提にできない
• 怪しいと思ったら止めるという書き方。担当者に判定の責任が残り、判定を間違えた人が責められる
• 金額の大きいものだけ確認すると決める。口座の変更は金額とは無関係に起きる
• 研修の到達目標を「見分けられること」に置く。見分けられないことが出発点になっていない

止め方の中心：支払先の変更は、こちらから別経路で確かめる

公表資料が挙げている対策のうち、実務でいちばん効くのはここです。振込の依頼や口座の変更の依頼があった場合、普段の連絡手段以外に、あらかじめ取り決めた別のルートで確認し、電話やメール単体では絶対に受け付けないと明記されています。「別のルート」を事前に取り決めておくところまでが対策で、届いてから探すのでは間に合いません。

取り決めの実体は、取引先ごとの連絡先台帳です。項目は4つで足ります。会社名、確認先の部署名、自社から掛ける電話番号、その番号を最後に確認した日付。最後に確認した日付を持つのが要点で、これがないと台帳が古びていることに気づけません。年に1回、請求書の突き合わせのついでに更新するのが現実的です。

もう1つ、公表資料は金融機関への照会も挙げています。指定された口座の名義等を金融機関に確認する、という手です。取引先の会社名と口座名義が一致しないケースはここで止まります。経理が独力で使える確認手段を1つ持っておくと、相手先に連絡が取れない時間帯でも止められます。

二人で見る範囲は、金額ではなく「変更」で決める

複数人で確認する仕組みについて、公表資料は2か所で触れています。金銭の支払いの業務は、複数人での審査と承認の流れを作り、単独で判断を完結させない。そしてAIをめぐるリスクの対策としても、決裁と承認の過程に複数名によるチェックを規程化し、運用を徹底すると書かれています。手口が巧妙になったことへの備えが、技術ではなく承認の設計として挙げられている点に注目してください。

ここで実務がつまずくのは線引きです。金額で線を引くと、たいてい機能しません。攻撃側は社内の決裁基準を下調べしていることがあり、線の下を狙われます。線は金額ではなく「変更があるかどうか」で引くのが実用的です。口座が変わる、支払先の名義が変わる、支払期日が前に動く。この3つのいずれかがあれば、金額に関係なく二人で確認します。

二人目に誰を置くかも決めておきます。同じ課の隣の席では効きません。同じメールを見ているので、同じ思い込みをします。二人目は取引の経緯を知らない人がよいのが原則です。経緯を知らない人は「前回と同じですか」と聞けます。この一言が、盗み見られたやり取りの続きとして届いたメールに対して、いちばんよく効きます。

急がせる依頼の扱いを、規程に1行だけ入れる

公表資料は、手口の特徴として「緊急」や「他の従業員には秘密」と申し添える形を挙げています。加えて対策の側では、至急の対応を要求して真偽を判断する時間を与えない手口があるため、真偽を確認する流れをあらかじめ決めておくことを求めています。この2つを合わせると、規程に入れる文は1行で済みます。

入れる1行は「急ぎであることは、確認を省く理由にならない」です。運用としては、急ぎの依頼が来たときに省くのではなく、確認の所要時間を先に相手に伝える形にします。「口座の変更は台帳の番号で確認するため、当日中の対応はできません」と定型文で返す。相手が本物なら困りません。

「他の従業員には秘密」という条件が付いた依頼の扱いも、同じく1行で決めます。秘密にするよう指示された依頼は、その事実を上位者に報告する。役員本人からの正当な指示であれば、報告されて困ることはないはずです。困る形の指示が正当でないことを、規程の側で先に宣言しておきます。

受け取る側の技術的な備えは「開いた後」を前提に組む

技術面は、この記事では受け取る側の最低限に絞ります。公表資料が挙げているのは、メールのアカウントの認証設定を適切に運用すること、そして通信の途中で割り込んで認証を奪う手口への備えとして、パスキーやデバイスの認証といった強固な多要素認証を採用することです。文字を打ち込む形の確認だけでは、盗んで使い回されます。

もう1つ挙げられているのが、私有のメールアドレスを業務に使用しないという点です。地味ですが、これが崩れると台帳もルールも意味を失います。確認の経路が管理外に出た時点で、組織の手順は個人の判断に戻ります。持ち込みの端末や個人の連絡手段を業務で使っている範囲を、先に洗い出しておく必要があります。

公表資料は、社内のメールに電子署名を付ける方式の導入も挙げています。社内から来たように見えるメールについて、署名の有無で見分けられるようにする考え方です。導入の判断はここでは踏み込みませんが、同機構が示している姿勢は一貫して「多層防御」で、1つの手段で止めきる想定を置いていません。加えて対策の一覧には、体制の整備や予算の確保と並んで、保険の検討も挙げられています。止めきれない前提で、残る損失をどう受けるかまでが対策の範囲だという整理です。

なお、自社のドメインを騙られないための送信側の設定は、この記事では扱いません。受け取る側でやることは、開いてしまった後を前提に置くことです。添付を開いた、リンクを踏んだ、認証の情報を入れた。この3つが起きた後に何分で報告が届くかが、被害の大きさを決めます。次の章はその窓口の話です。

報告が遅れない窓口を、責めない設計で置く

公表資料は、被害を受けた後の対応として、適切な報告と連絡と相談を行い、整備した体制に基づいて対応し、メールのアカウントの設定を確認することを挙げています。この「適切な報告」がいちばん詰まる場所です。技術的な備えより、報告の速度のほうが組織の差が出ます。

窓口の設計で決めることは3つです。1つ目は宛先を1つにすること。情報システムと総務のどちらに出すかを迷わせない。2つ目は受付の時間帯を明記すること。夜間や休日にどこへ出すかを書いていないと、翌営業日まで止まります。3つ目が報告した人を評価上不利にしないと、文書に書いて残すことです。

3つ目を軽く見ないでください。踏んでしまった当人が最初に考えるのは、被害の大きさではなく自分の立場です。叱られる可能性がある窓口は、必ず報告が遅れます。報告が30分遅れると、送金の停止も認証情報の無効化も間に合わなくなります。文書に書き、管理職の会議で読み上げるところまでやって、初めて機能します。

• 窓口の宛先は、社内の掲示ではなく端末の画面から1操作で開ける場所に置く
• 報告に必要な項目は4つに固定する。いつ、何を開いたか、何を入力したか、相手先はどこか
• 深夜と休日の一次受けを誰が持つかを、月ごとの当番表として明示する
• 報告のあと当人がやることを1つに絞る。端末を触らずに待つ、が最も安全な既定になる

AIで検知させる部分と、人が確かめる範囲を先に分ける

受信したメールの選別をAIに任せる話は、ここまでの手順とは別に考えます。前提として、文面が自然になったという変化は、検知の側にも同じだけ効きます。粗さを特徴として学んでいた仕組みは、粗くないものを通します。導入すれば解決する、という説明の仕方は現実に合いません。

先に引いた米国の年次報告も、同じ方向の記述を置いています。AIで作られた合成の内容は検知がますます難しくなり、作るのはますます容易になっているという一文です。同じ節では、会話の生成によって企業の経営者を模した公式らしい文面が素早く作れること、音声の複製が送金の依頼に使われ得ることが挙げられています。検知の難易度と生成の容易さが逆方向に動いている以上、選別の精度を上げ続ける前提で設計するのは無理があります。

では何に使えるか。実務で効くのは判定ではなく整理です。過去のやり取りと比べて、支払先や金額が変わっている点だけを抜き出させる。差分の一覧を作らせる。結論を出させず、確認すべき差分を並べさせる使い方にすると、人の確認時間が短くなります。ここでは必ず、抜き出した根拠として元の文の位置を書かせてください。根拠が書けない出力は使いません。

そして、人が確認する範囲を先に決めます。全件を人が見るという設計は、必ず途中で崩れます。決めるのは3つで、支払先の変更を含むもの、権限を超える指示を含むもの、そして仕組みが判定に迷ったもの。この3つだけ人が見ます。人が見る範囲を狭く決めておかないと、確認は必ず全件の見直しに膨らみます。判断をAIに委ねないことと、人の手を全件に広げないことは、同時に成り立ちます。

訓練は「見分ける練習」ではなく「止める練習」に組み替える

最後に訓練です。従来の訓練は、模擬のメールを送って踏んだ人の割合を測る形が主流でした。この指標は、文面が自然になった前提では意味が薄くなります。踏む人は必ず出ます。測るべきは、踏んだ後に何分で報告が届いたかです。指標を1つ入れ替えるだけで、訓練の設計が変わります。

組み替えた訓練の中身を4段階で置きます。所要は関係者を集めて半日、うち机上での実施が2時間程度です。年に1回では忘れるので、半期に1回、経理と情報システムの合同で回すのが現実的な頻度です。

送ってしまった直後に、何から動かすか

止められなかった場合の順番も先に決めておきます。ここでは漏えいの届出や報告義務の話には入らず、お金と認証を止める第一報に限って整理します。判断を挟まず、順番どおりに動かすことが目的です。

順番は4つです。1つ目は自社の取引銀行への連絡で、送金の停止や組戻しの手続きが可能かを確認します。時間との勝負になるのはここだけで、営業時間の壁があるため、夜間の連絡先を先に控えておきます。2つ目が窓口への報告、3つ目が該当アカウントの認証情報の無効化、4つ目が同じ依頼が他の担当者にも届いていないかの横展開の確認です。

4つ目を忘れやすいので補足します。1人に届いたものは、たいてい複数人に届いています。1件の被害を見つけた時点で、同種の依頼が来ていないかを部署横断で聞き取る。ここで2件目が止まった例は珍しくありません。聞き取りの文面も定型で用意しておくと、当日の負荷が下がります。

よくある質問

研修をやめてよいのですか

やめません。目的を変えます。見分けられるようにする研修から、止める手順を知っている状態を作る研修に変えます。覚えてもらう内容は、支払先の変更があれば止めること、確認は台帳の番号に自社から掛けること、報告の宛先が1つであること、この3点だけで足ります。3点なら忘れません。

うちは海外との取引がないので関係が薄いのでは

国内の取引だけでも起きます。先に挙げた国内の公表事例では、虚偽の依頼が相手方担当者の正規のアドレスから届いていました。取引の相手が国内か国外かではなく、支払先を書き換える操作が1人で完結できるかどうかが条件です。国内取引でも、その操作が1人で完結するなら同じ形が通ります。

メールの選別を強くすれば止まりませんか

止まる分が増えるのは確かですが、それだけでは足りません。国内の公表事例のように、乗っ取られた正規のアドレスから、過去のやり取りの続きとして届く形は、選別の側では正当なメールに見えます。技術で減らし、手続きで止める、という二段構えが必要です。

二人で確認する運用は、現場の負荷が重すぎます

対象を絞れば重くなりません。全件を二人で見るのではなく、支払先や名義や期日に変更があるものだけです。多くの会社で、月あたりの件数は片手で数えられる程度に収まります。先に自社の件数を数えてから、重いかどうかを判断してください。数えずに重いと判断している例がほとんどです。

経営層にどう説明すると通りますか

頻度ではなく1件あたりの金額で説明します。全体の平均被害額が2万ドル程度である一方、この種類は1件あたり12万ドル規模で、AIが関わったと申告された案件では20万ドルを超える計算になります。加えて、必要な投資が主に承認の設計であって道具の購入ではないことを添えると、費用の話ではなく規程の話として決裁に載せられます。

まとめ

見分けられないことを認めるのが出発点です。公表資料が、母国語で違和感のない文面を作れるようになったと明記した以上、文面の粗さに依存した防御は組織の中心から外します。代わりに置くのは、支払先の変更と権限を超える指示という2つの入口に対する、経路の固定です。台帳の番号に自社から掛ける、変更があれば経緯を知らない二人目が見る、急ぎは確認を省く理由にしない、秘密にするよう言われた依頼は上位者に報告する。書けば4行です。

そのうえで、AIには判定ではなく差分の抽出を任せ、根拠を書かせ、人が見る範囲を3つに狭く決めます。報告の窓口は宛先を1つにし、責めないことを文書に書きます。訓練で測る指標は、踏んだ割合から報告までの時間に入れ替えます。手口が新しくないのに9年連続で選ばれ続けている領域は、技術ではなく手続きの穴が残っている領域です。埋めるのは規程と台帳で、買うものはほとんどありません。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。