写真で本人確認する企業が知っておきたい人物差し替えモデル「Viggle Image Swap」の論点

「写真の中の人物だけを、顔も髪も服も丸ごと別人に入れ替えるモデルが公開されたらしい」「うちは会員登録で顔写真と自撮りを出してもらっているが、このままの確認方法で大丈夫なのか」——本人確認の窓口を持つ部門と、社内の情報を守る部門から、続けて寄せられている声です。2026年10月、動画生成サービスの提供元 Viggle が、静止画の人物を差し替える画像編集モデル Viggle Image Swap を Hugging Face(AIモデルの公開・共有サイト)で公開しました。問われているのは、差し替えの出来がどれほど良いかではありません。本当は、写真に写っていることを「本人である証拠」「起きたことの証拠」として扱ってきた自社の業務を、どこまで見直すかという判断です。この記事では、Viggle Image Swap の概要と公開情報から確かめられる事実、当ラインの安全性の精査結果、そして本人確認・社員の写真・届いた画像の確認をどう見直すかを、防御の立場から整理します。
カメ先生写真の加工は前からあるから、今さら騒ぐことではないと思われがちなんだけど、本当は背景も光もポーズも元の写真のまま、人物だけを丸ごと替えられるところまで来ているんだ。
カメ子写真の場面そのものは本物なのに、写っている人だけが違う、ということですか。
カメ先生そう。だから「背景や光の具合に不自然な点がないから本物だろう」という見方が効きにくくなる。企業は、写真を本人確認や証拠に使っている業務を洗い出して、写真だけで決めない仕組みに変えていく必要があるんだよ。
カメ子写真がよくできているかを見分けるより、写真だけで判断しない流れを先に作るべきなんですね。
- Viggle Image Swap は、画像生成モデル Qwen-Image-2.1 に載せる追加部品で、写真の人物を顔・髪・体・服ごと差し替え、ポーズ・表情・構図・背景・光は元のまま残す。ライセンスは研究と評価に限る独自のもので、OSSではない
- モデルカードには、意図した使い方や同意、悪用への注意、電子透かしについての項目が、確認した範囲では見当たらない。自撮り写真を差し替えた見本も載っている
- 企業は、顔写真や自撮りを唯一の根拠にした本人確認、社員の顔写真の公開範囲、届いた画像を証拠として扱う業務を見直し、真偽の判断をAIに任せない
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
Viggle Image Swapとは何か。2026年11月時点で確かめられる事実
Viggle Image Swap は、動画生成サービスを提供する Viggle が公開した静止画用の人物差し替えモデルです。モデルカード(モデルの説明書きにあたるページ)によると、写真の中の人物を、利用者が用意した人物の資料画像に描かれたキャラクターに置き換えます。置き換えは顔だけでなく、髪・体・服まで丸ごとで、写真のポーズ、表情、構図、背景、光はそのまま保たれると説明されています。
当ラインの精査で確認した Hugging Face 上の記録では、公開場所の作成日は2026年10月27日、最終更新日は11月3日です。2026年11月12日の確認時点で「いいね」は49、ダウンロード数は2,004でした。利用の前に申請や同意を求める制限(ゲート)は付いていません。分類は「画像から画像への変換」で、付けられた分類用の語には「キャラクターの差し替え」が含まれます。
ライセンスは Hugging Face 上では「その他」に分類された独自のもので、土台のモデルの提供元が定めた研究用のライセンスです。研究と評価の目的に限って使える条件で、OSI(オープンソースの定義を管理する団体)が承認したライセンスではないため、このモデルを「OSS」と呼ぶのは正確ではありません。本記事では「モデル」と呼びます。なお、同じ提供元は動画を対象にした差し替えモデルも公開していますが、本記事は静止画と、写真を使った確認の業務に絞って扱います。日本語での詳しい解説は、確認した範囲ではまだ見当たりません。
どんな仕組みか:写真の場面を残し、人物だけを丸ごと替える
モデルカードによると、Viggle Image Swap は単独の大きなモデルではなく、画像生成モデル Qwen-Image-2.1 の上に載せる追加部品(LoRA)です。LoRA とは、土台のモデルの重み(学習済みの数値)を大きく変えずに、特定の用途向けの小さな差分だけを学習させて上乗せする方式です。NOTICE ファイル(ライセンスの区分を示す文書)によると、土台のモデルのファイルは複製も変更もされておらず、使うときに土台のモデルの公開場所から読み込む形です。
入力は二種類です。一つは差し替えの対象になる元の写真、もう一つは差し替え後の人物を描いた資料画像で、置き換える人ごとに1枚ずつ用意します。どの人物を差し替えるかは文章の指示で決まり、写真に複数の人が写っている場合は、一人だけを替えることも、複数人を同時に替えることもできるとされています。出力は約100万画素の画像です。
モデルカードは、写真を参照にして資料画像を用意する使い方にも触れています。つまり、架空のキャラクターだけでなく、実在の人物の姿を差し替え後の見た目にする余地があるということです。見本の説明には、資料画像の一部に実在の著名人を描いたものがあり、研究用の見本として作ったもので推奨や支持を意味しない、との注記があります。資料画像の具体的な作り方は、防御に必要ないため本記事では扱いません。
背景・光・ポーズが残ることが、守る側にとってなぜ重いのか
写真の加工を見抜くとき、これまでは「切り貼りした境目が不自然」「人物と背景で光の向きが合わない」「影の付き方がおかしい」といった手がかりが使われてきました。Viggle Image Swap のモデルカードは、差し替え後もポーズ、表情、構図、背景、光をそのまま保つことを目的にしていると説明しています。さらに、出力の明るさが元の写真から少しずれる場合に、変わっていない背景の部分を基準にして全体の色味を元にそろえる補正が、標準で掛かるとされています。
この設計は、作る側から見れば「元の写真になじむ」ための工夫です。守る側から見ると、写真の場面そのものは本物で、写っている人物だけが別人という画像ができうることを意味します。背景に写った建物や時計、天気、服の季節感といった、撮影の場所と時期を裏づけてきた手がかりが、差し替え後もそのまま残るため、場面の確からしさだけで写真を信じる運用は危うくなります。
処理の速さにも触れておきます。モデルカードによると、最上位級の画像処理装置(GPU)1台で、標準の設定なら1枚あたり約2.2秒、より鮮明に仕上げる設定でも約4.1秒とされています。必要な作業用の記憶領域は数十ギガバイトと大きく、手軽な機材では動かしにくいとみられます。それでも、一度環境が整えば短時間で大量の差し替え画像を作れる点は、量で押してくる不正への備えを考えるうえで押さえておく必要があります。
モデルカードが自ら挙げる限界と、そこから読み取れること
モデルカードは、限界として次の点を挙げています。複数人が写っている場合は文章で位置を指定しないと狙った人物を替えられないこと、差し替え後の人物が元の人物の服を引き継いでしまうことがあること、ポーズや構図が元の人物から少しずれることがあること、出力が約100万画素にとどまること、鮮明に仕上げる設定では元の人物のサングラスやひげ、服、まれに人物そのものが戻ってきてしまうことです。
これらは、出来上がった画像に不自然な痕跡が残る場合があることを示しています。服の柄が人物の雰囲気と合わない、手足の位置が周りの物と少し合わない、といった違和感が手がかりになることはありえます。ただし、こうした失敗は作り直しや選別で取り除けるため、出回る画像は、うまくいったものだけが選ばれていると考えるべきです。痕跡がないことを、本物の証拠にはできません。
もう一つ読み取れるのは、約100万画素という出力の大きさです。本人確認の自撮りや、メッセージで送られてくる写真、交流サイトに投稿される画像の多くは、もともとこの程度か、それより小さく縮められて扱われます。つまり、解像度の低さが偽物の目印になるとは限らないということです。画素数や画質だけで真偽を判断するのは避けてください。
写真による確認の手段ごとに見た影響の大きさ
企業の業務の中で、写真が「確認の根拠」として使われている場面は少なくありません。人物差し替えの技術が身近になったことで、それぞれの場面にどんな影響が出うるかを整理すると、次のようになります。右の列は、本記事が勧める見直しの方向です。影響の大きさは当ラインの見立てで、実際の被害の報告に基づくものではありません。
| 写真を使う場面 | 差し替え画像による影響の見立て | 見直しの方向 |
|---|---|---|
| 本人確認書類の写真と自撮りの照合 | 大きい。写真の照合だけで本人と判断していると、すり抜けの余地がある | 書類のICチップの読み取りや、別の要素による確認と組み合わせる |
| 採用の応募や取引先の登録で届く顔写真 | 中程度。別人の写真で応募や登録をされる余地がある | 面接や契約の段階で、別の手段で本人と確かめる |
| 事故・故障・納品などの状況写真 | 中程度。場面は本物で人物だけが違う画像が作られうる | 撮影の記録や関係者への確認と合わせ、写真だけで支払いを決めない |
| 交流サイトに出回る自社の社員や経営者の写真 | 大きい。評判を傷つける画像の素材にされうる | 公式の発信先と元の画像を管理し、発見時の手順を決める |
| 社内の顔写真付きの名簿や社員証 | 小さいが無視できない。外に出ると素材になりうる | 公開の範囲を決め、外部への持ち出しを制限する |
表から分かるとおり、影響が大きいのは、写真だけで本人や事実を確定させている業務です。逆に、写真を複数の確認手段の一つとして使っている業務は、差し替え画像が出回っても被害が広がりにくくなります。見直しの優先順位は、この観点で付けるのが現実的です。
安全性の評価:注意付きとした根拠
当ラインでは、記事で取り上げる前に公開情報だけで安全性を精査しています。モデルや関連するプログラムを取得したり動かしたりはしていません。Viggle Image Swap は、次の事実から「注意付き」と判定しました。
- 作成者は Viggle の名義で、ファイル一覧にはライセンス本文、ライセンスの区分を示す文書、見本の画像がそろっている
- 重みのファイルは safetensors 形式で、読み込むだけでプログラムが動くおそれのある Pickle 形式のファイルは見つからなかった
- 一方で、差し替えを行うための独自のプログラム(Python のファイル)が同梱されており、使うときには手元の環境で実行される
- ライセンスは研究と評価に限る独自のもので、商用で使うには別の契約が必要
- 写真の人物を丸ごと別人に替える機能そのものが、なりすまし画像の作成に使われうる
- 公開から日が浅く、利用の実績や第三者の評価がまだ少ない
前半の二つは、提供元とファイル形式の面での安心材料です。注意を付けた主な理由は、後半の独自プログラム、利用条件の制約、そして用途そのものが持つ悪用の危険にあります。加えて、確認した範囲では、モデルカードに意図した使い方、同意の扱い、悪用への注意、生成画像の目印についての項目が見当たりませんでした。説明の中心は入力の形式、使い方、処理の速さ、限界、ライセンスです。
なお、問題が見つからなかったことは、安全の保証ではありません。精査は公開情報を読んだ範囲のもので、独自のプログラムの一行ずつの中身や、生成された画像に目に見えない目印が入るかどうかまでは確かめていません。研究目的で触れる組織も、配布物は社内の審査の手続きに通し、隔離した環境で扱う必要があります。
研究と評価に限るライセンスと、企業が使えない範囲
NOTICE ファイルによると、重みは土台のモデル Qwen-Image-2.1 の派生物として、Qwen の研究用ライセンスで配られています。差し替えを行うプログラムの部分は、別に Apache 2.0 ライセンスで配られています。モデルカードは、このモデルが研究と評価の用途に限られることと、鮮明に仕上げる設定で読み込む別のモデルも同じライセンスであることを明記しています。
ライセンスの本文では、非商用を「研究または評価の目的に限る」と定め、許諾は非商用の目的に限るとしています。商用の目的で使うには、許諾者から別の商用ライセンスを得る必要があるとされ、モデルカードも商用利用には別の契約が要ると案内しています。つまり、自社の広告や販促物の制作、顧客向けのサービスに組み込む使い方は、このライセンスのままでは認められません。
そのほかの主な条件は次のとおりです。準拠法は中国の法律で、紛争は杭州市の裁判所が専属で扱うとされています。素材は「現状のまま」提供され、許諾者は安全性や安定性について保証しないと書かれています。利用者の使い方から第三者との争いが起きた場合、利用者が許諾者を補償する定めもあります。条件に違反すれば許諾者は契約を終了でき、その場合は素材を削除して使用をやめなければなりません。「公開されていて無料だから自社でも使える」とは言えないことを、広報や制作の部門にも周知しておく必要があります。個別の判断は、必ず法務部門と条文の原文で確かめてください。
悪用されうるリスク1:顔写真や自撮りによる本人確認のすり抜け
企業にとって最も警戒すべきは、顔写真や自撮りを使った本人確認です。オンラインでの会員登録や口座開設、アカウントの再発行などでは、本人確認書類の写真と、その場で撮った自撮りを照らし合わせる方法が広く使われてきました。Viggle Image Swap のモデルカードには、顔の近くから撮った自撮り写真の人物を別のキャラクターに差し替えた見本が載っています。これは、自撮りという形式の写真も差し替えの対象になりうることを示しています。
米国財務省の金融犯罪取締ネットワーク(FinCEN)は2024年11月13日、生成AIで作った偽の画像や動画を使う詐欺について、金融機関に向けた注意喚起を出しました。報道発表によると、届け出られた疑わしい取引の報告の中で、偽の本人確認書類を使って本人確認や認証の手続きをすり抜ける使われ方が増えているとされています。注意喚起の本文は、犯罪者が生成AIで偽の書類、写真、動画を作り、金融機関の顧客の確認をかいくぐってきたと分析しています。
注意喚起は、気づくための手がかりの例として、顧客の写真に加工の跡が見える、または生年月日から見て年齢が合わない、複数の本人確認書類の内容が食い違う、確認の途中で不具合を理由に連絡手段を変えたがる、追加の認証を断る、写真を画像検索すると生成AIで作った顔の画像集に一致する、端末や接続元の地域が書類の内容と合わない、といった点を挙げています。どれか一つで不正と決めつけず、周りの事情と合わせて判断するよう求めている点も重要です。Viggle Image Swap がこうした不正に使われたという報告は、現時点で確認できていません。ここで述べたのは、同じ種類の技術が持つ危険です。
悪用されうるリスク2:届いた画像を証拠として扱う業務
本人確認のほかにも、企業には写真を「起きたことの証拠」として受け取る業務が数多くあります。事故や故障の状況写真、納品や作業の完了を示す写真、経費の精算で添える写真、取引先から届く担当者の顔写真などです。人物差し替えの技術は、場面は本物のまま、写っている人だけを替えた写真を作れるため、「誰がそこにいたか」を写真で示す業務に影響しうると考えられます。これは推測であり、こうした業務でこのモデルが悪用されたという報告は確認できていません。
たとえば、作業の完了写真に写る担当者が、実際には現場にいなかった別人に置き換えられる、あるいは逆に、実際にはいなかった人物がその場にいたかのような写真が作られる、といった事態が考えられます。どちらも、写真の背景や光が本物であるため、写真を一枚見ただけでは違和感に気づきにくいことが問題です。写真を受け取る側が、撮影の記録や別の証拠と照らし合わせる習慣を持っているかどうかで、被害の大きさが変わります。
社内の調査や懲戒の場面でも注意が要ります。社員や取引先から「この人がここにいた」という写真が提出された場合、その写真だけを根拠に事実を認定すると、差し替えられた画像で無関係の人を不利な立場に置いてしまうおそれがあります。写真は事実を確かめる出発点であって、結論ではないという扱いを、調査の手順に書き込んでおくことをおすすめします。
広報写真・社員の顔写真が素材になるリスク
差し替えの素材になるのは、狙われる側の写真です。企業の採用ページや会社紹介、記者発表、交流サイトの公式の投稿には、経営者や社員の顔写真が多く載っています。モデルカードの見本も、映画や広告などの第三者の映像の場面を元の写真に使ったと注記しており、公開されている写真がそのまま素材になりうることを示しています。
想定しやすいのは、経営者や広報担当者が写った公式の写真の人物を差し替え、別人が会社の代表として振る舞っているように見せる画像や、逆に、社員を不祥事の場面に置いたように見せる画像です。これも推測であり、このモデルを使った実際の事例は確認できていません。ただ、背景や会場の飾り付けが本物の公式写真であるほど、作り替えた画像も公式のものらしく見えてしまう点は押さえておく必要があります。
社員の顔写真の扱いも見直しどきです。採用ページに社員の顔を大きく載せること自体は、信頼を伝えるうえで意味があります。一方で、退職した社員の写真が残り続けている、本人の同意の範囲が曖昧なまま使い回している、といった状態は、素材として使われた場合の説明を難しくします。顔写真を載せる目的と期間を決め、本人の同意を書面で取り、元の画像を保管しておく運用が望ましいと考えられます。
本人確認の見直し:写真を唯一の根拠にしない
国内でも、写真に頼った本人確認からの切り替えが進んでいます。警察庁の犯罪収益移転防止の担当部署が作成した周知資料は、金融機関などで非対面の本人確認を受けるには、運転免許証やマイナンバーカードなどのICチップの情報を送る必要があるとし、原則として本人確認書類の画像や写しは使えなくなると案内しています。対面でも、書類を見せたうえでICチップの情報を読み取らせる必要があるとしています。資料には、各金融機関などの判断で2027年4月1日より前に先行して実施する場合がある、とも書かれています。
この見直しの対象は、法律で本人確認を義務づけられた金融機関などの事業者です。しかし、義務の対象外の企業でも、写真の照合だけで本人と判断している業務は同じ弱さを抱えていると言えます。会員登録、アカウントの再発行、問い合わせ窓口での本人確認、採用の応募、取引先の担当者の登録など、写真を出してもらっている業務を一覧にして、写真の役割を確かめてください。
見直しの方向は、FinCEN の注意喚起が挙げる取り組みとも重なります。注意喚起は、多要素認証(複数の要素で本人を確かめる仕組み)、とくになりすましに強い方式の多要素認証と、音声や映像でその場で本人に確かめる確認を、有効な取り組みの例として挙げています。要点は、写真を確認の手段の一つに格下げし、別の種類の確認と組み合わせることです。その場での確認も、録画済みの映像を流す仕組みが使われていないかに注意し、不具合を理由に手段を変えたがる場合は慎重に扱います。
写真の真正性を確かめる仕組みを社内に作る
届いた画像が本物かどうかを、見た目だけで確かめるのは難しくなっています。そこで大切になるのが、画像の出どころと経路を確かめる仕組みです。誰から、いつ、どの経路で届いたか、同じ場面を撮った別の写真や記録があるか、撮った本人に直接確かめられるか、といった点を確認の手順に入れます。
自社が出す写真については、元の画像を撮影日時と一緒に保管し、公式の発信先を絞って周知しておくと、偽の画像が出回ったときに「本物はこれです」と示せます。撮影した機器や編集の履歴を画像に記録する来歴情報の規格(C2PA など)も広がりつつあり、自社の公式の画像に採り入れることも選択肢になります。ただし、来歴情報が付いていない画像が偽物とは限らず、付いていても内容の確認は必要です。確認した範囲では、Viggle Image Swap のモデルカードに、生成した画像に来歴情報や電子透かしを入れる仕組みの記述は見当たりませんでした。
画像検索で同じ写真や似た写真が出回っていないかを調べることも、FinCEN の注意喚起が挙げる手がかりの一つです。ただ、これらの手段はどれも決め手ではなく、複数の手がかりを重ねて、最後は人が判断することが前提です。判定の道具を導入する場合も、結果を根拠つきで記録し、人が確かめる流れの中に位置づけてください。
企業が取るべき対策:写真を使う業務の点検の進め方
人物差し替えの技術への備えは、特定のモデルを禁止するだけでは足りません。研究用に限るライセンスのモデルは自社の業務では使えませんが、同じ種類の技術は今後も出てきます。自社の業務の中で写真が何を決めているかを洗い出し、写真だけで決めない形に変えていくことが本筋です。次の5段階が一つの目安です。
本人確認、採用、取引先の登録、事故や納品の報告、経費の精算、社内の調査など、写真を受け取って判断している業務を部門ごとに一覧にします。外部の委託先が代わりに確認している業務も含めます。
それぞれの業務で、写真が「本人である」「その場にいた」「起きた」のどれを決めているか、写真のほかに確認の手段があるかを確かめます。写真だけで結論が出ている業務を、優先して見直す対象にします。
本人確認ならICチップの読み取りや多要素認証、状況写真なら撮影の記録や関係者への確認、取引先の担当者なら既知の連絡先への確認など、写真とは別の種類の確認を加えます。重要な判断ほど、確認の手段を増やします。
経営者や社員の公開写真について、載せる目的と期間、本人の同意、元の画像の保管先を決めます。退職者の写真の扱いや、名簿や社員証の写真を外に出さない決まりも合わせて整えます。
不審な画像を見つけた社員の報告先を一本化し、元の画像との照合、本人への確認、記録の保全、投稿先への削除の申し立て、公式の声明までの担当を決めておきます。半年に一度など、手順を見直す時期も決めます。
社員への周知も欠かせません。本人確認や支払いの担当者には、写真がよくできていることは本物の証拠にならないこと、不自然な依頼や手段の変更の申し出があれば立ち止まることを、研修や手順書で繰り返し伝えます。研究目的でこの種のモデルに触れたい部門がある場合も、ライセンスの条件と社内の審査を通してからにする決まりを作っておきます。
AIに任せる範囲と、人が決める範囲
差し替え画像への備えでは、AIを使った判定の道具に頼りたくなります。FinCEN の注意喚起も、市販や公開の検出の道具が写真や映像に印を付けることを手がかりの一つに挙げています。ただし、それは手がかりの一つであって、結論ではありません。判定の道具には根拠を書かせて記録し、本人確認を通すか、支払いを認めるか、社員を処分するかといった判断は、人が別の確認と合わせて決めます。
人が確認する範囲も先に決めておきます。たとえば、本人確認で判定の道具が「問題なし」と出しても、手がかりが一つでも重なった案件は担当者が確かめる、状況写真で支払い額が一定を超える場合は撮影の記録を必ず見る、といった線を引きます。避けたい運用の例は次のとおりです。
- 本人確認書類の写真と自撮りの照合だけで、ほかの確認をせずにアカウントを開設する
- 判定の道具が「本物」と出したことだけを根拠に、支払いや取引先の登録を認める
- 背景や光に不自然な点がないことを理由に、届いた写真を事実の証拠として扱う
- 社員から提出された一枚の写真だけで、調査の結論や処分を決める
- 公開されているから使ってよいと考え、研究用に限るモデルで販促用の画像を作る
AIは確認の作業を速くしますが、写真が何を証明しているかを見極め、最終的に判断する責任は人に残ります。AIに判断させず、根拠を書かせ、人が確かめる範囲を先に決めるという線を最初に引いておくことが、差し替え画像が当たり前になる時代の守りの出発点です。
よくある質問
研究用に限るモデルなら、悪用の心配は小さいのではありませんか。ライセンスは利用者との約束事であって、技術的な歯止めではありません。重みは申請なしで取得できる状態で公開されており、条件を守らない人が使うことは防げません。守りは、使われる前提で考える必要があります。自社は金融機関ではないので、本人確認の見直しは関係ないのではありませんか。法律上の義務の有無にかかわらず、写真の照合だけで本人と判断している業務があれば、同じ弱さを抱えています。業務の洗い出しから始めてください。
よく見れば差し替えだと分かるのではありませんか。モデルカードは、服が残る、ポーズがずれるといった失敗を挙げていますが、失敗した画像は作り直しで捨てられます。見た目で判断するのではなく、出どころと経路、別の確認と合わせて判断してください。社員の顔写真は公開しないほうがよいのですか。一律にやめる必要はありません。目的と期間を決め、本人の同意を取り、元の画像を保管しておけば、偽の画像が出回ったときにも本物を示しやすくなります。
- 本記事の内容は、2026年11月12日時点で、モデルカード、ファイル一覧、ライセンス本文、NOTICE ファイル、米国 FinCEN の注意喚起、警察庁の周知資料を確認した範囲のものです。モデルやライセンスは更新されることがあるため、最新の内容を確かめてください。
- ライセンスや本人確認の制度についての説明は一般的なものです。個別の判断は法務部門や弁護士に相談してください。
まとめ
Viggle Image Swap は、画像生成モデル Qwen-Image-2.1 に載せる追加部品で、写真の人物を顔・髪・体・服ごと別のキャラクターに差し替え、ポーズ、表情、構図、背景、光は元のまま残す画像編集モデルです。ライセンスは研究と評価に限る独自のもので、商用で使うには別の契約が必要です。モデルカードには、自撮り写真を差し替えた見本がある一方で、同意や悪用への注意、生成画像の目印についての項目は、確認した範囲では見当たりませんでした。
企業にとっての論点は、このモデルを使うかどうかより、写真を本人や事実の証拠として扱ってきた業務を見直すことです。顔写真や自撮りを唯一の根拠にしない本人確認、社員の顔写真の公開範囲と同意、届いた画像の出どころと経路の確認、疑わしい画像への対応手順を、平時のうちに整えてください。真偽の判断はAIに任せず、根拠を確かめて人が決めるという線を先に引いておくことが、写真の人物を別人に差し替えられる時代に企業が取るべき最初の一歩です。
- Viggle Image Swap(Hugging Face のモデルカード):https://huggingface.co/viggle/viggle-image-swap
- Qwen の研究用ライセンス本文:https://huggingface.co/viggle/viggle-image-swap/blob/main/LICENSE
- NOTICE(重みとコードのライセンスの区分):https://huggingface.co/viggle/viggle-image-swap/blob/main/NOTICE
- 生成AIの偽の画像や動画を使う詐欺についての注意喚起の報道発表(米国 FinCEN・2024年11月13日):https://fincen.gov/news/news-releases/fincen-issues-alert-fraud-schemes-involving-deepfake-media-targeting-financial
- 同注意喚起の本文(米国 FinCEN):https://www.fincen.gov/sites/default/files/shared/FinCEN-Alert-DeepFakes-Alert508FINAL.pdf
- 本人確認方法の見直しについての周知資料(警察庁 犯罪収益移転防止管理官):https://www.npa.go.jp/sosikihanzai/jafic/pdf/chirashi20260623.pdf
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
