社内に入れるAIモデルの確認は3段階|CoSAIの成熟度モデル

「公開されているモデルを追加学習して社内で使いたいが、そのモデルが本当に配布元の出したものか、確かめる方法を決めていない」「取引先から『御社向けに調整したモデルです』とファイルを渡されたが、何を確認してから受け取ればいいのか分からない」——生成AIを自社の仕組みに組み込み始めた情シスとAI導入の担当者から、最近増えている相談です。モデルは、ソフトウェアの部品と同じように、外から届き、途中で手が加わり、社内で使われます。ところが部品には当たり前にある「誰が出したか」「途中で変わっていないか」を確かめる手順が、モデルにはまだほとんど置かれていません。確認を厳しくすることが目的なのではなく、用途の重さに合った深さの確認を、受け入れる前に決めておくことが大事です。この記事では、AIの安全性に取り組む業界団体 CoSAI が2026年9月に承認した成熟度モデル AIMM を論文本体で確かめ、社内に入れるモデルにどの段階の確認を求めるかを決める手順を整理します。
カメ先生モデルの安全というと、性能や偏りの評価を思い浮かべがちなんだ。でもその前に、手元のファイルが本当に配布元の出したもので、途中で書き換えられていないか、という問いがある。CoSAI の AIMM は、その問いに答える深さを3段階に分けたものなんだよ。
カメ子3段階というのは、上に行くほど良いという意味ですか。
カメ先生そこが誤解されやすいところでね。論文は、段階は組織の成熟度ではなく、用途ごとに選ぶものだと書いている。社内の試しの用途なら1段目で十分で、顧客に出す仕組みや規制のかかる用途ほど深い段階を選ぶ、という考え方なんだ。
カメ子全部のモデルに一番厳しい確認をかけるのではなく、使い道ごとに求める深さを変える、ということなんですね。
- AIMM は署名・来歴・証明の3段階。段階は会社の成熟度ではなく、モデルの用途ごとに選ぶもので、どの段階も正当な到達点とされている
- 多くの会社の出発点はゼロ。本番・社外向け・規制対象のモデルと外部から調達するモデルに1段目から当て、3段目は方針と仕組みがそろうまで先送りする
- 署名のない外部モデルは受け入れ時に自社の鍵で署名し直し、調達・委託の契約に求める段階を書く。真正性の判定は規則と署名の検証で行い、AIの印象に任せない
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
CoSAIのAIMMとは:前作の署名の論文から続く第1.0版
CoSAI(Coalition for Secure AI)は、国際的な標準化団体オアシスのもとで運営されている、AIの安全な構築・統合・運用に取り組む業界の共同プロジェクトです。その第1作業部会は「AIシステムのためのソフトウェア供給網の安全」を担当しており、今回の AIMM(成果物の完全性の成熟度モデル)はこの部会がまとめました。論文は第1.0版で、2026年9月7日に CoSAI の運営理事会が承認し、10月5日に公式ブログで「AIの供給網には、どれだけの保証が必要か」と題した解説が公開されています。
AIMM は単独の文書ではなく、2025年11月に公表された前作「機械学習の成果物への署名」の続編です。前作は、モデルに暗号の署名を付ける理由と仕組み、関わる人の役割を示し、成熟度の段階を簡単に紹介していました。今回の論文は、その段階を実際の用途に当てはめて掘り下げ、どの用途にどこまでの署名・来歴・証明の仕組みが要るのか、どこから始めればよいのかに答えようとしています。段階の名前の一部は、意図をより正確に表すために前作から改められています。
執筆には Intel・Microsoft・NVIDIA・OpenAI・IBM などを含む11の組織の担当者が協力者として名を連ねています。ただし論文の末尾には、内容が CoSAI の全参加者の見解を代表するものではないとの断り書きがあり、標準化の手続きに乗った規格でもありません。守れば合格という規格ではなく、確認の深さを社内で話し合うための共通の物差しとして読むのが合っています。論文自身も、想定読者に安全の実務者や機械学習の技術者だけでなく、法令順守の担当と経営層を挙げています。
対象はモデルだけではない:データと工程も「成果物」に入る
論文が確認の対象とする「成果物」は、モデルのファイルだけではありません。基盤モデル・追加学習済みモデル・量子化したモデルといったモデル本体に加えて、学習や評価に使ったデータと前処理の仕組み、さらに学習のスクリプト・設定・ハイパーパラメータといった工程の成果物までが含まれます。モデルの振る舞いは、この三つが組み合わさって決まるからです。
関わる人の役割も整理されています。前作からある「作成者(モデルを作り、変換し、署名して公開する側)」と「利用者(モデルを検証して使う側)」に、今回は三つが加わりました。特定の成果物について署名付きの説明書きを出す「証明者」、成果物や説明書きに署名して身元と結び付ける「署名者」、そして署名や説明書きを方針に照らして確かめ、先へ進めてよいかを決める「検証者」です。
社内の運用で効いてくるのは、論文が指摘する同じ会社が利用者と作成者を兼ねるという現実です。公開の基盤モデルを受け取る時点では利用者ですが、それを自社データで追加学習して部署に配った瞬間、社内の他部署から見れば自社は作成者になります。受け取るときの確認と、自社が出すときの署名は、同じ仕組みの表と裏だと捉えておくと、後の手順が組み立てやすくなります。
3段階を一枚で見る:段階ごとに答える問いが違う
AIMM の3段階は、それぞれ別の問いに答えます。論文の整理を、社内で使う言葉に置き換えると次のようになります。
| 段階 | 答える問い | 想定する使い手 | 確かめるもの | 組み込みの手間 |
|---|---|---|---|---|
| 1:基本の完全性 | このモデルは名乗っている通りのものか | 開発者、新興企業、研究の部署 | 中身が変わっていないこと、誰がいつ署名したか | 軽い。公開と受け入れの区切りで行う |
| 2:来歴と系譜 | このモデルはどこから来たか | 複数の組織が関わる供給網、派生モデルを扱う組織 | 親のモデル、データの出どころ、変換の履歴 | 中程度。作る工程への組み込みと、親の成果物への到達が必要 |
| 3:方針の自動判定のための証明 | このモデルは定めた方針と業界の基準を満たすか | 規制業種、影響の大きい用途、大規模な運用 | 工程の管理、品質の指標、規制上の要件 | 大きい。証明の書式と保管、判定の仕組みが要る |
上の段階は下の段階の確認をすべて含みます。2段目は1段目の完全性に来歴と系譜を足したもので、3段目はそこに方針への適合の証明を足したものです。一方で論文は、段階は能力の積み上がりを表すもので、組織の成熟度を表すものではないと明記しています。重要な用途だけ上の段階を当て、それ以外は簡単なやり方のまま残してよい、という考え方です。
論文の例では、医療機関が臨床の診断に使うモデルには3段目を求め、社内の研究や試行には1段目を使う、という使い分けが挙げられています。結論の章でも「どの段階も、組織のリスクと規制の状況に応じた正当な到達点であり、次の段階への通過点ではない」と書かれています。社内の資料で「当社は段階1にとどまっている」と遅れのように書くのは、この考え方とずれます。
段階1:このモデルは名乗っている通りのものか
1段目でやることは単純です。作成者は、モデルを構成するすべてのファイルを一つのまとまりとして扱い、その中身から暗号のハッシュ値(論文の例では SHA-256)を計算し、自分の秘密鍵で署名します。受け取る側は、届いたファイルからハッシュ値を計算し直し、作成者の公開鍵で署名を確かめます。1ビットでも書き換わればハッシュ値の照合で必ず失敗するため、改ざん・偶然の破損・モデルのすり替え・配布元の登録先の乗っ取りといった種類の攻撃を見つけられます。
署名と検証の「時点」も決められています。作成者は、学習・追加学習・梱包が終わり、もう中身を変えない状態になった公開の区切りで署名します。利用者は、配布元からダウンロードした時点で署名を確かめ、署名のないモデルや署名が合わないモデルは、社内の処理の流れや本番に入る前に拒否します。論文は、この段階の組み込みは意図的に軽くしてあると説明しています。
限界もはっきり書かれています。検証には元のファイルそのものが必要なこと、署名はある一時点の写真にすぎず、追加学習や量子化といった変換の途中で起きた改ざんは扱えないことです。また、完全性が保証されるのは、作成者が署名の鍵を管理された状態で守っていて、鍵が奪われた兆候がないという前提の上での話です。署名が合うことは「配布元が出したまま」を示すだけで、中身の良し悪しは示さないという線は、最初に社内で共有しておくべき点です。
段階2:このモデルはどこから来たか
2段目は、モデル単体の署名から一歩進み、成果物どうしのつながりを確かめられるようにします。基盤モデルを追加学習し、量子化し、蒸留するといった変換が、部署や会社をまたいで何度も重なると、最後のモデルだけを確かめても途中の誤りや細工は見えません。論文は、基盤モデルに欠陥が見つかったとき、系譜を追えない組織は、どの派生モデルがその欠陥を引き継いだかを素早く特定できないと指摘しています。
仕組みとしては、派生したモデルに署名するときに、親のモデルのハッシュ値や来歴の説明書きを参照する形で一緒に署名します。これを世代を重ねて連ねると、たどれる受け渡しの記録になります。説明書きには「このモデルはあのモデルから派生した」「使う前に入力を検証した」「変換の工程は記録されている」「複数の変換を経ている」といった主張が入ります。論文は、追加学習したモデルの完全な記録の例として、基盤モデル・データセット・追加学習のスクリプト・設定を、確かめられる派生の主張とともに残す形を挙げています。
受け取る側の確認は、署名の正しさと署名者の身元に加えて、署名が新しく使い回されていないこと(信頼できる時刻の証明か、有効期間の短い証明書で担保する)、親の成果物の署名をたどれること、記録上のハッシュ値と実物が一致すること、派生の主張に矛盾がないこと(量子化したモデルが構造の合う親から派生したと言っているか)まで広がります。ただし始め方は段階的でよく、まずは追加学習したモデルと基盤モデルの関係だけを署名し、データや工程の署名は後から足すことが勧められています。2段目は「何が起きたか」を示しますが、その変換が社内の方針を満たしていたかまでは判定しません。
段階3:定めた方針を満たしているか
3段目は、論文が「北極星」と呼ぶ到達点です。ここでは、モデルの作り方・性質・規制への適合について、構造の決まった説明書き(証明)を集め、判定の仕組みがそれを社内の規則に照らして自動で評価します。証明は四つに分けられています。評価の指標や安全性の試験結果を記すモデルの証明、データの出どころ・収集方法・個人情報の点検・利用許諾を記すデータの証明、作った工程の身元・環境・設定・入力を記す工程の証明、本番環境の機器や安全対策を記す基盤の証明です。
判定の仕組みは、証明・系譜・使う場面を方針に照らし、通常は「合格・警告・不合格」のいずれかを返します。この判定結果そのものも署名付きの記録として残ります。最小限の方針は、完全性(1段目)・系譜の確認(2段目)・証明の有効性(3段目)の三つの規則で、そこに評価指標の下限やデータの利用許諾の確認といった自社の規則を足していきます。論文は、本番に入る前に止める「受け入れの関門」を置かない限り、証明は参考情報にとどまり、予防の統制にはならないと書いています。
一方で、論文は3段目の現実にも率直です。判定の仕組みは方針より強くはなれず、甘い方針は通すべきでないものを通します。証明・判定・関門の仕組みには大きな負担がかかり、そのための書式の多くはまだ存在しないか、法的・標準化の検討を経ていません。そのため完全な自動化は初版の時点ではまだ目標であり、当面は自動の確認と人による相互確認を組み合わせて始めることになるとされています。3段目はすべての組織に必要なものではない、とも明記されています。
手順の全体像:受け入れる前に決める5つのこと
ここからは、論文の導入順の章と各段階の説明をもとに、社内に入れるモデルの確認を決める手順に落とします。論文は「多くの組織にとって、今日の出発点はゼロである。署名されたモデルはなく、検証も行われていない」と書いています。いきなり3段目の仕組みを目指すのではなく、危険の大きいところから1段目を当てて広げていくのが論文の勧める順番です。
社内にモデルが入ってくる経路を、公開モデル・追加学習済みモデル・取引先から受け取るモデルなどに分けて一覧にする。
本番・社外向け・規制対象かどうかで、求める段階を決める。全部に同じ深さを求めない。
自社の鍵で署名し直す境界を決め、鍵の保護・更新・失効の手順を先に用意する。
取引先に求める段階と、渡してほしい記録を契約の項目にする。
記録どうしが食い違ったとき、確認の仕組みが止まったときに誰が何を判断するかを決めておく。
この5つは、技術の担当だけでは決められません。段階の割り当ては用途を持つ事業部門と、契約の項目は法務・購買と、例外の判断は情シスと話し合う必要があります。手順の持ち主を部署ごとに先に決めておくことが、仕組みを入れることより先に来ます。
手順1・2:入口を洗い出し、用途で段階を割り当てる
最初に、社内にモデルが入ってくる経路を洗い出します。典型的には、外部の公開の配布場所から取得する基盤モデル、それを自社や委託先が追加学習したモデル、取引先や代理店から納品されるモデル、社内の別部署が作って共有するモデルの四つです。それぞれについて、誰がどこから取得し、どこに置き、どの仕組みや業務で使っているかを一覧にします。この段階で「誰が持ち込んだか分からないモデル」が見つかること自体が、最初の成果です。
次に、一覧の各モデルに段階を割り当てます。論文は、侵害されたときの影響が最も大きいモデル、たとえば本番で使っているもの、社外の顧客に向けて動くもの、規制の監督下にあるものから1段目の署名と検証を始め、外部から調達したモデルを優先するよう勧めています。完全性の危険が最も高いのが外部調達だからです。そのうえで、追加学習・蒸留・複数の出どころを組み合わせたモデルのように派生の履歴が複雑なものに2段目を足します。
3段目については、論文ははっきり「先送り」を勧めています。規制や社内の規則として明確な方針の要求があり、かつ証明と判定の仕組みがそろうまでは待つべきで、方針が定まらないうちに3段目を入れると、効果に見合わない複雑さを抱えるだけだという理由です。社内の割り当て表には、段階だけでなく「なぜその段階にしたか」を一行書いておくと、後で用途が変わったときに見直しやすくなります。
手順3:署名のない外部モデルは、受け入れ時に署名し直す
実務で最初にぶつかるのは、外部のモデルの多くがそもそも署名されずに配布されているという現実です。論文の結論の章も「今日のAIモデルの多くは、署名も検証もされず、たどれないまま供給網を通っている」と書いています。そこで論文が示すのが、受け入れの時点で署名し直す方針です。署名のないモデルをダウンロードし、できる範囲の完全性の確認を行ったうえで、自社の鍵で署名してから社内の登録先に入れるというやり方です。
論文は、この方法が作成者による端から端までの署名には及ばないことも明記しています。自社が署名した時点より前に起きた改ざんは、この署名では見つけられません。それでも、その時点から先は署名で守られた信頼の境界ができるため、社内の部署間の受け渡しや、本番への持ち込みの段階での差し替えは見つけられるようになります。ここでの「できる範囲の確認」に何を含めるか(配布元が公表するハッシュ値との照合、取得元の確認、モデルファイルの静的な検査など)は、社内で文章にしておく必要があります。
署名し直す運用を始めると、今度は自社の鍵が守るべき資産になります。論文は導入のどの戦略にも共通する土台として、署名の鍵を不正な利用から守ること、信頼する鍵の一覧を管理すること、鍵の更新と失効の手順を必要になる前に決めておくことを挙げています。鍵を一人の担当者の端末に置いたまま運用を始めるのは、論文の前提そのものを崩すことになります。
- 誰が署名するか:署名の権限を持つ担当と、その代理を決める。署名する人と使う人を分ける
- 署名の前に何を確かめるか:配布元の公表値との照合、取得元の記録、ファイルの検査の範囲
- どこに置くか:署名済みのモデルだけを置く社内の登録先と、それ以外の置き場所を分ける
- 鍵が漏れたら何をするか:失効の手順と、その鍵で署名したモデルの洗い出し方
手順4:調達・委託の契約に書く項目
取引先から追加学習済みのモデルを受け取る場合や、モデルの開発を委託する場合は、どの段階の記録を渡してもらうかを契約で決めておかないと、後から求めても出てきません。AIMM 自体は契約のひな形を示していませんが、各段階で作成者に求められていることを裏返すと、契約に書くべき項目はかなり具体的に決まることが分かります。
- 求める段階:用途に応じて1段目(署名)、2段目(来歴と系譜)、3段目(証明)のどれを求めるか
- 署名の時点と対象:学習・追加学習・梱包が終わった公開の区切りで、モデルを構成するすべてのファイルに署名すること
- 署名の確かめ方:検証に使う公開鍵や証明書の受け渡し方法と、鍵を更新・失効したときの連絡の手順
- 来歴の記録:基盤モデル・使ったデータセット・追加学習のスクリプト・設定を、親のハッシュ値と結び付けて渡すこと
- 外部の資源の記録:変換の途中で取得したデータやモデル、使った外部サービスの記録をどこまで渡すか
- 評価の証明:3段目を求める場合、どの評価指標や点検(個人情報、利用許諾など)の結果を、誰の署名で渡すか
- 欠陥が見つかったときの通知:親のモデルに問題が見つかった場合に、影響する派生モデルを特定して知らせること
項目を並べると重く見えますが、すべてを最初から求める必要はありません。論文が勧める導入順と同じく、まずは1段目の署名と、追加学習したモデルと基盤モデルの関係の記録だけを全取引先に求め、本番・社外向けの用途の契約にだけ深い項目を足すのが現実的です。取引先の側も多くはゼロからの出発なので、無理な要求は「出せません」で終わってしまいます。
もう一つ、契約に書いておきたいのは、署名や証明が中身の正しさや安全性の保証ではないという線です。論文は、署名と証明が示すのは完全性と真正性であり、正しさ・安全・公平・無害な振る舞いは保証しないと明記しています。契約書で「署名済みのモデルを納品すること」だけを品質の条件にすると、署名さえあれば中身の責任は果たしたという読み方を許してしまいます。性能や振る舞いの確認は、別の項目として残しておく必要があります。
手順5:記録どうしが食い違ったときの扱いを決める
運用が進むと、同じモデルについて複数の記録が並ぶようになります。作る工程が自動で出した系譜の記録、判定の仕組みの結果、独立した監査の確認などです。論文は、これらが食い違ったときの扱いを一章を割いて論じています。まず、どの役割がどの種類の主張を出してよいかを方針で決め、権限の外で出された主張は退けること。次に、必須の証明がそろっているかを見て、推奨の証明が欠けている場合は警告を出しつつ、欠落を記録したうえで使うことを認めうることです。
複数の当事者が同じ成果物のハッシュ値を計算した場合は、結果が一致しなければなりません。論文は、全員が確認の記録を公開する共有の透明性ログか、結果を集めて最終判断を出す中央の検証者のどちらかで突き合わせる方法を示し、一致しない場合は測った間に中身が変わったことを意味するので、直ちに確認の失敗として扱うとしています。そのうえで正当な食い違いの解き方として、四つの方針が例示されています。
| 方針 | 中身 | 合う場面 |
|---|---|---|
| 厳格 | どんな食い違いも確認の失敗とする | 安全の要求が高い環境 |
| 多数決 | 信頼する当事者の多い側を採る | 当事者が分散している場面 |
| 序列 | 権限の上位、またはより新しい主張を採る | 責任の序列が明確な組織 |
| 最新優先 | 最も新しい有効な主張が古いものに優先する | 更新の頻度が高い運用 |
社内で大事なのは、どの方針を採るかを食い違いが起きる前に決めて、文章にしておくことです。起きてから「どちらの記録を信じるか」を担当者の判断に任せると、急いでいる部署の都合に引きずられます。本番・社外向けの用途には厳格、社内の試行には序列か最新優先、というように用途の段階と組み合わせて決めておくと迷いません。確認の仕組みそのものが止まったときの扱いも同じで、論文は3段目の運用に、障害時の振る舞い・上への報告の経路・緊急時に関門を開ける手順を定めることを求めています。
AIに真正性の判定をさせない線を引く
モデルの受け入れ確認を自動化しようとすると、「生成AIのエージェントにモデルの説明書きを読ませて、問題がないか判断させればよい」という発想が出てきます。しかし AIMM の仕組みは、そもそもそういう判断を想定していません。1段目の確認はハッシュ値の計算と署名の検証で、結果は一致か不一致かのどちらかです。3段目の判定も、機械が読める形に書いた規則に、構造の決まった証明を照らす決定的な処理であり、論文は人の目による相互確認との併用を前提にしています。
論文には、エージェントがモデルを取得・変換・配備する場面についての章もあります。そこでは、エージェントは仕組みを素通りする仲介役ではなく、署名と検証の仕組みに参加する当事者として扱うべきだとされています。1段目ではエージェントが成果物を読み込む前に署名を検証し、2段目ではエージェントが行った量子化や蒸留が、親の成果物とエージェントの身元を参照する新しい来歴の記録を生むようにします。主張が食い違ったときは、安全側に止まるか、人の監督に上げるかの方針をエージェントに持たせ、別のエージェントに作業を任せるときは、任せるたびに署名の権限が狭まり、任せた側の権限を超えないようにすることが求められています。
- 生成AIにモデルカードや説明文を読ませ、「信頼できそう」という答えで受け入れを決める
- 署名の検証が失敗したのに、エージェントが「軽微な差異」と判断して読み込みを続ける
- 記録が食い違ったときの判断をエージェントに任せ、人に上げる条件を決めていない
- エージェントが追加学習や量子化をしたのに、誰の権限で行ったかの記録が残らない
AIに任せてよいのは、記録の収集や一覧の作成、欠けている証明の洗い出しといった下準備までです。受け入れてよいかの判定は、署名の検証と文章にした規則で行い、例外の判断は人が持つ。この線を先に引いておかないと、確認の仕組みを入れたつもりで、最後の一手をAIの印象に預けることになります。
マーケ部門が外部のモデルを使う場面での当て方
モデルの受け入れ確認は、開発部門だけの話ではありません。マーケ部門でも、自社の製品写真や過去の制作物で追加学習した画像生成のモデルを代理店から納品してもらう、問い合わせの分類やメールの下書きに使う小さな言語モデルを委託先に調整してもらう、公開の配布場所から取得したモデルを手元のツールで動かす、といった場面が増えています。これらはどれも、外から届き、途中で手が加わり、社内で使われるという AIMM が想定する流れそのものです。
段階の当て方の目安を挙げると、社内の企画会議で案出しに使う程度のモデルなら1段目(取得元とハッシュ値の照合、受け入れ時の署名し直し)で足ります。顧客向けの広告やサイトに出る素材を作るモデル、問い合わせへの返信に使うモデルのように、出力がそのまま社外に出る用途には、2段目の系譜の記録を求めるのが妥当です。どの基盤モデルを、どのデータで追加学習したかが分かれば、基盤モデルや学習素材に問題が見つかったときに、影響する制作物の範囲を絞れます。
なお、生成した画像や動画そのものに来歴を埋め込む話は、別の仕組み(C2PA など)の領域です。AIMM が扱うのは素材を作る側のモデルやデータの完全性で、論文も C2PA を補完的な取り組みの一つとして挙げるにとどめています。モデルの確認と、生成物への来歴の付与は、別々に決めると整理しておくと、代理店との打ち合わせで話が混ざりません。
署名で分からないこと:正しさ・安全・公平は保証されない
AIMM を社内に紹介するときに最も誤解されやすいのが、署名や証明の範囲です。論文の範囲と限界の章は、署名と証明が示すのは完全性(中身が変わっていないこと)と真正性(署名者の身元が確かめられること)だけで、署名されたモデルの正しさ・安全・公平・無害な振る舞いは保証しないと明記しています。
さらに、実行時の振る舞いに関する脅威、署名や証明の基盤そのものの侵害、痕跡を成果物に残さない学習時の攻撃は、署名の範囲外だとされています。3段目の証明はこれらの隙間を狭めはするものの、閉じはしません。論文は、署名と証明を多層の防御の一つの層として採り入れ、振る舞いの試験、実行時の監視、独立した監査で補うことを求めています。
社内の稟議や規程で AIMM を引用するときは、この一文をそのまま添えておくのが安全です。「署名済みのモデルしか使わない」という規程は大事な一歩ですが、それだけでモデルが誤った答えを出さない、偏らない、という意味にはならないからです。署名の確認は受け入れの入口の仕組みで、出力の確認は使う場面ごとの別の仕組みだと分けて書いておくと、後の説明で困りません。
よくある質問
自社でモデルを作っていなくても、関係がありますか
関係があります。AIMM は作る側と使う側の両方に向けた指針で、受け取る側には、ダウンロードした時点で署名を確かめること、署名のないものは受け入れ時に確かめて自社で署名し直すこと、取引先に記録を求めることが関わります。また、公開モデルを追加学習して部署に配った時点で、社内では自社が作成者になります。
最初から3段目を目指すべきですか
論文は勧めていません。3段目は、規制や社内の規則として明確な方針の要求があり、証明と判定の仕組みがそろうまで先送りするよう書かれています。完全な自動判定は初版の時点でもまだ目標の段階とされているため、まずは危険の大きいモデルと外部から調達するモデルに1段目を当てるところから始めるのが現実的です。
署名さえ確認すれば、モデルを安心して使えますか
使えるとは言えません。署名が示すのは、配布元が出したままで中身が変わっていないことと、署名者が誰かということだけです。正しさや安全性、偏りがないことは保証されないと論文自身が明記しています。用途に応じた振る舞いの試験と、出力を人が確認する範囲は、別に決めておく必要があります。
論文の具体的な書式や実装の手引きはどこにありますか
論文本体は考え方と段階の定義が中心で、主張の書式の例や実装の型は、第1作業部会の公開リポジトリで付属の手引きとして提供していくと書かれています。署名の仕組みについては、前作「機械学習の成果物への署名」で鍵や証明書の考え方が扱われています。
まとめ
CoSAI の AIMM は、社内に入れるモデルの確認を、署名(このモデルは名乗っている通りか)・来歴と系譜(どこから来たか)・証明(方針を満たすか)の3段階に分け、用途のリスクに応じて選ぶための物差しです。段階は会社の成熟度ではなく、どの段階も正当な到達点とされています。多くの会社の出発点はゼロであり、まずは入口を洗い出し、本番・社外向け・規制対象のモデルと外部から調達するモデルに1段目を当て、署名のないモデルは受け入れ時に自社の鍵で署名し直すところから始めます。取引先や委託先には求める段階と記録を契約で示し、記録が食い違ったときの方針は起きる前に決めておきます。そして、受け入れてよいかの判定は署名の検証と文章にした規則で行い、AIの印象には任せないこと。署名は正しさや安全の保証ではないことを、規程にも明記しておくことが、確認の仕組みを形だけにしないための前提です。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
