AI規程は作った後に守られない｜形骸化を見つける物差し

「AIの利用規程は去年のうちに作りました。ただ、守られているかと聞かれると答えられません」「作ってから一度も点検していないので、実態が分からないんです」——規程を整えた会社から、半年ほど経つと出てくる声です。情報処理推進機構が2026年7月に公開した手引書も、体制とルールを整備した後は、それらを形骸化させずに継続的に機能させるための運用が重要になる、と書いています。形骸化とは、規程が破られている状態のことではありません。守られているかどうかに、誰も数字で答えられない状態のことです。この記事では、規程と実態のずれが起きる5か所と、四半期ごとに取る5つの数字、そして全数を見ないための抜き取りの設計を整理します。

規程はある。守られているかに答えられる会社が少ない

AIの利用規程を作った会社はこの2年で一気に増えました。ところが、作った後の話になると景色が変わります。誰がどの道具をどう使っているかを聞かれて、その場で答えられる会社はまだ少数です。作る工程には期日が付くのに、守られているかを確かめる工程には期日が付かないのが理由です。

情報処理推進機構が2026年7月に公開した手引書は、この段差を正面から扱っています。体制とルールを整備した後は、それらを形骸化させずに継続的に機能させるための運用が重要になる、と書いたうえで、現状把握は一度きりの初期調査ではなく、最低でも年に1回を目安に定期的に繰り返す活動である、と続けています。整備は終点ではなく、そこから測り始める起点です。

測り始めるにあたって最初に困るのは、何を測ればよいのかが分からないことです。規程の条文は、機密情報を入力しない、出力は人が確認する、といった書き方をしています。この文はそのままでは数えられません。条文を、数えられる操作に置き換える作業が先に要ります。この記事はその置き換えの手順から始めます。

形骸化は違反ではなく、答えられない状態のこと

形骸化という言葉は、規程が守られていない状態を指すものとして使われがちです。実務ではその定義だと動けません。守られていないことが分かっているなら、それはすでに把握できている状態だからです。把握できているものは、教育でも設定でも手を打てます。

困るのは、守られているかどうかを答える材料が無い状態です。違反が0件だという報告も、把握の外で起きていることを含んでいなければ意味がありません。違反が0件という報告と、見ていないという事実は、外からは同じ顔をしています。形骸化を、答えられない状態として定義し直すと、打つべき手が測ることに変わります。

総務省と経済産業省のAI事業者ガイドラインも、事前にルールや手続が固定されたガバナンスではなく、環境とリスクの分析、ゴールの設定、システムの設計、運用、評価というサイクルを継続的に回していく考え方を示しています。そのうえで、マネジメントの仕組みが有効に機能しているかを継続的に監視し、評価と継続的な改善を実施する、と書かれています。有効に機能しているか、という問いは、測らなければ答えが出ません。

ずれは5か所で起きる

規程と実態のずれは、どこでも均等に起きるわけではありません。実際に見に行くと、出てくる場所はだいたい決まっています。次の表は、ずれが起きる5か所と、そこで使える数字、そして数字が動かないときの読み方を並べたものです。読み方の列がこの表の主役です。数字が動かないことを、守られている印だと読んでしまう事故がいちばん多いからです。

ずれの場所	見えている状態	測るのに使う数字	数字が動かないときの読み方
申請の外で使われている	承認した道具の一覧に無いものが、業務の中で使われている	把握できている利用者の数と、通信の側から見える利用者の数の差	差が小さいのではなく、差を見に行っていないことが多い
申請と実際の使い方が違う	申請では調べ物と書かれ、実際には取引先の情報を入れている	申請書の用途と、抜き取った入力の中身が一致した割合	抜き取る母数が小さすぎると、割合は常に高く出る
条文が操作に翻訳されていない	機密は入れないと書いてあるが、何が機密かの線が人により違う	判断に迷って相談窓口に来た件数	0件は守られている印ではなく、窓口が知られていない印
例外が通り道になっている	例外の承認が、特定の部署と特定の時期に偏っている	四半期あたりの例外承認の件数と、承認した理由の種類数	理由が1種類に寄ったら、条文の側が実態と合っていない
出力の確認が省かれている	人が確認すると書いてあるが、確認した跡が残っていない	確認した記録が残っている件の割合	記録の様式が無ければ、割合はそもそも測れない

5か所のうち、最初に手を付けるのは3番目です。条文が操作に翻訳されていない限り、他の4つの数字は取っても解釈できません。何が機密かの線を先に引かないと、一致した割合という数字が意味を持ちません。翻訳の手順は後の節で開きます。

5か所を一度に見に行く必要はありません。1つ目と3つ目から始めるのが現実的です。1つ目は把握の外にある利用の量なので、これが大きいと他の数字の母数そのものが信用できなくなります。3つ目は条文の翻訳なので、済ませておかないと2つ目と5つ目の判定がぶれます。2つ目・4つ目・5つ目は、1つ目と3つ目が片付いてから取り始めても遅くありません。順番を逆にすると、精密に取った数字が後から全部使えなくなります。

守られない理由は、たいてい怠慢ではない

測る話に入る前に、原因の見立てを直しておく必要があります。規程が守られていないとき、原因を従業員の意識に求めると、打ち手が教育の1本に絞られます。教育は効きますが、効く範囲が限られています。意識で説明できない部分を先に切り分けておかないと、同じ教育を毎年繰り返すことになります。

手引書は、許可していない道具が使われる状況について、その発生は多くの場合、悪意ではなく業務上のニーズから生じる、と書いています。そして大きな要因として、業務に使いたいのに公式な手段がない、という状況を挙げています。公式な手段が無いところに、意識だけを求めても埋まりません。

もうひとつ、規程の厳しさ自体が原因になる場合があります。手引書は、ルールは業務実態と乖離しないことが重要であるとし、過度に厳格なルールは利用者の回避を招き、かえってリスクを高める可能性がある、禁止一辺倒ではなく代替手段とセットでルールを策定することが望ましい、と書いています。だから測る対象には、回避が起きているかどうかを含めます。回避は、後で見る5つの数字のうち1つ目と4つ目に出ます。

測る前に、何をもって守られていると言うのかを1行で書く

測る作業でいちばん時間を食うのは、集計ではなく定義です。守られているとはどういう状態か、を1行で書けないまま数字を取り始めると、集めた数字を前にして解釈が割れます。先に1行を書き、その1行に対応する数字だけを取ってください。

書き方には型があります。誰が、どの道具に、どの種類の情報を入れたときに、どの確認を経ていれば守られていると言えるのか。この4つの空欄を埋めると1行になります。たとえば、承認済みの道具に、取引先名を含まない情報を入れ、出力をそのまま社外に出す場合は人の確認を1回通している、といった形です。埋まらない空欄が出たら、そこは条文が曖昧なのではなく、実務で誰も決めていない箇所です。決めてから測りに行ってください。空欄が埋まらない項目が、そのまま点検できない項目になります。

AIのマネジメントシステムに関する国際規格が2023年に発行され、内部の監査とマネジメントの見直しを通じて、導入して終わりにしない仕組みを求めています。ただし規格に沿うかどうかにかかわらず、最初にやることは同じです。自社の条文を、観察できる1行に書き換えるところからしか始まりません。書き換えは1条あたり5分ほどで終わります。

実務仕様：四半期ごとに取る5つの数字

ここからが実務の仕様です。年に1回の点検だけでは、変化に追いつきません。手引書も、環境の変化が速いため年1回程度の定期点検だけでなく、重要な変更、事故、脆弱性の公表、モデルの更新、利用範囲の拡大などを契機とした臨時の点検を行う、としています。そこで、年に1回の点検とは別に、四半期ごとに取る数字を5つに絞ります。

• 把握できている利用者の数と、通信の側から見える利用者の数の差（把握の外にある利用）
• 抜き取った入力のうち、申請された用途と一致していた件の割合（申請と実際のずれ）
• 判断に迷って相談窓口に来た件数と、そのうち回答が例外承認に至った件数
• 四半期あたりの例外承認の件数と、承認した理由の種類数（理由の偏り）
• 出力を社外に出した件のうち、人が確認した記録が残っている件の割合

5つに共通するのは、どれも1つの数字だけでは意味を持たないことです。必ず前の四半期と比べ、差が動いた理由を1行書くという形で使ってください。数字そのものではなく、差の理由を書けるかどうかが点検の成果です。

集計にかかる時間は、慣れれば四半期あたり半日です。最初の1回は、数字を取れる場所を探すところから始まるので2日ほどかかります。5つ全部が最初からそろわなくても構いません。取れるものから始め、取れなかった項目は取れなかったと記録に残してください。

数字1と2：把握の外にある利用と、申請どおりに使われている割合

1つ目は、把握できている利用者の数と、実際に使っている利用者の数の差です。手引書は現状把握の対象として、組織が利用を推奨する道具の利用状況、組織が許可した道具の利用状況、そして許可していない道具を従業員が利用する行為の実態、という3つを挙げています。3つ目を見に行かない限り、差は永遠に0のままです。

見に行く方法は3つあります。通信の記録から、外部の対話型の道具へのアクセスを数える。経費の精算から、個人契約の支払いを拾う。部署ごとに、直近1か月で使った道具を自己申告してもらう。3つ目は手軽ですが、申告しにくい空気があると実態が出ません。最初の1回は、申告と通信の両方から取って突き合わせてください。差の大きさより、差の出た部署がどこかのほうが情報量があります。

2つ目は、申請された用途と実際の使い方が一致しているかです。抜き取った入力の中身を読み、申請書に書かれた用途と照らします。読むのは全部ではありません。手引書も、全件の目視チェックは物理的に不可能である、と書いています。抜き取る件数と選び方を先に決め、その条件を毎回同じにしてください。条件が変わると、前の四半期と比べられなくなります。

数字3と4：相談の件数と、例外承認の偏り

3つ目は、判断に迷って相談窓口に来た件数です。この数字は、多いほど悪いのではありません。逆です。相談が来ているということは、条文が読まれていて、かつ読んだだけでは判断が付かない場面があるという意味です。相談が0件の四半期は、守られている印ではなく、窓口が知られていない印です。

見るべきは件数の推移だけではなく、相談の中身が同じ論点に集まっているかどうかです。同じ論点で3回以上相談が来たら、その論点は条文の側で言い切れていません。相談の記録には、質問と回答のほかに、どの条文を読んで迷ったのかを1行足してください。この1行が、後で条文を書き換える材料になります。

4つ目は例外承認です。手引書も、対策の実効性を評価する観点の例として、インシデント対応記録、教育の実施状況、例外承認の妥当性、是正の状況を挙げています。件数だけでなく、承認した理由の種類数を数えてください。理由が1種類に寄っている場合、その1種類は例外ではなく、条文が想定していない通常業務です。例外の運用で吸収し続けると、条文と実態のずれが固定されます。理由の種類数は、承認の記録に書かれた文言をそのまま並べ、同じ意味のものをまとめて数えるだけで出ます。四半期あたり10件の承認があって理由が2種類しか無ければ、その2つは通常業務の顔をしています。

数字5：人が確認した跡が残っている割合

5つ目は、出力を社外に出した件のうち、人が確認した記録が残っている割合です。ほとんどの規程には、出力をそのまま使わず人が確認する、という趣旨の条文が入っています。ところがこの条文は、守っていても跡が残りません。跡の残らない条文は、守られているかどうかを外から確かめられません。

だから、確認したことを残す様式を先に作ります。凝ったものは要りません。確認した人、確認した日、確認した対象、直した箇所の有無。この4項目が1行に並んでいれば足ります。様式が無いところで割合を測ろうとすると、測れないという結論しか出ません。逆に、様式さえあれば割合はその日から取れます。記録の置き場所は、共有の表計算1枚で構いません。工程を増やすより、埋める場所を1か所に固定するほうが続きます。

様式を作ったあとで起きるのは、形だけ埋める運用です。直した箇所の有無がすべて「無し」で埋まっていたら、確認が形になっています。直した箇所が1件も無い月が続いたら、確認の仕方そのものを見に行ってください。実際に出力を読んでいれば、表記の揺れや事実の取り違えが一定の割合で見つかるはずです。

全数は見ない。抜き取りの設計を先に決める

点検で人が確認する範囲は、先に決めておきます。決めずに始めると、最初の四半期は全部を読み、次の四半期には何も読まなくなります。手引書も、利用のたびに発生する膨大な記録を限られた人数で監査することは容易ではなく、全件の目視チェックは物理的に不可能である、と明記しています。

この設計でいちばん効くのは1つ目です。部署で切ると、毎回同じ部署の同じ人の記録を読むことになります。用途で切ると、少人数の部署で起きている重い使い方が視界に入ります。人数ではなく、扱っている情報の重さで母集団を作ってください。

件数の目安は、最初は少なめで構いません。読んだ件数を増やすより、同じ条件で4回続けるほうが情報が出ます。条件を変えずに4回読むと、増えたのか減ったのかが初めて言えるようになります。1回目の結果だけで判断を下すと、次の四半期に条件ごと作り替えたくなります。

取る記録と、残す期間を先に決めておく

測るには記録が要ります。何を取るかを決めていないと、点検の当日になって取れていないことが分かります。手引書は、取得すべき記録の要件として、利用者と端末、利用した時間、利用した道具、入力した内容、出力した内容、そして制御が働いた履歴を挙げています。出力については消費した量も、制御については遮断や伏せ字の実行の履歴も含まれます。点検で使うのは、このうち利用者と時間と道具の3つが中心です。残りは、何かが起きたときに経緯をたどるために取ります。

入力と出力の中身は、抜き取りで読むときだけ使います。全部を長く持つ必要はありません。手引書は、日時や利用者の識別子といった属性の情報は長期に保存し、容量を要する入力や出力の本文は短期に保存する、という分け方を示し、長期の例として1年、短期の例として3か月を挙げています。属性は1年、本文は3か月という分け方が、費用と点検の両立点です。

もうひとつ決めるのは、記録を誰が見られるかです。手引書も、記録自体に機密情報が含まれる場合は閲覧の権限の管理が必要になると書いています。点検のために開いた記録から、別の情報が広がる経路を先に塞いでください。閲覧できる人を名簿にし、開いた日を残す。この2つで足ります。名簿は、点検を担当する人と、その上で結果を受け取る人だけに絞ってください。広げると、記録を開くたびに調整が要るようになり、点検そのものが止まります。

点検をAIに任せてよい範囲と、任せてはいけない範囲

点検の作業そのものを機械に任せたくなります。実際、記録の量を考えれば任せざるを得ません。手引書は、記録の監査の仕組みを3段階で示しています。蓄積して事後に確認する段階、あらかじめ登録した語や形を検知して自動で通知する段階、そして監査用の仕組みに読ませて文脈から判定する段階です。

3段階目については、利用のたびに監査の側も動くので利用料が実質2倍になるほか、監査する仕組み自体の統制や精度の調整、さらに監査する仕組みの監査も必要になる、と注意が書かれています。そのうえで、異常を検知した場合でも、全ての判断を自動化するのではなく、重要な判断は人が行う必要があるとされています。検知は任せてよく、処分の判断は任せない、という線です。

• 語や形での検知は任せてよい。ただし、文脈に埋め込まれた機密情報はこの方法では拾えないと手引書が明記している
• 規程に違反しているかどうかの判定を、機械の出力だけで確定させない。該当しそうな件を拾うところまでにする
• 違反として扱う前に、判定の根拠となった箇所を出力させ、人がその箇所を開いて現物を確かめる
• 誰を対象に読むかの選定を機械に任せない。抜き取りの条件は、人が決めて記録に残す
• 監査に使う仕組みへ記録を渡すときは、入力が学習に使われない設定かを先に確認する

最初から3段階目を目指す必要はありません。手引書は、蓄積して事後に確認する段階を、道具を導入するすべての企業が最低限実施すべき水準としています。そのうえで、重要な仕組みについてはごく一部の記録だけでも毎日人が確認することが望ましい、とも書いています。全部を機械に渡す前に、ごく一部を毎日人が読む習慣を作るほうが先です。

条文を、観察できる操作に置き換えて読み直す

測る仕組みが回り始めたら、条文の側を1条ずつ読み直します。読み直すのは文章の良し悪しではありません。その条文を守っている状態と守っていない状態が、外から見分けられるかどうかだけを見ます。見分けられない条文は、点検の対象から外れているのと同じです。

置き換えの例を挙げます。機密情報を入力しない、という条文は、そのままでは観察できません。承認済みの道具以外に業務の情報を入力しない、取引先名と契約金額を含む文章を入力しない、というところまで下ろすと、抜き取った入力を読んで一致を判定できます。出力は人が確認する、という条文も同じです。社外に出す文書は、出す前に本文と数字を1人が読み、直した箇所の有無を記録に残す、まで下ろせば判定できます。観察できる形とは、読んだ人が一致か不一致かを迷わずに言える形です。

AI事業者ガイドラインの利用者向けの記述も、提供側が定めた利用上の留意点を遵守し、提供側が設計において想定した範囲内で利用する、個人情報を不適切に入力することがないよう注意を払う、機密情報を不適切に入力することがないよう注意を払う、といった書き方をしています。公的な文書のこの水準の表現を、自社の道具名と情報の区分に置き換えるのが翻訳の作業です。1条あたり5分、20条なら2時間ほどで終わります。

数字が動いたときに、何を変えるかを先に書いておく

点検の最後に決めるのは、数字が動いたときの手当てです。ここを決めていないと、四半期ごとに数字を並べるだけの報告が続きます。数字と手当てを対にして書いておくと、点検が報告ではなく作業に変わります。

対の作り方は単純です。把握の外にある利用が増えたら、承認済みの道具を増やす検討に入れる。申請と実際のずれが増えたら、申請の書式にある用途の選択肢を実態に寄せる。相談が同じ論点に集まったら、その論点を利用の画面に常時表示する。例外承認の理由が1種類に寄ったら、その業務を通常の手順に入れられないかを見る。どれも規程の文面ではなく、現場に見えているものを変える手当てです。

手当ての選び方には順番があります。禁止を強めるのは最後にしてください。手引書が指摘するとおり、過度に厳しいルールは回避を招き、かえって実態の把握を難しくします。まず公式な手段を増やし、それでも残る部分に線を引くという順で進めると、次の四半期の数字が読みやすくなります。逆にすると、数字は良くなったのに実態が見えなくなります。

NG例：測っているつもりで何も測れていない

最後に、点検の形はあるのに何も分からない進め方を5つ挙げます。どれも、四半期の終わりに数字は出るのに、差の理由が1行も書けません。

• 違反の件数だけを報告する：見ていない範囲が含まれず、0件という報告が見ていない証明と区別できない
• 抜き取る件数と条件を毎回変える：前の四半期と比べられず、増えたか減ったかが言えない
• 相談窓口の件数が減ったことを成果として扱う：条文が読まれなくなった場合も同じ形で減る
• 全部署を均等に抜き取る：重い情報を扱う少人数の部署が、毎回ほとんど選ばれない
• 確認の記録を、確認したかどうかの2択だけで残す：直した箇所が残らず、確認が形になっても気づけない

3つ目は、良かれと思って起きます。相談が減ったのは周知が行き渡った証拠だ、という読み方です。ところが同じ数字は、窓口が忘れられた場合にも出ます。減った理由を1行書けないなら、その数字は成果として扱わない。件数の隣に、直近の相談がどの論点だったかを必ず併記してください。論点が途切れていれば、周知ではなく忘却です。

5つ目は記録の様式の問題です。確認したかどうかの2択にすると、埋めるのが一瞬で済むため、読まずに埋める運用に必ず流れます。直した箇所の有無という欄を1つ足すだけで、読んだかどうかが数字に出ます。欄を足す作業は10分で終わり、次の四半期から効き始めます。

まとめ

AIの利用規程は、作った時点では何も保証しません。保証されるのは、守られているかを測り始めてからです。形骸化とは破られている状態ではなく、守られているかどうかに誰も数字で答えられない状態を指します。まず、条文を1条ずつ、外から一致か不一致かを言える形に書き換えてください。20条なら2時間ほどで終わります。書き換えが済んだら、四半期ごとに5つの数字を取り、前の四半期との差の理由を1行ずつ書く。抜き取りは部署ではなく用途で切り、重い用途から先に読む。記録の属性は1年、本文は3か月。検知は機械に任せてよく、違反として扱う判断は人が持つ。この順に置いていくと、点検の日に慌てて資料を作る必要がなくなります。数字が並んだ紙ではなく、差の理由が並んだ紙が残っていきます。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。