AIのリスク評価を進める5工程｜物差しを先に決める

「このツールは使っても大丈夫ですか」「リスク評価をやれと言われたのですが、何を評価すればよいのでしょうか」——AI導入の窓口に最初に届く2つの問いです。どちらも道具を主語にしていますが、危ないかどうかは道具では決まりません。同じ生成AIでも、社内の議事録を要約する使い方と、顧客に出す価格の根拠を書かせる使い方では、間違ったときに起きることがまるで違います。測る対象は道具ではなく用途で、測る目的は禁止する相手を探すことではなく、条件付きで使える真ん中を作ることです。この記事では、用途ごとにリスクの大きさを測り、扱いを分ける作業の進め方を、5つの工程に分けて整理します。

リスク評価は、使わせない理由を探す作業ではない

依頼が道具の名前で届くのは、社内の申請書がそういう形で作られているからです。申請の欄に道具名を書かせ、情報システム部門が可否を返す。この形は、社内に置く業務システムを選ぶときには機能してきました。ところが生成AIでは、同じ道具の中に、社内でしか読まれない使い方と、取引条件を左右する使い方が同居します。道具単位で1つの答えを出そうとすると、いちばん重い使い方に合わせて全体を絞ることになります。

絞った結果どうなるかは、はっきりしています。申請が来なくなるだけです。個人の端末や個人の契約で使われ、会社からは何も見えなくなります。実際の数字を見ても、禁止という選択は主流ではありません。2026年3月に1万312社が答えた調査では、生成AIの活用を禁止している企業は0.4%でした。一方で活用していると答えた企業は34.5%あり、そのうち86.7%が効果を実感しています。禁止は現実の選択肢としてほとんど採られていないということです。

だから測ります。測る目的は、禁止と自由のあいだに「条件付き」という段を作ることです。条件付きが成り立つためには、どの用途にどの条件を付けるかを決める必要があり、その判断のために大きさを測ります。評価は使わせないための関門ではなく、条件を付けて使えるようにするための道具です。この向きを最初に共有しておかないと、現場は評価票を見た時点で身構えます。

数字で見る現在地：使う会社は増え、事故の件数も増えた

測り方の話に入る前に、いま何が起きているかを数字で押さえます。前述の調査は2026年3月17日から31日にかけて全国の2万3,349社に対して行われ、1万312社が回答しました。回答率は44.2%です。活用している企業は34.5%で、内訳は「非常に活用している」が4.4%、「やや活用している」が30.2%。今後の活用を検討中が14.2%あり、検討中を含めると半数近くが利用側に回っていることになります。

同じ調査で挙げられた課題の並びが、この記事の主題と重なります。1位は情報の正確性で50.4%、2位は専門人材やノウハウの不足で41.3%、3位は活用すべき業務範囲が不明確で40.0%でした。情報漏洩のリスクは33.5%、トラブル時の責任ルールが未整備は25.5%です。上位に並ぶのは事故そのものではなく、判断の物差しが無いという訴えです。実際に悪影響やトラブルが無いと答えた企業は67.7%で、誤りによる損害は1.3%、情報流出は0.7%にとどまっています。

世界の側の数字も見ておきます。記録されたAIに関する事故の件数は、2025年に362件で、前年の233件から増えました。一方で、責任あるAIの方針を持たない企業の割合は2024年の24%から2025年には11%へ下がっています。方針は急速に整った、しかし事故は増えた、という組み合わせです。実装の障害として挙がったのは、知識のギャップが59%、予算の制約が48%、規制の不確実性が41%。方針の文書はできたが、何をどう測るかが空いているという現在地が読み取れます。

もう1つ、測る側にとって見過ごせない数字があります。提供する側がどれだけ情報を開示しているかを採点した指標では、平均のスコアが2023年の37から2024年に58まで上がったあと、2025年には40へ下がりました。道具の側から出てくる情報は、増え続けるとは限らないということです。同じ報告ではAIガバナンスに関わる職務が2025年に17%増えたとも示されていますが、人を置いても、開示が減れば測る材料は増えません。先の国内調査で「使いこなしの格差が広がった」を挙げた企業が18.8%あったことと合わせて読むと、自社の用途を自社で測る以外に、判断の材料を手に入れる道が無いという状況が見えてきます。

土台：規格と指針が求めているのは、大きさで扱いを変えることだけ

作業の話に入る前に、土台を1節だけ確認します。米国の政府機関は2023年1月26日にリスク管理の枠組みを公表し、2024年7月26日には生成AIに固有のリスクを扱う補足を出しました。この枠組みは中核となる機能を分けて置いていて、置かれた状況を見取ることと、大きさを測ることを別の機能として扱っています。状況の把握と測定を分けている点が、実務では効きます。どこで使うかを書き出す作業と、それがどれだけ重いかを点にする作業は、混ぜると両方が甘くなります。

日本では、総務省と経済産業省がまとめたAI事業者ガイドラインが2026年3月31日に第1.2版として公表されています。欧州の規則は用途の危険度で段を分ける型を採っています。細部はそれぞれ違いますが、共通しているのは1点だけで、大きさを測って扱いを変えるという骨格です。段の数も呼び方も、自社で決めてよい部分です。

逆に言えば、規格の要求事項を頭から読み込まないと評価が始まらない、ということはありません。認証を取るかどうか、条文が自社にどう当たるかは別の検討で、それぞれ整理した記事があります。ここから先は、社内で明日から動かせる作業の順番だけを書きます。参照する文書を1つに絞り、版と公表日を控えておけば土台としては足ります。

工程1：評価の単位を、道具ではなく用途で切る

最初に決めるのは評価の単位です。単位は用途で、用途は4点の組み合わせで書きます。誰が使うか、どのデータを入れるか、何を出すか、出したものが誰に届くか。この4点が揃って初めて、間違ったときに何が起きるかを言えるようになります。台帳の1行が1用途で、道具の名前は行の中の属性として持たせます。

道具単位で切ると何が起きるかは、実際に見てみると分かりやすいです。1つの文章生成の道具に、社内配布だけの使い方と顧客の決裁に届く使い方が同居している場合、道具に付ける扱いは重い側に合わせるしかありません。すると社内配布の使い方にも同じ条件が付き、守る意味の薄い手続きが日常業務に貼り付いて、規程ごと守られなくなります。逆に軽い側に合わせれば、重い使い方が野放しになります。

行数の目安を出しておきます。最初の棚卸しでは20行から40行に収まることが多いです。100行を超えたら切りすぎで、束ね直します。束ねる軸は「出したものが誰に届くか」です。届く先が同じで、入れるデータの種類も同じなら、1行にまとめて構いません。切る細かさは、扱いを変える必要があるかどうかで決めます。扱いが同じになる用途を分けて書いても、台帳が重くなるだけです。

単位の切り方を具体で見る：同じ道具が3つに分かれる

マーケ部門でよくある3つの使い方を、同じ道具のまま並べます。1つ目は社内会議の記録を要約する使い方です。入れるのは社内の議事メモ、出るのは要約、届く先は同じ部門の数人。間違いがあっても、会議に出ていた人が読めば気づきます。やり直しの費用がほぼゼロで、気づく経路も揃っている用途です。

2つ目は、問い合わせへの一次返信の下書きを作る使い方です。入れるのは相手が書いた問い合わせ本文、出るのは社外に出る文面、届く先は見込み客です。送信前に担当者が読む運用なら、誤りは出る前に止まります。ただし、問い合わせ本文には相手の氏名や社名が含まれるので、入れてよいデータの範囲を決める必要が出てきます。1つ目には無かった論点です。

3つ目は、見積の条件から価格や納期の根拠を書かせる使い方です。入れるのは自社の条件表、出るのは取引条件の説明、届く先は相手の決裁です。ここで数字を1桁間違えると、送った後では取り消せません。同じ道具でも、この3つは扱いを揃える理由が1つもありません。違いを作っているのは道具の性能ではなく、届く先とやり直せるかどうかです。

この3例を台帳に書くと、行は3行になります。1行目は自由、2行目は条件付き、3行目は条件付きの強い側か禁止。同じ道具に3つの扱いが並ぶ状態が、正常な台帳の姿です。道具の名前だけを見て1つの答えを出そうとしていた頃と比べて、現場が動かせる範囲は明確に広がります。

工程2：物差しを先に決める：影響・起きやすさ・気づけるか

単位が決まったら、次は物差しです。軸は3つ用意します。影響の大きさ、起きやすさ、そして気づけるか。影響の大きさは、間違ったときに誰にどんな損が出るかを、金額ではなく種類で見ます。人の権利に触るのか、取引条件が動くのか、評判が傷むのか、法令に当たるのか。金額で見ると、小さい取引の用途がすべて軽い側に落ちてしまいます。

起きやすさは、その用途が1日に何回動くかと、途中に人の手が入るかで見ます。月に1回の用途と、1日に200回動く用途では、同じ誤り率でも表に出る回数が違います。3つ目の「気づけるか」が、実務でいちばん抜けます。これは間違いが外に出る前に、誰かが気づく経路があるかどうかを見る軸です。送信前に人が読む運用なら気づけますが、出力がそのまま台帳や外部の仕組みに書き込まれる用途では気づけません。

この3軸を、案件ごとではなく先に決めておくことが大事です。案件が来てから物差しを作ると、通したい案件では低く出る物差しができます。物差しは規程の付録として1枚に固定し、案件では選ぶだけにします。物差しを作る人と、案件を通したい人を分けるのが最小限の作り込みです。決めるのに必要な時間は、関係者3人で半日ほどでした。

点の付け方は3段で足りる。5段にすると真ん中に寄る

段の数は3段にします。大・中・小の3つで、それぞれの意味を言葉で固定します。影響の大きさなら、「大」は取引条件や人の権利に直接効くもの、「中」は社外に出るが訂正できるもの、「小」は社内にとどまるもの。段の名前ではなく、段の意味を書いた1行が判断を揃えます。5段にすると、迷ったときに真ん中の3が選ばれ、分布が中央に集まって区分に落とせなくなります。

3軸の点をどう合成するかも決めておきます。足し算にすると、影響が大きいのに起きやすさが低い用途が、軽い側に落ちます。使うのは足し算ではなく、最も高い軸に全体を引っ張るやり方です。影響が「大」なら、起きやすさが「小」でも条件付き以上に置きます。気づけるかが「小」、つまり気づく経路が無い用途は、それだけで1段上げます。

ここで一つ、線を引いておきます。点をAIに付けさせないでください。用途の説明文を読ませて点を返させると、もっともらしい表が数分で出てきますが、その表は根拠を持ちません。AIに任せてよいのは、根拠を書かせる部分までです。各軸について「なぜその段なのか」を1行ずつ書かせ、段そのものは人が置く。書かせた1行は、後で見直すときに効きます。3か月後に段を上げ下げする理由が、そこにしか残っていないからです。

工程3：点を区分に落とす：禁止・条件付き・自由の3段

点が付いたら区分に落とします。区分は3つで足ります。禁止は、条件を付けても使わないと決めたもの。条件付きは、決めた条件を満たす限り使ってよいもの。自由は、追加の条件なしで使ってよいものです。言葉は曖昧にしないほうが運用が保ちます。「原則禁止」「当面は見送り」といった書き方は、現場では「上に聞けば通る」と読まれ、判断が窓口に戻ってきます。

禁止に入れる基準は、3つに絞れます。1つ目は、やり直せない結果に直接つながるもの。送金や発注、公開の確定など、取り消せない操作を出力がそのまま起動する用途です。2つ目は、本人の同意なく人の属性を推し量るもの。採用や与信の判断材料を作らせる用途がここに入ります。3つ目は、出所を確かめられないデータを入れる用途です。この3つに当たらなければ、たいていは条件付きで置けます。

実際に落としてみると、条件付きに9割近くが入ります。これは異常ではなく、健全な形です。禁止が多い台帳は現場から見ると使えない台帳で、自由が多い台帳は何も測っていないのと同じです。条件付きが厚いことが、測った甲斐がある状態です。なお、自由に置いた用途も台帳から消さないでください。消すと、その用途が増えたり変わったりしたときに誰も気づけなくなります。

工程4：区分ごとの扱いを、動作で書く

条件付きに置いた用途には、条件を書きます。ここで書き方が決め手になります。「注意して使う」「必要に応じて確認する」は条件ではありません。条件は動作で書きます。誰が、何を、いつ、どこに記録するか。この4点が埋まっていない条件は、運用に乗りません。

よく使う条件の型を5つ挙げます。1つ目は入れてよいデータの範囲で、伏せる欄を先に決めます。氏名は伏せる、金額は入れてよい、取引先の社名は伏せる、といった形です。2つ目は人が読む地点で、送信前か公開前か台帳に書く前かを1か所に固定します。3つ目は根拠の添付で、出力に参照した資料の場所を併記させます。4つ目は記録で、誰がいつ何を出したかを残します。5つ目は期限で、この条件が次の見直しまで有効だと書きます。

避けたい書き方も具体で挙げます。「重要な案件では上司の確認を得る」は、重要が定義されていないので機能しません。同じ内容を動作で書くなら、「社外に出る文面で、金額または納期が含まれるものは、送信前に担当課長が原文と出力を並べて読む」となります。長くなりますが、長さは運用が続くかどうかとは関係がありません。読む人が迷わないほうが続きます。

人が確認する範囲を先に決める：全件確認は必ず崩れる

条件のなかで最も崩れやすいのが、人が読む部分です。最初は全件を読む運用で始まりますが、これは2週間ほどで崩れます。件数が増えるからではなく、読む人が「だいたい合っている」ことを学ぶからです。崩れてから直すのではなく、最初から範囲を狭く決めておくほうが持ちます。

範囲の絞り方は、抽出の割合ではなく性質で決めます。1割を無作為に読む運用は、重い誤りを取り逃がします。代わりに、社外に出るもの、数字が入るもの、固有名詞が入るもの、初めて使う用途の最初の20件、という形で性質を指定します。読む対象が全体の1割になるとしても、その1割の選び方が違えば効き目が変わります。

読む人が見る材料も決めておきます。出力だけを見ても、正しいかどうかは分かりません。必要なのは3点で、入れたデータ、出た結果、そして根拠として挙がった参照先です。この3点を並べて置く画面や台帳を用意しておくと、1件あたりの確認は1分から2分で終わります。合否の判断はAIに出させません。AIには、根拠が付いていない断定に印を付けるところまでをやらせて、通すか止めるかは人が決めます。

工程5：古びさせない：やり直す引き金を決める

評価表は作った翌月から古びます。年に1回の見直しだけでは追いつかないので、期限に加えて引き金を決めます。引き金は4つです。道具の仕様が変わった、用途が変わった、事故やヒヤリが出た、外の決まりが変わった。このどれかが起きた行だけをやり直します。

引き金を誰が引くかも決めておきます。仕組みとしていちばん軽いのは、申請の窓口に「用途の変更」という欄を作ることです。入れるデータが増えた、出力の届く先が変わった、出力を自動で別の仕組みに渡すようにした。この3つのどれかに当たれば、現場が自分で申告できます。前述の調査で実装の障害の1位が知識のギャップで59%だったことを思い出してください。担当者の知識に頼るのではなく、申告の欄を1つ増やすほうが確実です。

やり直しの範囲も限定します。引き金が「道具の仕様が変わった」なら、見るのは気づけるかの軸だけで足りることが多いです。仕様変更で出力がそのまま外に流れるようになったなら、その軸が下がって段が1つ上がります。全部の軸を毎回付け直すと、見直しが年1回の行事になって引き金が使われなくなります。変わった軸だけを見る運用にしてください。

評価表に載せる項目一覧

ここまでの5工程を、1枚の表に落とします。列が多すぎると埋まらないので、10列前後に収めます。書かないと何が起きるかを併記したので、自社の表と見比べて欠けている列を足してください。

列（項目）	書く内容	書かないと起きること
用途の名前	何をする使い方かを1行で。道具名は別の列に置く	同じ用途が別名で二重に登録され、扱いが食い違う
使う人	部門と役割。個人名ではなく役割で書く	担当が替わった時点で条件が引き継がれない
入れるデータ	種類と、伏せる欄。実データの例は載せない	現場が判断できず、入れてよいか毎回窓口に聞く
出るもの	成果物の形。文章、画像、表、判定のどれか	出力が自動で次の処理に渡っていることに気づけない
届く先	社内のみ、顧客、公開、外部の仕組みのどれか	影響の大きさを測る根拠が消え、点が主観になる
影響の大きさ	大中小と、その段にした理由を1行	見直しのときに上げ下げの根拠が残らない
起きやすさ	頻度と、途中に人の手が入るか	月1回の用途と毎日動く用途が同じ扱いになる
気づけるか	出る前に誰かが気づく経路があるか	気づけない用途が軽い側に落ちる
区分と条件	禁止・条件付き・自由と、条件を動作で	条件が心構えになり、運用に乗らない
人が読む範囲	読む対象の性質と、見る材料の3点	全件確認から始まり、2週間で形だけになる
期限と引き金	次の見直し日と、やり直す引き金	1年で古び、事故のときに評価表が使えない

この表は台帳として運用します。1行ごとに更新の日付を持たせ、変更の履歴を残してください。後から説明を求められたときに効くのは、結論の列ではなく理由の列と履歴です。

5工程を回す段取りと分担

最後に段取りです。初回は2週間、以降は月に半日で回ります。人を集めるのは工程2と工程3で、それ以外は担当1人で進められます。

この段取りで作ると、2週間後には台帳の1版目ができています。完全な表を作ってから始めるのではなく、20行の表で運用を始めて、引き金で育てるのが早いやり方です。

進め方でつまずく7つ

同じつまずき方が繰り返し起きます。着手前に読んでおくと、半分は避けられます。

• 道具の名前で評価する。同じ道具に軽い使い方と重い使い方が同居しているので、答えが1つに決まらない
• 案件が来てから物差しを作る。通したい案件では必ず低く出る物差しができる
• 段を5段にする。迷った行が真ん中に集まり、区分に落とせなくなる
• 3軸の点を足し算する。影響が大きく頻度が低い用途が、軽い側に落ちる
• 点をAIに付けさせる。もっともらしい表が数分で出るが、後から根拠を示せない
• 条件を心構えで書く。「注意する」「必要に応じて確認する」は動作ではないので運用に乗らない
• 全件を人が読む運用で始める。2週間で形だけになり、読んでいるのに気づけない状態になる

7つのうち5つは、着手前の30分で決めておけば起きません。物差しと段の数と合成の仕方は、案件を見る前に固定するのが要点です。

ミニ用語解説：混ざりやすい言葉

社内で議論が空回りする原因の多くは、言葉が2つの意味で使われていることです。よく混ざる5組を整理しておきます。

• リスク評価と影響評価：前者は自社が受ける損の大きさを測るもの、後者は使われる側の人が受ける影響を見るもの。人の権利に触る用途では両方が要る
• 禁止と保留：禁止は条件を付けても使わないと決めた状態。保留は判断していない状態。台帳に保留の行を残すと、現場では「聞けば通る」と読まれる
• 残ったリスク：条件を付けた後にまだ残っている分。条件を書いたら必ずこの1行を書く。ゼロと書ける用途はほとんどない
• 台帳と規程：台帳は用途ごとの行が並ぶ表で、月単位で動く。規程は物差しと区分の定義で、年単位でしか動かさない。混ぜると更新が止まる
• 点と区分：点は3軸ごとの段、区分は扱いの種類。点が同じでも、やり直せるかどうかで区分が変わることがある

この5組の定義を台帳の先頭に貼っておくだけで、月次の見直しの議論が短くなります。言葉を揃える作業は、評価表を作る作業の一部です。

まとめ

AIのリスク評価は、道具の良し悪しを決める作業ではありません。用途ごとに影響の大きさと起きやすさ、そして気づける経路があるかを測り、禁止・条件付き・自由に振り分ける作業です。評価の単位を用途に移した時点で、同じ道具に3つの扱いが並ぶようになり、現場が動かせる範囲がはっきりします。

実測もこの向きを支えています。1万312社が答えた2026年3月の調査では、活用を禁止している企業は0.4%にとどまり、活用している企業は34.5%、そのうち86.7%が効果を実感していました。一方で課題の1位は情報の正確性で50.4%、3位は活用すべき業務範囲が不明確で40.0%。世界の側でも、方針を持たない企業は24%から11%へ減ったのに、記録された事故は233件から362件へ増えました。実装の障害の1位は知識のギャップで59%です。足りないのは方針の文書ではなく、測り方と扱いの分け方だということです。

決めることは5つに絞れます。用途で単位を切る。物差しを案件の前に3軸で決める。点を3段で付け、最も高い軸に寄せて区分に落とす。条件を動作で書き、人が読む範囲を性質で狭く決める。そして引き金を置いて、変わった軸だけを付け直す。冒頭の「このツールは使っても大丈夫ですか」という問いには、この5工程を通した後なら答えられます。答えは道具の名前ではなく、「その使い方なら条件付きで使えます、条件はこの3行です」という形になります。点をAIに付けさせず、根拠を書かせるところまでで止める。この線を引いておくことが、任せられる範囲を広げる近道です。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。