AIのヒヤリハットを集める5工程｜事故になる前に拾う

「取引先の名前が入ったままの資料を貼り付けそうになって、送信の直前で気づきました」「出てきた条文の番号が違っていて、会議で読み上げる直前に別の人が気づきました」——AIの利用が広がった部署から、こういう話が雑談として出てきます。ところが、この種の話は社内のどこにも残っていません。事故になっていないので障害の報告には上がらず、規程に触れていないので違反の記録にも載らないからです。危なかっただけの出来事は、記録の設計から構造的に抜け落ちています。この記事では、それが出てこない3つの理由を押さえたうえで、拾う場所を決める、言いやすい形にする、1件の粒度を決める、規程と手順のどこに返すか決める、返した結果を本人に見せる、という5つの工程を順に整理します。

「危なかった」は、事故と違反のあいだに落ちている

社内の記録には、たいてい2つの箱があります。何かが止まったり漏れたりしたときに書く箱と、決めたことを守らなかったときに書く箱です。AIの使い方で起きる出来事の多くは、そのどちらにも入りません。送る前に気づいた、読み上げる前に気づいた、貼り付ける前に手が止まった。結果として何も起きていないので、書く欄がありません。書く欄がないものは、翌日には誰の記憶にも残りません。

この構造は、リスクの大きさとは無関係に働きます。情報処理推進機構が2026年1月に公表した情報セキュリティ10大脅威では、組織編の第3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。想定される事象として、資料や顧客の情報をそのまま入力してしまうことと、もっともらしい誤情報を確認せずに使うことが挙げられています。どちらも、気づいて止めれば何も起きず、気づかなければ大きく起きる型です。止めた側の回数を数えていないと、どれだけ際どいところを通っているかが誰にも見えません。

だから最初にやるのは、3つ目の箱を作ることです。事故の箱でも違反の箱でもない、何も起きなかった出来事だけを入れる箱を用意します。既存の報告書の様式に項目を足す形にすると、事故の箱に吸い込まれて出てこなくなります。止まった後に出す報告書の項目の作り方は別の記事の領分なので、ここでは触れません。この記事で作るのは、止まらなかった出来事のための、別の入口です。

危なかったの数は、事故の数より桁が多い

数の感覚を先に置きます。損害保険会社の安全技師が示した古典的な経験則では、同じ人が起こした330件のうち、重い災害が1件、軽い傷害が29件、傷害のない事故が300件とされています。比率でいえば、目に見える事故の300倍の出来事が、見えないところで起きているという読み方です。この300のほうに手を入れるのが、事故の前に拾うという考え方の中身です。

AIの利用でも、同じ形の数字が出ています。サイバーセキュリティクラウドが2026年5月に公表した、業務でパソコンを日常的に使う会社員300人への調査では、業務で生成AIを使っている人は67%、そのうちヒヤリとした経験があると答えた人は35%でした。さらに、ヒヤリとした経験がある人のうち約14%は、実際に問題へ発展したと答えています。裏を返せば、ヒヤリとした経験の8割以上は、何も起きないまま消えています。

この8割が、いま社内のどこにも残っていない部分です。残っていないと、どこで危なかったのかが分からないので、規程を直す場所も決まりません。結果として、規程は事故が起きた場所にだけ後から足されていきます。足された規程は現場から見ると唐突で、なぜその制限があるのかが説明されないまま増えていきます。集める目的は、事故を数えることではなく、規程と手順を直す場所を先に見つけることです。

AIの危なかったは、現場のヒヤリハットと形が違う

既存のヒヤリハットの仕組みをそのまま持ってくると、うまく動かないことがあります。理由は、危なさの現れ方が違うからです。現場の危なさは、身体の動きや物の位置として目に見えます。AIの危なさは、入力した内容と、出てきた内容と、それをどこに使ったかという3つの組み合わせの中にあり、見た目には普通の作業と区別がつきません。だから本人が言葉にしないかぎり、周りの誰も気づけません。

もう1つの違いは、危なさが会社の外側に出ていることです。同じ調査では、業務でAIを使ったことを社内で共有していない人が約43%、社内にルールがない、または分からないと答えた人が約45%でした。エルテスが2026年1月13日に29歳から69歳の会社員と公務員300名に行った調査でも、社内規程がないと答えた人が45%、わからないと答えた人が26.7%でした。会社が見えているのは、業務の半分ほどでしかありません。見えていない半分で起きた危なかったは、入口がなければ永久に出てきません。

形が違うということは、拾い方も変えるということです。現場のヒヤリハットは「どこで何をしていたときに何が起きかけたか」で書けますが、AIの場合はそれに「何を入れたか」と「出てきたものをどこに使おうとしたか」が要ります。入れたものと使い先の2つがないと、規程のどこに返せばいいかが判断できません。後の工程で決める粒度も、この2つを必ず含む形にします。

出てこない理由その1：言うと怒られると思っている

入口を作っても、最初は何も来ません。いちばん大きい理由は、報告した本人が不利になると思われていることです。特にAIについては、使ってはいけない道具を使っていた、入れてはいけないものを入れかけた、という話が含まれます。報告の内容が、そのまま自分の落ち度の申告になります。この形のままでは、書く人はほとんど現れません。

解き方は、制度の側で先に約束することです。アメリカ航空宇宙局が1976年から運営している航空の自発的な報告制度は、自発的であること、内容を機密として扱うこと、報告を理由に罰しないこと、運営が当事者の組織から独立していることの4つを原則に置いています。集めた報告は200万件を超え、分析の担当者が報告者を特定できない形に直したうえで公開されます。罰しないという約束は、口頭ではなく文書で、入口の画面に書いて初めて効きます。

社内で置くなら、この入口に来たものは人事の評価に接続しない、という1文を文書に書きます。書くだけでなく、運用を持つ部署を明示します。運用を持つ部署が、評価に関わる部署と同じだと、約束は信用されません。なお、実際にルールを破っていた場合にどう扱うかは、違反への対応という別の記事の領分です。この入口は、違反を見つけるための道具ではないと最初に決めておきます。

出てこない理由その2：誰に言うか分からない

2つ目は、単純な導線の問題です。危なかったと思った瞬間に、どこに書けばいいかが分からない。上長に言うほどでもない、情報システムに連絡するのは大げさ、と考えているうちに次の仕事が来て、そのまま忘れます。思いついてから書き終わるまでが1分を超えると、報告はほとんど残りません。時間の長さそのものが、内容の重要度より強く効きます。

導線は、既に毎日開いているものの中に置きます。新しい仕組みに入ってもらうのではなく、朝から晩まで開いている画面の中に入口を作ります。入口は1つに絞って、どこから入っても同じ場所に届くようにします。部署ごとに別の場所を作ると、集めた後に突き合わせる作業が増え、集計が3か月で止まります。

相乗りできる場所があるなら、それを使います。うまくいった使い方を集める窓口が既にあるなら、同じ入口に危なかったの欄を並べて置くのが早道です。良い話と危ない話が同じ入口にあると、危ない話を出すこと自体の目立ちにくさが上がります。ただし、良い事例の集め方と横展開のやり方そのものは別の記事の領分なので、ここでは入口を共有するという一点だけを扱います。

出てこない理由その3：本人が危ないと思っていない

3つ目がいちばん厄介です。本人に危なかったという自覚がなければ、どんな入口を作っても書かれません。ところが調査を見ると、自覚がないというより、抵抗を感じながら続けている状態のほうが多いことが分かります。エルテスの調査では、資料を上げることに抵抗がある、またはやや抵抗があると答えた人が75.8%いました。そのうえで、抵抗があると答えた78人のうち50人、64.1%が実際には情報を入力していました。

つまり、危ないと思っていないのではなく、危ないと思いながら業務を進めているということです。この状態の人に「危なかったことを書いてください」と言っても書かれません。自分のやり方が否定されると受け取るからです。問いの立て方を、危なかったことではなく、迷ったことに変えます。迷ったが進めた、という形なら、自分の落ち度の申告になりません。

もう1つ、自覚が生まれにくい型があります。出てきたものをそのまま使う場合です。同じ調査では、出てきたものを確認・修正せずにそのまま業務に使った経験がある人が37%いました。何も起きなければ、本人には成功体験としてしか残りません。この型は本人からは出てこないので、後の工程で扱う定期の問いかけと、受け取った側からの申告で拾います。

拾い上げの5工程を、先に全体で見る

ここからが手順です。5つの工程は、集める側の都合ではなく、出す人の手順の順に並んでいます。どこに出すかが分かり、出しやすい形になっていて、何を1件と数えるかが決まっていて、出したものが規程か手順のどこかに返り、返った結果が本人に見える。この5つのうち1つでも欠けると、最初の2か月で件数が落ちます。特に5つ目が欠けると、出した人が二度と出さなくなります。

運用を持つ人は、専任である必要はありません。ただし、受け取る人と、規程を直せる人が、同じ会議に出ていることは必要です。受け取る人だけを決めて規程側とつながっていないと、集めた紙が溜まるだけの仕組みになります。月に1回、30分の枠を先に予定表に入れておけば足ります。

工程1：拾う場所を決める

最初の工程は置き場所です。決めることは3つあります。どこに入口を置くか、誰が受け取るか、受け取った人が次にどこへ渡すか。3つ目まで決めないと、受け取った人の手元で止まります。渡し先は、規程を持っている部署と、手順を持っている部署の両方を書いておきます。片方だけだと、もう片方に関わる件が宙に浮きます。

入口の置き方には、もう1つ工夫があります。書き込む場所とは別に、聞き取る場所も用意することです。書くのが苦手な人は一定数います。月に1回の部署の会合で、最後の5分に「今月、手が止まった場面はありましたか」と聞く枠を作ります。聞き取った内容は、聞いた人が代わりに入力します。本人に書かせることにこだわると、そこで落ちます。

入口を公開するときの説明も先に決めます。説明に書くのは、何を集めるか、集めたものが何に使われるか、何に使われないかの3つです。何に使われないかを書いていない案内は、読んだ人に評価への影響を想像させます。人事の評価に使わない、個人を特定する形で共有しない、という2点は必ず書きます。

工程2：言いやすい形にする

2つ目は入力の形です。項目を減らすことが、そのまま件数に効きます。必須の欄は3つまでにします。何を入れたか、どこに使おうとしたか、どこで気づいたか。この3つを、選択肢から選ぶ形にします。自由に書く欄は1つだけ、それも任意にします。文章を書かせる欄が2つ以上あると、書ける人だけが書く仕組みになります。

選択肢の作り方には決まりがあります。実際に起きた出来事の言葉を使うことです。最初は5つか6つの選択肢で始めて、その他に書かれた内容を3か月分読んで、多いものを選択肢に昇格させます。選択肢を先に作り込むほど、現場の言葉と合わなくなります。合わない選択肢は、その他ばかりが選ばれ、集計できなくなります。

入力にかかる時間も測っておきます。目標は30秒です。実際に3人に試してもらい、30秒を超えるなら欄を減らします。1分を超える入力の仕組みは、忙しい週に真っ先に飛ばされます。忙しい週こそ危なかったが起きやすいので、その週に飛ばされる仕組みは、いちばん要る情報を取り落とします。

工程3：1件の粒度を決める

3つ目は、何を1件と数えるかです。粒度が決まっていないと、同じ出来事が3件に分かれたり、1か月分がまとめて1件になったりして、件数の増減が読めなくなります。この記事では、何を入れたか、どこに使おうとしたか、どこで止まったかの3点がそろったものを1件とします。3点のうち1つでも欠けているものは、追いかけずに参考として別に置きます。

同じ人が同じ型を繰り返した場合は、繰り返した回数を1つの行に書き、件数は1件として数えます。人ではなく型を数えたいからです。逆に、別の人が同じ型を起こした場合は、別の件として数えます。人の数ではなく、型の広がりが見たいので、この数え方になります。数え方を変えるときは、変えた月を必ず記録に残します。残さないと、前後の月と比べられなくなります。

どこで止まったかは、4つに分けておくと後で使えます。入力する前に自分で気づいた、入力した後で自分で気づいた、他の人に指摘されて気づいた、外に出す直前で仕組みに止められた。この4つは、直す場所がそれぞれ違います。自分で気づいた件が多ければ研修が効いており、他の人に指摘された件が多ければ確認の工程が効いており、仕組みに止められた件が多ければ手前の手順が甘いということです。

危なかったの型	出やすい場面	返す先	1件として拾うか
入れてはいけないものを入れかけた	取引先の名前や金額が入った資料をそのまま渡そうとした	規程（入れてよい情報の線）	拾う。入力の中身を型で残す
出てきたものをそのまま使いかけた	数字や条文や引用を確かめずに資料へ貼った	手順（人が確かめる工程の位置）	拾う。使い先を必ず書かせる
会社が把握していない道具を使った	個人の契約で入った道具で業務の文章を作った	規程（使ってよい道具の一覧）と研修	拾う。道具名ではなく契約の形で残す
見えてはいけない範囲が見えた	検索の結果に、権限のない部署の資料が混じった	手順（権限の設定の見直し）	拾う。ただし情報システムへ即日で渡す
迷ったが、そのまま進めた	判断がつかないまま締切が来て進めた	研修と、判断に迷う点の一覧の追加	拾う。止まっていなくても数える

工程4：規程と手順のどこに返すか決める

4つ目が、集める仕組みと直す仕組みをつなぐ工程です。1件ごとに、規程を直す、手順を直す、研修で扱う、今回は何もしない、の4つから選びます。選ぶのは月に1回の会合で、その場で決めます。持ち帰ると、次の月まで決まりません。決まらない件が溜まると、出した人から見て仕組みが動いていないことになります。

何もしないを選択肢に入れておくことには、意味があります。すべての件に手当てを付けようとすると、規程が毎月増えます。増えた規程は読まれず、読まれない規程は守られません。何もしないを選んだ件は、理由を1行書いて残します。同じ型が3回出たら、何もしないという判断のほうを見直します。回数を引き金にしておくと、判断が個人の感覚に寄りません。

返す先の書き分けにも目安があります。誰がやっても同じ判断になるべきものは規程へ、業務の流れの中で順番を変えれば防げるものは手順へ、知っていれば避けられるものは研修へ返します。手順で直せるものを規程に書くと、現場は制限が増えたとだけ受け取ります。逆に、規程で線を引くべきものを研修に回すと、人が代わるたびに同じ件が出ます。

工程5：返した結果を本人に見せる

5つ目が、続くかどうかを決める工程です。出した人に、自分の件がどう扱われたかを返します。返す内容は3つ。どの型として数えたか、4つのどれを選んだか、いつ直るか。返事が来ない入口は、3か月で使われなくなります。返事の速さより、必ず返ることのほうが効きます。

全員向けにも、月に1回配ります。届いた件数、型ごとの内訳、今月直した規程と手順、何もしないと判断した件数の4つです。先の航空の報告制度も、集めた報告を注意喚起の通知や定期の読み物として現場に返す仕組みまで含めて設計されています。集めるだけの仕組みは、集める理由が現場から先に消えます。配るものは1枚で足ります。

配るときの書き方に注意があります。件数が増えたことを、悪い知らせとして書かないことです。件数の増加は、報告しやすくなったという意味と、実際に危ない使い方が増えたという意味の両方を含みます。どちらかは、型の内訳を見ないと分かりません。増えたから引き締めるという書き方を1度でもすると、翌月から件数は減ります。減った件数は、危なさが減ったからではありません。

匿名にするかどうかの線は、書きぶりで決まる

匿名にするかどうかは、よく議論になります。結論としては、入力の時点で名前を書かせるかどうかより、共有する時点で本人が特定できる書きぶりになっていないかどうかのほうが効きます。名前の欄を空にしても、内容で1人に絞れるなら匿名ではありません。航空の報告制度でも、分析の担当者が報告者を特定できない形に直す工程が、公開の前に必ず入ります。

特定できてしまう書きぶりには、はっきりした条件があります。部署と、時期と、役割の3つがそろうと、多くの会社では1人に絞れます。共有する文章から、この3つのうち少なくとも1つを落とします。落とすのは、いちばん絞り込みに効いている要素です。多くの場合は役割です。

• 共有した文章：先週、海外の取引先に出す見積書を、部署でひとりだけ英語の資料を担当している人が、会社が契約していない対話型のAIに貼り付けて翻訳させようとした。部署（1つ）と時期（先週）と役割（ひとりだけ英語を担当）の3つがそろっているため、読んだ人には誰のことか分かる。名前を書いていなくても匿名になっていない
• 直した文章：取引先の名前と金額が入った見積書を、会社が契約していない対話型のAIに貼り付けて翻訳させようとした。送信の直前に本人が気づいて止めた。時期は今月、件数は2件。役割と部署を落とし、時期を月の単位に広げ、同じ型の件数をまとめたため、誰の件かは絞れない

落とす代わりに、残すものも決めておきます。何を入れかけたか、どこに使おうとしたかの2つは、粗くしてはいけません。この2つを曖昧にすると、規程のどこを直せばいいかが判断できなくなります。残すものと落とすものを、入口の説明に先に書いておくと、出す人も安心して具体的に書けます。

AIに任せてよい範囲と、任せてはいけない範囲

集まった件を仕分ける作業は、AIに任せられます。届いた文章を型に振り分ける、同じ型の件をまとめる、月次の配布物の下書きを作る、という3つは機械のほうが速く、担当者の負担がいちばん重い部分でもあります。ただし、振り分けの結果には必ず根拠を添えさせます。どの記述を見てその型にしたのかを、1件につき1行で返す形にします。

任せてはいけないのは、判断の側です。その件で規程を直すかどうか、誰かの処分が必要かどうか、本人が特定できる書きぶりかどうか。この3つはAIに決めさせません。特に、本人が特定できるかどうかの判定は、社内の人間関係を知らないと不可能です。部署にその役割の人が1人しかいないという事実は、どこの文書にも書かれていません。

人が確認する範囲も、先に決めて文書に書きます。全員に配る文章は必ず人が読む、共有する前の匿名化は必ず人が最終確認する、規程の変更はAIの下書きを使ってよいが人が確定させる、の3つです。範囲を先に書いていないと、件数が増えた月にいちばん先に省かれます。件数が増えた月は、いちばん丁寧に見るべき月です。

よくある質問

導入の段階で繰り返し出てくる問いを、4つだけ整理します。いずれも、集め始めてから1か月以内に必ず出てくるものです。

最初の1か月、1件も来ませんでした。やめたほうがいいですか

やめる必要はありません。最初に来ないのは普通です。ただし、待つのではなく取りに行きます。部署の会合の最後の5分で聞き取る枠を作り、聞いた人が代わりに入力します。最初の5件は、聞き取りで作るものだと考えておきます。5件が配布物に載って、それが直った様子が見えると、自発的に出てくるようになります。

匿名にすると、内容が薄くて使えないのではないですか

薄くなるのは、匿名にしたからではなく、入力の欄で具体的に書ける場所を用意していないからです。何を入れたかと、どこに使おうとしたかの2つを選択肢で確実に取れば、名前がなくても規程の直し先は決まります。薄くなるのは、人を特定する情報が足りないときではなく、出来事の情報が足りないときです。逆に、名前を書かせている会社でも、選択肢が粗ければ同じように使えない記録になります。

件数が増えてきました。これは悪くなっているということですか

型の内訳を見ないと分かりません。自分で気づいて止めた件が増えているなら、気づく力が上がっています。他の人に指摘された件と、仕組みに止められた件が増えているなら、手前の手順に穴があります。総数ではなく、どこで止まったかの4分類の推移を見ます。総数だけを見ると、引き締めるという間違った打ち手に向かいます。

集めた件は、どれくらい残しておくべきですか

直す場所を決めるために使うので、規程と手順に返し終わった件は、個別の記述を残す必要がありません。型と件数と処理の結果だけを残し、本文は一定期間で消します。残す期間は社内の他の記録に合わせますが、本人が特定できる可能性のある本文は、共有した時点から長く置かないと先に決めておきます。置き続けると、匿名にした意味が時間とともに薄れていきます。なお、成果物や記録をどれだけ残すかという考え方そのものは、別の記事の領分です。

• 月に1回の会合は30分で足ります。件数が20件を超える月だけ45分に延ばす、と先に決めておくと、時間の交渉が毎回起きません
• 配布物は1枚に収めます。2枚になった時点で読まれなくなり、読まれない配布物は出す人の動機を支えません
• 運用を持つ部署が変わるときは、過去3か月の件と処理の結果を引き継ぎます。引き継がないと、同じ件がもう一度新しい件として処理されます

まとめ

危なかっただけの出来事は、事故の箱にも違反の箱にも入らないので、専用の入口を作らないかぎり社内に残りません。まず3つ目の箱を作り、そこに来たものは人事の評価に接続しないと文書に書きます。入口は毎日開いている画面の中に1つだけ置き、必須の欄は3つまで、入力は30秒で終わる形にします。1件の粒度は、何を入れたか、どこに使おうとしたか、どこで止まったかの3点がそろったものとし、止まった場所は4つに分けておきます。集めた件は月に1回の会合で、規程を直す・手順を直す・研修で扱う・何もしない、の4つから必ずその場で選びます。そして、出した本人に自分の件がどう扱われたかを返すところまでを1つの工程として設計します。共有する文章からは、部署・時期・役割の3つのうち少なくとも1つを落として、内容で1人に絞れない形にします。AIには型への振り分けと配布物の下書きまでを任せ、判定には必ず根拠の引用を添えさせます。規程を直すかどうかと、本人が特定できるかどうかは人が決めます。来月の部署の会合の最後に5分の聞き取りの枠を取り、最初の5件を作るところから始めてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。