市民開発を安全に広げる体制の作り方｜現場のAIを束ねる

「業務部門がAIで作った仕組みが動いていると分かって、いったん全部止めました」「禁止した翌月から、誰も相談に来なくなりました」——生成AIの道具が社内に入った会社で、この順番で起きています。禁止は、作ることをやめさせる決定ではありません。実際に止まるのは作ることではなく、作ったと知らせることのほうです。この記事では、現場が作った仕組みを止めずに見える場所へ出させるために、どんな部品を組み合わせて体制を作るのかを、順番に開いていきます。

「禁止すれば止まる」が成り立たなくなった

マイナビニュースが2026年7月9日から13日にかけて437名に行った調査では、個人所有のスマートフォンや、会社で正式に定められていない外部ツールを使って、業務に関する内容を生成AIで検索・入力することがあるかという問いに、61.9パーセントが当てはまると答えています。禁止の有無にかかわらず、業務の中身はすでに社外の道具を通っているという前提から始めないと、体制の議論は最初の一歩で足を踏み外します。そこへ、現場が自分で仕組みを組み立てる動きが重なったのが、いまの状態です。

禁止という決定が効くのは、その行為に手間と技能が要るときです。端末に入れられるものを制限する、外へ出る通信を止める。どちらも、作る側が何かを用意しなければならなかった時代には有効でした。いまは用意するものがほとんどありません。文章で指示を書けば動くものが返ってくるので、思いついてから形になるまでが数十分で終わります。だから禁止は、行為そのものではなく、行為の報告のほうに効いてしまうのです。

起きる順番は、どの会社でもよく似ています。禁止した翌月、申請の件数はきれいに落ちます。担当者はこれを落ち着いたと受け取ります。ところが半年後、退職者の引き継ぎや取引先からの問い合わせをきっかけに、誰も知らない仕組みが動いていたことが分かる。見えなくなっただけで、数は減っていません。しかも見えなかった期間が長いほど、どこで何に使われていたのかを後から確かめる作業は重くなります。

現場が作り始めるのは、困っているからではなく作れてしまうから

体制を考える前に、動機を取り違えないことが要ります。現場が仕組みを作るのは、情報システムに頼んでも順番が回ってこないからだ——この説明は、半分しか当たっていません。順番待ちへの不満は昔からありましたし、その時代に現場が自分で作り始めたわけでもありません。変わったのは待ち時間ではなく、作るという行為に技能が要らなくなったことです。作れるようになったから作った、というのがいちばん素直な説明になります。

この違いは打ち手を変えます。動機が不満なら、対応を速くすれば件数は減ります。動機が可能性なら、速くしても減りません。むしろ道具が身近になるほど増えます。作った本人に理由を聞くと、相談しなかった理由の多くは「相談するほどのものではないと思った」です。本人の中に、作ったという自覚すらないこともあります。表計算に関数をひとつ足したのと同じ感覚で終わっているからです。

だから体制の設計を、作る前に相談させる方向へ寄せると必ず外れます。相談の手続きを整えるほど、相談に値しないと自己判断されるものが増えるからです。設計の向きは作った後に、必ず出てくることに置きます。出てきさえすれば、区分も、任せる範囲も、引き取りも、後から決められます。出てこないものについては、何ひとつ決められません。

取れる道は禁止・黙認・体制の3つしかない

現場が作った仕組みへの向き合い方は、細かく分かれているようで、実際には3つしかありません。全部を禁止する、見て見ぬふりをする、見える場所に出させて束ねる。どれを選んでも、見えるものと見えないものが必ず残ります。3つの道は、事故の起こり方が違うだけで、事故が無くなる道はありません。選ぶときは、どの事故なら自社で受け止められるかという順序で考えます。

選ぶ道	見えるようになるもの	見えないまま残るもの	起きやすい事故の形
全部を禁止する	正式に申請されたものだけ	個人の端末と個人の契約で動いているもの	事故が起きてから、存在をはじめて知る
見て見ぬふりをする	使われている道具の名前	誰が何を作り、どこへ出しているか	作った人が抜けた日に、理由が分からないまま止まる
出させて束ねる	作られたものの一覧と、影響の区分	届け出ない少数	引き取りが追いつかず、持ち主の不明な期間ができる

表の右端を見比べると、束ねる道だけが、事故の時期を前へ持ってこられることが分かります。禁止と黙認は、どちらも事故が起きてから存在を知る形です。束ねる道の弱点は別のところにあります。届け出が増えるほど、引き取りが追いつかなくなることです。引き取れる量に上限があることを最初から認めておくと、区分の設計が現実的になります。

なお、この記事では、見つけた仕組みを止めるか正式に認めるかという仕分けそのものには踏み込みません。扱うのは、止めない前提で作られ続けるものを、どう並べ、誰が持つかという体制の側です。止める判断が要る場面は当然ありますが、それは体制が動き出して対象が見えるようになった後の話になります。

束ねる体制は、5つの部品でできている

体制という言葉は大きく聞こえますが、必要な部品は5つだけです。多くの会社が最初に作るのは1つ目だけで、残りが無いまま運用に入ります。すると届け出が来ても行き先が決まらず、情報システムの側が受け止めきれなくなって、半年で止まります。5つを同時に決めてから始めるほうが、結果的に軽く回ります。

• 登録 … 作ったら届け出る。許可を取る手続きではなく、存在を知らせる手続きにする
• 区分 … 業務への影響の大きさで3段階に分ける。段ごとに扱いを変える
• 任せる範囲 … 区分ごとに、作った人が自分の判断で決めてよいことを書き出す
• 引き取る条件 … 情報システムが持ち主を代わる線を、事前に文章にしておく
• 抜けた後 … 作った人が辞めた・異動した場合に、誰が引き継ぎ、何を先に確かめるか

順番にも意味があります。区分が無いまま登録だけを作ると、手元の作業を少し速くしただけのものと、顧客に文書が届くものが、同じ重さで扱われます。現場から見れば、前者まで届け出させられるのは理不尽です。だから出さなくなります。逆に、区分だけ決めて登録の入口が無ければ、分類する対象がそもそも集まりません。

部品1 登録：重い申請にすると、誰も出さない

登録の設計でいちばん大事なのは、名前です。申請や承認という語を使った瞬間に、現場は出す前の自己検閲を始めます。出してよいものかを自分で判断し、判断がつかないものは出しません。体制が取りこぼすのは、まさにその判断がつかなかったものです。届け出・登録という、可否を含まない言葉に統一します。

重さの目安も先に決めます。入力にかかる時間は3分以内、項目は7つまで、受理は自動で、確認は後追い。承認を待たせる形にすると、待っている間に使われ始めるので、結局は事後の届け出になります。それなら最初から事後を前提に組むほうが正直です。登録は入口を広く取り、絞るのは区分の側でやる、と分けて考えます。

出す動機も要ります。義務だけでは、忙しい月から順に抜けます。出すと得があるようにします。停止の連絡先が一覧に載るので、不在時に誰かが止められる。同じものを作っている人が見つかって二度手間が減る。引き取りの対象になれば、自分が保守を抱えなくてよくなる。登録が保守からの出口になっている会社ほど、届け出の件数が伸びます。

届け出票に置く項目（実務仕様）

項目を増やすほど精度が上がる、というのは書かせる側の錯覚です。実際には、項目が増えた分だけ空欄と適当な記入が増えます。区分を決めるために本当に要るのは、次の7つです。ここから外れる情報は、引き取りを検討する段になってから聞けば足ります。

• 誰が作ったか … 個人名と、その人が不在になったときに窓口になる部署
• 何をしているか … 入力・処理・出力を1行ずつ。道具の名前ではなく業務の言葉で書かせる
• 材料はどこから取っているか … 社内の台帳、共有の保管場所、外部のサービス
• 出力は誰に届くか … 自分だけ／同じ部署／他部署／社外
• 個人データや取引先の情報を扱うか … 扱う場合はその種類
• 間違った出力が出たとき何が起きるか … 作り直せば済む／相手にすでに届いている
• 止めたいとき誰が止められるか … 本人以外に操作できる人がいるか

このうち区分を決めているのは、実質的に4つ目と6つ目です。出力が誰に届くかと、間違いが外に出るかどうか。残りは引き取りの見積もりや、抜けた後の引き継ぎで効いてきます。7つのうち自由記述にしてよいのは、2つ目の「何をしているか」だけにします。ほかを選択肢にすると、集計できる形で貯まります。

道具の名前を書かせたくなりますが、優先度は高くありません。道具は入れ替わりますし、同じ道具でも影響の大きさは作られ方で変わるからです。業務の言葉で書かせると、情報システムの人でなくても中身が読めるようになり、後で似たものを束ねるときにも効きます。

部品2 区分：業務への影響で3段階に分ける

区分は、危険度でも重要度でもなく、業務への影響の及ぶ範囲で切ります。判断が分かれにくく、作った本人が自分で当てはめられるからです。段数は3つに固定します。4段以上にすると境目の議論が始まり、届け出のたびに情報システムへ問い合わせが来て、結局は運用されなくなります。

区分	当てはまる目安	作った人が自分で決めてよいこと	情報システムの関わり方
1段 手元	自分の作業だけが速くなる。出力は自分しか見ない	作る・直す・やめる、すべて	登録を受け取るだけ。中身は見ない
2段 部署	同じ部署の複数人が使う。判断の材料になる出力が出る	直す・やめるは自分で。出す先を増やすときだけ届け出る	年に1回の確認と、停止の連絡先を持つ
3段 越境	他部署や社外に届く。個人データや取引先の情報を扱う	直す前に届け出る。やめるのは自分で決めてよい	引き取りの対象。責任者を情報システム側に置く

表で注意したいのは、3段でも「やめるのは自分で決めてよい」としている点です。止める判断まで届け出制にすると、危ないと気づいた人が止められなくなります。止めるほうは常に緩く、広げるほうだけを絞るのが、この種の区分の基本形です。逆に組むと、事故が起きている最中に手続きが始まります。

区分を付けるのは作った本人です。情報システムが後から見直す形にすると、届け出から区分確定までの時間が待ち時間になり、その間に使われ始めます。本人が付けた区分が実態と違っていたときは、年1回の確認や引き取りの検討の場で直せばよく、最初の1回を正確に当てることに労力を使わないほうが、全体としては早く整います。

部品3 作った人が回してよい範囲を、区分ごとに決める

ここで決めるのは権限ではなく、判断です。どこまでを自分で決めてよいか、どこから先は誰かに聞くか。権限の設定は道具側の話になり、道具が変われば書き直しになりますが、判断の線は道具が変わっても残ります。先に書くべきは、道具の設定ではなく判断の線です。

書き方にも向きがあります。やってはいけないことの一覧にすると、書かれていないことは全部やってよいと読まれるか、逆に不安で何もできなくなるかのどちらかに振れます。やってよいことを書き、そこに無いものは相談してほしい、と閉じるほうが、現場の動きは止まりません。1段は全部を任せる、2段は出す先を増やすときだけ届け出る、3段は直す前に届け出る。この3行で足ります。

加えて、区分をまたぐ瞬間を本人が分かるようにしておきます。作ったときは自分だけが使っていたものが、隣の人に使われ始めた時点で2段に上がります。届け出票に「出力は誰に届くか」を置いておくと、この変化が本人の言葉で説明できます。区分は最初に決めて終わりではなく、使われ方が変わったときに上げるものです。

部品4 情報システムが引き取る条件を、先に文章にする

引き取るとは、持ち主が代わることです。直すのは誰か、止めるのは誰か、間違った出力が外へ出たときに誰の名前で説明するのか。この3つが移ります。逆に言えば、この3つが移らないなら、それは引き取りではなく「見に行っただけ」です。曖昧なまま関わると、誰も持っていない期間ができます。いちばん事故が起きるのはこの期間です。

条件は、あらかじめ文章にしておきます。出力が社外に届く。個人データや取引先の情報を扱う。止まると業務が止まる。使う人が10人を超えた。作れる人が1人しかいない状態が3か月続いた。この種の条件を並べておくと、引き取りの議論が「重要そうだから」という感触の話になりません。現場から見ても、どうなったら引き取ってもらえるのかが見通せます。

同時に、引き取れる量の上限も書きます。年間に何本まで引き取れるのかを先に決め、超えた分は順番待ちにする。順番待ちの間は作った人が持ち続けること、その間に起きたことの責任がどこにあるかも、あわせて書いておきます。上限を書かない体制は、条件だけが増えて、引き取りが止まります。

部品5 作った人がいなくなった後に、何が残るか

キーマンズネットが2023年7月4日から25日にかけて260件の回答を得た調査では、ノーコード・ローコードの活用で生じる課題として「アプリケーションを管理できずブラックボックス化・属人化する」が48.1パーセントで最も多く挙がりました。開発人材がいないが41.9パーセント、設定ミスなどによるセキュリティのリスクが29.6パーセントと続きます。いちばん多く挙がった課題は、道具の危険性ではなく、人に貼りついてしまうことでした。

退職と異動には、ほかの事故に無い性質があります。日付が事前に分かることです。人事の側は、その人がいつまで在籍するのかを必ず知っています。だから棚卸しの契機を、年1回という日付ではなく、人の動きのほうに紐づけることができます。退職・異動の手続きの中に、登録済みの仕組みの一覧を出す作業を1行入れるだけで、抜け漏れが大きく減ります。

引き継ぎで最初に確かめるのは、直せることではありません。止められることです。中身を理解して直せる人を探すと時間がかかりますが、止め方だけなら短い説明で足ります。止められる人が1人でもいれば、誤った出力が出続ける事故は防げます。直す人は後から探してよく、止める人は空白にしない。この順番を、引き継ぎの決まりに書いておきます。

AIに作らせたものほど、中身が読めない

手で組んだものは、作った本人が説明できます。どこで分けて、何を除いて、どういう順で並べたか。ところがAIに出させた部分は、作った本人にも全部は説明できないことがあります。動いているので確かめずに使い始め、数か月後に「なぜこの結果になるのか」と聞かれて答えられない。この読めなさは、作った人が優秀かどうかとは関係なく起きます。

読めないと、3つの場面で困ります。ひとつは変更するとき。どこを触ると何に響くのかが分からないので、直すより作り直すほうが早くなり、作り直すたびに挙動が変わります。ふたつめは間違いが出たとき。原因が追えないので、直したつもりでも再発します。みっつめは引き取るとき。情報システムの側が工数を見積もれないので、引き取りの列に並んだまま動きません。

だから、AIに何を任せて何を任せないかを、作る前に決めておきます。総務省と経済産業省が2026年3月31日に公表したAI事業者ガイドライン第1.2版でも、AIを利用する側に求められる取組として、人間の判断を適切に介在させる仕組みの構築や、定期的な操作履歴の確認と報告が挙げられています。自律的に動くものについては、出てきた答えを無条件に受け入れてしまう傾向への対策にも触れられています。

何をしているかを、人が説明できる形で残す

読めなさへの対策は、文書を厚くすることではありません。厚い手順書は誰も読まず、更新もされません。必要なのは、作った人が短時間で書けて、引き取る人が最初に読む分量に収まっている記録です。届け出票と別に、次の6つを1枚に残す決まりにします。

6つのうち、後から足せないのは4つ目です。根拠を添えない設定で数か月動かしてしまうと、過去に出した答えの理由は取り戻せません。作り始めの時点で、根拠を残す側に倒しておくのが、いちばん安く付きます。

費用ではなく、責任の所在で線を引く

引き取る対象を決める議論は、たいてい費用の話から始まります。有償の道具を使っているものは会社として把握すべきだ、無料のものは各自の工夫の範囲でよい、という切り方です。分かりやすい反面、実態とずれます。無料の道具で作られたものが顧客に文書を送っていることもあれば、有償の契約で作られたものが本人の手元だけで完結していることもあるからです。

線を引く基準は、間違った出力が出たときに誰の名前で説明し、誰が謝ることになるかです。会社の名前で説明することになるものは、費用がいくらであろうと会社の持ち物です。本人が自分の作業をやり直せば済むものは、本人の持ち物のままでよい。この基準は、届け出票の6つ目「間違った出力が出たとき何が起きるか」と、そのままつながります。

この切り方には副次的な効きめがあります。費用で切ると、現場は費用を隠すようになります。責任で切ると、隠す動機が生まれません。むしろ、自分の名前で説明したくないものほど早く出したくなります。基準の置き方が、届け出の出やすさそのものを変えます。

見える場所に出させるための、日ごろの仕掛け

登録の仕組みを整えても、出す理由がなければ出てきません。先に挙げたキーマンズネットの調査でも、実施されている対策は、利用状況やリスク、品質を見ること が40.8パーセント、開発の権限の割り当てと管理が39.8パーセント、開発のルールの策定が33.0パーセントで、いずれも半数に届いていません。ルールを作る側の手当てだけでは、そもそも対象が集まっていない可能性があります。

効くのは、出した人の手間が減る仕掛けです。月に一度、作ったものを10分ずつ見せ合う短い場を作る。同じような仕組みを作っている人どうしを突き合わせて、片方を使わせてもらう。引き取り済みの一覧を社内に公開して、次は自分の番だと見通せるようにする。どれも管理ではなく、作った人にとっての便益の側にあります。

• 件数の目標を置くと、出しやすいものだけが出てきて、重いものが残る
• 部署別の届け出件数を比べると、数を作る動きが始まって実態から離れる
• 表彰は一度は効くが、二度目からは対象が偏る。続けるなら基準を毎回変える
• 登録を人事評価に紐づけると、出すこと自体が目的になり、使われないものが増える

出てこなくなる体制に、共通する形

うまく回っていない体制には、共通した形があります。どれも善意で作られていて、始めた時点では正しく見えます。半年後に届け出が止まっていたら、次のどれかに当てはまっていないかを先に確かめてください。

• 届け出に承認を付けた … 承認待ちの間に使われ始め、結局は事後報告になる
• 区分を5段以上にした … 境目の問い合わせが増え、判断が情報システムに戻ってくる
• 全部を引き取ると宣言した … 引き取りの列が伸び、持ち主の不明な期間が長くなる
• 禁止事項の一覧だけを配った … 書かれていないことの可否が分からず、相談が止まる
• 止めることまで届け出制にした … 危ないと気づいた人が止められなくなる
• 道具の名前で管理を始めた … 道具が変わるたびに一覧を作り直すことになる

共通しているのは、情報システムの側の安心を増やす方向に、少しずつ寄っていることです。1つひとつは小さな判断ですが、積み上がると届け出が止まります。届け出が止まった体制は、禁止と同じ状態に戻ります。定期的に見直すべきなのは、ルールの網羅性ではなく、届け出の件数の推移のほうです。

件数が落ちたときに、現場が作るのをやめたのだと解釈しないことも大事です。作る動機は、体制の出来とは無関係に残り続けます。落ちたのは作った数ではなく、知らせてくれる数です。件数の減少は、成果ではなく警告として読みます。

よくある質問

登録されていない仕組みが見つかったら、まず止めるべきですか

止める前に、出力がどこへ届いているかを確かめます。社外や他部署へ出ているものは、止めることで別の業務が止まる場合があります。確かめてから、区分を付けて登録に載せ、そのうえで続けるかを決める順番にします。見つけた瞬間に止める運用を続けると、次からは見つからない場所へ移ります。

区分は3段階では粗すぎませんか

粗いのは承知のうえで3段に固定します。段数を増やすと、境目にあるものの判断が本人にできなくなり、問い合わせが情報システムへ戻ってきます。細かさが要るのは区分ではなく、3段の中で引き取りを検討するときです。そこでは届け出票の7項目を使って、1件ずつ見ます。

作った人に保守を任せるのは、属人化を進めることになりませんか

任せる範囲を書かずに任せると、そのとおりになります。区分ごとに自分で決めてよいことを書き、止められる人をもう1人置き、抜けるときの棚卸しを人事の手続きに入れる。この3つが揃っていれば、作った人が持ち続けることと、誰も直せなくなることは別の話になります。

情報システムに引き取る余力がない場合はどうしますか

引き取る本数の上限を先に書き、超えた分は順番待ちにします。待っている間の持ち主は作った人のままだと明記し、止められる人をもう1人決めておきます。余力がないことを理由に条件を曖昧にすると、誰も持っていない期間ができて、いちばん重い事故につながります。

まとめ

現場がAIで作った仕組みは、禁止しても数が減りません。減るのは届け出のほうです。だから体制の役割は、作らせないことではなく、作られたものが必ず見える場所に出てくるようにすることになります。部品は5つ——軽い登録、業務への影響で分けた3段階の区分、区分ごとに書き出した任せる範囲、先に文章にした引き取りの条件、そして作った人がいなくなった後の決まり。線を引く基準は費用ではなく、間違った出力が出たときに誰の名前で説明するかです。AIに作らせた部分ほど中身が読めなくなるので、目的と入力と出力、判断した箇所、根拠の残し方、人が確かめる範囲、止め方を1枚に残す決まりを先に置いてください。届け出の件数が落ちたときは、成果ではなく警告として読むところから、見直しを始めます。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。