生成AIから情報が漏れる原因と対策｜契約と設定で防ぐ

「社内で生成AIを使ってよいと言われたが、どこまで入力してよいのか分からない」「無料で使える入り口と、会社が契約したものと、何が違うのか説明できない」。——線引きが配られないまま、現場だけが先に動いている状態です。ある調査では、業務で生成AIを使う人のうち、会社が許可していないものを使っている人が約5人に1人にのぼりました。情報が漏れる原因は、誰かが悪意で持ち出すことではありません。多くは、渡してよい相手かを確かめないまま、業務の文書をそのまま渡してしまうことで起きます。この記事では、情報が出ていく経路を4つに分け、契約の選び方と管理側の設定で塞ぐ手順を整理します。

漏えいの多くは、盗まれたのではなく渡したもの

情報漏えいと聞くと、外部からの攻撃や端末の紛失を思い浮かべます。しかし生成AIをめぐって起きているのは、それとは形が違います。担当者が手元の資料を開き、必要な部分をそのまま入力欄に貼り付ける。この操作は攻撃ではなく、日常の業務そのものです。誰も規則を破ったつもりがないまま、社外の仕組みに文書が渡ります。防御の仕組みを買い足しても、この経路には効きません。止めるべきは侵入ではなく、渡し方だからです。

数字も、その状況を裏づけています。ある調査会社が2026年1月に会社員と公務員300名に聞いた結果では、業務で生成AIを使っている人は34.3%でした。同じ調査で、社内に生成AIの規程が「ない」と答えた人は45%、「わからない」と答えた人は26.7%です。合わせて7割が、社内の決まりを知らないまま業務で使っていることになります。使う人の数だけが先に増え、扱いの基準が追いついていない状態です。

規程がなければ、現場は自分の判断で動きます。しかもその判断は、悪意ではなく善意から生まれます。早く仕上げたい、精度を上げたいという理由で、手元の一番詳しい資料を選んで入力してしまう。そして一番詳しい資料とは、たいてい顧客の名前や実績の数字が入ったものです。だから、禁止の張り紙を増やすより先に、どこから情報が出ていくのかを経路ごとに分けて示すことが要ります。経路が見えれば、打つ手も分かれます。

情報が出ていく4つの経路を分けて見る

対策が空回りする原因は、経路を分けていないことにあります。「機密情報は入力しない」という一文だけでは、何が起きているのかが見えません。自社で入力しないと決めても、外注先が入力すれば結果は同じです。業務の情報が生成AIを通じて社外に出る道筋は、大きく4つに分けられます。経路が違えば、効く手当ても違います。まず全体を並べて、どこに穴が残っているかを見ます。

経路	情報の出ていき方	主な塞ぎ方
入力が学習に使われる	入れた内容が提供側の学習や改善に回る	契約と管理画面の設定で学習への利用を止める
個人向けの入り口	個人向けの規約のまま業務の文書を入れる	会社が契約した入り口に一本化する
把握していない個人アカウント	会社が見えない場所に業務の情報が置かれる	使える入り口を絞り、記録が残る形にする
外注先や広告代理店	渡した資料が相手の側で生成AIに入力される	委託の契約に扱いの条件を書き込む

表の上2つは、契約と管理画面の設定で塞げます。担当者の心がけではなく、会社が決めた条件が効く領域です。下2つは、人と取引先の管理になります。約束と手順でしか止まらず、効き始めるまでに時間もかかります。設定で止まるものと、約束でしか止まらないものを分けると、着手の順番が自然に決まります。

順番としては、契約と設定を先に済ませます。一度直せば全員に効き、追加の費用もかからないことが多いからです。そのうえで使ってよい入り口を絞り、最後に外注先との取り決めに手を付けます。逆から始めると、社内の設定が緩いまま取引先にだけ条件を求めることになり、話が通りません。「御社ではどう管理していますか」と返されたときに答えられる状態を、先に作ります。

経路1 入力した内容が学習に使われる

生成AIに入力した文章は、その場の応答を作るためだけに使われるとは限りません。提供する側が、応答の質を高めるためにその内容を学習や改善に用いる場合があります。どちらの扱いになるかは、規約と設定で決まります。個人向けの入り口では、この利用が初期状態で有効になっていることがある点に注意が要ります。使う側が何もしなければ、有効なまま使い続けることになります。

学習に使われた文章が、そのままの形で他の利用者の画面に出るとは限りません。ただ個人情報保護委員会は2023年6月の注意喚起で、入力した個人情報が機械学習に利用され、他の情報と統計的に結びついた上で出力されるおそれがあると示しています。出る形が予測できないため、影響の範囲も見積もりにくい。いったん渡した情報は取り消しがきかない、という点が厄介なところです。

手当て自体は単純で、管理画面で学習への利用を止め、契約でその条件を確かめます。ただし設定の変更が効くのは、変更した時点より後の入力だけです。それ以前に入れた分は戻りません。だから社内への周知より先に設定を変え、そのうえで現場に知らせる順番になります。周知を先にすると、設定が変わるまでの数日間、注意喚起だけが空回りします。

経路2 無料の入り口と法人向けの契約は扱いが違う

同じ会社が出している似た画面でも、個人向けと法人向けでは結ばれている契約が違います。個人向けは、使う本人と提供側の契約です。法人向けは、会社と提供側の契約になります。誰が条件を決められるかが、この時点で変わります。本人が同意した規約に、会社は口を出せません。確かめる点を並べると、違いがはっきりします。

確かめる点	個人向けの入り口	法人向けの契約
学習への利用	初期状態で有効なことがある	使わない条件を契約で定めやすい
設定の権限	使う本人しか変えられない	管理者がまとめて決められる
保存の期間	提供側の既定に従う	期間と削除の手続きを取り決められる
利用の記録	本人の画面にしか残らない	管理側で確認できる場合がある
解約後の扱い	個別に消すほかない	削除の手続きを契約で定められる

落とし穴は、画面の見た目が同じで、契約だけが違うことです。現場からは同じ道具に見えるため、私物の入り口で下書きを作り、会社の入り口に貼り直すという使い方が起きます。作業としては効率がよく、本人にも悪意はありません。しかしこの時点で、元の文章は会社が契約していない場所をすでに通っています。

だから会社としては、業務では会社が契約した入り口だけを使うと決め、そこにたどり着く手順を示します。「個人向けは禁止」と書くだけでは足りません。禁止された側は、代わりの手段を自分で探すからです。同じ仕事が同じ速さでできる道を先に用意することが、実際には一番効きます。

経路3 会社が把握していない個人アカウント

会社が承認していない生成AIを、従業員が業務で使っている状態を、影の利用と呼びます。先の調査では、生成AIを使う人のうち会社が許可していないものを使う人が約5人に1人でした。個人情報を含むデータを読み込ませたことがあるという回答も6.8%あります。会社の側からは、この利用がまったく見えていません。何が入力されたのかも、誰が使ったのかも記録に残りません。

起きる理由ははっきりしています。会社の入り口が用意されていない、申請に時間がかかる、あるいは全面的に禁止されている。禁止は利用をなくすのではなく、見えなくするだけです。見えなくなると、何が入力されたのかを後から調べることもできません。事故が起きたときに、影響の範囲を説明できない状態が、いちばん重い結果を招きます。

近ごろは、閲覧している画面の内容を読み取って要約するブラウザの追加機能を通じて、開いていた資料がそのまま渡る経路も指摘されています。この場合、入力欄に何かを貼り付けた覚えがなくても情報が渡ります。端末側で追加機能の導入を制限する、業務で使う入り口は会社の認証を通す、といった手当てが必要になります。私物の端末と業務の端末で同じアカウントを使わない、という取り決めも要ります。

経路4 外注先や広告代理店を経由して出ていく

自社の設定をどれだけ整えても、社外に渡した資料の扱いまでは届きません。制作会社や広告代理店に共有した商品の情報、未公開の企画書、顧客の一覧。受け取った側が自分たちの入り口で入力すれば、条件はその会社の契約に従います。自社の管理画面の設定は、そこには効きません。それでいて、委託した業務の監督の責任は、委託した側に残ります。

対処は、委託の契約に扱いの条件を書くことです。渡した資料を生成AIに入力してよいか、入力する場合は学習に使われない契約であることを求めるか、再委託先まで同じ条件を及ぼすか。この3点を書き分けるだけで、認識の食い違いはかなり減ります。「情報管理を徹底する」という抽象的な条項だけでは、この場面の判断材料になりません。

実務では、新しい契約だけでなく、続いている取引にも覚書を足す必要があります。相手を疑う話に聞こえないよう、自社側の基準もあわせて示すと進めやすくなります。取引先も同じ悩みを抱えていることが多く、条件をそろえたい側であることが少なくありません。先に基準を示した側が、以後の取引の前提を決めることにもなります。

あわせて決めておきたいのが、委託した先で事故が起きたときの動き方です。どちらが連絡を受け、どちらが本人への案内を担うのか。事故のあとで分担を相談していては、後述する報告の期限に間に合いません。連絡を受けてから自社が動き出すまでの時間を、契約の中で短くしておきます。義務の分担は状況によって変わるため、所管の案内と顧問の弁護士に確かめてください。

秘密として守られなくなる、という別の損害

情報が外に出ること自体とは別に、もう一つの損害があります。不正競争防止法で守られる営業秘密は、秘密として管理されていること、有用であること、公然と知られていないこと、という要件を満たす必要があります。管理の実態が崩れると、法律上の保護そのものを失います。秘密の表示を付けているだけでは足りず、実際の扱いが問われます。

生成AIへの入力は、ここに関わります。提供側との規約に機密を守る定めがない場合や、安全のための措置に問題がある場合には、秘密として管理していたという評価が否定される可能性が指摘されています。持ち出した相手を追及しようとした場面で、この点が争われることになります。守るための情報を、守れない状態にしてしまう、という順序の問題です。

実務としては、秘密の表示がある文書は入力しない、入力を認める場合は機密を守る定めのある契約に限る、という2段構えにします。あわせて、どの入り口を使ったかを記録に残せる状態にしておくと、管理していた事実の説明がしやすくなります。個別の判断は契約書と利用規約により、事案によっても変わります。重要な取引にかかわる場面では、顧問の弁護士に確かめてください。

個人情報を入れる前に確認すべき2点

個人情報保護委員会は2023年6月2日に、生成AIの利用に関する注意喚起を公表しました。事業者向けに示されたのは2点です。1つは、入力する個人情報が、あらかじめ特定した利用目的を達成するために必要な範囲内かを十分に確認すること。集めたときに伝えた目的の外で使えば、相手が生成AIかどうかにかかわらず問題になります。

もう1つは、生成AIを提供する事業者が、その個人データを機械学習に利用しないことを十分に確認することです。ここで求められているのは方針の表明ではなく、確認という行為です。管理画面の状態を見て、契約と規約の条文を読むという具体的な作業になります。誰がいつ確認したかを残しておけば、後から説明もできます。

なお、提供する事業者に個人データを渡すことが第三者への提供に当たるかどうかは、取り扱わない旨が契約と技術の両面で担保されているかなどによって整理が分かれます。委託として整理する構成もあり、見解は一つに定まっていません。顧客の一覧のように影響の大きい情報を扱う前に、自社としての整理を法務と決めておくほうが安全です。

漏れたときに、何をすることになるか

対策の優先順位は、実際に漏れた場合の手順を知ると付けやすくなります。個人データの漏えいなどが起きた場合、一定の事態に当たれば、個人情報保護委員会への報告と、本人への通知が義務づけられています。2022年4月から始まった仕組みです。起きてから調べていては間に合わない類の義務だという点が要点になります。

報告が必要になるのは4つの類型です。要配慮個人情報が含まれる事態、財産的被害が生じるおそれがある事態、不正の目的をもって行われた事態、そして1,000人を超える漏えいが発生した事態。件数が少なくても、含まれる情報の種類によっては報告の対象になります。規模の大きさだけが基準ではありません。

期限も定められています。委員会への速報は、事態を知ってから速やかに、目安として3日から5日以内とされています。本人への通知も、状況に応じて速やかに行う必要があります。この短さに耐えられるかどうかは、記録を取っていたかで決まります。何が入力されたのかを追えなければ、報告する内容そのものが書けません。

契約と規約で読む6つの条項

導入を決める前に、契約書と利用規約で確かめる点は限られています。営業資料の説明や案内ページの見出しではなく、拘束力があるのは契約書と規約の文言だけです。口頭で「学習には使いません」と説明を受けたとしても、条文にその定めがなければ根拠になりません。次の項目を一覧にして、担当者が読める形にしておくと確認が早く終わります。

• 入力した内容を学習や改善に使わないと明記されているか
• 入力と出力が、どこに、どのくらいの期間保存されるか
• 保存される国と、外国にある事業者への提供に必要な手続き
• 管理者がどの設定を変えられ、どの設定は変えられないか
• 解約したあとに残るデータの削除の手続き
• 事故が起きたときの連絡の方法と、連絡までの期限

すべてが満たされる契約ばかりではありません。確かめられない項目が残ったときは、その分だけ入力してよい情報の範囲を狭めるという調整をします。契約で守りきれない分を、扱う情報の側で下げる考え方です。条件が整うまでは使わない、という判断も選択肢に入れておきます。

もう1点、条件は更新されます。規約が変わったときに気づけるよう、確認した日付と条文の版を記録に残しておきます。導入時に一度読んで終わりにすると、数か月後には前提が変わっていることがあります。更新の通知を受け取る窓口も、契約のときに決めておきます。年に一度、条項を読み直す時期を決めておくと、確認が業務として残ります。

管理側で最初に入れる4つの設定

ここまでの内容を、管理画面での作業に落とします。順に進めれば、多くの場合は1日で終わります。費用のかかる仕組みを買う前に、契約済みの範囲でできることが残っていることがほとんどです。新しい仕組みの検討は、この4つを終えてからでも遅くありません。

4つのうち最も見落とされるのが3番目です。事故が起きたとき、何が入力されたかを追えなければ、影響の範囲を説明できません。報告の期限は短く、調べ始めてから記録の仕組みを整える時間はありません。顧客への報告ができるかどうかは、記録を取っていたかで決まります。

設定を変えたら、変更前に入力された分がどう扱われるかも確認します。過去に入れた分の削除を申請できる場合があります。申請の窓口と、対応にかかる期間も、あわせて聞いておきます。すでに学習に使われたものについては、戻せないという前提で影響を見積もるほかありません。

保存の期間と記録の残し方をどう決めるか

保存の期間は短いほど、事故が起きたときの被害が小さくなります。一方で短くすると、後から経緯をたどる材料も消えます。安全と、説明のしやすさは、この点で引っ張り合います。決め方としては、業務で読み返す期間を基準に置くのが分かりやすい方法です。過去のやり取りを実際に見返した頻度を、数か月測ってから決めても構いません。

記録については、何を見るかを先に決めます。誰が、いつ、どのくらい使ったかは、利用の広がりを測るために要ります。一方で、入力した文章の中身を常時読む運用は監視に近づき、従業員が業務の情報を入力しなくなるか、見えない場所で使うようになるという副作用を生みます。安全のための仕組みが、影の利用を増やしてしまう形です。

だから、内容を見るのは事故が疑われる場面に限り、その条件を先に社内へ公開します。誰の判断で見るのか、見た結果をどう扱うのかまで書いておきます。手順が公開されていれば、記録を取ること自体への抵抗は下がります。記録は監視のためではなく、事故のときに説明するためにあるという位置づけを、あらかじめ共有しておきます。

使ってよい入り口を絞る

入り口が増えるほど、確認すべき契約と設定が増えます。5つの生成AIを使っていれば、5通りの規約と5通りの管理画面を見続けることになります。しかも規約は、それぞれ別のタイミングで改定されます。安全は、使えるものを絞るほど保ちやすくなります。これは担当者の能力の問題ではなく、確認の量の問題です。

一方で、絞りすぎると仕事が止まります。現実的なのは、既定で使えるものを1つか2つに決め、それ以外は申請で追加できるようにする形です。申請の窓口と、判断にかかる日数を先に示しておくと、影の利用に回る動機が減ります。申請すれば数日で使えると分かっていれば、待てるからです。

追加を判断するときは、その道具でしかできないことがあるかを見ます。同じことが既定の入り口でできるなら、増やす理由はありません。使わなくなった入り口を止める手順も、あわせて決めておきます。道具の数ではなく、業務の型が成果を決めるという前提を、判断の基準に置いておきます。

絞った結果は、定期的に見直します。半年もすれば、既定の入り口でできることは増えています。申請で追加したもののうち、使われなくなったものを外す作業を見直しのたびに入れておくと、確認すべき契約の数が増え続けません。使わない入り口を残しておくこと自体が、見えない経路になります。

何を入力してよいかの線引き

現場が迷うのは、機密という言葉が抽象的だからです。何が機密かの判断を各自に委ねると、同じ資料でも人によって扱いが変わります。実際の文書の名前で3段階に分けると、判断が速くなります。入れてよいもの、条件つきのもの、入れないもの、の3つです。

入れてよいのは、すでに公開している資料、社外に出している価格表や事例、一般に知られている業界の知識です。条件つきは、社内の非公開資料のうち、個人が特定できる情報と取引先の名前を外したもの。入れないのは、顧客の氏名や連絡先を含む一覧、未公開の企画と価格、他社から預かった資料、秘密の表示がある文書です。特に他社から預かった資料は、自社の判断だけで扱いを決められません。

迷ったときの基準を1つ持たせておくと、運用が楽になります。おすすめは「その文書を、社外の人が同席する会議室で読み上げられるか」という問いです。読み上げられないものは入れない。条件つきのものは、数字や社名を伏せて相談する形にすれば、多くの場合は用が足ります。抽象的な機密という語より、この問いのほうが現場で機能します。

線引きが伝わらない書き方

規程を作ったのに守られない場合、多くは書き方に原因があります。読んだ人が、手元の資料に当てはめられない書き方をしているのです。現場で止まってしまう典型を挙げます。

• 「機密情報は入力しない」とだけ書く：何が機密かの判断が現場任せになり、人によって基準が変わる
• 罰則だけを並べる：使わなくなるか、記録の残らない場所で使うようになる
• 一度の通知で終わらせる：入社した人と異動した人に届かず、半年で形だけになる
• 例外の相談先を書かない：判断に迷った時点で仕事が止まり、自己流の判断が生まれる

直し方は、実際に社内で使われている文書の名前で書くことです。「顧客管理からの書き出し」「見積書」「他社から受け取った資料」。名前で書けば、手元の文書とその場で照合できます。部署によって扱う文書が違うなら、部署ごとに例を足します。

あわせて、相談先と回答までの日数を明記します。判断に迷ったときに聞ける先があると分かれば、自己判断で入力する場面が減ります。相談の記録がたまれば、次の改定で線引きを具体化する材料にもなります。規程は禁止の一覧ではなく、迷ったときの手順書として書くと機能します。

AIに判断させず、人が見る範囲を先に決める

生成AIに「この文書を入力してよいか」と尋ねて可否を決めさせるやり方は避けます。判断の責任は会社にあり、根拠は自社の契約と規程にあります。手元の契約書を読んでいない相手に、可否を決めさせることはできません。考えを整理する相談相手としては使えますが、決定は人が持ちます。答えの根拠を示させたうえで、その根拠を人が確かめる形にします。

人が必ず見る範囲は、先に決めて文書にします。新しい入り口を採用するとき、顧客の情報を扱う業務に使うとき、社外に出す成果物を作るとき。この3つは担当者の判断だけで進めないと決めておけば、多くの事故は手前で止まります。逆に、この3つ以外まで承認を求めると、承認そのものが形だけになります。

• 生成AIに入力してよいかの判断を、生成AI自身に任せない
• 「学習に使われない」の根拠は、画面の表示ではなく契約書と規約で確かめる
• 設定を止めても、それ以前に入力した分は戻らない前提で影響を見積もる
• 個別の判断は契約書と利用規約により、必要に応じて顧問の弁護士に確かめる

人に残すと決めた判断は、担当者が代わっても引き継げるよう手順に書いておきます。誰が見るかではなく、どの場面で人が見るかで決めておくと、体制が変わっても運用が途切れません。決めた範囲は、半年に一度は見直します。使い方が変われば、人が見るべき場面も変わるからです。

まとめ

生成AIから情報が漏れる原因は、攻撃よりも先に、渡してよい相手かを確かめないまま業務の文書を渡してしまうことにあります。経路は、学習への利用、個人向けの入り口、把握できていない個人アカウント、外注先の4つ。塞ぐ順番は、契約と設定、入り口の限定、委託先との取り決めです。まずは管理画面で学習への利用を止め、保存の期間と記録の取り方を決めるところから始めてください。そのうえで、入力してよい情報を実際の文書の名前で3段階に分けて配れば、現場の判断が速くなります。なお、個別の判断は契約書と利用規約に基づくため、必要に応じて顧問の弁護士に確かめてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。