生成AIに個人情報を入れたら動く4工程｜漏えいかを見極める

「営業の担当者が、顧客の一覧を生成AIに貼り付けて案内文を作っていた。これはもう漏えいなので、すぐ委員会に報告しなければならないのか」「逆に、会社で契約しているAIだから問題はない、で済ませてよいのか」。個人情報の担当者のもとには、こうした相談が突然届きます。慌てるのも、楽観するのも、どちらも自然な反応です。けれども、入れた瞬間に一律で漏えいになるわけではありません。本当は、入れた先の事業者がそのデータを取り扱うかどうかと、入れた中身で、答えが分かれるのです。この記事では、生成AIに個人情報を入れてしまったと分かったときに、それが法律上の「漏えい等」に当たるか、報告が要る事態かを見極める4つの工程を整理します。

「入れてしまった」は、すぐに漏えいとは限らない

社員が顧客の情報を生成AIに入れたと分かると、多くの会社でまず「漏えいだ」という言葉が出ます。気持ちとしては理解できますが、法律上の漏えい等と、社内の決まりに反した使い方とは、別の物差しで測るものです。社内の決まりに反していても、法律上の漏えい等には当たらない場合があり、その逆もあります。

最初に物差しを取り違えると、二つの失敗が起きます。一つは、法律上の報告が要らない事案まで報告の準備に追われ、肝心の社内の手当てが遅れることです。もう一つは、会社の契約したサービスだから大丈夫と決めつけ、実は報告が要る事態を見逃すことです。どちらも、判定の順番が決まっていないことから起こります。

本稿の4工程は、この順番を固定するためのものです。入れる前にどう判断するかは「顧客データを生成AIに入れてよい？」の記事で、情報漏えいを防ぐ契約と設定は「生成AIから情報が漏れる原因と対策」の記事で扱っています。本稿は、入れてしまった後に、法律の上で何が起きたのかを見極める段階に絞ります。

法律の「漏えい等」は、何を指しているか

個人情報保護法の「漏えい等」は、漏えい・滅失・毀損の三つをまとめた言葉です。委員会のガイドライン（通則編）では、漏えいを個人データが外部に流出すること、滅失を個人データの内容が失われること、毀損を内容が意図しない形で変わったり使えなくなったりすることと説明しています。誤った宛先への送付や送信、設定の誤りで外から見える状態になること、不正な侵入による持ち出しなどが、漏えいの例として挙げられています。滅失については、同じ内容のデータが別の場所に残っていれば滅失に当たらないとされています。生成AIへの入力は、元の名簿が社内に残ったまま写しが外へ送られる形なので、滅失や毀損ではなく、漏えいに当たるかどうかが論点になります。

同じガイドラインには、第三者に閲覧されないうちに全てを回収した場合は、漏えいに当たらないという考え方も示されています。メールの誤送信なら、相手が開く前に取り消せたかどうかが問題になる、ということです。生成AIの場合は、送った先がサービスの提供元のクラウドなので、回収できたかどうかではなく、送った先がそもそも「外部」に当たるのかを先に考える必要があります。

ここで押さえておきたいのは、法律上の漏えい等は、会社が安全に管理すべき個人データが、管理の外へ出たかどうかで考える、という点です。生成AIに入れた場合も、入れた先が会社の管理の延長にあるのか、管理の外にある第三者なのかで、見え方がまったく変わります。次の章からの工程は、この問いを具体的な確認に分けたものです。

見極める4工程の全体像

4つの工程は、前の工程の答えで次の工程の意味が変わるように並べています。順番を入れ替えず、上から順に埋めていきます。

工程	確かめること	主な材料
工程1　入れた先を特定する	サービスの名前、契約の種類、誰のアカウントか、設定、日時	申告の聞き取り、入力履歴、契約の一覧
工程2　事業者が取り扱うかを読む	契約上、事業者が入力を取り扱わないことになっているか	利用規約、データの取扱いの契約、管理画面の設定
工程3　中身と件数を確かめる	要配慮の情報、財産的な被害のおそれ、件数、不正な目的	入力の原文、元の名簿との照合
工程4　判定を書き、記録する	漏えい等に当たるか、報告が要るか、削除の依頼と再発防止	工程1〜3の記録、法務と責任者の判断

急ぐ事案ほど、工程3の件数から数え始めたくなります。けれども、入れた先が会社の管理の延長にあると分かれば、件数を数える意味そのものが変わります。先に入れた先を固め、次に中身を数えるのが、手戻りを減らす順番です。なお、発覚した時点での社内報告と被害の拡大の防止は、4工程と並行して最初に行います。

工程1　入れた先を特定する

最初の工程は、入れた先のサービスを特定することです。「生成AIに入れた」という申告だけでは足りません。確かめるのは、サービスの名前、使った入り口（会社が配った法人向けの契約か、社員が個人で登録した無料版か）、ログインしていたアカウントの名義、学習への利用の設定や履歴の保存の設定、入力した日時の五つです。

同じ提供元のサービスでも、法人向けの契約と個人向けの版とでは、入力の扱いが違うことがよくあります。法人向けの契約では入力を学習に使わないとする提供元が多い一方、個人向けの無料版では、既定の設定で入力が改善に使われる場合があります。会社の契約があるのに、社員がつい個人のアカウントで開いていた、という事案は珍しくありません。

聞き取りは、責める調子にしないことが大切です。どの画面から入れたか、何を貼ったか、出てきた答えをどこに使ったかを、本人の記憶が新しいうちに書き留めます。法人向けの契約であれば、管理者の側から入力の記録を確かめられる場合もあります。本人の記憶と、管理者が見られる記録の両方で、入れた先を確定させるのが工程1の終わりです。

この段階で、同じ使い方をしている社員が他にいないかも確かめておきます。一人の申告から、部署の中で同じ手順が広まっていたと分かることがあるからです。対象が広がる場合は、工程2以降を事案ごとに分けて進めます。

工程2　事業者がデータを取り扱うかを規約で読む

二つ目の工程が、判定の分かれ目になります。委員会のガイドラインの質問と回答集の7-53番は、クラウドのサービスを使う場合に、個人データの提供や委託に当たるかどうかの判断の基準は、サービスの提供元が個人データを取り扱うことになっているかどうかだと示しています。データの中に個人データが含まれているかどうかではない、という点が大切です。

「取り扱わないこととなっている場合」とは、委員会の2024年3月25日の注意喚起によれば、契約の条項で提供元がサーバーに保存された個人データを取り扱わない旨が定められ、適切にアクセスの制御が行われている場合などを指します。この場合は、本人の同意も委託先の監督も要らないとされ、いわゆる「クラウド例外」と呼ばれる考え方になります。

同じ注意喚起は、逆に提供元が取り扱っていると判断された事例の要素も挙げています。規約で、保守や運用に必要と判断すればデータを監視・分析・調査できるとしていたこと、保守用の入り口で利用者の個人データにアクセスできる状態だったこと、実際に取り扱っていたことです。生成AIのサービスは、答えを作るために入力を処理し、不正な利用の監視のために一定の期間入力を保存する形をとる場合があります。学習に使わないという一文だけで、取り扱わないと言い切れるとは限らないので、規約の該当の条を法務と一緒に読みます。

• 読むのは宣伝のページではなく、利用規約・データの取扱いの契約・プライバシーの方針の原文
• 読んだ版の日付を記録する。規約は改定されるため、入力した日の時点の版で判断する

入れた先を、3つの箱のどれかに入れる

工程2で読んだ結果を、三つの箱のどれかに入れます。一つ目は、提供元が入力を取り扱わないことになっている箱です。この場合、入力は会社が自分で管理するデータを外のサーバーに置いたのと同じように考えられ、提供元への提供には当たりません。入れたこと自体は漏えい等に当たらないと整理できる可能性が高い箱です。

二つ目は、提供元が取り扱うが、会社が契約で取扱いを委ねている箱です。法人向けの契約で、答えを作ることや安全のための監視に限って取り扱う、と定めている場合がこれに近くなります。委託であれば、本人の同意は要りませんが、会社には委託先を監督する義務が生じます。入力の目的が、個人データを取得したときに示した利用目的の範囲内かも、あわせて確かめます。この箱で見落とされやすいのが、監督の中身です。委員会の2024年3月の注意喚起は、委託先となるクラウドの提供元について、安全管理の措置として合意した内容を規約や契約でできるだけ客観的に明確にすること、安全管理の状況を定期的に報告を受けるなどの方法で確かめることを求めています。事案の判定の場面では、この監督が契約の上で成り立っていたかも、再発防止の材料として記録に残します。

三つ目は、そのどちらでもない箱です。社員が個人で登録した無料版に入れ、入力が提供元のサービスの改善や学習に使われうる場合などが当たります。会社の管理の外にある第三者に、本人の同意なく個人データを渡したことになりうるため、法律上の問題がいちばん大きい箱です。この箱に入ったときは、漏えい等に当たるかを含めて、工程3の中身の確認を急ぎます。

どの箱か決めきれない場合は、決めきれないと書いたうえで、重いほうの箱に入れて工程を進めるのが安全です。後で軽い箱だと分かれば手当てを緩めればよいのに対して、逆の順番では報告の期限に間に合わなくなるおそれがあるからです。

委員会が生成AIについて示している線

生成AIに限った委員会の考え方としては、2023年6月2日の「生成AIサービスの利用に関する注意喚起等」があります。事業者が生成AIに個人情報を含む指示文を入れる場合は、特定した利用目的を達成するために必要な範囲内かを十分に確かめること、と示されています。

さらに同じ文書は、本人の同意を得ずに個人データを含む指示文を入れ、その個人データが答えの出力以外の目的で取り扱われる場合は、法律の規定に違反することとなる可能性があるとし、提供元が個人データを機械学習に使わないことなどを十分に確かめるよう求めています。工程2の三つ目の箱が問題になるのは、まさにこの場面です。

この注意喚起は、主に第三者への提供の規律の観点から書かれたもので、生成AIに入れたことが漏えい等に当たるかを直接答えたものではありません。本稿で確かめた範囲では、生成AIへの入力そのものを漏えい等と見るかを一律に示した委員会の文書は見当たりませんでした。そのため、三つ目の箱の事案が漏えい等に当たるかは、入力の扱いと中身を材料に、法務が個別に判断するものとして扱います。

判断の材料として、同じ注意喚起が一般の利用者に向けて書いた留意点も参考になります。そこでは、入力された個人情報が機械学習に使われ、他の情報と統計的に結びついたうえで、正確な内容でも不正確な内容でも、サービスから出力される危険があると説明されています。三つ目の箱の事案で法務が見るのは、まさにこの危険です。学習に使われる設定だったか、入力が他の利用者への答えに現れうる状態だったかを、工程1で確かめた設定と照らして書き添えておくと、判断が早まります。

工程3　入れた中身と件数を確かめる

三つ目の工程では、入れた情報の中身を一件ずつ確かめます。漏えい等に当たる場合に委員会への報告が要るのは、規則で定められた四つの事態のいずれかに当たる場合です。要配慮個人情報が含まれる場合、不正に使われると財産的な被害が生じるおそれがある場合、不正な目的によるおそれがある場合、本人の数が千人を超える場合の四つです。

社員が生成AIに入れた事案で、特に確かめたいのは一つ目と四つ目です。要配慮個人情報には、病歴や障害、犯罪の経歴などが含まれ、これが一件でも含まれていれば件数にかかわらず報告の対象になります。顧客の一覧だと思っていた表に、健康に関する欄が混ざっていた、面談の記録に病気の話が書かれていた、ということは実際に起こります。

件数は、入れた原文と元の名簿を突き合わせて数えます。同じ人が複数の行に出てくることや、会話を重ねて何度も貼っていることがあるため、行の数ではなく本人の数で数えます。クレジットカードの番号や、ネットの銀行の認証の情報のように財産的な被害につながる項目が含まれていないかも、この工程で確かめます。

「おそれ」の判断は、発覚した時点で分かっている事実をもとに行います。まだ確かめきれていない項目があるときは、分かった範囲と分からない範囲を分けて書き、分からない範囲を後から埋めていきます。

工程4　判定を書き、削除を依頼して記録する

四つ目の工程で、工程1から3の材料をもとに判定を書きます。判定を書くのは、法務と個人情報の責任者です。書く中身は、どの箱に入ったか、法律上の漏えい等に当たるか、当たる場合に報告が要る事態か、の三つと、その根拠です。判定の根拠には、読んだ規約の条と版の日付、数えた件数と数え方を必ず添えます。

判定と並行して、入れた先に残った入力の削除を進めます。社員本人に会話の履歴を消させるだけでなく、法人向けの契約であれば管理者の側からの削除や、提供元への削除の依頼ができるかを確かめます。画面から消しても提供元の側では一定期間残る場合があるため、消した日時と方法、提供元からの回答を記録に残します。消したはずの履歴が残る仕組みについては「消したはずの対話履歴が残る原因と対策」の記事で扱っています。

判定の結果ごとに、次に何をするか

判定の結果によって、次の動きは大きく分かれます。報告が要る事態だと判定したときは、委員会への速報と確報、本人への通知の手続きに移ります。その期限と進め方は「情報が漏れたときに動く5工程」の記事で扱っているので、判定が出たらすぐにそちらの手順に引き継ぎます。

漏えい等に当たるが、四つの事態のいずれにも当たらない場合は、委員会への報告の義務はありません。ただし、ガイドラインが漏えい等の発覚時に求めている措置、つまり社内での報告と被害の拡大の防止、事実の調査と原因の究明、影響の範囲の特定、再発防止の策の検討と実施は、報告の義務の有無にかかわらず行います。

一つ目の箱で漏えい等に当たらないと判定した場合も、社内の決まりに反した使い方であれば、社内の手当てが要ります。なお、提供元が取り扱わないことになっている場合でも、そのサービスの側で漏えいが起きたときの報告の義務は、利用する会社の側が負うことが、質問と回答集の6-22番で示されています。取り扱わない箱に入れたから会社の責任が消える、わけではないことは押さえておきます。

同じ6-22番では、その場合でも利用する会社は、自らが負う報告を提供元に代わって行わせることができ、提供元の側は契約などに基づいて利用する会社に知らせるといった適切な対応が求められる、とされています。生成AIの提供元の側で起きた事故を、会社が知る経路が契約に書かれているかは、平時に確かめておきたい点です。提供元からの知らせが届かなければ、会社は報告の義務があることにさえ気づけません。

報告が要らなくても、社内に残すもの

法律上の報告が要らないと判定した事案ほど、記録が残らずに終わりがちです。けれども、同じ使い方は別の社員でも起こります。判定の結果にかかわらず、事案の記録を一件ずつ残すことが、次の事案の判定を早くします。

残す項目は、発覚の日時と経緯、入れた先と契約の種類、読んだ規約と版、入れた中身の種類と本人の数、判定の結果と根拠、判定した人、削除の結果、再発防止の策です。報告が要らないと判定した根拠が残っていれば、後で本人から問い合わせがあったときや、監査で尋ねられたときにも説明できます。

再発防止は、個人の注意で終わらせないようにします。個人のアカウントで開いていたのが原因なら、会社の契約の入り口を分かりやすくする、個人向けの版への接続を会社の端末から止める、といった仕組みの手当てにつなげます。顧客の一覧を貼る必要があった業務なら、個人の情報を入れずに同じ結果を得る手順を業務の側に用意します。

AIに任せる工程と、人が決める工程

4工程の作業の一部には、AIを使うこともできます。会社の契約の範囲内で、入力の履歴から氏名や連絡先に当たる項目を洗い出させる、聞き取りの記録から発覚までの時系列の下書きを作らせる、といった作業です。洗い出しでは、どの会話のどの行が根拠かを必ず書かせ、担当者が原文で数え直します。

反対に、AIに決めさせないのは、三つの箱のどれに入るか、漏えい等に当たるか、報告が要るかの判断です。規約の読み方や「おそれ」の見立ては、会社の事情と法律の解釈が重なるため、AIの答えをそのまま判定に使うと、根拠を説明できない判定が残ります。判定の文書の作り手は人、AIは材料を並べる係と役割を分けておきます。

人が確認する範囲も、先に決めておきます。規約の該当の条、要配慮個人情報が含まれるかどうか、本人の数の三つは、担当者が原文と名簿で確かめます。判定を書く人は法務と個人情報の責任者、と役割を決めておけば、事案が起きた日に誰が判断するかで迷うことがありません。

やってはいけない対応

発覚した直後の対応で、判定を難しくしてしまう動きがあります。代表的なものを挙げておきます。

• 本人に会話の履歴をすぐ消させ、何を入れたかを確かめる前に材料を失う
• 「会社の契約だから問題ない」と決めつけ、個人のアカウントで開いていた可能性を確かめない
• 件数だけを数えて報告の要否を決め、要配慮個人情報が一件混ざっていたことを見落とす
• 宣伝のページの「学習に使いません」だけを根拠に、事業者は取り扱わないと判定する
• 判定の結果と根拠を残さず、口頭の確認だけで終わらせる

一つ目は特に起こりやすい失敗です。消せば安心という気持ちから、入れた中身を写し取る前に履歴を消させると、工程3で数える材料がなくなります。削除は、入れた中身を記録として写し取ってから行うという順番を、手順書に明記しておきます。写し取った記録そのものも個人データなので、閲覧できる人を絞って保管します。

四つ目の失敗も、よく見られます。宣伝のページの言葉は、多くの場合、法人向けの契約を前提にした説明です。社員が実際に使ったのが個人向けの版なら、その言葉はそもそも当てはまりません。工程1で確かめた入り口と、工程2で読んだ規約の版が、同じサービスの同じ契約を指しているかを、判定を書く前にもう一度見比べます。

平時に決めておく3つのこと

4工程を事案の日に一から組み立てると、工程2の規約を読むだけで何日もかかります。平時に決めておきたいのは、三つです。一つ目は、会社が契約している生成AIのサービスごとに、工程2の答えを先に出しておくことです。契約の種類、読んだ規約の条、三つの箱のどれに当たるかを、サービスの一覧に書いておきます。事案の日に規約を読み始めないで済むようにしておくことが、判定を早める一番の近道です。

二つ目は、申告の窓口と、判定を書く人を決めておくことです。社員が入れてしまったと気づいたときに、誰に何を伝えればよいかが分かっていれば、申告は早くなります。申告した社員を責めない方針を先に示しておくと、隠される事案が減ります。

三つ目は、判定の記録の型を用意しておくことです。本稿の工程に合わせて、入れた先、契約、規約の条、中身、本人の数、判定、根拠、削除、再発防止の欄を並べた一枚の型を作っておけば、事案の日にはその欄を埋めるだけで済みます。個人情報の規律は見直しが続いているため、型は委員会の最新の資料と照らして、年に一度は見直します。

よくある質問

会社で契約した法人向けのAIに入れた場合も、判定は要りますか？

要ります。法人向けの契約でも、工程2で規約を読み、事業者が取り扱わない箱か委託の箱かを確かめる必要があります。また、個人のアカウントで開いていなかったかを工程1で確かめます。多くの場合は漏えい等に当たらないと整理できますが、その根拠を記録に残すことが大切です。

入れたのが氏名だけで、連絡先は入れていない場合はどうですか？

氏名だけでも、特定の個人を識別できれば個人情報に当たります。会社の名簿から取り出したものなら個人データとして扱います。件数や要配慮の情報の有無を工程3で確かめるのは、氏名だけの場合も同じです。

入れた社員が、すぐに会話を消したと言っています。それで漏えいではなくなりますか？

画面から消しても、提供元の側での保存や処理がなかったことにはなりません。消したかどうかではなく、入れた先の事業者が取り扱う箱だったかどうかで判定します。消した日時と方法は、工程4の記録に残します。

判定に迷ったら、委員会に相談してもよいですか？

判定に迷う場合は、弁護士や委員会の相談の窓口に尋ねることも選択肢です。その際も、本稿の4工程の材料をまとめた一枚があれば、相談が早く進みます。報告の期限が迫っている場合は、判定を待たずに速報の準備を進めます。

まとめ

生成AIに個人情報を入れてしまったと分かっても、それがそのまま法律上の漏えい等に当たるとは限りません。見極めは4つの工程で進めます。工程1で、入れた先のサービスと契約の種類、アカウントの名義、設定、日時を特定します。工程2で、委員会の質問と回答集の7-53番の考え方に沿い、提供元が個人データを取り扱うことになっているかを規約の原文で読み、取り扱わない箱・委託の箱・どちらでもない箱のどれかに入れます。工程3で、要配慮個人情報、財産的な被害のおそれ、不正な目的、本人の数を確かめます。工程4で、法務と個人情報の責任者が判定と根拠を書き、中身を写し取ってから削除を進めて記録します。報告が要ると判定したら報告と通知の手順へ引き継ぎ、要らない場合も社内の記録と再発防止を残します。入力履歴の洗い出しや時系列の下書きはAIに手伝わせても、判定と報告の要否はAIに決めさせず、人が決めます。まずは会社が契約している生成AIのサービスごとに、工程2の答えを平時に書いておくところから始めてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。