プライバシーガバナンスとAI｜顧客データを使う前の体制

「顧客の購買履歴をAIで分析したいと現場から上がってきたが、誰が良し悪しを決めるのかが社内で決まっていない」「個人情報保護法には反していないと法務は言うが、顧客がこれを知ったらどう思うかが気になる」。AIの活用が進むにつれて、マーケティングやデータ活用の責任者から、こうした声が増えています。どちらの声も、法律の条文を調べるだけでは片づきません。問われているのは、顧客データをAIで使うかどうかを、会社としてどこで受け止め、誰が判断するかです。AIで顧客データを使う前に要るのは、法令の確認表を1枚増やすことではありません。本当は、プライバシーの問題を経営と組織で受け止める体制を、AIの案件が動き出す前に用意しておくことです。この記事では、総務省と経済産業省のプライバシーガバナンスのガイドブックの枠組みを、AIで顧客データを使う4つの場面に当て、使う前に整える体制を整理します。

AIで顧客データを使う場面は4つに分けられる

最初に、AIで顧客データを使う場面を分けておきます。場面によって、起きる問題も、体制のどこが効くかも違うからです。本稿では次の4つに分けます。

• 推定：購買や閲覧の履歴から、顧客の関心、離脱の可能性、属性などをAIで推し量る
• 生成AIへの入力：問い合わせの文面や顧客の一覧を、文章の作成や要約のために生成AIに入れる
• 学習：顧客データを使って、自社のAIの仕組みを調整したり、学習させたりする
• エージェントによる取り扱い：AIが自分で顧客の記録を検索し、更新し、連絡を送るといった操作を行う

4つの場面は、顧客から見える度合いが違います。推定は顧客が気づかないうちに行われ、結果だけが広告や連絡の形で届きます。生成AIへの入力は社内の作業ですが、入力先が社外の道具であれば、データが社外に出る形になります。顧客が知らないところで行われる場面ほど、知ったときの驚きが大きいという点は、どの場面にも共通します。

学習とエージェントは、まだ取り組んでいる会社が限られる場面ですが、体制の側から見ると最も手当てが遅れやすい場面です。学習に使ったデータは後から取り除くのが難しく、エージェントは人が一件ずつ確かめない速さで顧客データを扱います。始めてから体制を作るのでは間に合わない場面として、先に検討の対象に入れておきます。

この4つの区分は、後の節で体制の要素を当てるときの物差しになります。社内でAIの案件を集めるときも、案件ごとにどの場面にあたるかを1つ選ばせると、どこに相談すべきかが早く決まります。

場面ごとに起きるプライバシーの問題

4つの場面で起きる問題を、顧客の側から見ていきます。推定では、推定の誤りと、推定されること自体への抵抗が問題になります。ガイドブックは、機械学習を含むAIが既存のデータを統計的に処理して推定や判断を行うため、新しい対象や状況の変化に弱く、データに偏りがあれば誤った推定につながりやすいと指摘しています。

ガイドブックはさらに、直接集めたデータが限られるときに、AIなどで本人の行動から属性を類推し、機械的に判断すること（いわゆるプロファイリングを含む）について、推定や判断の誤り、さらにはプライバシーに関わる問題が起きやすいと書いています。顧客が自分で伝えていない事柄を、会社が推し量って使うこと自体が、不信のきっかけになりうるのです。

生成AIへの入力では、顧客が伝えた目的とは別の作業に自分の情報が使われることが問題になります。問い合わせのために送った文面が、営業の資料づくりのために社外の道具に入れられていると知れば、法令上の手当てがあっても、顧客は使われ方に違和感を持ちます。学習では、一度使ったデータを後から取り除きにくいことが、エージェントでは、人が確かめないまま顧客の記録が変わったり連絡が送られたりすることが、それぞれ問題になります。

どの問題も、顧客の想定と会社の使い方のずれから生まれています。そのずれを案件ごとに見つけ、止めるか、説明して進めるかを決める場所が要ります。個々の案件で生成AIに入れてよいかを判断する手順は、別の記事「顧客データを生成AIに入れてよい？」で扱っているので、本稿はその判断を支える組織の側に絞ります。

原因1：法令を守ることと、プライバシーを守ることは同じではない

では、なぜ法令を守っていても問題が起きるのでしょうか。1つ目の原因は、法令が守る範囲と、顧客がプライバシーとして感じる範囲が一致しないことです。ガイドブックは、企業がプライバシーの問題を考える際、これまでは個人情報保護法を守っているかを中心に検討することが主流だったとしたうえで、プライバシー保護の観点で考えるべき範囲は、技術の進歩と消費者の意識の高まりによって変化し、広がっていると述べています。

加えてガイドブックは、プライバシーの問題は人によって感じ方が違い、社会に受け入れられるかどうかも文脈や時間の経過で移り変わると書いています。同じデータの使い方でも、ある業界では当たり前で、別の業界では驚かれます。数年前は受け入れられていた使い方が、今は受け入れられないこともあります。

AIはこのずれを大きくします。推定の精度が上がるほど、顧客が伝えていない事柄まで推し量れるようになり、生成AIは顧客データを使う作業の数を一気に増やします。法令の確認は必要条件で、それだけでは顧客の受け止めまでは確かめられない。この前提に立つと、法務の確認とは別に、顧客の受け止めを考える場所が社内に要ることが分かります。

ここで言う法令の細目、たとえば同意の取り方や第三者への提供の条件は、本稿では扱いません。それらは法務が条文に沿って確かめる領域です。本稿が扱うのは、法務の確認を通った案件であっても、顧客の受け止めの面から止める、変える、説明するといった判断を、誰がどこで行うかという体制の問題です。

原因2：AIの案件を受け止める場所が社内にない

2つ目の原因は、AIで顧客データを使う案件が、部門の中で始まり、部門の中で完結してしまうことです。生成AIの道具は、申し込めばすぐに使えます。マーケティング部門が顧客の一覧を要約に使う、営業部門が商談の記録をAIで分析する、といった使い方は、誰かに相談しなくても始められてしまうのです。

法務やプライバシーの担当に案件が届くのは、多くの場合、使い方がほぼ固まった後です。その段階で懸念を伝えても、すでに予算が付き、取引先との約束もできていて、止めにくくなっています。あるいは、法務は条文に照らして問題がないかだけを答え、顧客の受け止めの面は誰も見ないまま進みます。

ガイドブックは、プライバシーの取組は事後に追加するものではなく、事前に検討して戦略、事業、システムへ組み込むべきだとしています。AIの案件でこれを実現するには、案件が動き出す前に、必ず通る入口を社内に作る必要があります。入口のない会社では、どれほど詳しい確認表を作っても、確認表を使う機会そのものが訪れません。

この2つの原因、つまり法令の外にある受け止めの問題と、案件を受け止める場所の欠如に対して、ガイドブックが示す体制の要素を当てていくのが、以下の節の内容です。

プライバシーガバナンスのガイドブックとは

ここで、根拠とする文書を確かめておきます。総務省と経済産業省の「DX時代における企業のプライバシーガバナンスガイドブック」は、2023年4月公表のver1.3が、2026年10月時点で確認できた最新版です。ガイドブックは企業のプライバシーガバナンスを、経営者がプライバシーの問題に積極的に関わり、組織全体で取り組む体制を作り、それを機能させることと位置づけています。

ガイドブックの骨格は2段になっています。1段目は経営者が取り組むべき三要件で、プライバシーガバナンスに係る姿勢の明文化、プライバシー保護責任者の指名、プライバシーへの取組に対するリソースの投入です。2段目は重要項目で、体制の構築、運用ルールの策定と周知、企業内のプライバシーに係る文化の醸成、消費者とのコミュニケーション、その他の関係者とのコミュニケーションが挙げられています。

本稿では、これを5つの要素にまとめて使います。経営の姿勢の明文化、責任者の指名、社内の体制とリソース、社内の文化、利用者との対話です。三要件のうち2つをそのまま要素とし、リソースの投入を体制の構築と合わせて1つにし、重要項目のうち文化の醸成と消費者とのコミュニケーションを残りの2つにしました。

• ガイドブックは、機械学習を含むAIによる推定や判断の誤り、AIで本人の属性を類推する場面の問題には触れていますが、生成AIを名指しで扱った記述はありません。本稿はガイドブックの枠組みを、AIで顧客データを使う場面に当てはめたものです
• 版と公表時期は、総務省の公表（令和5年4月25日）とガイドブックの表紙（2023年4月）に基づきます。自社で使う際は、経済産業省・総務省のページで最新版を確かめてください

この記事が扱う範囲：データの整え方ではなく組織の体制

プライバシーとAIの話題は範囲が広いので、本稿が扱わない部分を先に示します。データそのものの整え方、つまりデータの分類、持ち主、使い道、品質、置き場所と保存の期間を決める作業は、別の記事「データガバナンスで決める5項目」で扱っています。本稿は、データを扱う組織の側に絞ります。

個々の案件で、ある顧客データを生成AIに入れてよいかを判断する手順は「顧客データを生成AIに入れてよい？」で、個人データの影響評価の段取りは「個人データの影響評価とは？」の記事で扱っています。本稿では、それらの判断や評価を誰が受け持ち、どこに上げるかという受け皿だけを扱います。

また、設計の段階からプライバシーを組み込むという原則、いわゆるプライバシー・バイ・デザインの解説もしません。ガイドブックも姿勢の明文化の参考として触れている重要な考え方ですが、本稿の主題は原則ではなく、原則を実行する組織の形です。プライバシーポリシーに載せる項目や、法改正の個別の論点にも立ち入りません。

AI全般の責任者をどう置くかは、別の記事「AIの責任者は情報システム部門ではない」で扱っています。本稿で扱うのはプライバシーの責任者です。両者を同じ人が兼ねるかどうかは会社の規模によりますが、兼ねる場合でも、顧客データの案件ではプライバシーの責任者としての立場で判断する、と役割を分けて書いておきます。

要素1：経営の姿勢を、AIで顧客データを使う場面まで書く

1つ目の要素は、経営の姿勢の明文化です。ガイドブックは、経営者が、データを使ってどのような価値を提供するかを踏まえ、プライバシー保護の軸となる基本的な考え方と、プライバシーのリスクに能動的に取り組む姿勢を明文化し、社内外に示すことを求めています。形式を問わず、経営者自身の意思が伝わる文にすることが大事だとも書かれています。

AIの場面に当てるなら、明文化する文に、顧客データをAIで使って顧客に何を届けたいか、そして何はしないかを書き込みます。たとえば「顧客が伝えていない事柄を、本人に不利な判断のために推定しない」「顧客の問い合わせの内容を、顧客への回答以外の目的で社外のAIに入れない」といった書き方です。しないことを書いておくと、現場が迷ったときの判断の起点になるのです。

ガイドブックは、技術の進展や社会の要請を踏まえ、行動原則や方針の中身と運用を継続的に検証し、適宜見直す必要があるとも述べています。AIの使い方は数か月単位で変わるので、明文化した文も、新しい場面が出てきたら書き足す前提で持っておきます。

文案の下書きはAIに任せられます。自社の事業内容と、AIで顧客データを使っている案件の一覧を渡し、提供したい価値としないことの候補を出させます。ただし、何をしないと約束するかは経営者が決めることです。AIの候補は一般論の平均に寄るので、自社の顧客との関係に照らして、経営者が言い切れる言葉に直します。

要素2：プライバシー保護責任者に、AIの案件を止める権限を持たせる

2つ目の要素は、責任者の指名です。ガイドブックは、経営者が組織全体のプライバシーの取組の責任者を担当幹部として指名し、明文化した内容を実践する責任を負わせることを求めています。そのうえで、責任者の責任の範囲を明確にし、プライバシーの問題の発生を防ぐために必要な対応を行う権限も与える必要があると書いています。

AIの案件で効くのは、この権限の部分です。責任者が懸念を伝えられても、案件を止めたり条件を付けたりする権限がなければ、案件は予定どおり進みます。顧客データをAIで使う案件について、責任者が「保留」「条件付きで進める」「止める」を決められることを、社内の決まりに書いておきます。

ガイドブックは事例として、全社の責任者を置き、業務の分野ごとにプライバシー保護の責任者を指名した会社や、データを使う側の責任者とは別に、独立した立場から助言と監視を行うデータ保護の責任者を置いた会社を紹介しています。AIの案件が多い会社では、データを使って成果を出す人と、使い方に待ったをかける人を分けておく考え方が参考になります。

責任者の判断をAIに任せることはしません。AIは案件の一覧を整理し、似た過去の案件と判断を並べることはできますが、顧客の受け止めを想像し、事業への影響と比べて止めるかどうかを決めるのは、権限を与えられた人です。責任者の判断と理由は、AIの整理とは別に記録に残します。

要素3：社内の体制とリソースを、AIの案件の量に合わせる

3つ目の要素は、社内の体制とリソースです。ガイドブックは、責任者を中心とした中核の組織（プライバシー保護組織）を設けることが望ましいとし、その第一の役割を、社内の各部門から新しい事業やサービスの情報を集め、プライバシーの問題が起きるリスクを漏れなく見つけることだとしています。専任の人材を確保するのが難しい場合は、兼務の社員だけで組織を作るなど、自社のリソースに合わせて実効性のある形にすることが大切だとも書かれています。

AIの場面では、この組織に集まる案件の数が大きく増えます。部門ごとに生成AIの使い方が生まれ、推定の仕組みを使った施策も増えるからです。ガイドブックは、組織が日頃から事業部門と接点を持ち、新しい事業の部門が悩みを抱え込まずに自由に相談できる環境を作ることを求めています。相談しやすさは、案件が早い段階で届くかどうかを左右します。

事業部門の側の役割もあります。ガイドブックは、事業部門が自部門の製品やサービス、データがプライバシーの問題を起こさないかを当事者として確かめる必要があるとしています。AIの案件では、使い始める部門が、4つの場面のどれにあたるかを自分で判断し、保護組織に相談する、という分担が現実的です。

ガイドブックは、内部監査やアドバイザリーボードのような第三者的な組織が、独立した立場からモニタリングと評価を行うことにも触れています。アドバイザリーボードは、社外の有識者が助言する会議体です。推定や学習のように顧客から見えにくい案件が多い会社ほど、社内の判断を社外の目で確かめる場を持つ価値が大きいと言えます。

AIの案件を保護組織に集める入口の作り方

原因2で見た「受け止める場所がない」問題に対しては、案件の入口を作ります。ガイドブックは、運用ルールとして、どのタイミングで誰がプライバシーのリスクを見極めるかを決めておくことが望ましいとしています。AIの案件に当てると、次の流れになります。

ガイドブックは、検討した情報を履歴として蓄え、定期的に社内の相談や案件をまとめて責任者に報告することも重要だとしています。登録と記録が積み上がると、STEP2の一次整理で参照できる過去の案件が増え、保護組織の負担は回を重ねるごとに軽くなります。個々の案件の詳しい評価の進め方は、影響評価の手順に委ねます。

要素4：社内の文化を、AIを使う社員の側に育てる

4つ目の要素は、社内の文化です。ガイドブックは、単なるコンプライアンスの意識ではなく、社員一人ひとりが一個人や一消費者の立場から、プライバシーの問題に当事者意識を持つことが重要だとしています。そうした社員が、消費者の不安や求めていることを理解し、社会と向き合った丁寧な対応を自ら行う状態を、最も望ましい姿として描いています。

AIの場面では、この文化が特に効きます。生成AIは、顧客データを扱う作業を、データの専門家ではない社員の手元にまで広げました。顧客の一覧を要約に使う社員が、自分が顧客だったらこの使い方をどう感じるかと一瞬考えられるかどうかで、入口に案件が登録されるかどうかが決まります。

ガイドブックは、文化を育てる取組の例として、新入社員の配属時や異動時の教育、社員が持つ冊子での姿勢への言及、定期的な研修、責任者の活動の社内広報、パーソナルデータを扱う部署への集中的な教育などを挙げています。AIの場面に合わせるなら、生成AIの道具を使い始める時点を、教育の機会にするのが効果的です。利用の申請を受けたときに、4つの場面の区分と案件の入口を短く案内します。

社員向けの案内文の下書きはAIに任せられます。ただし、案内文に何を書くか、どの使い方を例として示すかは、保護組織が決めます。実際に社内で起きた相談をもとにした例は伝わりやすい一方、個人や取引先が特定されないように伏せる必要があります。

要素5：利用者との対話を、AIで使う前に始める

5つ目の要素は、利用者との対話です。ガイドブックは、プライバシーガバナンスには消費者との継続的なコミュニケーションが必要だとし、消費者の意識や不安を理解したうえで、自社の取組を分かりやすく丁寧に説明することを求めています。消費者に対するアカウンタビリティを果たすことが、信頼関係を築くうえで欠かせないとも書かれています。

ガイドブックは、パーソナルデータを使う新しい計画の方針や内容を、実施の前に社会に公表し、消費者のコメントを受け付けて反映してから試行し、結果を見て事業を始めるという進め方が広がりつつあることにも触れています。AIで顧客データを使う案件のうち、推定や学習のように顧客から見えにくいものは、始めてから知られるより、始める前に説明するほうが、受け止めの違いに早く気づけます。

新しい機能の追加や利用規約の改訂のときに、どう対応を改善したかを迅速に知らせることや、問い合わせの窓口、データの扱いを利用者が確かめ変更できる画面を用意することも、継続的な対話の形としてガイドブックに挙げられています。顧客がAIの使われ方について問い合わせてきたときに、誰がどう答えるかを決めておくことも、この要素に含まれます。

利用者への説明文の下書きはAIに任せられます。案件の登録内容を渡し、顧客の目線で分かりやすい文に直させるのは得意な作業です。ただし、説明を出すかどうか、どこまで書くかは人が決めます。説明の範囲は、法務の確認と、責任者の判断と、広報の方針がそろって初めて決まるからです。

問題が起きたときに備えておくこと

体制を整えても、問題が起きる可能性はなくなりません。ガイドブックは、責任者が確立する方針に、実際にプライバシーの問題が表に出た場合の緊急時の対応、消費者の救済、原因の解析と改善の観点も含める必要があるとしています。保護組織には、事業部門と連携して初動と事後の対応を進め、責任者に報告して指示を仰ぐ役割が求められています。

AIの場面で備えておきたいのは、使い方を止める手順です。推定の結果を使った配信を止める、生成AIへの入力を止める、エージェントの操作の権限を外す、といった操作を、誰の判断で、誰が、どれくらいの時間で行えるかを事前に決めておきます。学習に使ったデータを取り除けるかどうかも、案件を始める前に確かめておく点です。

ガイドブックは、事業部門が顧客相談の部門などと連携し、平時から消費者の意見を広く受け取れる体制を作ることも重要だとしています。製品のレビューや交流サイトでの発信に目を配り、消費者の反応をいち早くつかむことも挙げられています。AIを使った施策への反応は、問い合わせより先に、こうした場所に現れることがあります。

寄せられた声の整理はAIに任せられます。問い合わせや公開の書き込みを集め、AIの使い方に触れたものを抜き出し、場面ごとに分けさせます。ただし、反応が問題の兆しかどうか、使い方を止めるかどうかの判断は、保護組織と責任者が行います。止める判断を速くするために、止める手順を先に決めておくのがこの節の要点です。

AIに任せる所と、任せてはいけない所

ここまでの要素ごとに、AIに任せる作業を見てきました。まとめると、社内のAIの案件の洗い出し、登録された案件の懸念の一次整理、利用者への説明文の下書き、明文化する文の候補出し、社員向けの案内文の下書き、寄せられた声の整理です。どれも、集める、並べる、下書きするで止まる作業です。

一方で、次のような任せ方は避けてください。体制の要素が形だけになり、顧客から見て誰も判断していない状態を生みます。

• AIの一次整理で「懸念なし」とされた案件を、保護組織が確かめずに通す
• どのデータ利用を止めるかを、AIが示した危険度の点数だけで決める
• 利用者への説明文を、責任者と法務の確認なしにAIの下書きのまま公表する
• 経営の姿勢の文を、他社の公表文をもとにAIに作らせ、経営者が読まずに掲げる
• 顧客データそのものを、案件の一次整理のために社外のAIの道具へそのまま入れる

最後の点は見落とされがちです。案件の一次整理に必要なのは、使うデータの種類と目的であって、顧客データそのものではありません。体制を回すためのAIの利用が、新たなプライバシーの問題を生まないよう、登録の様式に実データを貼らない決まりを入れておきます。

AIで顧客データを使う前の体制の確認表

最後に、5つの要素を、AIで顧客データを使う前に確かめる表にまとめます。左から、要素、確かめる問い、AIに任せる作業、人が決めることです。1つでも答えられない問いがあれば、AIの案件を広げる前に、その要素から整えます。

要素	確かめる問い	AIに任せる作業	人が決めること
経営の姿勢の明文化	顧客データをAIで使って何を届け、何はしないかが、経営者の言葉で書かれているか	候補の文案出し	何をしないと約束するか
責任者の指名	プライバシー保護責任者が指名され、AIの案件を保留・条件付き・止めると決める権限があるか	過去の案件と判断の整理	案件ごとの判断と、その理由
社内の体制とリソース	AIの案件の入口があり、保護組織が案件の量に見合う人数で回っているか	登録された案件の一次整理	相談する部署と、人員の配置
社内の文化	生成AIを使い始める社員に、4つの場面と入口が案内されているか	案内文と教育の材料の下書き	伝える内容と、例として示す事例
利用者との対話	推定や学習の案件を、始める前に顧客に説明する流れと、問い合わせに答える担当があるか	説明文の下書き、寄せられた声の整理	説明を出すか、どこまで書くか
問題が起きたとき	AIの使い方を止める手順と、止める判断をする人が決まっているか	反応の抜き出しと場面ごとの仕分け	止めるかどうか、顧客への対応

この表は、一度埋めて終わりにしません。新しい場面、たとえばエージェントに顧客の記録を扱わせる案件が初めて登録されたときに、表の各行をもう一度確かめます。新しい場面の最初の1件が、体制の弱いところを教えてくれるからです。

表の中で最も時間がかかるのは、たいてい責任者の指名と権限の行です。誰が責任者になるか、どこまでの権限を持つかは、経営者が決めるしかありません。AIの案件が増えてから慌てないよう、案件が少ないうちにこの行から埋めておくことをすすめます。

まとめ

AIで顧客データを使う場面は、推定、生成AIへの入力、学習、エージェントによる取り扱いの4つに分けられます。法令を守っていても問題が起きるのは、顧客の受け止めが文脈と時間で変わることと、AIの案件を受け止める場所が社内にないことが原因です。総務省と経済産業省のプライバシーガバナンスのガイドブックの枠組みを当て、経営の姿勢の明文化、責任者の指名と権限、案件の入口を持つ社内の体制、AIを使う社員の側の文化、始める前の利用者との対話を整えます。案件の洗い出しや懸念の一次整理、説明文の下書きはAIに任せ、どの利用を止めるか、説明を出すか、責任者の判断は人が持ってください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。