Protopiaか伏せ字か社内AIか|機密の推論の守り方

「顧客の取引データを生成AIで分析したいが、外部のサービスに平文で渡すのは社内規程が許さない」「伏せ字にすると、肝心の数字や固有名詞が消えて分析にならない」——金融・製造・公共などの機密を扱う企業で、情報システム部門と事業部門のあいだを行き来する相談です。米国の Protopia AI は、入力をAIの手前で別の表現に変えてから渡す「Stained Glass Transform」という方式で、この板挟みに答えようとしています。機密を守る方法は「渡すか渡さないか」の二択ではなく、何を、どこで、誰が読める形にするかの設計です。この記事では、伏せ字・社内に置くAI・入力を変換して渡す方式の3つを並べ、どのデータ区分まで変換方式を認めるか、精度をどう試すか、設定と鍵を誰が持つか、費用とやめ方までを整理します。
カメ先生機密をAIに渡すときの対策というと、通信の暗号化や「学習に使わない」契約で十分だと思われがちなんだけど、推論の瞬間には、相手側の計算機の中でデータが読める形になっているんだ。
カメ子送る途中と保存するときは守られていても、AIが答えを考えている間は中身が見えている、ということですか。
カメ先生そう。だから伏せ字で中身を消すか、AIを社内に置くか、読めない形に変えてから渡すか、の選び方が出てくる。どれも守るものと失うものが違うんだよ。
カメ子3つの方法は優劣ではなく、データの区分と業務によって使い分けるものなんですね。
- Protopia AI の Stained Glass Transform は、入力を対象のAIだけが扱える確率的な表現に変えて渡す方式。公式は平文を推論先に置かないと説明するが、完全な安全を保証するものではない
- 伏せ字・社内に置くAI・変換方式は守る範囲が違う。データ区分ごとに、どの方式を認めるかを先に決める
- 精度の変化と復元の難しさは、公式の説明ではなく自社のデータで試して確かめる。変換の設定と鍵は自社で持つ
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
Protopia AI は、推論の入口で入力を「対象のAIだけが扱える形」に変える会社
Protopia AI は、AIの推論で機密データがさらされる問題に取り組む米国の会社です。公式サイトでは、自社の製品を「推論のプライバシー層」と位置づけ、AIの計算基盤を提供する事業者や、国ごとの主権を重んじるクラウド、AIエージェントの利用者に向けて売っています。中心の製品が Stained Glass Transform で、公式の説明では、生のデータを、対象のモデルに固有の、無作為化された表現に置き換える仕組みです。
公式サイトによると、この変換は特定のモデルに合わせて学習の後工程で作られ、変換された表現は対象のモデルだけが扱えるもので、モデル自体や推論の仕組みを改造する必要はないとしています。製品群には、変換そのもののほか、自社のモデルに合わせて変換を作る仕組みや、機密データを扱うAIエージェントを作るための部品も並んでいます。「暗号化・伏せ字・置き換え・機密計算は補い合うが、それだけでは推論時の平文をなくせない」というのが同社の主張です。
提携先として公式サイトに並ぶのは、AWS、HPE、NVIDIA などです。2025年7月には、Amazon の機械学習基盤と AWS Marketplace から使えるようになったと発表しました。国内での導入事例や日本語の資料はほとんど見当たりません。この記事は2026年11月初めの公式サイト・公式ブログ・技術文書に基づいており、検討時には最新の説明を確かめてください。
2026年の動き:防衛と公共、公開モデルへの対応
公式のニュース欄によると、Protopia AI は2026年1月20日、米国ミサイル防衛庁の契約枠の受注者の一社に選ばれたと発表しました。1月27日には技術解説で、AIエージェントが外部の道具を呼び出す流れを変換で保護する方法を示しています。3月には、公共向けの助言会社 MGT と HPE とともに、州・地方政府と教育機関がAIを本番で使うための体験拠点を立ち上げたと発表し、そこでは機密の指示文をAIが処理する前に保護された表現に変えると説明しています。
6月16日には、NVIDIA の公開モデル群に向けた変換の提供を発表しました。発表では、推論の環境の記録・一時保存・計算機の記憶領域・監視の道具が生のデータを持たないように設計していると説明し、推論を自社の施設、国内の領域、クラウドのどこで動かすかを費用の面から選べるとしています。7月20日には、別のAI基盤の会社と、国の規模の主権AIを共有の基盤で動かすための提携を発表しました。
ここから読み取れるのは、同社の主な顧客が、防衛・公共・金融のように機密を外に出せないが、計算機を専有する余裕もない組織だということです。一方で、精度や性能について、第三者が検証した数字は公式の発表には見当たりません。6月の発表も「公開モデルの精度と性能を保つように設計している」という書き方にとどまっています。同社の主張は設計の意図として読み、効果は自社で確かめるのが前提になります。
誤解:「通信と保存を暗号化していれば、推論先では見えない」
外部のAIサービスを使う際の社内審査では、通信の暗号化、保存時の暗号化、入力を学習に使わない契約、保存期間の短さ、が確認項目に並ぶのが普通です。どれも必要な対策ですが、AIがモデルで計算する瞬間には、入力は読める形で計算機の中にあるという点は、これらの対策では変わりません。Protopia AI が問題にしているのは、まさにこの推論中の隙間です。
推論中の隙間が問題になるのは、推論先の事業者の内部の人、同じ計算機を共有する別の利用者、推論の記録や一時保存に残ったデータ、といった経路が考えられるからです。大手のAIサービスは対策を講じていますが、利用者の側からは中身を確かめにくいのが実情です。規程で「社外の計算機上で平文にしてはならない」と定めている組織では、この点が外部AIを使えない理由になっています。
ただし、隙間があることと、それが自社にとって許容できない危険かどうかは別の話です。顧客の住所を含む問い合わせの要約と、未発表の合併の検討資料では、守る強さがまったく違います。変換方式は、隙間を許容できないデータ区分に対してだけ検討すればよい道具で、全社のAI利用に一律にかぶせるものではありません。
3つの方法を並べる:伏せ字・社内に置くAI・変換して渡す方式
機密データをAIに処理させる方法は、大きく3つに分かれます。1つ目は、渡す前に固有名詞や番号を見つけて伏せ字や別の値に置き換える方法です。2つ目は、AIのモデルを社内の施設や自社専用の環境に置き、データを外に出さない方法です。3つ目が、Protopia AI のように、入力を対象のモデルだけが扱える表現に変えて、共有の計算基盤で推論させる方法です。
| 比べる点 | 伏せ字 | 社内に置くAI | 変換して渡す方式 |
|---|---|---|---|
| 推論先で読めるもの | 伏せた後の文章(伏せ漏れはそのまま) | 社内の人と社内の仕組みだけ | 公式の説明では平文ではなく変換後の表現 |
| 失うもの | 伏せた部分の意味。数字や名前を使う分析 | 大きなモデルの性能、計算機の余裕 | 使えるモデルが変換を作れるものに限られる |
| 使えるAI | どのAIサービスでも | 社内で動かせる規模のモデル | 変換が用意された公開モデル中心 |
| 主な費用 | 検出の道具と人の確認 | 計算機の購入・運用と保守の人 | 変換の作成、中継の仕組みの運用、推論の計算 |
| 向く場面 | 個人情報が主な機密の文書 | 最も機密の高い区分、通信できない環境 | 共有の計算基盤で公開モデルを使いたいとき |
表で見ると、3つの方法は守るものと失うものの組み合わせが違うことが分かります。伏せ字はどのAIでも使えますが、伏せた部分の意味が消えます。社内に置くAIは最も確実ですが、性能と費用で制約を受けます。変換方式はその中間を狙うものですが、使えるモデルが限られるうえ、新しい方式なので評価の蓄積が少ないという弱みがあります。
この3つは、どれか一つを選ぶものではなく、組み合わせて使うことが多い点も押さえておきます。個人情報は伏せ字で消し、残った機密の文脈は変換方式で守る、最も機密の高い区分だけは社内に置くAIで扱う、といった組み立てです。Protopia AI 自身も、伏せ字や暗号化は変換と補い合うと説明しています。
伏せ字が向く場面と、伏せると壊れる仕事
伏せ字は、検出した氏名・住所・電話番号・口座番号などを印や別の値に置き換えてから外部のAIに渡す方法です。個人情報の伏せ字の道具の選び方は別の記事で扱ったので、ここでは変換方式との比較に必要な点だけを挙げます。伏せ字の強みは、使うAIを選ばないことと、何を伏せたかが人の目で確かめられることです。
弱みは、機密の中身そのものを使う仕事で役に立たないことです。たとえば、取引先ごとの取引額の推移から異常を見つける分析、設計書の数値の矛盾を指摘させる作業、未発表の製品名を含む企画書の要約では、伏せた部分こそが分析の対象なので、伏せると答えの質が大きく落ちます。また、伏せ漏れは必ず一定の割合で起きるため、漏れた分は平文のまま推論先に届きます。
つまり伏せ字は、「機密が文章の一部に点在していて、そこを消しても仕事が成り立つ」場面に向きます。逆に、機密が文章の中心にある仕事や、数字の関係を読ませたい仕事では、伏せ字では足りません。変換方式を検討する価値があるのは、伏せ字では仕事が壊れ、かつ外部の計算機を使いたい場面だと整理できます。
社内に置くAIが向く場面と、増える仕事
AIのモデルを社内の施設や自社専用の環境に置けば、データは社外に出ません。国産のモデルや公開モデルを社内に置く選択肢は増えており、図表を含む機密文書を社内で読ませる比較は別の記事で書きました。社内に置くAIの強みは、推論先が自社の管理下にあるので、誰が見られるかを自社で決められることです。
一方で、社内に置くと増える仕事があります。計算機の調達と更新、モデルの更新の追従、障害対応、利用量の急増への対処、そして運用する人の確保です。大きなモデルほど計算機が高くつくため、性能を取るか費用を取るかの選択を自社で引き受けることになります。部署ごとに専用の環境を用意すると、計算機の利用率が下がり、費用が割高になりがちです。
Protopia AI が狙っているのは、この「専用の環境を用意する費用」の部分です。同社は、変換を使えば機密の仕事でも共有の計算基盤に相乗りでき、計算機の利用率が上がると説明しています。社内に置くAIの費用が重く、しかし平文で外に出すことも許されない組織にとって、変換方式は検討の対象になります。
変換方式が向く場面:共有の計算基盤で公開モデルを使うとき
公式の技術文書によると、Stained Glass Transform を使うときは、利用者の側に変換を行う中継の仕組みを置きます。中継の仕組みはコンテナとして提供され、Docker や Kubernetes で動かせます。広く使われているチャット形式の要求を受け取り、メッセージの中身を変換して、文字ではなく変換後の数値の並びを推論の仕組みに送る流れです。推論の側は、文字の代わりに数値の並びを入力として受け付ける設定で動かす必要があります。
この仕組みから、変換方式が向く場面が見えてきます。まず、使うモデルが、Protopia AI が変換を用意しているか、自社で変換を作れる公開モデルであること。次に、推論を動かす基盤の設定に手を入れられること。一般向けの対話型AIサービスの画面に貼り付けて使う、といった使い方には向きません。自社で契約した共有の計算基盤や、提携先のクラウドで公開モデルを動かす構成が前提です。
業務の例としては、金融の不正検知のための取引記録の要約、製造の設計情報を含む問い合わせへの回答の下書き、公共機関の内部文書の分類などが考えられます。6月の発表では、規制のある決済・融資・保険や、知的財産を扱う仕事が例に挙がっていました。機密が文章の中心にあり、しかも量が多くて社内の計算機では追いつかない仕事が、最も効果を見込める領域です。
変換方式で「外に出ないもの」と「出るもの」を分けて書く
変換方式を評価するときに最も大事なのは、どこまでが守られ、どこからが守られないかを、構成図の上で書き分けることです。公式の文書から読み取れる範囲では、推論先に届くのは変換後の表現です。一方で、中継の仕組み自体は元の入力を受け取って変換するので、中継を置く場所は自社の管理する環境である必要があります。
出力の扱いにも注意が要ります。技術文書では、中継の仕組みが自分の鍵で出力の保護を外して利用者に返す設定、利用者が自分の鍵を作って自分で外す設定、出力の保護を使わない設定があると説明しています。出力の保護を使わない設定では、AIの答えは推論先で読める形になりうるので、どの設定で運用するかは審査の対象にします。
- 中継の仕組みは元の入力を受け取る。置き場所は自社の管理下の環境に限る
- 出力の保護の設定を確かめる。保護しない設定では、答えに含まれる機密は守られない
- AIエージェントが呼び出す道具の実行は、自社の側で平文で行われる。道具の記録の扱いも別に決める
- 中継の仕組みの記録の設定を確かめ、元の入力が記録に残らないようにする
- 変換は対象のモデルごとに作られる。モデルを替えれば変換も替える必要がある
1月の技術解説では、エージェントが道具を呼び出す流れでも、道具の定義や呼び出しの内容、道具の結果を変換して保護すると説明しています。ただし、道具そのものは自社の仕組みの中で実行され、その結果をメッセージに付け足してから再びモデルに送る構成です。道具が社外のサービスであれば、そこには平文が渡るので、エージェントで使う場合は道具ごとにデータの流れを確かめます。
どのデータ区分まで変換方式を認めるか
変換方式を入れるときは、社内の情報の区分ごとに、どの方式でAIに渡してよいかを決めておきます。多くの企業は、公開・社外秘・機密・極秘といった3〜4段階の区分を持っています。この区分の表に、伏せ字で可、変換方式で可、社内に置くAIのみ、AIに渡さないの欄を足すのが分かりやすい整理です。
考え方の一例を挙げます。社外秘の業務文書は、契約したAIサービスに伏せ字を通して渡してよい。機密に当たる顧客の取引記録や設計情報は、変換方式で共有の計算基盤に渡してよいが、出力の保護と中継の置き場所の条件を満たすこと。極秘に当たる合併の検討や未発表の決算は、社内に置くAIのみ、またはAIに渡さない。変換方式が新しいからといって最上位の区分まで一気に広げないのが慎重な進め方です。
- 変換方式を入れたことを理由に、極秘の区分まで外部の計算基盤に渡してよいことにする
- 変換を通さない経路(一般向けの対話型AIサービス)が残ったまま、変換方式を導入済みと報告する
- 区分を決めずに、部署ごとに変換方式の利用を判断させる
- 出力の保護を使わない設定のまま、機密の区分を扱う
区分の判断を、AIに任せないことも決めておきます。文書の区分を自動で判定する道具はありますが、誤って低い区分に判定された文書は、弱い守り方のまま外に出ます。区分の付け方は文書の持ち主が決め、AIは判定の候補を出すまでにとどめます。Protopia AI のエージェント向けの部品は、機密のやりとりを方針に従って振り分けると説明していますが、その方針を書くのは自社です。
精度の変わり方を、自社のデータで試す
公式の発表は、変換が公開モデルの精度と性能を保つように設計されていると述べていますが、具体的な精度の数字は公式の発表には見当たりませんでした。精度は業務とデータによって変わるので、他社の数字があったとしても、そのまま自社に当てはめることはできません。導入の前に、自社のデータで、変換あり・変換なしの答えを比べます。
要約、分類、問い合わせへの回答の下書きなど、実際に使う業務を選びます。業務ごとに、良い答えの条件を担当部署が文章で書いておきます。
最初の試験では、実データに近い構造で中身を置き換えた題材を使います。数十件から百件ほどあれば、差の傾向は見えてきます。
社内に置いた同じモデル、または試験用の環境で、変換を通した答えと通さない答えを並べます。比べるのはモデルの違いではなく、変換の有無だけにします。
自動の採点だけに頼らず、業務を知る人が答えを読み、良い答えの条件を満たしているかを判定します。人どうしで判定が割れたものは、条件の書き方を見直します。
答えの質に加えて、応答までの時間と、計算の費用を記録します。公式は遅れはわずかと説明していますが、自社の構成で確かめます。
試験の結果、変換ありで答えの質が業務の条件を下回るなら、その業務には使わないと決めます。精度が保たれる業務と保たれない業務が混ざるのが普通なので、業務ごとに判定を残しておくと、後から利用範囲を広げるときの根拠になります。
復元できないかを確かめる:公式の例は一つの例にすぎない
変換方式の守りの強さは、変換後の表現から元の入力をどこまで復元できるかで決まります。1月の技術解説では、変換前の表現、変換後の表現、変換後の表現から復元を試みた文章、隠し具合の指標を並べて表示する機能を紹介し、例の中では復元を試みた文章が意味をなさず、元の道具の定義は取り出せなかったと説明しています。
ただし、これは一つの例での結果であり、あらゆる攻撃に対する保証ではありません。公式の文書には、どのような攻撃者を想定し、どこまで耐えるかを示した資料は見当たりませんでした。「完全に安全」「復元は不可能」と社内に説明するのは避け、守りの強さは確率的なものとして扱います。とくに、短い定型の入力や、数字だけの入力では、文脈が少ないぶん推測されやすい可能性も考えておきます。
確かめ方としては、提供元に、想定している攻撃の種類と、それに対する評価の資料を書面で求めます。可能であれば、自社のセキュリティ担当や外部の専門家に、試験用のデータで復元の試みをしてもらいます。評価の資料が出てこない場合は、その結果を踏まえて認めるデータ区分を一段下げる、といった判断の筋道を先に決めておくと、検討が感覚論になりません。
変換の設定と鍵を誰が持つか
変換方式では、守りの要になる部品が自社の手元に置かれます。技術文書によると、中継の仕組みは変換のファイルを読み込んで動き、出力の保護を使う場合は鍵を作って一定時間ごとに更新します。推論の仕組みに接続するための認証情報も中継の側に設定します。これらを誰が管理し、誰が変更できるかを決めないと、守りの仕組みそのものが弱点になることになります。
| 持ち物 | 持ち主の例 | 決めておくこと |
|---|---|---|
| 変換のファイル | 情報システム部門 | 版の管理、差し替えの承認者、対象モデルとの対応 |
| 中継の仕組みの設定 | 情報システム部門 | 出力の保護の設定、記録の設定、変更の記録 |
| 出力の保護の鍵 | 情報システム部門(利用者側で持つ設定なら各システムの管理者) | 鍵の更新の間隔、保管場所、漏れたときの対応 |
| 推論先への認証情報 | 情報システム部門 | 権限の範囲、定期的な変更、退職者の扱い |
| データ区分と方式の対応表 | 情報管理の責任者と法務 | 見直しの頻度、例外の承認者 |
とくに、中継の仕組みの設定を事業部門や外部の開発会社が自由に変えられる状態にしないことが大切です。出力の保護を外す、記録の設定を変えて元の入力を残す、といった変更は、画面上は何も変わらないまま守りを弱めます。設定の変更は情報システム部門の承認を経て行い、変更の記録を残す運用にします。
情報システム部門と法務の確認項目
変換方式の審査では、技術の確認と契約・法令の確認を分けて進めると漏れが減ります。情報システム部門は構成と設定を、法務は推論先の事業者との契約と個人情報の扱いを見ます。両者で「推論先で平文になる経路が残っていないか」を同じ構成図の上で確かめるのが要点です。
- 情シス:中継の仕組みの置き場所が自社の管理下にあり、元の入力が記録に残らない設定になっている
- 情シス:出力の保護の設定と、鍵の管理の方法が決まっている
- 情シス:変換を通さずに同じモデルや他のAIに渡す経路が、利用規程と技術の両面でふさがれている
- 情シス:エージェントが呼び出す道具ごとに、平文が渡る先を洗い出した
- 情シス:精度の試験と、復元の評価の資料を確認した
- 法務:推論先の事業者との契約で、記録の保存、障害時の調査での閲覧、再委託の有無を確かめた
- 法務:変換後の表現が個人情報に当たるかどうかの社内の整理を決めた
- 法務:データの所在する国や地域の条件を、社内規程と取引先との契約に照らして確かめた
- 両者:データ区分ごとに認める方式の表を作り、例外の承認者を決めた
法務の論点で迷いやすいのは、変換後の表現の法的な位置づけです。変換したから個人情報ではなくなる、と言い切れるだけの根拠は、公開情報からは得られません。社内では、変換後も元の個人情報と同じ扱いを前提に委託先の管理や越境の確認を行い、変換は追加の安全管理の措置として位置づけるのが無理のない整理です。
費用の増え方と、やめ方
Protopia AI の公式サイトでは、料金表は確認できませんでした。AWS Marketplace から使えるようになったと発表しているので、そちらの条件も確かめます。費用の構造としては、変換を作る費用、中継の仕組みを動かす費用、推論の計算の費用の3つに分けて考えると見通しが立ちます。対象のモデルを替えたり、自社で調整したモデルを使ったりすると、変換を作り直す費用がかかります。
費用が膨らみやすいのは、対象のモデルを増やしたときと、利用量が増えたときです。公式は、自社で調整したモデルに合わせて変換も調整できると説明していますが、そのたびに作業と計算が発生します。使うモデルを少数に絞り、モデルの更新の頻度を決めておくと費用が読みやすくなります。共有の計算基盤による節約が、変換の費用を上回るかを、社内に置くAIの費用と並べて年単位で比べます。
やめ方も先に決めておきます。変換方式をやめると、機密の区分の仕事は、社内に置くAIに移すか、AIに渡さない運用に戻す必要があります。やめた途端に変換を通さない経路で同じ仕事が続く、という事態を防ぐため、やめる手順にはデータ区分の表の書き換えと、中継の仕組みの撤去、鍵と認証情報の無効化を含めます。推論先の事業者に残る記録の削除の確認も忘れずに行います。
AIに任せない範囲と、ミニ用語解説
変換方式は守り方の道具であり、何を守るべきかを決めるのは人です。データ区分の付与、方式の許可、精度の合否、設定の変更の承認、やめる判断は、いずれも人が行います。AIの答えを業務に使う場合も、答えの根拠を元の資料のどこに置いたかを書かせ、人が照合する運用は、変換の有無にかかわらず必要です。変換を通すと推論先での記録の確認が難しくなるため、根拠の確認は自社の側で行う段取りにします。
検討の場で混乱しやすい言葉を、ここで整理しておきます。社内の会議では、方式の名前より、何を守っているかで話すと議論がかみ合います。
- 推論:学習済みのAIに入力を与えて答えを出させること。機密がさらされるのはこの瞬間
- 伏せ字:氏名や番号などを見つけて、印や別の値に置き換えること。漏れた分は平文で届く
- 変換方式:入力を対象のAIだけが扱える表現に変えて渡すこと。Protopia AI の Stained Glass Transform がこれに当たる
- 中継の仕組み:利用者の側に置き、入力を変換して推論先に送る部品。元の入力を受け取るので置き場所が重要
- 出力の保護:AIの答えを鍵で守り、利用者の側で外す仕組み。設定次第で使わないこともできる
- 機密計算:専用の計算機の機能で、処理中のデータを隔離する方式。変換方式と組み合わせることもある
用語を共有したうえで、「この業務のこのデータは、どの方式なら認めるか」を一つずつ決めていくのが、変換方式を検討するときの最短の道です。方式の名前から入ると、どの部署も自分の仕事に最も強い守りを求め、結局どれも使えない、という結論になりがちです。
まとめ
Protopia AI の Stained Glass Transform は、入力を対象のモデルだけが扱える表現に変えてから推論させることで、推論中に平文がさらされる隙間を小さくしようとする方式です。2026年には防衛や公共の案件、公開モデルへの対応を相次いで発表しており、伏せ字では仕事が壊れ、社内に置くAIでは費用が重い組織にとって、比較の候補になります。
ただし、使えるモデルが限られること、中継の仕組みが元の入力を受け取ること、出力の保護は設定次第であること、精度と復元の難しさについて第三者の数字が乏しいことは、入れる前に押さえておくべき点です。データ区分ごとに認める方式を決め、自社のデータで精度を試し、設定と鍵を自社で持つ。この3つを決めてから小さく試せば、変換方式を「完全に安全な魔法」ではなく、守りの選択肢の一つとして使いこなせます。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
