AIが誤情報を出したときの責任の所在｜備えを先に決める

「AIが出した情報なのだから、間違っていても仕方がない」「最後は人が見ているので大丈夫です」——生成AIを記事や広告、問い合わせの応答に使い始めた組織で、決裁の場に必ず出てくる言い分です。ところが実際に争われた場面では、前者は通りませんでした。2024年、カナダの民事の審判機関は、大手航空会社の問い合わせ用の自動応答が示した誤った案内について、会社は責任を負わないという主張を退け、差額の支払いを命じています。案内が固定の説明頁にあったのか、自動応答の返答だったのかは関係ない——判断の理由はそこにありました。これは技術の精度をめぐる話ではありません。責任は、誰が作ったかではなく、誰の名前で世に出したかで決まる、という単純な話です。この記事では、AIが関わった情報に誤りがあったとき責任がどこに及ぶのかを型ごとに整理し、公開の前に決めておく備えまで落とします。

「AIが間違えた」は、通らなかった

事の起こりは2022年の11月です。祖母を亡くした利用者が葬儀に向かうため航空券を購入しようとして、会社の問い合わせ用の自動応答に条件を尋ねました。返ってきたのは、忌引きに関する規定があり、購入から90日以内に申請すれば運賃の一部が戻る、という案内です。利用者はその通りに購入し、後から申請しました。ところが実際の規定では事前に申請していなければ対象にならないとされており、申請は却下されます。

会社側は、自動応答が誤解を招く返答をしたことは認めました。そのうえで、自動応答は独立した存在であり自らの発言に責任を持つ、という主張を展開します。2024年、審判機関はこれを退けました。理由はごく短く、会社の場に載っている情報である以上、それが固定の説明頁であっても自動応答の返答であっても、会社が責任を負うというものです。命じられた額は運賃の差額483ドル、利息27ドル、手数料が約93ドルでした。

金額だけを見れば小さな争いです。しかし、ここで確定した考え方は金額とは無関係に効いてきます。自社の名で開かれている場所に置かれた情報は、生成の過程に何が関わっていようと自社の表示である。この整理は日本の実務にもそのまま当てはまります。広告、資料、記事、応答、いずれも読み手から見れば発信元は1つだからです。誰が下書きを書いたかは、受け取る側には見えません。

誤りが出る仕組み：もっともらしさが先に立つ

備えを考える前に、なぜ誤りが混じるのかを押さえておきます。文章を作るAIは、事実を格納した辞書を引いているわけではありません。与えられた文脈に続く言葉として、最も自然なものを順に選んでいます。学習した大量の文章の中で、ある言い回しの後にどんな言葉が来やすかったか。判断の基準はそこにあり、その内容が事実かどうかは選択の基準に入っていません。

この作りから、誤りの現れ方に特徴が生まれます。誤りは「空欄」や「分かりません」という形では出てきません。文章としていちばん自然な形、つまり実在しそうな出典名、それらしい桁の数字、いかにも公式めいた条文の言い回しで出てきます。見た目の完成度が高いものほど、確認されずに通過してしまうのはこのためです。粗い文章なら誰かが引っかかりますが、整った文章は疑われません。

そして、この性質は設定の工夫でゼロにはできません。参照する資料を限定する、根拠を書かせる、答えられない場合は答えないよう指示する。どれも発生率を下げますが、誤りが出る確率を下げる工夫と、出た誤りを外に出さない仕組みは別のものです。前者だけを積み上げても、後者がなければ世に出ます。備えの設計は、誤りが混じることを前提にして組むほかありません。

責任の原則は「誰の名前で世に出したか」

原則は1行で言えます。責任を負うのは、その情報を自社の名前で外に出すと決めた主体です。制作の過程で人が書いたのか、AIが下書きを作ったのか、外注先が納品したのかは、対外的には区別されません。読み手は発信元だけを見ており、発信元は誰かに委ねられるものではないからです。

この原則を実務に持ち込むと、線を引く場所が決まります。社内のたたき台、議事の下書き、企画の素案。これらは誤りが混じっても組織の中で止まりますから、確認の重さを下げてよい領域です。一方で、外に出るもの、金銭や契約に関わるもの、顧客への案内になるもの。ここは誤りがそのまま自社の表示になる領域で、確認の重さを下げてはいけません。

線を引くときによく問題になるのが「社内向けのつもりだったもの」です。社内共有の資料が営業の手元で顧客説明に使われる、社内の想定問答が支援窓口の返答にそのまま流用される。こうした流れは日常的に起きます。社内向けか社外向けかは、作った時点の意図ではなく、行き着く先で決まります。使い回される可能性があるものは、最初から社外向けとして扱っておくほうが安全です。

道具の作り手には、責任が届きにくい

では、AIを提供している側に責任は及ばないのか。及ぶ場面はありますが、限定的です。主要な提供元は利用規約で、出力の正確性・完全性について保証しないと明記しています。この種の条項が常に有効とは限りませんが、提供元の責任が認められるのは、開発や提供の過程に明らかな落ち度があり、それが損害の直接の原因になった場合に絞られる、という整理が一般的です。

法律の側から見ても、届きにくさの理由があります。日本の製造物責任法は、対象を有体物、つまり物理的な形を持つものに限っています。ソフトウェアやその出力は、この枠に入りません。つまり、製品の欠陥を理由に作り手を追及する道は、AIの出力に対しては開いていないのが現状です。

この点は地域によって動きが違います。欧州は2024年に製造物責任の指令を改正し、AIを明確に「製品」と位置づけました。適用は2026年12月9日からです。国内の事業には直接及びませんが、欧州域内に向けて提供している場合は関係します。国内の指針でも、開発する立場・提供する立場・利用する立場の3つで責務を書き分ける構成が採られています。自社がどの立場に当たるかを最初に確かめておくと、社内の議論が噛み合いやすくなります。

国の指針は2024年の春に初版がまとめられ、その後も年度ごとに改訂が重ねられています。直近の版では、AIが自ら手順を進めていく仕組みまで対象に含められました。指針そのものに強制力はありませんが、不利益を受けた相手から問い合わせや開示の求めがあった場合、必要な範囲で適切に対応することが望ましいとされている点は押さえておく価値があります。求められてから対応の可否を検討する形にしておくと、その検討に要した時間そのものが不誠実と受け取られます。何をどこまで開示するかは、事故が起きる前に決めておく項目の1つです。

誤りの出方を4つの型に分けておく

責任の所在を一般論として論じても、実務は動きません。誤りは出る場所によって、効いてくる決まりも、最初に見るべき場所も違います。実務で遭遇するものは、次の4つに整理できます。表の右端は、事故が起きたときに真っ先に確認する場所です。

型	どこに出るか	効いてくる決まり	最初に確かめること
型1 表示が事実と違う	広告、LP、製品資料、比較表	景品表示法の優良誤認・有利誤認	その表示を裏づける資料が手元にあるか
型2 案内が誤っていた	問い合わせの自動応答、支援窓口	契約の内容、消費者との取引の決まり	その返答が出た元の資料と、やり取りの記録
型3 出典や数字が実在しない	記事、ホワイトペーパー、提案書	取引先や読み手への説明責任	引用元にたどり着けるか、日付が合うか
型4 他者の評判を損ねた	競合比較、業界解説、個人への言及	名誉毀損、信用毀損に関する規定	断定の根拠と、公表されている事実かどうか

4つに分けておく意味は、事故が起きたときの動きが変わることにあります。型が分かれば、誰を呼び、何を持ってくればよいかが即座に決まります。分類がないと、まず「誰の責任か」の議論から始まってしまい、訂正が遅れます。先に型を用意しておくのは、犯人探しの時間を消すためでもあります。以下、型ごとに見ていきます。

型1：広告と資料の表示が、事実と違った

最も金銭的な影響が大きいのがこの型です。表示に関する決まりでは、実際よりも著しく優れていると見せる表示と、取引条件が実際よりも有利だと見せる表示が問題になります。問われるのは表示した内容であって、誰が文案を作ったかではありません。生成AIに作らせた比較表であっても、広告主が表示した以上、広告主の表示です。

実務で危ないのは、比較表と実績値の2つです。競合との比較表をAIに作らせると、公開情報から拾えないはずの項目まできれいに埋まってきます。導入社数や削減率といった実績値も、それらしい数字が入ります。表の空欄が埋まっているという事実そのものを、疑う対象にしてください。埋まっていない表のほうが、たいていは正しい表です。

備えは1つで足ります。表示の1つひとつについて、裏づけとなる資料を先に持っているかを確認することです。自社の実績値なら社内のどの集計から出したか、他社との比較なら公開されている資料のどこに書かれているか。この対応づけができない項目は、表から落とします。落とした結果として比較表が短くなるのは、正しい姿です。

型2：自動応答が、顧客に誤った案内をした

冒頭の事例がこの型です。相手が個別の顧客であるため、誤りが即座に約束として受け取られる点が特徴です。しかも、多くの場合は記録が相手側にも残ります。画面の写しを添えて問い合わせが来た時点で、事実関係の争いはほとんど成立しません。

この型に効く備えは、応答の範囲を絞ることです。契約の条件、返金や解約の可否、納期や価格、法令に関する説明。これらは自動応答が自分の言葉で答えてよい領域ではありません。該当する質問が来たら、決められた案内文を出すか、担当者に引き渡す。答えられる範囲と答えない範囲を、質問の分類ごとに書き出して固定します。

あわせて、出典を添える設計にしておくと事後の対応が軽くなります。返答の末尾に参照した資料の名前と更新日を出す形にすれば、誤った案内が出たときにも元の資料が古かったのか、資料にない内容を作ったのかを、その場で切り分けられます。やり取りの記録は、返答の全文と参照した資料の版が揃って初めて役に立ちます。片方だけでは原因にたどり着けません。

型3：存在しない出典と、誤った数字が載った

記事や提案書で最も頻度が高いのがこの型です。象徴的な例が、2023年に米国の連邦裁判所で起きた出来事です。弁護士2名が生成AIの作った文章をそのまま書面に用いたところ、引用されていた判例が実在しないものでした。裁判所は、書面の正確性を担保するという役割を果たさなかったとして、5,000ドルの制裁を科しています。専門家であっても、整った出力の前では確認が抜けるという実例です。

この型の厄介さは、誤りが局所的である点にあります。全体の論旨は妥当で、文章としても自然で、間違っているのは出典名と数字だけ。読み通しても違和感が出ないため、通し読みによる確認では検出できません。固有名詞と数字だけを抜き出して、1つずつ原典に当たる作業に切り替える必要があります。

確認の対象は絞り込めます。数字と統計、日付と金額、法律や制度の条件、人名と社名と商品名、そしてURLと出典。この5種類だけを機械的に拾い、一次の資料にたどり着けなかったものは書かないと決めておきます。たどり着けないものを留保表現に書き換えて残す判断もありますが、数字だけは留保では救えません。出典のない数字は、削るのが唯一の正解です。

型4：他社や個人の評判を損ねる記述が出た

見落とされやすいのがこの型です。2023年、米国のジョージア州では、ある番組の司会者について事実と異なる説明が出力され、提供元が名誉毀損で訴えられました。個人に関する記述は、誤りがそのまま相手の不利益に直結します。BtoBの文脈では、競合他社への言及と業界動向の解説がこれに当たります。

危ないのは、AIが「一般に言われていること」として断定形で書いてくる場合です。ある企業の製品に不具合が多い、ある業界の慣行が問題視されている、といった記述が、出典なしで自然な文体で出てきます。断定形で書かれているために、書き手も裏づけがあるものとして受け取ってしまいます。

備えは、他者に言及する記述だけを別扱いにすることです。自社以外の企業名・製品名・個人名が入った文は、公開前に一覧として抜き出す。そのうえで、公表されている事実に基づくものだけを残し、評価や推測を含むものは削るか、公表資料への言及に置き換える。競合比較は、事実の対比までにとどめ、優劣の断定はしない。この1本の線を引いておくだけで、この型の事故はほとんど防げます。

外注先が使った場合、責任はどこで分かれるか

制作を外部に委託していて、その外注先が生成AIを使い、納品物に誤りが混じっていた。この場合の責任は二重になります。対外的には、発注側が世に出した以上、発注側が責任を負います。相手方から見れば発信元は発注側だからです。そのうえで、発注側と外注先の間の分担が、契約に基づいて別に決まります。

実務でよく起きる食い違いは、検収の意味づけです。発注側は「専門家に頼んだのだから内容は正しいはず」と考え、外注先は「最終確認は発注側が行うもの」と考えている。この状態で事故が起きると、どちらも確認していなかったことが後から分かります。検収を形式的な受け取りではなく、事実確認の工程として位置づけているかどうかが分かれ目になります。

決めておくことは3つです。納品物のどの部分について外注先が事実確認まで負うのか。使った資料の一覧を納品に含めるのか。誤りが見つかったとき、訂正の作業と、生じた費用をどう分担するのか。この3つは事故が起きてからでは交渉になりません。発注の時点で1枚にまとめておくと、後の議論がほとんど消えます。

社内では誰が答えるのかを、先に決めておく

責任の所在という言葉には2つの意味が混じっています。法的に誰が負うかという意味と、社内で誰が対応するかという意味です。前者だけを整理しても、実際に指摘を受けたときに動く人が決まっていなければ止まります。実務で必要なのは後者のほうです。

役割は4つに分かれます。指摘を最初に受ける窓口、事実関係を確認する担当、訂正するかどうかを決める人、対外的に説明する人。この4つを役職名ではなく個人の名前で決めておきます。役職名で決めておくと、担当者の異動や兼務で空白が生まれ、指摘が回覧されるだけで誰も動かない状態になります。

時間の目安も決めておくと動きが速くなります。受け付けてから事実確認の着手まで何時間か、訂正の判断まで何営業日か、訂正を公開してから報告までいつまでか。目安がないと、確認中という状態のまま何日も過ぎ、相手側の不信だけが積み上がります。訂正が遅れたこと自体が二次の問題になるのは、この型の事故に共通した特徴です。

備え1：人が確認する範囲を、公開の前に線で引く

ここからは備えの側です。最初に決めるのは、何をどこまで人が確認するかという範囲です。全部を確認すると宣言すると、量に負けて形だけになります。逆に決めずに始めると、確認したつもりの領域と誰も見ていない領域が混在します。範囲は次の順で決めます。

この4段を決めた後、決めた内容を1枚の紙にして共有します。決めたこと自体が記録として残っていないと、事故のときに「確認する範囲を定めていた」ことを示せません。備えの実効性は、運用の丁寧さではなく、決めた事実が残っているかで判断されます。

備え2：記録は「後から示せる形」で残す

誤りが世に出た後、問われるのは2つです。防ぐための手立てを講じていたか。気づいてから適切に動いたか。どちらも、記録がなければ主張できません。逆に言えば、記録さえあれば、誤りが出たこと自体は致命傷になりにくいということでもあります。

残す対象は多くありません。何を確認したか、誰が承認したか、どの資料を根拠にしたか、いつ公開したか。この4点が公開物ごとに揃っていれば、事故のときに必要な説明はほぼ組み立てられます。入力した指示文や生成の過程そのものは、必ずしも残す必要がありません。必要なのは制作の過程ではなく、確認と承認の事実だからです。

• 確認した項目は、確認したという印ではなく、当たった資料の名前で残す
• 承認は役職ではなく個人名で残す。後から誰に聞けばよいかが分かる形にする
• 根拠にした資料は、名前だけでなく、いつ時点のものかを併記する
• 公開日と、その後の修正の履歴を分けて持つ。差し替えた事実が消えないようにする
• 顧客の氏名や取引条件が記録に入る場合、置き場所と保存期間を先に決めておく

記録の置き場所は、凝った仕組みでなくて構いません。公開物の一覧に4列を足すだけでも成立します。続かない仕組みは、無い仕組みと同じです。項目を増やすより、全件に確実に入っている状態を優先してください。

実務仕様：訂正と記録の決めごと

備えを社内の決めごとに落とすと、次のような形になります。運用の思想ではなく、そのまま書き写して使える具体の値として置きます。数字は自社の体制に合わせて調整して構いませんが、空欄のまま運用を始めないことが肝心です。決まっていない項目は、事故のときに必ず争点になります。

決めごと	推奨する値	決めておかないと起きること
指摘を受け付ける窓口	個人名で1名、副担当を1名	問い合わせが部署間を回覧され、初動が2日遅れる
事実確認の着手まで	受付から4時間以内	確認中という状態のまま放置され、相手が公の場に持ち出す
訂正するかの判断まで	受付から2営業日以内	判断者が不在という理由で週をまたぎ、不信が積み上がる
訂正の表示方法	本文を直し、末尾に修正日と修正箇所を残す	こっそり直したと受け取られ、事故が二重になる
記録の保存期間	公開物は5年、やり取りの記録は3年	問い合わせのたびに探し直し、説明が食い違う
社内への共有	月に1度、型と件数だけを報告	同じ型の事故が別の部署で繰り返される

訂正の表示方法だけは、値を下げないことをおすすめします。本文を黙って書き換える対応は、誤り自体よりも強い不信を招きます。修正した日付と、どこを直したかを1行残すだけで、対応は誠実なものとして受け取られます。手間としては数十秒です。

なお、社内共有で報告するのは型と件数だけにしてください。個別の事案を詳細に共有すると、担当者が萎縮して報告そのものが上がらなくなります。知りたいのは犯人ではなく、どの型が繰り返し起きているかです。型が偏っていれば、確認の範囲か応答の設計のどちらかに手を入れる判断ができます。

免責の一文は、どこまで効いてどこから効かないか

記事や資料の末尾に断り書きを置いている組織は多いはずです。この記事の末尾にもあります。ただし、断り書きに何を期待できるかは、正確に押さえておく必要があります。一切の責任を負わない、という書き方は、実務上ほとんど機能しません。範囲を限らない免除は、そもそも有効性が認められにくいからです。

効くのは、限定して書かれた断りのほうです。情報が何年何月時点のものか。どの範囲を対象にしているか。個別の判断については専門家への相談を勧めるか。時点と範囲を明示した断りは、読み手の期待を適正な位置に置く働きをします。逆に、包括的な免除の文言は、書いてあること自体が誠実さを疑わせる材料になりかねません。

そしてもう1つ。生成AIを使った旨の表示は、免責の機能を持ちません。表示は透明性のための情報提供であって、責任を移すものではないからです。地域によっては、この表示が義務として求められる場面もあります。表示は義務として検討するもので、盾として使うものではない。表示したから確認を省いてよい、という運用に落ちるのが最悪の形です。

AIに判断させない、を運用の柱に据える

ここまでの備えは、突き詰めると1本に集約されます。AIに判断をさせないことです。文案を作らせる、要約させる、選択肢を並べさせる。ここまでは道具の使い方です。これでよいと決める工程だけは、必ず人が持ちます。判断を渡した瞬間に、責任の所在を説明する材料が消えるからです。

この線は、担当者の心構えではなく仕組みで守ります。承認の操作を人が行う形にする、確認済みの印がない状態では公開できない設定にする、自動応答が答えてよい範囲を機能として制限する。気をつけるという対策は、忙しい時期に必ず外れます。手順として通れない道を作るほうが確実です。

実際によく見かける、うまくいっていない運用を並べておきます。自社の形と照らしてください。

• 確認は全員で行うと決めている：担当が特定されず、結果として誰も確認していない
• 使ってよいかどうかだけを決めている：使った後にどう確認するかが空白のまま運用が始まる
• 末尾の断り書きで足りると考えている：表示は責任を移さないので、事故のときに何の材料にもならない
• 指摘が来てから対応を考える：窓口も期限も決まっておらず、初動の遅れが二次の問題になる
• 本文を黙って書き換える：訂正の記録が残らず、隠したという評価だけが残る
• 外注先に任せきりにする：検収を受け取りの作業と捉え、事実確認が両者とも抜ける

最後の2つは特によく見かけます。訂正の履歴を残すことと、検収を確認の工程として設計すること。この2つは費用がほとんどかからず、効果が大きい備えです。着手する順番に迷ったら、ここから始めてください。

まとめ

AIが関わった情報に誤りがあったとき、責任は世に出した主体に及びます。誰が作ったかではなく、誰の名前で出したかで決まるというのが出発点で、AIが書いたことも、外注先が納品したことも、免責の理由にはなりません。道具の作り手に責任が届くのは、開発や提供に明らかな落ち度があった場合に限られ、国内の製造物責任の枠組みも有体物を対象としています。誤りは4つの型に分かれます。表示が事実と違う、案内が誤っていた、出典や数字が実在しない、他者の評判を損ねた。型ごとに効いてくる決まりも、最初に見る場所も違うので、先に分類を用意しておくと初動が速くなります。備えは事前に置くものです。人が確認する範囲を出す先と項目の種類で絞り、確認と承認の事実を記録として残し、訂正の窓口と期限を個人名と時間で決めておく。断り書きは時点と範囲を限って書けば働きますが、包括的な免除も、生成AIを使った旨の表示も、責任を移すものではありません。最後まで人が持つのは、これでよいと決める工程です。まずは直近に公開した1本を選び、根拠にした資料と承認した人の名前が残っているかを確かめてください。残っていない項目が、そのまま最初に足すべき備えです。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。