顧客向けAIに答えさせない項目一覧｜誤答が約束になる前に

「チャットボットの画面に『回答は参考情報です』と書いておけば、間違えても会社の責任にはならないはずだ」「AIが勝手に言ったことなのだから、正式な案内ではないと説明すれば済む」。顧客向けのAIを導入する企業では、こうした考えを今もよく耳にします。そう考えたくなる気持ちは分かりますし、断り書きに意味が無いわけでもありません。ただ、誤答の責任は画面の一文で外せるものではありません。本当は、顧客から見れば、窓口のAIの答えは会社の答えです。この記事では、顧客向けのAIに答えさせない項目を一覧にし、誤答が約束になる前に決めておく設計を整理します。

「断り書きがあれば責任は負わない」は思い込み

顧客向けのAIを置くとき、多くの企業はまず画面に断り書きを入れます。「回答は自動で生成されています」「正確性を保証するものではありません」。この一文があれば、誤った答えが出ても会社は責任を負わない、と考えがちです。導入の稟議でも、断り書きを入れることがリスク対策として書かれることがよくあります。

しかし、断り書きの効き目には限りがあります。消費者との契約では、事業者の損害賠償の責任を全部免除する条項は、消費者契約法第8条によって無効とされています。画面の断り書きが契約の条項として扱われるかどうかは個別の判断になりますが、少なくとも「一切責任を負わない」と書けば済む、という前提は成り立ちません。

もう一つの問題は、断り書きを読む顧客がほとんどいないことです。顧客は答えを読んで行動します。料金を案内されればその料金で申し込み、返金できると言われればそのつもりで手続きを進めます。断り書きの文面の書き方そのものは別の記事で扱っているので、本稿では、断り書きに頼る前に何を答えさせないかを決める側に絞ります。

航空会社のチャットボットの件で問われたこと

よく引かれるのが、カナダの航空会社のチャットボットをめぐる件です。2022年11月、祖母を亡くした利用者が、航空会社のサイトのチャットボットに忌引きの割引運賃について尋ねました。チャットボットは、搭乗した後でもさかのぼって割引を申請できると案内しましたが、航空会社の実際の方針では、さかのぼった申請は認められていませんでした。

利用者の申し立てを受けたブリティッシュ・コロンビア州の民事紛争解決審判所は、2024年2月の判断で、航空会社に運賃の差額にあたる650.88カナダドルの損害賠償などを支払うよう命じました。航空会社は、チャットボットは自ら責任を負う別の存在だと主張しましたが、審判所はこの主張を退け、情報が固定のページから来たかチャットボットから来たかで違いは無いと述べています。

さらに審判所は、サイトの別のページに正しい方針が載っていたとしても、顧客がある部分の情報を別の部分で確かめ直さなければならない理由は説明されていない、としました。サイトの中の正しい案内が、チャットボットの誤答を打ち消してはくれないという点は、日本の企業にとっても設計の前提として押さえておく価値があります。ただし、これはカナダの一つの審判所の判断で、日本の裁判所が同じ結論を取るとは限りません。

誤答が「約束」に見える理由

チャットボットの誤答が重く扱われるのは、答えが顧客一人ひとりに向けた個別の案内の形をしているからです。広告の文言なら多くの人に同じものが見えますが、チャットの答えは、顧客が自分の状況を説明し、それに対して返ってきたものです。顧客にとっては、担当者に聞いて答えてもらったのと同じ体験になります。

しかも、答えは記録に残ります。顧客は画面の写しを取っておけますし、窓口によっては会話の記録がメールで送られます。後から「そのような案内はしていない」と説明しようとしても、記録の前では通りません。海外では、自動車販売店のサイトのチャットボットが、利用者の誘導に乗って新車を1ドルで売ることに同意するような返答をした件が報じられ、話題になりました。

生成AIは、質問の前提に合わせて、もっともらしい答えを組み立てます。「さかのぼって申請できますよね」と聞かれれば、その前提に沿った答えを返しやすくなります。顧客が望む答えほど、AIは言い切りやすいという性質は、料金や返金のように顧客の利害が絡む項目で最も危うくなります。

消費者向けの取引で効いてくる法律

日本で消費者向けの取引に顧客向けのAIを使うとき、まず意識したいのが消費者契約法です。第4条は、事業者が契約の勧誘の際に重要な事項について事実と異なることを告げ、消費者がそれを事実と誤認して契約した場合に、消費者が契約を取り消せる場合を定めています。チャットボットの答えが勧誘に当たるか、重要な事項に当たるかは個別の判断になりますが、料金や解約の条件を誤って案内した結果、契約が取り消される余地は考えておくべきでしょう。

免責の条項にも限りがあります。第8条は、事業者の債務不履行や不法行為による損害賠償の責任を全部免除する条項と、故意または重大な過失による責任の一部を免除する条項を無効としています。利用規約で「チャットボットの回答について当社は一切の責任を負わない」と定めても、消費者との関係では、その条項がそのまま効くとは限りません。

政府の側でも、チャットを使った勧誘への関心は高まっています。内閣府の消費者委員会は2023年8月の意見で、チャットを使った勧誘には不意打ち性や密室性があるとして規制の在り方を示し、その対象にはAIによるものも含むと明記しました。制度がどう変わるかはこれからですが、顧客向けのAIの答えが勧誘の一部として見られる流れは押さえておきます。

表示の規制として見たときの考え方

料金や割引の案内は、景品表示法の表示の規制とも関わります。景品表示法は、商品やサービスの価格その他の取引条件について、実際のものや競合他社のものよりも著しく有利だと一般消費者に誤認される表示を、有利誤認表示として禁じています。値引きの条件や、無料になる範囲を実際より広く案内するのは、この種類に近い誤りです。

顧客向けのAIの答えが景品表示法の「表示」に当たるかどうかは、画面での見せ方や案内の中身によって判断が分かれうるところで、断定はできません。ただ、同法の表示には、インターネットによる広告その他の表示も含まれると定められています。自動で生成された答えだから表示ではない、とは言い切れないと考えて設計するほうが安全です。

規制は強まっています。2024年10月1日に施行された改正で、優良誤認表示や有利誤認表示に対して、100万円以下の罰金を科す直接の罰則が設けられました。顧客向けのAIの誤答がすぐにこの対象になるという意味ではありませんが、料金や条件の表示を扱う部署が、AIの答えも広告と同じ目で見ておく理由にはなります。

法人向けの取引では効く法律が変わる

景品表示法も消費者契約法も、一般消費者を守るための法律です。顧客が企業である法人向けの取引では、これらの法律は原則として対象になりません。法人向けの商材を扱う企業が、消費者向けの注意点をそのまま当てはめると、見るべき所を外します。

法人向けで効いてくるのは、民法の契約の考え方と、個別の取引の契約書です。契約は、原則として書面が無くても申込みと承諾で成立します。顧客の担当者がチャットボットの答えを前提に社内の稟議を通し、発注したとすれば、その答えがどこまで取引の前提だったかが争われる余地があります。免責の条項は消費者向けより効きやすい一方、答えの中身が取引の前提として扱われる危険は残ります。

法人向けでは、誤答の影響が一件の金額を超えて広がりやすい点にも注意が要ります。誤った納期を前提に顧客が自社の計画を立て、その先の取引先にも約束していれば、損害は連鎖します。個別の事案でどこまで責任が及ぶかは契約と事実関係しだいなので、線の引き方は自社の法務や弁護士に相談して決めてください。

• 本稿の法律の説明は一般的な考え方で、個別の事案の判断は弁護士に確かめる
• 消費者と法人の両方が使う窓口では、厳しいほうの消費者向けに合わせて設計する
• 金融・医療・不動産など、業界ごとの広告や説明の規制は別に確かめる

断り書きが効くのはどこまでか

ここまでを踏まえると、断り書きの役割ははっきりします。断り書きは、顧客に「この答えは自動で生成されたもので、確定した案内ではない」と知らせ、確かめる行動を促すためのものです。答えの誤りそのものを帳消しにする道具ではありません。

効きやすいのは、一般的な使い方の説明や、公開資料の要約のように、誤っていても顧客がすぐに気づけて損害が小さい答えです。効きにくいのは、顧客がその答えを前提に申し込み・支払い・解約などの行動を取る答えです。料金、返金、契約の条件、納期がこれに当たります。断り書きに頼れない答えほど、そもそもAIに答えさせないというのが設計の順番です。

断り書きの文面や置き場所の工夫は、別の記事に譲ります。本稿で言いたいのは、答えさせない項目を決めずに断り書きだけを厚くしても、顧客の行動は変わらないということです。文面を長くするほど読まれなくなり、かえって大事な注意が埋もれます。

誤答が生まれる4つの原因

答えさせない項目を決める前に、誤答がどこから来るかを見ておきます。原因を知ると、どの項目が危ういかが分かります。一つ目は、元の資料が古いことです。料金の改定や方針の変更があっても、AIが参照する資料が差し替えられていなければ、古い条件をそのまま答えます。二つ目は、資料に書かれていないことを補うことです。資料に例外の扱いが書かれていないと、AIはもっともらしい一般論で空白を埋めます。

三つ目は、質問の前提に引きずられることです。「この条件なら無料ですよね」と聞かれると、前提を否定せずに答えを組み立てやすくなります。四つ目は、複数の資料の食い違いです。料金表とよくある質問のページで条件の書き方が違えば、AIはどちらかを選ぶか、両方を混ぜて答えます。

四つの原因に共通するのは、答える項目が金額や条件であるほど被害が大きくなることです。一般的な使い方の説明なら、多少ずれても顧客が気づいて問い直せます。金額や条件は、顧客がその答えをそのまま信じて行動するので、ずれがそのまま損害になります。答えさせない項目の中心を、ここに置きます。

答えさせない項目の一覧

以下が、顧客向けのAIに自分の言葉で答えさせない項目の一覧です。「答えさせない」は、話題そのものを無視するという意味ではありません。定型の案内文を出すか、公開資料の該当箇所を示すか、人に回すかのどれかにする、という意味です。

項目	誤答が約束になる例	AIの代わりの返し方
金額・料金の計算	「その人数なら月額はこの金額です」と合計を言い切る	公開の料金表の該当箇所を示し、見積もりは担当者へ
値引き・キャンペーンの適用	「その条件でも割引が使えます」	適用条件の公開ページを示し、可否は担当者が確かめる
返金・解約・違約金	「今なら全額返金できます」	規約の該当条項を示し、手続きは窓口へ
納期・対応の期限	「来週には届きます」「三日で直ります」	公開資料どおりの標準の目安だけを示し、個別は担当者へ
契約条件・規約の解釈	「その使い方は規約上問題ありません」	規約の原文を示し、解釈は担当者へ
保証・補償の範囲	「その故障は保証の対象です」	保証書や規約の該当箇所を示し、判定は人が行う
例外の判断	「今回は特別に対応できます」	例外の相談はすべて人に回す
他社との比較	「他社より安く、機能も上です」	自社の公開情報だけを示し、比較はしない
法的な見解・税務の判断	「その場合は法律上問題ありません」	答えない。専門家への相談を案内する
将来の約束	「その機能は来年追加されます」	公表済みの情報だけを示す

一覧の項目は業種によって足し引きします。医療や金融、不動産などの分野では、効能や利回り、物件の条件のように、業界の規制が直接かかる項目を加えます。反対に、公開の料金表が一つしかなく計算の余地が無い商材なら、金額の項目は「料金表を示す」だけで足りることもあります。自社の窓口で、担当者が上長に確かめてから答えている項目を洗い出すと、答えさせない項目の漏れが見つかります。

一覧は、項目ごとに回す先の部署と、差し替える資料の担当者を書き添えて社内で共有します。項目と回す先が一枚にまとまっていれば、AIの設定を担当する人も、窓口で引き継ぎを受ける人も、同じ表を見て動けます。項目を足したり外したりしたときは、日付と理由を表の下に残しておきます。

金額・値引き・納期は「示す」と「確定する」を分ける

一覧の中でも問い合わせが多いのが、金額・値引き・納期です。これらをすべて答えさせないと、顧客向けのAIの役割がほとんど無くなってしまいます。そこで、公開済みの情報を「示す」ことと、その顧客の場合を「確定する」ことを分けて考えます。

例えば料金なら、「標準の料金表はこちらで、月額の基本料金は公開ページのとおりです」と示すところまではAIに任せます。「御社の人数と使い方なら合計でいくらです」と計算して言い切るのは確定にあたるので、担当者に回します。計算をさせないだけで、誤答の多くは約束の形を取らなくなります。

納期も同じです。「標準的なお届けの目安は公開ページに記載の日数です」は示す、「ご注文の品は来週の火曜日に届きます」は確定です。確定には在庫・地域・受注の状況といった、AIが参照する資料に無い情報が必要になるため、そもそもAIが正しく答えられる項目ではありません。値引きも、キャンペーンの条件を示すことと、その顧客に適用できると言い切ることを分けます。

契約・返金・保証・例外は人の判断に残す

契約の条件、返金、解約、保証は、顧客の権利に直接かかわる項目です。規約の条文を示すことはできても、「あなたの場合は返金できます」と当てはめる判断には、事実関係の確認が必要です。購入日、使用の状況、過去のやり取りといった情報をチャットの中だけで確かめるのは難しく、当てはめの判断は人が行うと決めておきます。

例外の判断は、最も危うい項目です。顧客は窓口に、規約どおりでは困る事情を相談します。生成AIは相手の事情に寄り添う答えを返しやすく、「今回は特別に」と言いかねません。例外を認めるかどうかは、社内でも権限のある人が決めている判断のはずです。社員が一人で決められないことを、AIに決めさせないと考えれば、線は引きやすくなります。

他社との比較と法的な見解も同じ扱いです。他社の料金や機能を比べて答えると、相手の情報が古かったり誤っていたりしたときに、他社の信用を傷つける問題に発展しかねません。法律や税金の見解は個別の事情で答えが変わり、誤れば顧客の判断を誤らせます。どちらも、自社の公開情報を示すところで止めます。

見落とされやすいのが、将来の約束です。「その機能はいつ追加されますか」「来年も同じ料金ですか」と聞かれたとき、AIが社内の検討資料や一般的な傾向から「近く追加される予定です」と答えると、顧客はそれを前提に契約を判断します。予定の話は、公表済みの発表の範囲だけを示し、公表されていないことは「現時点で公表している情報はありません」と定型で返します。

答える範囲を公開資料に限り、出典を出させる

答えさせない項目を決めたら、次は答えてよい範囲の作り方です。基本は、AIが参照する資料を公開済みのものに限ることです。社内向けの資料や、担当者の手元のメモを参照させると、顧客に出してはいけない条件や検討中の情報が答えに混ざります。

出典を添えさせる利点は、顧客の側にもあります。顧客は答えの元の資料を開き、自分で条件を確かめてから行動できます。答えと資料の食い違いに気づいた顧客が窓口に知らせてくれれば、誤答を早く見つけるきっかけにもなります。

参照を始める前に、資料どうしの食い違いを先に潰しておきます。料金表、規約、よくある質問のページで、同じ条件が違う書き方になっていないかを確かめます。食い違いの候補を洗い出す作業はAIに手伝わせてもかまいませんが、どちらの書き方を正とするかは、料金や規約を決めている部署が判断します。

答えられない質問を人に回す仕分け

答えさせない項目に当たる質問が来たときに、どう返すかも決めておきます。「お答えできません」だけで終わると、顧客は別の聞き方で同じ質問を繰り返し、そのうちにAIが答えてしまうことがあります。回す先と、回すときの文面を先に決めます。

• 答えさせない項目に当たる質問を、言い換えも含めて見分ける条件を書く
• 回す先を項目ごとに決める（料金は営業、返金は窓口、規約は担当部署など）
• 回すときの文面を定型にし、AIに言い換えさせない
• 営業時間外は、受け付けたことと回答の目安だけを伝える
• 顧客が同じ質問を言い換えて繰り返したら、人に回す
• 回した質問の件数を月ごとに数え、公開資料の不足を見つける

定型の文面は、「料金の個別のお見積もりは担当者がご案内します。こちらからご依頼ください」のように、次に何をすればよいかが分かる形にします。仕分けそのものはAIに任せてかまいませんが、見分けの条件は人が書き、見逃しがないかを定期的に記録で確かめます。

見分けの条件は、言い換えを多めに書きます。返金なら「払い戻し」「キャンセル」「返品」「解約したらお金は戻るか」、値引きなら「安くなる」「割引」「まけてもらえる」のように、顧客が実際に使う言い方を記録から拾います。金額を尋ねる質問、「できますよね」と前提を確かめる質問も、人に回す候補として条件に入れておきます。

回答の記録を残し、訂正の段取りを先に決める

誤答はゼロにはできません。だからこそ、見つかったときに動ける形を先に作っておきます。最初に必要なのは記録です。顧客の質問、AIの答えの全文、参照した資料とその版、日時を一続きで残します。記録が欠けていると、同じ誤答をほかに何人に返したかが分かりません。

次に、訂正の段取りです。誤答が見つかったら、同じ種類の質問に同じ誤答を返した相手を記録から探し、影響の大きい項目（料金・返金・契約）から個別に連絡する、という順番を決めておきます。誰が連絡の文面を決め、誰が補償の判断をするかも、事前に名前で決めます。苦情が来た後の具体的な対応の手順は別の記事で扱っているので、ここでは事前に決めておく項目に絞ります。

記録には個人情報が含まれるので、保存の期間と、見てよい人の範囲も決めます。少なくとも、誤答の調査と個別の連絡のために必要な期間は残せるようにしておきます。記録を回答の改善に回すときの線引きは、利用目的の扱いを含めて別途整理が必要です。

AIに任せる範囲と、人が決める範囲

顧客向けのAIの使いどころは、公開済みの資料に基づく案内と、人に回す仕分けまでです。金額と条件の確定は人がやります。AIに判断させない、根拠を書かせる、人が確認する範囲を先に決めるの三つを設計の柱にします。導入を急ぐほど、次のような失敗が起きやすくなります。

• 料金表をAIに渡し、顧客ごとの合計金額を計算させて答えさせる
• 「顧客の満足を優先して柔軟に対応して」とAIに指示し、例外の判断を任せる
• 一般の知識で補う設定のまま、社外の情報を混ぜて答えさせる
• 断り書きを入れたことを理由に、答えさせない項目を決めずに公開する
• 誤答が見つかっても記録が無く、同じ答えを受け取った相手を探せない

どれも、AIの答えの質を上げれば防げる失敗ではありません。答える範囲と答えない範囲を先に決め、記録と訂正の段取りを用意しておくという、運用の側の問題です。答えの賢さより、答えない項目の明確さが、顧客向けのAIの信頼を決めます。

三つの柱は、設定と運用の両方に落とし込みます。設定の側では、参照する資料の一覧、答えさせない項目の見分けの条件、人に回すときの定型の文面を決めます。運用の側では、記録を見る人、見直しの頻度、誤答が見つかったときの連絡の担当を決めます。どちらか片方だけでは、料金や規約が変わるたびに線がずれ、時間がたつにつれて崩れやすくなります。

答えさせない項目を運用で守り続ける

項目の一覧は、一度作って終わりではありません。料金の改定、新しいキャンペーン、規約の変更があるたびに、答えさせない項目と参照する資料の両方を見直します。キャンペーンの期間中は値引きの質問が増え、条件の誤答も起きやすくなるので、開始の前に見分けの条件を確かめておきます。

月に一度、記録から、人に回した質問と、回さずにAIが答えた質問を抜き出して見ます。答えさせない項目に当たるのにAIが答えていたものがあれば、見分けの条件を足します。人に回した質問が特定の項目に集中していれば、公開資料の書き方が分かりにくい印かもしれません。資料を直せば、AIが答えてよい範囲が広がります。

見直しの担当は、AIの担当者だけにしないことが大切です。料金や規約を決めている部署、窓口で顧客に接している部署が加わると、どの誤答が約束として受け取られやすいかを現場の感覚で判断できます。法務の担当者にも、一覧の項目と定型の文面を年に一度は見てもらうと安心です。

まとめ

顧客向けのAIの答えは、顧客から見れば会社の答えです。カナダでは、航空会社のチャットボットが誤って案内した割引について、会社が差額を負担するよう命じられました。日本でも、消費者向けの取引では消費者契約法の取消しや免責条項の制限、景品表示法の有利誤認の考え方が関わりうるため、画面の断り書きだけで責任を外すことはできません。法人向けの取引では効く法律が変わりますが、答えが取引の前提として扱われる危険は残ります。対策の中心は、金額・値引き・返金・納期・契約条件・保証・例外判断・他社比較・法的見解・将来の約束といった、答えさせない項目を先に決めることです。そのうえで、答える範囲を公開資料に限って出典を添えさせ、答えられない質問は定型の文面で人に回し、回答の記録と訂正の段取りを用意します。AIに任せるのは公開済み資料に基づく案内と人への仕分けまでで、金額と条件の確定は人が行います。まずは、自社の窓口で担当者が上長に確かめてから答えている質問を十個書き出し、一覧と照らし合わせるところから始めてみてください。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。