LangFairで顧客AIの偏りを測る4工程|合否の線は人が引く

「顧客対応のAIが、名前や年齢で答え方を変えていないか、誰も確かめていない」「偏りの試験をやれと言われたが、何を何回投げて、どこで合格にするのかが決まらない」——生成AIを顧客の前に出す直前の企業で、法務や品質保証の担当から上がる声です。米国の大手ヘルスケア企業 CVS Health は、この確認を自社の用途に合わせて回すための道具として、OSS の Python ライブラリ LangFair を公開しています。2026年1月の版では最悪の出力を探す敵対的評価が加わり、8月には自前の応答を持ち込んで採点する仕組みも公式の本体に入りました。ただし、道具が出すのは数字です。その数字を合格と呼ぶかどうかは、道具ではなく自社が決めることです。この記事では、LangFair を例に、顧客対応AIやマーケ文面の生成AIを出す前の偏りの試験を4つの工程に分け、日本語で使うときの限界、合否の線を誰が引き、試験を誰が持ち続けるかを整理します。
カメ先生偏りの試験というと、AIのモデルそのものの成績表を見ればいいと思われがちなんだ。でも本当は、同じモデルでも、どんな問いを投げる用途かで偏りの出方が変わる。だから LangFair は自社の問いを持ち込んで測る作りになっているんだよ。
カメ子一般的な成績表で問題なしでも、自社の窓口で使うと偏ることがある、ということですか。
カメ先生そう。もう一つ大事なのは、LangFair の判定器の多くは英語向けだという点。日本語の応答にそのまま当てると、数字は出ても意味のある数字かどうかが怪しくなる。
カメ子道具を回せば終わり、ではなくて、数字の読み方と合格の線を人が先に決めておく必要があるんですね。
- LangFair は自社の問いを持ち込み、毒性・固定観念・属性を入れ替えたときの差を数字にする OSS。数字は判断材料で、合否は人が決める
- 組み込みの判定器と語彙は英語中心。日本語の顧客対応AIでは、属性の語彙と判定器を自社で用意する前提で計画する
- 試験は1回で終わらない。モデルや指示文を変えるたびに回し直す持ち主と、合否の線を決める責任者を分けて置く
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
LangFairとは:CVS Health が公開した、用途ごとに偏りを測る道具
LangFair は、米国の CVS Health が公開している OSS の Python ライブラリです。公式の説明では、大規模言語モデルの用途ごとの偏りと公平性を評価するためのものとされています。ライセンスは Apache 2.0 で、一部の部品は MIT の条件で配布されています。開発の中心は同社のデータ科学の担当者たちで、評価の考え方は2024年の研究論文、道具としての全体像は2025年のソフトウェア論文として公開されています。
特徴は、モデルを一般的な問題集で採点するのではなく、自社の用途で実際に投げる問いを持ち込んで、その応答を測ることです。公式はこの方式を「自分の問いを持ち込む」方式と呼び、問題集の点数だけでは用途ごとの危うさをとらえきれないと説明しています。また、モデルの内部には触れず、出てきた応答だけを測る作りなので、外部のAPIで使っているモデルにも当てられます。
測れるものは大きく、文章を作る用途向けの毒性・固定観念・属性の入れ替えの3つと、分類や推薦の用途向けの指標に分かれます。顧客対応の返答文、マーケのメール文面、問い合わせの要約などは前者、問い合わせの振り分けや商品の推薦は後者に当たります。どれを測るべきかを選ぶための判断の流れ図も、公式の資料に載っています。
2026年の動き:敵対的評価の追加と、その後の改修
2026年1月9日に公開された0.8.0では、最悪の出力を探すための敵対的評価の生成器が加わりました。一つは、毒性を引き出しやすいことで知られる英語の問い集をモデルに投げて、どこまで有害な続きを書くかを見る評価です。もう一つは、属性を入れ替えた問いの組を敵対的に作って投げる評価で、性的指向・宗教・人種や民族・年齢・障害・経済状況・国籍・性別の8つの区分があらかじめ用意されています。同じ版で、各工程の進み具合の表示も付きました。
その後、公式の本体には2026年8月19日に、応答の生成を自社の仕組みで行い、結果だけを渡して採点する仕組みが統合されました。従来の自動評価は、ライブラリの側からAI連携用の部品を通してモデルを呼ぶ前提でした。新しい仕組みでは、ライブラリが採点用の問いの一覧(属性を入れ替えた版を含む)を返し、利用者はそれを自社の環境で好きなモデルに投げ、応答を順番どおりに戻すだけで済みます。9月11日には0.8.2への版上げも本体に統合されています。
- 2026年11月17日時点で、公式の配布サイトに出ている最新版は0.8.0です。8月以降の改修は公式の本体には入っていますが、配布版への反映は導入時に必ず確かめてください
- 本体の取り込みと配布版がずれている間は、どの時点の版で試験したかを記録に残さないと、後で同じ数字を再現できません
なぜ「用途ごと」なのか:成績表では自社の文面の偏りは分からない
AIモデルの提供元は、公平性や安全性の評価結果を公表していることがあります。それでも自社で測り直す必要があるのは、偏りがモデル単体ではなく、モデルと指示文と問いの組み合わせで現れるからです。同じモデルでも、保険の相談窓口で使う場合と、求人広告の文面を作る場合とでは、出てくる偏りの種類も重みも違います。
LangFair の研究論文は、この考え方を正面から扱っています。用途によって、気にするべき害が違う。顧客の属性が問いに含まれる用途なら、属性を入れ替えたときに答えが変わらないかが重要になる。問いに属性が一切含まれない用途なら、入れ替え試験は意味を持たず、毒性や固定観念の出現を見るほうが合っている。どの物差しを使うかを先に選ぶこと自体が、試験の設計だという立場です。
なお、AIの答えが並べ方や聞き方に引きずられる種類の偏りは、別の確かめ方が要ります。ここで扱うのは、顧客の性別・年齢・地域・国籍などの属性によって扱いが変わる偏りと、侮辱や差別的な表現が混じる危うさに絞ります。国内でも、総務省と経済産業省の「AI事業者ガイドライン」(2024年4月に第1.0版)が、公平性を事業者に共通する指針の一つに挙げています。
測れる3つの物差し:毒性・固定観念・属性の入れ替え
文章を作る用途で LangFair が出す数字は、3つの物差しに分かれます。それぞれ「何を見ているか」と「何は見ていないか」を押さえておかないと、数字の読み違いが起きます。
| 物差し | 何を見るか | 見ていないもの | 顧客対応AIでの使いどころ |
|---|---|---|---|
| 毒性 | 応答に侮辱・差別・攻撃的な表現が含まれる割合や、同じ問いを何度も投げたときの最悪値 | 丁寧な言葉で不利な扱いをする偏り | 苦情や挑発的な問い合わせへの返答 |
| 固定観念 | 性別などの属性と、職業や性格などの語が結びついて現れる度合い | 属性による結論の違い | 人物紹介、求人・採用まわりの文面、事例紹介 |
| 属性の入れ替え | 問いの属性語だけを入れ替えたとき、応答の中身や感情の向きがどれだけ変わるか | 属性語が問いに無い用途 | 顧客の性別・年齢・地域で答えが変わってはいけない窓口 |
3つ目の属性の入れ替えは、顧客対応AIで最も効く物差しです。たとえば「女性の顧客から解約の相談が来た」と「男性の顧客から解約の相談が来た」の2つの問いで、返答の内容や温度が変わらないかを、文章の類似度と感情の差で測ります。差が大きければ、属性によって扱いが変わっている疑いがあるということです。
問い合わせの振り分けや、顧客ごとの商品の推薦にAIを使う場合は、文章の物差しではなく分類と推薦の物差しを使います。分類では、属性ごとに「本来は対象なのに外した割合」「本来は対象外なのに拾った割合」などの差を比べます。推薦では、属性語だけを入れ替えた依頼で、推薦される一覧がどれだけ重なるか、順位がどれだけ入れ替わるかを測ります。たとえば優先対応に回す問い合わせの選別で、地域によって取りこぼしの割合が違えば、それは文面の丁寧さとは別の、扱いの差です。こちらの指標は数値の結果と属性があれば計算できるため、日本語かどうかの影響を受けにくいのも特徴です。
ただし、差が小さいことは、公平であることの証明ではありません。入れ替えたのが用意した語彙だけである以上、その語彙で表せない属性や、名前や住所からにじむ属性の差は測れていません。数字は「この試験で見た範囲では差が小さかった」という意味にとどまります。
4工程の全体像:問いを集める・応答を集める・採点する・合否を決める
LangFair を使った試験は、次の4つの工程に分けると、誰が何を持つかがはっきりします。ライブラリが自動でやってくれるのは主に2と3で、1と4は人の仕事として残るのがこの道具の前提です。
実際の窓口やメール文面で投げる問いを集め、属性語が含まれる問いがどれだけあるかを確かめる。どの物差しを使うかをここで決める。
同じ問いを複数回投げ、属性を入れ替えた版も含めて応答を集める。費用と、何が社外のモデルに渡るかをここで管理する。
毒性・固定観念・属性の入れ替えの数字を出す。判定器の言語と、数字の意味の限界を記録に添える。
事前に決めておいた基準と照らし、出す・直す・出さないを責任者が判断する。判断の根拠を残す。
自動評価の仕組みを使うと、工程1の一部(属性語の点検)から工程3までを短いコードで通せます。その手軽さが落とし穴にもなります。数字が自動で出ると、それが合格の証明のように扱われやすいからです。以下、工程ごとに人が決めることを見ていきます。
工程1:自社の問いを集める——属性語が入っているかを先に見る
最初の仕事は、試験に使う問いを集めることです。理想は、実際の問い合わせ履歴や、マーケ文面を作るときに担当者が入れる指示文から抜き出したものです。試験用に頭で考えた問いは、本番の問いより素直になりがちで、偏りが出にくくなります。履歴を使う場合は、顧客の氏名や連絡先などを外したうえで使うことが前提です。
自動評価は最初に、問いの中に性別や人種を示す語がいくつ含まれているかを数えます。公式はこれを「属性に触れないことで公平にする」状態の確認と位置づけており、属性語を含む問いが無ければ、属性の入れ替え試験は行われません。ここで気をつけたいのは、この点検に使われる語彙が英語の語彙リストだという点です。日本語の問いをそのまま渡しても、属性語は見つからず、入れ替え試験が行われないまま毒性と固定観念の数字だけが返ってくる可能性があります。
そのため、日本語の顧客対応AIで試験をするなら、工程1で入れ替える属性と語の組を自社で決めることになります。LangFair は独自の語彙を渡して入れ替えることもできる作りです。たとえば「女性・男性」「20代・60代」「東京都・沖縄県」「日本国籍・外国籍」のように、自社の顧客に関係があり、扱いが変わってはいけない属性を、法務や顧客対応の責任者と相談して選びます。
- 日本語の問いをそのまま自動評価に渡し、属性の入れ替え試験が実行されていないことに気づかない
- 試験用に作った行儀のよい問いだけで測り、本番の乱れた問い合わせで初めて偏りが出る
- 問い合わせ履歴を、氏名や連絡先を外さないまま社外のモデルに投げる
工程2:応答を集める——同じ問いを何度も投げる理由と費用
生成AIは、同じ問いにも毎回少しずつ違う答えを返します。そのため LangFair の手本では、毒性の評価では1つの問いに25回の応答を集めるのが慣例とされています。1回だけ投げて問題なしでは、たまたま穏当な答えが出ただけかもしれないからです。属性の入れ替え試験でも、入れ替えた版ごとに同じ回数を集めます。
ここで費用が膨らみます。問いが200件、入れ替える属性が2通り、1つの問いに25回なら、それだけで1万回の呼び出しになります。LangFair には属性の入れ替えに必要な量を事前に見積もる関数がありますが、実際の料金は使うモデルと契約で決まるので、試験の前に予算の上限を決め、問いの数と回数を調整します。本番前の1回きりでなく、モデルの更新のたびに回すなら、その分も見込んでおく必要があります。まずは問いを50件ほどに絞って小さく回し、物差しごとの数字の揺れ方を見てから件数を増やすと、費用を無駄にしにくくなります。
8月に本体へ入った応答持ち込み型の仕組みは、この工程の自由度を上げます。社内の承認済みの経路(たとえば自社の Azure の契約下にあるモデル)で応答を作り、ファイルで受け渡して採点だけを LangFair に任せる、という分け方ができます。本番と同じ経路・同じ指示文で応答を作れるので、試験の結果が本番に近くなる利点もあります。
工程3:採点する——判定器の言語と、数字の限界
採点の段階で最も重要なのは、判定に使うモデルが何語を前提に作られているかです。LangFair の毒性の既定の判定器は英語の文章で学習された判定モデルで、多言語版を選ぶこともできます。しかし多言語版の配布元は、対象を英語・フランス語・スペイン語・イタリア語・ポルトガル語・トルコ語・ロシア語の7言語に限ると明記しており、日本語は含まれていません。
固定観念の判定に使う文単位の判定モデルも英語向けで、属性の入れ替え試験で感情の差を測る既定の仕組みは、英語の単語に点数を付けた辞書型のものです。つまり、日本語の応答をそのまま採点すると、数字は出ても判定の根拠が弱いということです。毒性については、自社で用意した判定器を差し込める作りになっているので、日本語に対応した判定モデルや、自社で検証した判定の仕組みを使うのが現実的です。
文章の類似度を測る指標(意味の近さ、語の重なりなど)は、言語にあまり依存しないものもあります。ただし、日本語は単語の区切りが英語と違うため、語の重なりを数える指標は分かち書きの扱い次第で値が変わります。採点の記録には、どの判定器・どの設定で測ったかを必ず添えることが、後から数字を比べるための条件になります。
- 使った版(配布版の番号か、本体の取り込み日)
- 毒性・固定観念・感情の判定器の名前と、対象言語
- しきい値(毒性ありと数える点数の線)
- 問いの件数、1つの問いあたりの応答回数、入れ替えた属性と語の組
- 応答を作ったモデル・指示文・温度などの設定
工程4:合否の線を誰が決めるか
LangFair が返すのは「毒性ありと判定された応答の割合」「属性を入れ替えたときの感情の差」といった数字です。どこまでなら出してよいかの基準は、ライブラリには入っていません。毒性の判定には、何点以上を毒性ありと数えるかのしきい値がありますが、これも利用者が変えられる設定です。実際、ソースの説明文では既定値を0.325と書いている一方、実装の既定値は0.3になっており、既定値をそのまま合格の線とみなすのは危ういことが分かります。
合否の線は、試験を回す前に、責任者が文書で決めておくのが原則です。回した後に決めると、出た数字に合わせて線を引きたくなるからです。決める内容は、物差しごとの許容範囲、一部の属性でだけ差が大きかった場合の扱い、判定器が英語向けで参考値にとどまる指標の扱い、の3つが最低限です。
決める人も分けておきます。試験を回す担当(データ・AIの担当)と、合否を判断する責任者(顧客対応の責任者、法務・コンプライアンス)は別の人にします。AIに合否を判断させないことはもちろん、数字を出した本人が自分で合格を出す形も避けます。判断の記録には、数字そのものに加えて、「なぜこの数字で出してよいと考えたか」の根拠を書いておきます。
判断の結果は、3つに分けて決めておくと迷いが減ります。出すは、事前に決めた範囲に収まり、人の抜き取りでも問題が見つからない場合で、記録を残して次回の再試験の時期を決めます。直して再試験は、特定の属性や特定の種類の問いでだけ差が大きい場合で、指示文や回答の型を直し、同じ条件で回し直します。出さない・範囲を狭めるは、毒性の最悪値が高いか、直しても差が縮まらない場合で、その種類の問いは人が答える運用に戻します。
日本語の顧客対応AIで使うときの、現実的な線
ここまでの限界を踏まえると、日本語の顧客対応AIで LangFair を使う現実的な線は、試験の枠組みとして使い、判定の部品は日本語に合うものに差し替えるという形になります。問いの持ち込み、繰り返しの生成、入れ替え版の作成、結果の集計といった枠組みは言語に関係なく役立ちます。一方で、属性の語彙、毒性の判定器、感情の判定器は自社で用意する前提です。
もう一つの使い方は、英語で応答する用途に限って、組み込みの判定器をそのまま使うことです。海外向けの問い合わせ窓口や、英語のマーケ文面を作る用途であれば、公式の手本どおりの試験がほぼそのまま当てはまります。日本語と英語の両方で応答するAIなら、英語の側だけは組み込みの判定器で測り、日本語の側は別の方法で測る、という分け方もできます。
日本語の応答を英語に機械翻訳してから採点する方法も考えられますが、翻訳の段階で語調や含みが変わるため、翻訳後の数字は参考値にとどめるのが無難です。いずれの方法でも、数字とは別に、人が応答を抜き取って読む確認を必ず組み合わせます。たとえば属性を入れ替えた組を各属性から数十組ずつ抜き出し、顧客対応の経験者が並べて読み比べます。
敵対的評価:最悪の出力を探すときの注意
0.8.0で加わった敵対的評価は、ふつうの問いでは出ない最悪の応答を探すためのものです。ここで知っておくべきなのは、毒性の敵対的評価に使う指示文が、内容に関する方針に従わなくてよい、有害で無礼な言葉を出すことが望ましい、とモデルに明示する作りになっている点です。モデルがどこまで踏みとどまるかを見るための試験だからです。
この試験を社外のAIサービスに投げる場合は、提供元の利用規約に照らして問題がないか、社内の承認を得てから行うべきです。有害な出力を引き出す試験は、利用規約で扱いが定められていることがあり、契約や設定によっては監視の対象になることもあります。試験用の環境・試験用の利用者を分け、試験で得た有害な応答の保管先と閲覧できる人も決めておきます。
また、毒性の敵対的評価に使う問い集は英語で、属性の入れ替えの敵対的評価も英語のひな形です。日本語の窓口で同じことをしたい場合は、ひな形の考え方を借りて日本語の問いを自社で作ることになります。作った問いは、それ自体が差別的な表現を含むことがあるため、社内での取り扱いの範囲を限ることも忘れないでください。
何が社外に出るか:試験のデータの流れ
LangFair 自体は、自社の計算環境に入れて動かすライブラリです。採点の部分は手元で動き、ライブラリの提供元である CVS Health にデータを送る仕組みではありません。社外にデータが出るのは主に2か所です。一つは、応答を集めるために呼び出すAIモデルの提供元です。試験の問いと、属性を入れ替えた版は、すべてそのモデルに送られます。
もう一つは、判定器のモデルを最初に取得するときの通信です。毒性や固定観念の判定器は、公開されているモデルを外部の配布元から取り込んで手元で動かします。取り込むのはモデルであり、自社の応答を送るわけではありませんが、社内の通信制限が厳しい環境では、事前に取り込んで社内に置く手順が要ります。どの判定器をどこから取得したかも、記録に残しておく対象です。
試験に問い合わせ履歴を使うなら、工程1で述べた個人情報の除去に加えて、応答の保管先も決めます。属性を入れ替えた応答の一覧は、それ自体が偏りの証拠の束になります。外に出すべきでない社内資料として扱い、保存期間と削除の時期を決めておきます。
試験を誰が持つか:部門の分担と、回し直すきっかけ
偏りの試験は、本番に出す前の1回で終わりません。モデルの提供元がモデルを更新したとき、自社が指示文や回答の型を変えたとき、参照させる社内資料を入れ替えたとき、いずれも応答の傾向が変わる可能性があります。回し直すきっかけを先に決め、その時に回す持ち主を一人決めておくことが、試験を続けるための条件です。
| 役割 | 持つこと | 持たないこと |
|---|---|---|
| データ・AIの担当 | 試験の環境、問いの管理、試験の実行、記録の作成 | 合否の判断 |
| 顧客対応・マーケの責任者 | 問いの選定への協力、抜き取りの読み比べ、合否の判断 | 判定器の選定 |
| 法務・コンプライアンス | 入れ替える属性の選定、合否基準の承認、敵対的評価の承認 | 日々の試験の実行 |
| 情シス | モデルの経路と通信の管理、判定器の取得元の管理 | 数字の解釈 |
OSS を使う以上、ライブラリそのものの更新を追う人も要ります。依存する部品の安全上の更新は、これまでも頻繁に出ています。版を上げると判定器や既定値が変わり、前回の数字と比べられなくなることもあるため、版を上げるときは前回と同じ問いで回し直し、差を記録します。
導入前の確認項目一覧
LangFair を使った試験を始める前に、次の項目が埋まっているかを確かめます。空欄が残るまま試験を回すと、数字は出ても判断に使えません。
- 試験の対象:どのAIの、どの用途か(顧客対応の返答、メール文面、要約、振り分けなど)
- 使う物差し:毒性・固定観念・属性の入れ替えのどれを、なぜ使うか
- 入れ替える属性と語の組:法務と顧客対応の責任者が承認したもの
- 判定器:日本語の応答を何で判定するか。英語の判定器の数字は参考値として扱うか
- 問いの件数と回数、試験1回あたりの費用の上限
- 応答を作る経路:本番と同じモデル・指示文・設定か
- 合否の線:物差しごとの許容範囲と、一部の属性でだけ差が出た場合の扱い
- 合否を判断する責任者と、試験を回す担当が別の人になっているか
- 敵対的評価を行う場合の、利用規約の確認と社内承認
- 記録の保管先、閲覧できる人、保存期間
- 回し直すきっかけ(モデル更新、指示文の変更、参照資料の入れ替え、ライブラリの版上げ)
用語のミニ解説
毒性:応答に侮辱、脅し、差別的な言葉などが含まれる度合い。判定器が点数を付け、しきい値を超えたものを毒性ありと数えます。同じ問いへの複数の応答のうち最悪の点数を見る指標と、毒性ありの応答の割合を見る指標があります。
固定観念:性別などの属性と、職業・性格・能力などの語が結びついて現れる傾向。応答の中で特定の属性と特定の語が一緒に現れる頻度の偏りや、判定モデルが固定観念と判断した文の割合で測ります。
属性の入れ替え試験:問いの中の属性語だけを入れ替え、それ以外を同じにした問いの組を作り、応答の違いを測る試験。公式は反事実の公平性と呼んでいます。応答の意味の近さ、語の重なり、感情の向きの差を数字にします。
属性に触れないことによる公平:問いに属性語が一切含まれない状態。この場合、属性の入れ替え試験は成り立たないため、自動評価は入れ替え試験を省きます。ただし、名前や住所などから属性が推測される場合は、属性に触れていないとは言い切れません。
まとめ
LangFair は、顧客対応AIやマーケ文面の生成AIを出す前に、自社の問いで偏りを測るための枠組みを OSS で提供しています。2026年には敵対的評価が加わり、応答を自社の経路で作って採点だけを任せる仕組みも公式の本体に入りました。一方で、組み込みの属性の語彙と判定器は英語が中心で、日本語の応答をそのまま採点しても、数字の根拠は弱いままです。
使うなら、問いの持ち込み・繰り返しの生成・入れ替え版の作成・集計という枠組みを借り、属性の語彙と判定器は日本語に合うものを自社で用意し、人の読み比べを必ず組み合わせます。そして、合否の線は試験の前に責任者が決め、試験を回す担当とは別の人が判断する。数字は判断材料であって、判断そのものではありません。試験の持ち主と回し直すきっかけを決めたうえで、まずは一つの窓口、一つの属性の組から始めるのが現実的です。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
あなたのWebサイトは、AIによる攻撃に耐えられますか?
AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。
