Warden AIの監査証明だけでは足りない|買う側が追加で求めること

Warden AIの監査証明だけでは足りない|買う側が追加で求めること

「採用支援のAIツールは、ベンダーが第三者の偏りの監査を受けていると言うので、それで十分だと考えていた」「監査報告書を受け取ったが、数字の意味も、自社の選考に当てはまるのかも分からない」——採用にAIを取り入れ始めた企業の人事や法務から、相次いで聞かれる声です。採用・人事向けAIの偏りを継続して監査する英国・米国の Warden AI は、2026年10月の解説記事で「採用AIの結果の責任は、ツールを作った側ではなく使う雇用主が負う方向に移っている」と主張しています。

監査証明は出発点であって、買う側の確認を代わりに済ませてくれるものではありません。この記事では、ベンダーが示す偏りの監査を、人事・情報システム部門・法務がどう読み、何を追加で求めるかを、課題・原因・対策の順に整理します。


カメ先生カメ先生

採用AIの偏りの監査というと、ベンダーが一度「問題なし」の証明を取れば済むと思われがちなんだけど、監査されたのはベンダーの製品と監査用のデータで、自社の選考そのものではないんだ。


カメ子カメ子

同じツールでも、自社の求人や応募者、設定によって結果が変わるかもしれない、ということですか。


カメ先生カメ先生

そう。しかもAIは更新されるし、応募者の顔ぶれも季節で変わる。だから一度きりの確認ではなく、続けて見る仕組みと、悪くなったら止める段取りが要るんだよ。


カメ子カメ子

監査証明は「読めば終わり」ではなく、自社の使い方と照らし合わせる材料なんですね。


この記事のポイント
  • Warden AI は採用・人事向けAIの偏りを継続して監査し、結果を公開できる形で示す。監査の対象はベンダーの製品と監査用のデータ
  • 買う側は、自社の使い方との差、監査に使ったデータ、合格の線、更新時の再監査を確かめ、足りない資料を追加で求める
  • 国内では応募者の属性データを集めにくい。悪化したときに止める手順と、応募者への説明を先に決めておく

あなたのWebサイトは、AIによる攻撃に耐えられますか?

AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。

目次

Warden AI は、採用・人事AIの偏りを続けて監査し、結果を示す会社

Warden AI は、採用や人事に使われるAIを対象に、第三者として偏りの監査と保証を行う会社です。公式サイトでは、英国と米国に拠点を置き、継続的な偏りの監査と、同社が定める保証の基準を中心に据えています。公式サイトは監査の結果を対応づける法令として、ニューヨーク市の条例、EUのAI規則、イリノイ州とコロラド州の法令、カリフォルニア州の雇用差別の規則を挙げています。監査の結果は、監査の記録と常時更新の画面で示され、ベンダーが自社の顧客や応募者に向けて公開できる形になっています。

英国政府が公開しているAIの保証技術の事例集でも、Warden AI の手法が紹介されています。そこでの説明では、性別、人種・民族、年齢、障害、そして複数の属性が重なった集団どうしの偏りを対象に、継続して監査するとしています。手法は2つで、集団ごとの結果を比べる分析と、属性やその手がかりになる情報を入れ替えて判定が変わらないかを確かめる分析です。

監査を依頼するのは、主に採用支援のAIツールを作るベンダーです。2026年に入ってからも、米国の採用支援ツールの会社が、Warden AI の監査を受けて結果を公表する例が続いています。買う側の企業は、Warden AI と直接契約するより、ベンダーから監査の結果を受け取る立場になることが多い点を押さえておきます。この記事は、その受け取る側の読み方を扱います。

2026年の動き:ベンダーの公表と、雇用主の責任を説く解説

2026年1月には、米国の採用支援ツールの会社が、応募者と求人の照合の仕組みについて Warden AI の独立した監査を2025年12月に終え、主な集団で同社の公平さの基準を満たしたと公表しました。同じ1月の日付の別の会社の監査報告書では、応募者の選別の仕組みについて、全体で2万件余りの標本を使い、性別と人種・民族、属性の重なりのそれぞれで問題なしと判定した結果が示されています。4月にも、別の会社が Warden AI の保証の基準を満たしたと発表しました。

Warden AI 自身は、2026年9月から10月にかけて、採用の自動判定の工程ごとの整理、管理の道具と独立した保証の違い、米国の州の法令の解説、応募者の照合の仕組みの偏りの監査といった記事を相次いで公開しています。10月12日の記事では、ベンダーの自己評価は利益相反を抱えており、せいぜい出発点にすぎないと述べ、雇用主が独立した監査の結果と継続的な証拠を求めるべきだとしています。

監査を売る会社の主張なので割り引いて読む必要はありますが、方向は明確です。米国では、採用AIの偏りの責任をベンダーとの契約で雇用主から切り離すことが難しくなりつつあり、買う側が自分で説明できる材料を持つことが求められているという流れです。日本の企業にとっても、海外の応募者を扱う場合や、ベンダーの説明を鵜呑みにしない姿勢という点で参考になります。

誤解:「ベンダーが監査済みなら、買う側の確認は終わり」

採用AIの導入の稟議では、「第三者の偏りの監査を受けている」という一文が、偏りの論点を片づける根拠として使われがちです。しかし監査報告書が示しているのは、ある時点の、ある製品の、ある監査用のデータに対する結果です。自社の求人、自社の応募者、自社の設定、自社の担当者の使い方での結果ではありません。

ここから先は、この誤解が生む課題を3つ、原因を2つに分けて見ていきます。課題は、監査の対象と自社の使い方のずれ、一度きりの監査の限界、合格の線の不透明さです。原因は、監査に使うデータが自社の応募者ではないこと、そして国内では自社で属性を確かめることが難しいことです。課題と原因を分けておくと、ベンダーに何を求めればよいかが具体的になります

選考でAIを使う条件の一般論や、第三者の監査を社内で行うか外部に頼むかの比較は、別の記事で扱いました。ここでは、すでに監査済みをうたうツールを前にして、買う側が報告書をどう読み、何を足すかに絞ります。

課題1:監査の対象は「ベンダーの製品」で、自社の使い方ではない

Warden AI の10月の記事は、ツールを設計された目的と違う用途に使うと、そこで生じた偏りの責任は雇用主に移りうると指摘しています。たとえば、職種の適合度を見る仕組みを、そのまま昇進の候補者の絞り込みに使う。新卒向けに作られた評価の仕組みを、中途の専門職に当てはめる。監査が対象にしていない使い方をした時点で、監査の結果は自社を守る根拠にならないと考えるべきです。

設定の違いも見落とされがちです。多くの採用AIは、評価の重みや足切りの点数、表示する候補者の数を利用企業が調整できます。照合の仕組みの偏りを扱った10月の記事でも、偏りは学習のデータだけでなく、採点の規則や順位の足切りから入ると説明しています。監査の時点の標準の設定と、自社が使う設定が違えば、結果も変わりえます。

  • 監査報告書の対象の機能名を確かめず、契約したツール全体が監査済みだと社内に説明する
  • 足切りの点数を自社で引き上げたのに、監査の結果をそのまま根拠に使う
  • 新卒向けの監査結果を、中途採用や昇進の判断にも流用する
  • 人の担当者がAIの順位を見て上位だけを面接する運用を、監査の対象外のまま放置する

確かめる方法は、監査報告書の対象範囲の記載を読み、自社が使う機能と設定を一覧にして突き合わせることです。報告書に対象の機能と設定が書かれていなければ、ベンダーに書面で確認する項目に入れます。人の担当者がAIの順位をどう使うかも、偏りの入り口になるので、運用の手順として文書にしておきます。

課題2:一度きりの監査は、更新と応募者の変化に追いつかない

Warden AI が「継続監査」を前面に出すのは、AIの振る舞いが時間とともに変わるからです。10月の記事は、AIは新しいデータを処理するうちに振る舞いがずれうるため、一度きりの監査や一度の適合報告では足りないと述べています。ベンダーがモデルを更新したり、照合に使う情報を増やしたりすれば、前回の監査の結果はそのままでは使えません。

比べる点一度きりの監査継続監査
分かることその時点の製品の結果結果の推移と、悪化の兆し
モデルの更新更新後は再監査まで分からない更新の前後の差を追える(頻度による)
応募者の変化反映されない対象のデータを足せば反映できる
買う側が求めること報告書の日付と対象の版の確認監査の頻度、画面の閲覧権、悪化時の通知
弱み古くなる費用がかかり、監査用のデータの質に左右される

表のとおり、継続監査でも、どの頻度で、どのデータで回しているかによって分かることが変わります。公式サイトでは監査ごとに時刻の記録とデータの固定の写しを残すと説明していますが、頻度は監査の契約によります。買う側は、報告書の日付と対象の版、次の監査の予定、モデルの更新のときに再監査するかどうかを確かめます。更新の通知をベンダーから受け取る取り決めも、契約に入れておきたい項目です。

課題3:「問題なし」の線を誰が決めたかが見えない

監査報告書には、集団ごとの通過率と、その比が並び、それぞれに「問題なし」などの判定が付いています。たとえば、ある公開された報告書では、集団ごとの点数の通過率を比べ、最も高い集団に対する比が0.88や0.94といった値で、判定は問題なしとされていました。数字そのものより大事なのは、その判定の線を誰が、何を根拠に決めたかです。

米国では、ある集団の選考の通過率が、最も高い集団の8割を下回ると不利な影響の目安とされる考え方が、実務で広く使われてきました。ただしこれは目安であり、標本が少ない集団では偶然でも8割を割り込みます。判定の線、使った指標、各集団の標本の数が報告書に書かれているかを確かめ、標本が少なすぎる集団が「判定対象外」として扱われていないかも見ます。

10月の照合の記事は、監査で比べるべきものとして、集団ごとの通過率だけでなく、順位の位置、点数の分布、誤って落とした・誤って通した割合を挙げ、全体の正確さは似た応募者どうしの扱いについて何も証明しないと述べています。さらに、職種や選考の段階ごとに分けないと、全体の結果の中に偏りが隠れると指摘しています。報告書が全体の数字だけなら、職種別・段階別の内訳を求める価値があります。

  • 通過率の比だけでなく、順位の位置と点数の分布が集団ごとにどう違うか
  • 誤って落とした割合と誤って通した割合が、集団ごとに偏っていないか
  • 職種別・選考段階別に分けた結果があるか。全体の数字に偏りが隠れていないか
  • 監査の期間、標本の数、指標の定義が書かれているか
  • データの出どころ、前処理、モデルの版、足切りの線、人による上書きの記録が文書になっているか

照合の記事は、声をかけられた応募者ほど多くのデータが生まれ、それがモデルの思い込みを強める循環にも触れています。過去の採用の実績を学習に使う仕組みでは、過去の偏りが繰り返し強まるおそれがあるので、ベンダーが学習のデータをどの期間の、どの実績から作っているかも確かめておきます。

英国政府の事例集でも、Warden AI 自身が限界として、結果の質は評価に使うデータに左右されること、特定の集団や偏りの種類ではデータが足りないことを挙げています。「全項目で問題なし」は、「全集団を十分な数で確かめた」とは限りません。判定対象外になった集団があれば、それが自社の応募者に多い集団でないかを確かめる必要があります。

原因1:監査に使うデータが、自社の応募者ではない

英国政府の事例集によると、Warden AI の監査は、同社が持つ実データと合成データを組み合わせた監査用のデータを使い、該当する場合はツールの実際の利用データも加えます。公式サイトでは、同意を得た実際のデータで試験すると説明しています。いずれにしても、監査用のデータは、多くの場合、米国や英国の応募者を想定したものです。

日本の企業がこの結果を読むときには、二重のずれがあります。一つは、属性の区分そのものです。米国の監査は人種・民族を中心に組み立てられますが、日本の選考で問題になりやすいのは、性別、年齢、障害、国籍、出身地や学歴に結びついた手がかりなどで、区分が一致しません。もう一つは言語で、日本語の履歴書や職務経歴書で同じ結果になる保証はありません。

10月の照合の記事は、属性の欄を消しても、住所、学校、職歴の空白などの組み合わせが同じ情報を運ぶと指摘しています。日本でも、住所や出身校、職歴の空白は、性別や年齢、家庭の事情と結びつきやすい項目です。自社の応募書類の項目のうち、どれが属性の手がかりになりうるかを洗い出し、ベンダーに監査で確かめたかを尋ねるのが、ずれを埋める第一歩です。

原因2:国内では、自社で属性を集めて確かめることが難しい

偏りを確かめるには、応募者がどの集団に属するかのデータが必要です。しかし国内では、このデータを集めること自体に制約があります。職業安定法に基づく指針は、求職者の個人情報について、人種・民族・社会的身分・本籍・出生地など社会的差別の原因となるおそれのある事項や、思想・信条の収集を原則として認めていません。偏りを確かめたいから応募者の属性を集める、という発想は、国内ではそのまま通らないのです。

個人情報保護法でも、人種、信条、病歴、障害などは要配慮個人情報とされ、取得には原則として本人の同意が要ります。同意があっても、選考の場で求めれば、応募者は断りにくい立場にあります。選考に使う情報と、偏りの確かめに使う情報を同じ流れで集めないことが、最低限の線になります。

そのため国内の企業は、偏りの確かめの多くをベンダーの監査に頼らざるをえません。だからこそ、監査の中身を読み込み、足りない点を追加で求めることが重要になります。自社で確かめるなら、性別や年齢のように募集・採用の段階で扱いが定められている項目を中心に、選考と切り離した任意の調査として、目的と使い方を示して集めるといった方法を、法務と相談して設計します。

対策1:買う側が追加で求める資料の一覧

ここまでの課題と原因を踏まえ、ベンダーから監査の結果を受け取るときに、追加で求める資料をまとめます。Warden AI の10月の記事も、データの出どころ、学習の過程、集団ごとの偏りの試験と軽減の方法、独立した監査の結果を求めるよう勧めています。これに、国内の事情に合わせた項目を足しました。

  • 監査の対象になった機能の名前と版、監査の日付、次の監査の予定
  • 監査の時点の設定(評価の重み、足切りの点数)と、自社が使う設定との差
  • 使った指標、判定の線、各集団の標本の数、判定対象外になった集団
  • 監査用のデータの出どころ(実データか合成データか、どの国の応募者か、言語)
  • 日本語の応募書類での試験の有無と、その結果
  • 属性の手がかりになりうる項目(住所・学校・職歴の空白など)を確かめたか
  • モデルを更新するときの事前の通知と、更新後の再監査の取り決め
  • 継続監査の画面を、買う側が閲覧できるかどうか
  • 結果が悪化したときの通知の期限と、ベンダー側の是正の手順

資料が出てこない項目があれば、その項目を導入の判断でどう扱うかを先に決めておきます。たとえば、日本語での試験がなければ、AIの評価を足切りに使わず、人が全件を見る前提でのみ使う、といった条件付きの判断です。資料の有無を理由に一律に導入を止めるのではなく、AIに任せる範囲を狭めることで釣り合いを取ります。

国内の法令・指針との関係と、海外の法令の位置づけ

採用AIの偏りに直接の名前を付けた国内の法令はまだありませんが、既存の法令が選考の公正さを求めています。男女雇用機会均等法は募集・採用で性別にかかわらない均等な機会を、労働施策総合推進法は募集・採用での年齢制限の原則禁止を、障害者雇用促進法は障害を理由とする差別の禁止を定めています。AIが判定したかどうかにかかわらず、結果として差別になれば、責任は採用する企業にあると考えるのが基本です。

法令・指針地域採用AIとの関係(概要)
職業安定法と指針日本求職者の個人情報は業務の目的の範囲で収集。差別の原因となるおそれのある事項は原則収集しない
個人情報保護法日本要配慮個人情報の取得は原則本人の同意。利用目的の特定と通知
均等法・労働施策総合推進法・障害者雇用促進法日本性別・年齢・障害による募集・採用の差別の禁止
自動雇用決定ツールの条例米国ニューヨーク市独立した偏りの監査と結果の公表、応募者への通知(2023年7月から執行)
改正人権法米国イリノイ州採用などでAIを使い差別的な効果を生むことを禁じる(2026年1月1日施行)
AIに関する州法米国コロラド州雇用主などの義務(Warden AI によれば2027年1月1日に発効予定で、訴訟により止まっている)
AI規則EU採用の選考に使うAIは高リスクに分類。適用時期は見直しの議論があり最新を確認

海外の法令は、日本の企業が国内の応募者だけを扱う限り直接の適用はありませんが、ベンダーの監査がどの法令の要件に合わせて作られているかを読み解く手がかりになります。たとえばニューヨーク市の条例に合わせた監査は、性別と人種・民族の区分が中心で、年齢や障害は対象外のことがあります。施行時期は改正や訴訟で動くので、参考にするときは日付を確かめます。

対策2:結果が悪化したときに止める手順

継続監査の価値は、悪化に早く気づけることにあります。しかし気づいても、止める手順がなければ選考は続きます。導入の前に、どの結果が出たら、誰が、何を止めるかを決めておきます。止める対象は、AIの評価そのものとは限りません。足切りに使うのをやめて参考表示に戻す、特定の職種だけ使うのをやめる、といった段階を用意しておくと、判断がしやすくなります。

STEP1
悪化の基準を決める

ベンダーの判定が問題なしから外れた、ある集団の通過率の比が前回より大きく下がった、標本不足で判定対象外の集団が増えた、などを基準にします。基準は人事と法務で決めます。

STEP2
通知を受ける人を決める

ベンダーからの通知と継続監査の画面の確認を、採用の責任者と法務の担当に割り当てます。誰も見ていない画面は、ないのと同じです。

STEP3
段階に応じて止める

まず足切りへの利用を止めて人が全件を見る運用に戻し、原因が分かるまでAIの評価は参考表示にとどめます。重い場合はツールの利用自体を止めます。

STEP4
止めていた期間の選考を見直す

悪化が始まった時期にさかのぼり、AIの評価で落とした応募者がいないかを確かめます。必要なら人が改めて書類を見直します。

STEP5
再開の条件を記録する

ベンダーの是正と再監査の結果、人事と法務の承認を再開の条件にし、判断の経緯を記録に残します。

止める判断は、AIや監査の画面に任せません。監査の結果は判断の材料であり、止めるかどうかは人事の責任者が決めると明記しておきます。ベンダーの是正を待つ間も選考は止められないので、人が書類を見る体制に切り替えられる余力を、採用の繁忙期にも確保しておくことが現実の課題になります。

対策3:応募者への説明は、何を書くか

Warden AI の10月の記事は、雇用主の義務として、AIを使っていることの通知、判断に使われたデータへの接近、訂正と人による見直しへの道、個々の判断の記録の保持を挙げています。日本では同じ形の義務はありませんが、個人情報保護法の利用目的の特定と通知の考え方からも、選考でAIをどう使うかを応募者に示すことは欠かせません。

募集の画面や応募の同意の文面に書く内容としては、AIを使う工程(書類の整理、評価の補助など)、AIが最終的な合否を決めないこと、人が確認すること、偏りの監査を受けたツールを使い継続して確かめていること、問い合わせの窓口、を挙げられます。「AIで公正に選考します」のように、AIが公正さを保証するかのような書き方は避けます。監査は偏りを減らす取り組みであって、偏りがないことの証明ではないからです。

応募者から「AIの評価で落とされたのではないか」と問われたときの答え方も決めておきます。不合格の理由は人の判断として説明できる形で記録し、AIの点数だけを理由にしない。そのためには、AIの評価をどの段階でどう参照したかを、選考の記録に残す運用が前提になります。

AIに判断させない範囲と、人が確認する範囲

偏りの監査を読み込んだうえで、最後に決めるのは、AIに何を任せないかです。採用の合否、足切りの線の設定、監査の結果の受け入れ、悪化時の停止と再開、応募者への説明の内容は、いずれも人が決めます。AIに任せてよいのは、書類の整理や評価の補助など、人が根拠を確かめたうえで使える出力にとどめます。

人が確認する範囲も、導入の前に狭く具体的に決めます。たとえば、AIの評価で下位になった応募者の一定割合を人が抜き取って読む、AIが評価の根拠として示した経歴の箇所が実際に書類にあるかを確かめる、職種ごとの通過率を毎月並べて見る、といった形です。AIに評価の根拠を書かせ、根拠が示されない評価は使わないという線も、ベンダーの機能と合わせて決めておきます。

この範囲を決めておけば、ベンダーの監査証明は、自社の確認を置き換えるものではなく、確認の負担を減らす材料として使えます。監査が継続していることと、自社の中で人が見ていることの両方がそろって、はじめて応募者に説明できる体制になります。

よくある質問

ベンダーが Warden AI の監査を受けていれば、自社で監査を依頼する必要はありませんか

多くの場合、まずはベンダーの監査結果を読み込み、足りない資料を求めるところから始めれば足ります。ただし、自社独自の設定や用途で使う場合、日本語の応募書類での結果が示されていない場合、応募者の数が多く影響が大きい場合は、自社の使い方を対象にした追加の確認を検討します。

継続監査の画面は、買う側も見られますか

公式サイトでは監査の記録と常時更新の画面を示していますが、買う側が閲覧できるかどうかはベンダーと Warden AI の取り決めによります。契約の前に、閲覧の可否と、悪化時に通知が届くかをベンダーに確かめてください。

自社の応募者の性別や年齢で偏りを確かめてもよいですか

性別や年齢は応募書類で扱われることが多い項目ですが、偏りの確かめに使う場合は、利用目的として示し、選考の判断とは切り離して扱う必要があります。障害など要配慮個人情報に当たる項目は、原則として本人の同意が要ります。具体的な設計は法務と相談してください。

ベンダーとの契約には、偏りについて何を書いておけばよいですか

監査の頻度と対象の機能、モデルを更新する前の通知、更新後の再監査、結果が悪化したときの通知の期限と是正の手順、監査の資料の提供、利用をやめるときの応募者のデータの削除を挙げておくと安心です。Warden AI の10月の記事は、米国では差別の責任を契約で相手に移す条項が無効とされる例を紹介しています。契約は責任を移す道具ではなく、確かめるための情報を確実に受け取る道具として組み立てます。

監査報告書の数字が良ければ、応募者に「偏りのないAI」と説明してよいですか

避けたほうが安全です。監査は特定の時点・データ・集団での結果であり、偏りがないことの証明ではありません。監査を受けたツールを使い、人が確認していることを事実として伝えるにとどめます。

まとめ

Warden AI は、採用・人事向けAIの偏りを継続して監査し、結果を公開できる形で示す会社です。ベンダーがその監査を受けていることは、ツールを選ぶうえでの良い材料になります。しかし監査の対象はベンダーの製品と監査用のデータで、自社の求人・応募者・設定・使い方ではありません。継続監査でも、頻度と使うデータによって分かることは変わります。

買う側がすべきことは、監査報告書を自社の使い方と突き合わせ、足りない資料を追加で求め、悪化したときに止める手順と応募者への説明を先に決めておくことです。国内では応募者の属性を集めにくいぶん、ベンダーの監査を読み込む力と、人が確認する範囲の設計が、採用AIを公正に使うための土台になります。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。

あなたのWebサイトは、AIによる攻撃に耐えられますか?

AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。

運営会社:株式会社デボノ

目次