感情認識AIを入れる前に決める線｜誰の感情を測るか

「コールセンターの通話解析に感情分析の機能が付いてきたが、このままオンにしてよいのか」「会議ツールの参加度のスコアを、社員の様子を知るのに使ってよいのか」。顧客対応や情報システムの担当の方から、こうした相談が増えています。どちらも、製品の更新で機能が先に届き、判断が後から追いかけている状況です。問われているのは、感情が正確に読めるかどうかではありません。本当は、誰の感情を、何から測るかによって、同じ機能でも扱いがまったく分かれることが問われています。この記事では、感情認識AIの仕組みを短く押さえたうえで、測る相手と入力で用途を仕分け、欧州の規則の扱いを導入の判断表に落とし、社員向けの機能を切る判断と顧客への知らせ方を整理します。

感情認識AIとは。顔・声・体の動きから感情を推し量る仕組み

感情認識AIは、人の顔の表情、声の調子、体の動きや姿勢などから、喜び、怒り、悲しみ、不満といった感情や意図を推し量る仕組みです。欧州のAI規則は、これを「生体データに基づいて感情や意図を見分け、推し量るためのAIの仕組み」と定めています。入力が生体データであることが、定義の中心にあります。

欧州委員会が2025年2月4日に公表した禁止行為の手引きは、この生体データを広くとらえています。顔の画像や声だけでなく、歩き方、キーボードの打ち方、視線の動き、心拍や脳波まで、体の特徴や動きの癖から取れるものが含まれると説明しています。打鍵の癖から感情を推し量る仕組みも、感情認識に当たりうるということです。

反対に、定義に入らないものもあります。手引きは、文章から感情を読む、いわゆる文章の感情分析は生体データに基づかないため対象外としています。また、笑っていることを検出するだけなら感情認識ではなく、「この人は喜んでいる」と結論づけた時点で感情認識になると例示しています。痛みや疲れといった体の状態も、感情には含まれません。

ここで押さえておきたいのは、同じ「感情」という言葉でも、何を入力にし、何を結論として出すかで、規則上の位置づけが変わる点です。導入を検討するときは、製品が「感情分析」とうたっているかどうかではなく、入力と出力を一組で確かめることが出発点になります。

この線引きが効く会社と、国内だけの会社への効き方

本稿で使う線引きの根拠は、欧州のAI規則と欧州委員会の手引きです。そのため、直接効くのは、欧州に拠点がある会社、欧州の顧客に向けて感情認識を使う会社、欧州で働く従業員がいる会社です。規則が日本の会社にどこまで及ぶかの判定は、「EUのAI規則は日本企業に効くか？｜適用の範囲と時期」の記事で扱っています。

国内だけで事業をしている会社には、欧州の規則は直接は効きません。それでも本稿の仕分けを使う理由は、感情を測る用途の線引きを、ここまで具体的な例で示した公的な文書がほかに少ないからです。社員と顧客を分け、入力を分けるという考え方は、法令の適用とは別に、社内の導入の判断基準として借りることができます。

国内の法令で顔や声のデータをどう扱うかは別の論点です。個人情報としての取り扱いや、2026年の改正の動きは「【2026年】顔と声のデータの新しい規律｜集める前に決めること」の記事に譲ります。本稿は、法令の解説ではなく、導入する側がどの用途を入れ、どれを切るかを決める手順に絞ります。

読者として想定しているのは、コールセンターや接客、商談の録音解析を入れようとしている顧客対応やマーケティングの担当、会議ツールの新機能の扱いを決める情報システムやAI導入の担当です。判断の最終的な持ち主は、法務、人事、顧客対応の責任者になります。

製品の「感情分析」の表記は、入力を仕様書で確かめる

最初の作業は、手元の製品が何を入力にしているかを確かめることです。製品の案内では「感情分析」「感情の可視化」「顧客の温度感」といった言葉が使われますが、その中身は製品によって違います。文字起こしした文章の言葉づかいから判定しているものもあれば、声の高さや強さ、話す速さから判定しているものもあります。

この違いは、規則上の扱いを左右します。文章だけから判定しているなら、欧州の手引きでは感情認識の定義の外です。声の調子を使っているなら、生体データに基づく感情認識になりえます。案内の言葉が同じでも、入力が違えば扱いが変わるので、営業資料ではなく仕様書や技術資料で確かめます。

確かめる項目は、入力の種類（文章、声、顔の映像、その他の体の信号）、出力の形（感情の名前、点数、色分け）、出力が誰に紐づくか（話者ごと、通話全体、会議全体）、出力を誰が見られるか、の4つです。仕様書で分からない点は、提供元に書面で問い合わせます。

仕様書の読み取りは、AIに任せやすい作業です。仕様書を渡し、入力の種類と出力の形を表にまとめさせ、根拠になった記述の場所を必ず書き添えさせます。ただし、表に「声の調子は使っていない」と書かれていても、根拠の記述を人が読むまでは確定させないようにします。仕様書に書かれていないことを、AIが推測で埋めることがあるからです。

仕分けの軸1　誰の感情か。社員・顧客・応募者

次に、測る相手を分けます。欧州の規則が感情の推定を禁じているのは、職場と教育の場です。手引きは、その理由を働く人や学ぶ人が、立場の弱い側に置かれやすいことに求めています。雇う側が管理し、利益を得る監視に、働く人が本当の意味で同意するのは難しいという考え方です。

手引きは「職場」を広く解釈しています。事務所や工場だけでなく、店舗、競技場、屋外の現場、車の中まで、仕事が行われる場所すべてが含まれます。雇用の形も問わず、契約社員、研修生、ボランティアも対象です。店頭で働く販売員も、在宅で電話を受けるオペレーターも、職場の側に入ると考えるのが安全です。

顧客は、この職場の線の外にいます。手引きは、商業の場で顧客に向けて使う感情認識は、職場の禁止には当たらないとしています。ただし後で触れるとおり、禁止されないことと、何もしなくてよいことは別です。顧客に向けた用途には、知らせる義務と、高い危険の区分としての扱いが残ります。

応募者は、職場の側に入ります。手引きは、採用の過程や試用期間での感情認識も禁止の例に挙げています。採用選考でのAIの使い方全体は「採用選考でAIを使うときの条件｜応募者に説明できる形」の記事で扱っているので、本稿では面接の録画や応募動画から感情を推し量る機能は使わない、という一点にとどめます。

仕分けの軸2　何から測るか。顔・声・文章・打鍵

2つ目の軸は入力です。顔の映像と声は、生体データの代表です。手引きは、ウェブカメラや声の認識でコールセンターの社員の怒りを追う例、ビデオ会議の映像と声から感情を推し量る例を挙げています。会議ツールやコールセンターの解析は、この2つの入力を使うことが多い分野です。

文章は、定義の外に置かれています。手引きの例では、記事の調子を決めるために文章から感情を読む仕組みは、生体データに基づかないため禁止の対象外です。同じく商業の場では、顧客のチャットの文面から感情を読む仕組みも、職場の禁止には当たらないと書かれています。

見落としやすいのが、打鍵や体の動きです。キーボードの打ち方の癖、姿勢、動きから感情を推し量る仕組みは、生体データに基づくものとして禁止の対象に入ると手引きは明記しています。社員の端末の操作記録から「集中度」や「ストレス」を推し量る機能は、名前に感情と付いていなくても、この入力の軸で確かめる必要があります。

ここで注意したいのは、「文章なら自由に使える」と読まないことです。文章の感情分析が欧州の感情認識の定義の外にあるというのは、この規則の禁止と通知の対象にならないという意味にすぎません。文章の判定の当たり方や数字の読み方には別の注意が要り、それは「感情分析はどこまで信じられる？｜数字にする前の確かめ方」の記事で扱っています。

欧州の規則の3つの扱いを、導入の判断表に落とす

2つの軸を組み合わせると、欧州の規則のもとでの扱いは大きく3つに分かれます。1つ目は禁止で、職場と教育の場で生体データから感情を推し量る使い方です。2025年2月2日から適用されています。2つ目は、禁止されない感情認識で、高い危険の区分に置かれ、さらされる人に知らせる義務がかかります。3つ目は、文章からの推定や疲れの検知のように、感情認識の定義に入らないものです。

測る相手	入力	欧州の規則での扱い	導入の判断（本稿の整理）
社員（オペレーター・販売員・会議の参加者）	顔・声・打鍵・姿勢	禁止（医療・安全の例外のみ）	機能を切る。欧州の拠点では使わない
応募者・試用期間の人	面接の映像・声	禁止	機能を切る
顧客（通話・店頭・イベント）	顔・声	禁止の対象外。高い危険の区分と、知らせる義務	知らせ方を法務と決め、記録と人の確認を残す
顧客・社員	文章のみ	感情認識の定義の外	規則とは別に、当たり方と使い道を確かめる
運転者・機械を扱う人	疲れ・眠気の検知	感情に当たらず定義の外	安全の目的に限り、他の用途に流用しない

表の左3列は手引きと規則の原文に基づき、右の列は本稿の整理です。この表は、機能を入れるかどうかを決める会議の最初の1枚として使えます。製品の機能を一つずつ行に当てはめ、どの行に入るかを書き込んでいくと、「とりあえず全部オンにする」という判断が避けられます。

規則全体の区分や期日の一覧は、本稿では扱いません。欧州と日本の規制の違い、4段の区分、期日の全体像は「【2026年】AIの規制は日本と欧州で違う｜企業が見るべき点」の記事で整理しています。本稿の表は、感情認識という1つの用途だけを切り出したものです。

コールセンターの例で見る、同じ機能の線の分かれ方

手引きのコールセンターの例は、同じ機能でも測る相手で線が分かれることをよく示しています。ウェブカメラや声の認識で社員の怒りなどの感情を追うのは禁止です。一方で、声の認識で顧客の怒りや苛立ちを追うのは、職場の禁止には当たらないとされています。後者の例として、怒っている顧客に社員が対応しやすくするため、という目的が挙げられています。

実務で難しいのは、1本の通話に社員と顧客の両方の声が入っていることです。通話全体の「温度感」を出す機能だと、社員の声も判定の材料に入っている可能性があります。そこで仕様書で、話者を分けて判定しているか、社員側の判定を止められるかを確かめます。止められない場合は、欧州の拠点ではその機能自体を使わない判断になります。

手引きには但し書きもあります。社員の感情を推し量る仕組みでも、本人の研修のためだけに使い、結果を人事の担当に共有せず、評価や昇進に影響しない場合は認められるとしています。ただし、禁止を回避する口実にしないこと、雇用関係に影響しないことが条件です。

この但し書きに寄せて社員向けの機能を残すのは、勧めません。研修のためと決めても、結果が上司の画面に出れば評価に使われうるからです。残すなら、結果を見られるのは本人だけ、保存しない、評価の資料に入れないの3つを仕組みで担保できるかを確かめ、担保できなければ切ります。

社員に向けた機能は、切る判断から始める

社員に向けた機能の代表は、オペレーターの声の怒りの検知、販売員の表情の評価、会議の参加度のスコアです。手引きは、出社と在宅が混ざったチームのビデオ会議で、映像と声から感情の調子を見る仕組みを、職場の雰囲気づくりや対立の予防を目的にしていても禁止の例に挙げています。目的がよいことは、禁止を外す理由にならないということです。

そのため、社員に向けた機能は、残す理由を探すのではなく、切る判断から始めます。会議ツールや通話解析の管理画面で、該当する機能が既定でオンになっていないかを確かめ、欧州の拠点や欧州の従業員が参加する会議では無効にします。製品の更新で新しい機能が加わったときも、同じ確認を繰り返します。

国内だけの会社でも、同じ判断を社内の基準として借りる価値があります。社員の感情を点数にして上司が見られる状態は、規則の有無にかかわらず、働く人の信頼を損ないやすいからです。AIの利用の記録を人事評価に使う是非は「AI利用ログを人事評価に使う危うさ｜見てよい範囲を決める」の記事で扱っており、考え方は地続きです。

切るかどうかを決めるのは、人事と法務の責任者です。情報システムの担当は設定の現状を一覧にし、AIはその一覧づくりを手伝えますが、機能を残すか切るかの判断をAIに任せることはしません。決めた結果と理由は、後から問われたときに説明できるよう記録に残します。

医療・安全の例外は狭い。寄せて解釈しない

職場での禁止には、医療と安全の目的に限った例外があります。ここを広く読むと、社員向けの機能を残す口実になりやすいので、手引きの例で範囲を確かめておきます。医療の例外の例として手引きが挙げているのは、自閉症のある社員や学生を助ける用途、目や耳の不自由な人の使いやすさを高める用途です。

反対に、手引きは、社員や学生の幸福感、意欲、仕事や学びへの満足度を測る用途は医療の目的に当たらず禁止だとしています。いわゆる「社員の元気度」や「燃え尽きの予兆」を感情から推し量る機能は、健康のためとうたっていても、この例外には入らないと読むのが安全です。

安全の例外も狭く書かれています。手引きは、不安やストレスや退屈を測る仕組みは原則禁止で、危険な機械や化学物質を扱う場面のように、集中の切れが具体的な危険になる場合に限って認められるとしています。その場合も、取ったデータを仕事の成績の評価など、ほかの目的に使ってはならないとされています。

なお、運転者や操縦者の疲れや眠気の検知は、そもそも感情ではなく体の状態の検知なので、感情認識の定義の外にあります。例外に当たるかどうかの解釈は、条文と手引きを読んだうえで法務が判断します。現場の担当が「安全のためだから大丈夫」と自分で決めないよう、判断の窓口を先に決めておきます。

顧客に知らせる出し方を、法務と決める

顧客に向けた感情認識は、職場の禁止には当たりませんが、知らせる義務がかかります。欧州のAI規則の第50条は、感情認識の仕組みを使う側に、さらされる人へその仕組みが動いていることを知らせるよう求めています。この義務は2026年8月2日から適用が始まりました。欧州委員会は、その直前の2026年7月20日に、知らせる義務の手引きを公表しています。

知らせる場所は、顧客が感情認識にさらされる場面に合わせて考えます。電話なら通話の冒頭の案内、店頭やイベントなら入口の掲示、オンラインの商談なら招待の文面や画面上の表示、といった候補があります。規則は、遅くとも最初にさらされる時点までに、はっきり分かる形で知らせることを求めています。

文面には、何を入力にして何を推し量っているか、結果を何に使うか、問い合わせ先を入れるのが基本です。たとえば「この通話では、対応の品質を高めるため、お客さまの声の調子から感情の傾向をAIで推定しています」のように、「録音しています」だけで済ませず、感情を推し量っていることまで書くのが要点です。

通知文の下書きはAIに任せられます。ただし、通知が要るかどうか、どの場面で誰に向けて出すか、規約に書くだけで足りるかの判断は、法務が持ちます。個人データとしての扱い、たとえば同意の要否や保存の期間は、欧州の個人データ保護の規則など、別の決まりの論点として法務が併せて確かめます。

顧客向けでも残る、高い危険の区分と操作の禁止

顧客向けの感情認識は、知らせれば済むわけではありません。手引きは、職場と教育の場以外で使う感情認識は禁止の対象外だが、高い危険のAIの区分に置かれるとしています。この区分には、使う側にも人による監督などの義務がかかります。

この区分の義務の適用は、2026年7月27日に施行されたAIオムニバスで、2027年12月2日に延びました。欧州委員会の発表によると、附属書に並ぶ高い危険の用途の決まりは、この日から適用されます。延びたのは高い危険の区分の義務で、知らせる義務と職場での禁止は動いていない点を取り違えないようにします。

もう1つ、顧客向けの用途で気をつけたいのが、人を操る使い方です。手引きは、顧客の感情に合わせて広告や表示を出し分ける仕組みは職場の禁止には当たらないとしつつ、条件がそろえば、人を有害な形で操る使い方や弱みにつけ込む使い方の禁止に当たりうると書いています。

マーケティングの現場に置き換えると、顧客の苛立ちを検知して対応を手厚くするのと、焦りを検知して申し込みを急がせるのとでは、同じ入力でも意味が違います。後者のような使い方は、規則の当てはめ以前に顧客の信頼を損ないます。推定結果を何に使うかの線を、顧客対応の責任者と法務で書き出しておきます。

「感情は顔や声から正確に読める」を前提に置かない

欧州の規則が職場での感情の推定を禁じた理由の1つは、仕組みそのものの根拠の弱さです。規則の前文は、感情の表し方は文化や場面によって、さらに同じ人の中でも大きく異なるとして、感情を見分け推し量るAIの科学的な根拠に深刻な懸念があると書いています。主な欠点として、信頼性の限界、特定性の欠如、一般化の限界の3つを挙げています。

この指摘は、禁止されない顧客向けの用途にも当てはまります。声が大きいことは怒りの証拠ではなく、もともとの話し方かもしれません。手引き自身も、笑顔や声の大きさといった見て分かる表れを検出することと、そこから感情を結論づけることを区別しています。出てくるのは感情そのものではなく、表れから推した見立てです。

そこで運用では、推定の結果を事実として扱わない決まりを置きます。たとえば、顧客の「怒り」の判定が出ても、それだけで対応を打ち切ったり、要注意の顧客として記録したりはしません。社員の評価に使わないのは当然として、顧客への対応を自動で変える場合も、人が確かめる段を残します。

判定の当たり方をどう確かめるかは、本稿では扱いません。自社のデータで当たり方を測る手順は、文章の感情分析を例に「感情分析はどこまで信じられる？｜数字にする前の確かめ方」の記事で整理しています。本稿で決めたいのは、当たり方以前に、推定の結果をどこまで判断に使うかの線です。

AIに任せてよい作業と、人が決めること

ここまでの作業のうち、AIに任せられるものは少なくありません。仕様書から入力の種類と出力の形を拾う下書き、社内で使っている製品と機能の棚卸しの一覧、顧客への通知文の下書き、社員への説明文の下書きです。どれも、根拠になった資料の場所を必ず書き添えさせ、人が原文で確かめる前提で任せます。

一方で、AIに決めさせてはいけない判断があります。誰の感情を測るか、社員向けの機能を切るか、医療や安全の例外に当たるかの解釈、通知が要るかどうかと出し方です。これらは、法令の解釈と、働く人や顧客との信頼に関わる判断で、責任を負う人が決めます。

作業	AIに任せる範囲	人が決めること	決める人
入力の確認	仕様書から入力と出力を表にする下書き	声の調子を使っているかの確定	情報システムの担当
用途の棚卸し	製品と機能の一覧化	判断表のどの行に入るか	法務と顧客対応の責任者
社員向けの機能	設定の現状の一覧化	機能を切るか、例外に当たるか	人事と法務の責任者
顧客への通知	通知文と掲示の下書き	通知の要否、場面、文面の確定	法務と顧客対応の責任者
推定結果の使い道	使い道の候補の列挙	個人の評価や対応の打ち切りにつなげない線	顧客対応の責任者と人事

表で特に強調したいのは最後の行です。感情の推定結果を、個人の評価や対応の打ち切りに自動でつなげないという線は、どの用途でも共通して置きます。推定は見立てにすぎないので、その見立てだけで人の扱いが変わる仕組みにしないことが、規則の当てはめ以前の前提になります。

導入前のチェックリスト

最後に、感情認識の機能を入れる前、または既に届いた機能をオンにする前に確かめる項目をまとめます。全部に答えが出るまで、機能はオフのままにしておくのが安全です。

• 製品の「感情分析」の入力は、文章・声・顔・打鍵のどれかを仕様書で確かめたか
• 測る相手は社員・顧客・応募者のどれか、1本の通話や会議に複数が混ざっていないか
• 社員側の判定を止められるか。止められない場合、欧州の拠点で使わない判断をしたか
• 医療・安全の例外に当たるかの解釈を、現場ではなく法務が判断したか
• 顧客向けの用途で、知らせる場面・文面・問い合わせ先を法務と決めたか
• 高い危険の区分の義務（2027年12月2日から）への備えを、提供元と確かめたか
• 推定結果を個人の評価や対応の打ち切りに自動でつなげない決まりを書いたか
• 推定結果を見られる人と保存の期間を決めたか

チェックリストの答えは、機能ごとに1行ずつ記録に残します。誰が、いつ、どの根拠で判断したかが残っていれば、製品の更新や規則の手引きの改訂があったときに、どの判断を見直せばよいかがすぐに分かります。

• 製品の更新で届いた機能を既定のまま使う：社員の感情の推定が、知らないうちに動いている
• 「感情分析」の表記だけで文章の分析だと思い込む：実は声の調子を使っていて、扱いが変わる
• 研修や健康のためと言って社員向けの機能を残す：結果が上司に見えれば、例外の条件を外れる
• 「録音しています」の案内だけで済ませる：感情を推し量っていることが顧客に伝わらない

見直しは年に1度の点検を待たず、次の3つのきっかけごとに行います。

• 感情認識の定義、生体データの範囲、文章の感情分析や疲れの検知が対象外であること、職場の範囲、コールセンター・ビデオ会議・採用の例、研修の但し書き、医療・安全の例外の範囲、顧客向けの扱い、科学的な根拠への懸念は、欧州委員会の禁止行為の手引き（2025年2月4日公表）と、そこで引用されたAI規則の条文・前文に基づきます
• 知らせる義務の適用開始（2026年8月2日）と手引きの公表（2026年7月20日）は、欧州委員会の2026年7月20日の発表に基づきます
• AIオムニバスの施行（2026年7月27日）と高い危険の区分の適用日（2027年12月2日）は、欧州委員会の2026年7月27日の発表に基づきます
• 判断表の右の列、仕分けの手順、AIと人の分担、チェックリストは本稿の整理です。個別の当てはめは法務の判断を経てください

よくある質問

国内だけで事業をしていても、社員向けの機能を切るべきですか

欧州の規則は直接は効きませんが、切る方向で検討することを勧めます。手引きが禁止の理由に挙げた、働く人が立場の弱い側に置かれやすいという事情は、国内の職場でも変わらないからです。国内の法令での扱いは、個人情報の取り扱いを含めて法務が別に確かめます。

文章の感情分析なら、気にせず使ってよいですか

欧州の規則の感情認識の定義には入りませんが、使い道の線は同じように決めます。顧客の問い合わせの文面から不満を推し量る場合も、結果を事実として扱わず、対応の打ち切りに自動でつなげないようにします。判定の当たり方の確かめ方は別の記事で扱っています。

顧客向けに使う場合、同意を取る必要がありますか

欧州のAI規則が求めているのは、さらされる人に知らせることです。同意が要るかどうかは、個人データの保護の決まりなど別の規則の論点になります。どちらに当たるかは場面によって変わるため、通知の文面と併せて法務に確かめてください。

まとめ

感情認識AIは、精度の高さより先に、誰の感情を何から測るかで扱いが分かれます。欧州委員会の手引きでは、職場で社員や応募者の感情を顔や声から推し量るのは禁止、顧客に向けた用途は禁止の対象外ですが、知らせる義務と高い危険の区分が残り、文章からの推定は定義の外です。コールセンターでも、社員の怒りを追うか、顧客の苛立ちを追うかで線が分かれます。

仕様書の読み取り、棚卸しの一覧、通知文の下書きはAIに任せてかまいませんが、根拠の場所を書かせて人が原文で確かめてください。誰の感情を測るか、社員向けの機能を切るか、例外に当たるかの解釈、通知の要否と出し方は、法務、人事、顧客対応の責任者が決め、感情の推定結果を個人の評価や対応の打ち切りに自動でつなげない線を先に置きます。

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。