Media > AI活用ユースケース > カスタマーサポート > 電話応対の録音から、評価の下書きと本人へのフィードバックを作る

電話応対の録音から、評価の下書きと本人へのフィードバックを作る

実装ステータス:構成例 技術的に実現可能な構成として設計したもの。自社未検証

応対の録音を文字起こしして話者を分け、評価項目ごとに「該当する発言」を引用した評価の下書きを作ります。管理者の作業は、録音を頭から聞いて評価票を埋めることから、下書きと該当箇所を確認して本人に返すことに変わります。

サマリー
利用ツール
Amazon Kendra/Azure AI/ChatGPT/Claude/Gemini/Google Vertex AI/Make/n8n/Power Automate
対象業界
EC/その他/保険/小売/金融
対象部門
カスタマーサポート/品質管理
対象業務
内容確認・チェック/集計・分析
主な課題
人手が足りない/判断に時間がかかる/属人化している
AIで行う処理
判定
主な効果
品質標準化/工数削減/教育コスト削減
導入難易度
★★★☆☆
実装レベル
半自動化
費用感
API連携(中)
人間の確認
必須
現在工数
90h/月
AI導入後
27.5h/月
想定削減
69%
年間削減
750h
モデル条件による試算値です。実在企業の実績ではありません。

01導入前 / 導入後の業務フロー

導入前(Before)
  1. 管理者が、その月の評価対象の通話を選ぶ(オペレーターごとに数件)
  2. 録音を再生して最初から聞く
  3. 評価票の項目(名乗り、要件確認、説明、復唱、終話など)ごとに点数を付ける
  4. 気になった箇所を、時間の位置とともにメモする
  5. 評価票をまとめ、本人へのフィードバックの材料を作る
  6. 面談で本人に伝える
  7. 点数を集計し、月次の傾向をまとめる
導入後(After)
  1. 評価対象の通話を選ぶ(新人は多め、他は無作為に)
  2. 自動録音を文字起こしし、オペレーターと顧客の発言を分ける
  3. 自動氏名、電話番号、カード番号などを伏せる
  4. 自動評価項目ごとに、該当する発言を探して引用する
  5. 自動項目ごとの状態を記述し、評価の下書きを作る
  6. 自動良かった点と、改善の余地がある点を、引用つきで整理する
  7. 管理者が下書きと引用箇所を確認し、必要なら録音の該当箇所だけを聞く
  8. 評価を確定し、本人へのフィードバックを仕上げる
  9. 面談で本人に伝える
各工程の詳しい説明を読む
  1. 管理者が、その月の評価対象の通話を選ぶ(オペレーターごとに数件)
  2. 録音を再生して最初から聞く
  3. 評価票の項目(名乗り、要件確認、説明、復唱、終話など)ごとに点数を付ける
  4. 気になった箇所を、時間の位置とともにメモする
  5. 評価票をまとめ、本人へのフィードバックの材料を作る
  6. 面談で本人に伝える
  7. 点数を集計し、月次の傾向をまとめる

問題は4つあります。

(a)聞く時間が取れない。 6分の通話を評価するのに、巻き戻しを含めて12分かかります。管理者は日常の二次対応も担っており、評価は後回しになります。

(b)評価者によって差が出る。 同じ通話でも、評価者によって点数が変わります。項目の解釈が人によって違うためです。

(c)新人に十分に返せない。 もっともフィードバックが必要な時期に、月2件しか聞けていません。

(d)良い応対が共有されない。 点数の高い応対があっても、それを教材として残す手間がかけられず、個人の中に留まります。

  1. 評価対象の通話を選ぶ(新人は多め、他は無作為に)
  2. 【自動】 録音を文字起こしし、オペレーターと顧客の発言を分ける
  3. 【自動】 氏名、電話番号、カード番号などを伏せる
  4. 【自動】 評価項目ごとに、該当する発言を探して引用する
  5. 【自動】 項目ごとの状態を記述し、評価の下書きを作る
  6. 【自動】 良かった点と、改善の余地がある点を、引用つきで整理する
  7. 【人】 管理者が下書きと引用箇所を確認し、必要なら録音の該当箇所だけを聞く
  8. 【人】 評価を確定し、本人へのフィードバックを仕上げる
  9. 【人】 面談で本人に伝える

自動化されるのは「聞く」「探す」「書き出す」の3つです。残るのは「評価を決めること」と「本人に伝えること」です。

02今回想定するシステム構成

構成図
電話システムの通話録音(音声ファイル)
   │
   ▼ ストレージへ保存
   │
   ▼【トリガー】評価対象として選ばれたとき
Power Automate
   │
   ├──▶ Azure AI Speech(バッチ文字起こし)
   │       ├─ 話者分離(オペレーターと顧客を分ける)
   │       └─ 完了の通知を受け取って結果を取得
   │
   ├──▶ 個人情報のマスク(氏名・電話番号・カード番号・住所)
   │
   ├──▶ Claude API ── 評価項目ごとの該当箇所の抽出と、評価の下書き
   │
   └──▶ 評価シート(項目・引用・下書き)+ 管理者へ通知
   │
   ▼【人が確定】管理者が確認し、評価とフィードバックを仕上げる
役割想定する製品代替候補
ワークフローPower AutomateMake、n8n
処理Azure AI SpeechGoogle Vertex AI、Amazon Kendra
生成AIClaude APIOpenAI API、Gemini API
録音の保管Azure Blob StorageSharePoint
評価シートMicrosoft ListsGoogleスプレッドシート

文字起こしと評価を分けます。 音声から直接評価させるのではなく、文字起こしを経由することで、引用が可能になり、後から確認できるようになります。

03どうやって実装するのか

Step1

処理の起点を決める

評価対象として選ばれた通話がストレージに置かれたときを起点にします。全件を自動で処理しません。

理由は2つあります。第一に、全通話を評価すると監視になります。第二に、費用が通話時間に比例します。評価対象の選び方(新人は多め、他は無作為)を運用として決め、その分だけを処理します。

バッチ文字起こしは完了まで時間がかかるため、完了を待って次に進む作りにします。Azure AI Speech では、処理の状態を問い合わせる方法のほかに、完了時に通知を受け取る仕組み(Webhook)が用意されています。通知を受ける側の設定には注意点があり、登録時の確認要求に対して、受け取った文字列をそのまま平文で返す必要があります。

Step2

入力データを集める

データ中身取得元
通話録音1通話1ファイル電話システム
通話の情報オペレーター、日時、通話時間、用件区分電話システム
評価項目の定義項目名、何ができていればよいか、例文設定ファイル
過去の評価そのオペレーターの前回までの評価と指摘評価シート

3番目の定義が、この構成の品質を決めます。 「共感を示せているか」だけでは判定できません。「顧客が不便を述べた直後に、その内容を受け止める発言があるか」のように、文字起こしから確認できる形に言い換えます。

Step3

データの取得方法を決める

文字起こし: Azure AI Speech のバッチ文字起こしを使います。音声ファイルの場所(contentUrls または contentContainerUrl)、言語(locale)、名前(displayName)、保持期間(timeToLiveHours)を指定して登録します。保持期間は必須の指定で、最短6時間・最長31日、直接利用する場合は48時間が推奨されています。

話者の分離: 話者分離は既定では無効で、diarizationEnabledtrue にすると有効になります。モノラルの音声が前提で、ステレオ録音では使えません。 2チャンネルのステレオであれば、もともと1チャンネルに1話者が入っているためです。3人以上が話す通話では diarization の指定も必要で、話者数の最小・最大を指定します。話者分離を使う場合、1ファイルの音声は240分までという制限があります。

電話の録音では、どちらのチャンネルに誰が入っているかを先に確認してください。 オペレーターと顧客が別チャンネルで録音されていれば、話者分離そのものが不要になり、精度の問題も起きません。

結果の保存先: 結果を自社のストレージに保存したい場合、その指定は要求の properties の中に入れます。上の階層に置くと無視され、結果はサービス側の管理する場所に保存されます。

Step4

AIへ渡す前に整形する

  1. 音声の形式を揃える … 話者分離を使う場合、モノラルであることを確認します
  2. 短すぎる通話の除外 … 30秒未満の通話(間違い電話、無言)は評価の対象外にします
  3. 個人情報のマスク … 文字起こしのあと、氏名、電話番号、住所、注文番号、カード番号を伏せます。生成AIへ渡す前に必ず行います
  4. 保留・転送の区切り … 保留中の無音や、転送後の別担当者の発言を分けます
  5. 用件区分の付与 … 注文受付と苦情対応では評価の観点が違うため、区分を渡します

3番は、この構成でもっとも重要な前処理です。通話には氏名・住所・カード番号が必ず出てきます。

Step5

AIに処理させる

処理内容
該当箇所の抽出評価項目ごとに、該当する発言を文字起こしから引用する
状態の記述その項目について、何ができていて何ができていないかを事実として書く
良かった点引用つきで2〜3点
改善の余地がある点引用つきで2〜3点。言い換えの案を添える
該当なしの明示項目に該当する発言が見つからない場合、その旨を返す

点数を付けさせないでください。 点数は評価者が付けます。AIが点数を出すと、管理者がそれを追認するだけになり、評価の責任の所在が曖昧になります。

Step6

指示内容を固定する

あなたは電話応対の品質評価を補佐する担当者です。
通話の文字起こしと、評価項目の定義を渡します。
項目ごとに該当する箇所を引用し、状態を記述してください。

【厳守事項】
- 点数や総合評価を付けないでください。
- 各項目について、該当する発言を文字起こしからそのまま引用してください。
  引用できない場合は「該当する発言は見つかりませんでした」と書いてください。
  引用のない指摘を書かないでください。
- 声の調子、話す速さ、間の取り方について書かないでください。
  文字起こしからは分かりません。
- オペレーターの性格や姿勢について書かないでください。
  「やる気が感じられない」のような記述は禁止です。
  発言と、その発言がどの項目に当たるかだけを書いてください。
- 顧客の発言を評価しないでください。
- 改善の余地がある点には、具体的な言い換えの案を1つ添えてください。
- 通話の中に個人情報が残っている場合は、引用の中でも伏せてください。

【評価項目の定義】
{rubric}

【用件区分】
{call_type}

【文字起こし(話者分離済み・マスク済み)】
{transcript}

「性格や姿勢について書かない」の1行を必ず入れてください。 これが無いと、生成AIは「対応が事務的で冷たい印象を与える」といった記述を書きます。本人に返すフィードバックとして、もっとも扱いが難しい種類の文章です。

Step7

出力形式を固定する

{
  "call_id": "",
  "operator_id": "",
  "call_type": "",
  "items": [
    {
      "item": "名乗り",
      "found": true,
      "quote": "",
      "observation": ""
    }
  ],
  "good_points": [
    { "quote": "", "why": "" }
  ],
  "improvements": [
    { "quote": "", "issue": "", "suggested_phrase": "" }
  ],
  "transcript_quality": "good | partial | poor",
  "masked_items": []
}

transcript_quality を持たせるのは、文字起こしがうまくいかなかった通話を評価に使わないためです。雑音や回線の状態で精度が落ちた通話を評価すると、オペレーターにとって不公平になります。

masked_items には、伏せた情報の種類を入れます。マスクが効いているかの確認に使います。

Step8

システムへ連携する

出し先内容
評価シート項目ごとの引用と下書き、管理者が確定した評価
本人へのフィードバック良かった点・改善点(管理者が仕上げたもの)
教材の候補評価の高い応対の該当箇所(本人の同意を得てから)
月次の傾向項目ごとの状況を集計

録音そのものを本人以外に広く共有しないでください。 教材として使う場合は、本人の同意を得たうえで、該当箇所のみを使います。

Step9

人が確認する

全件、管理者が確認して評価を確定します。

理由は、評価が人の処遇や育成に関わるためです。文字起こしからは分からない要素(声の調子、間、顧客の反応の速さ)があり、引用された箇所だけを聞き直して判断する運用にします。

確認を速くするための設計が要ります。

  • 引用箇所に、録音の再生位置へのリンクを付ける
  • 「該当する発言が見つからなかった」項目を先頭に出す
  • 前回の評価で指摘した点を並べて表示する
  • 文字起こしの品質が低い通話に印を付ける

録音の頭から聞き直す必要がなくなることが、時間短縮のほぼすべてです。

Step10

例外に対処する

起きること対応
文字起こしの精度が低いtranscript_quality を poor にし、評価に使わない
話者分離が正しくないチャンネル分離された録音を優先する。分離の誤りが疑われる通話は人が聞く
3人以上が話す(転送・上席対応)話者数の指定を調整する。難しい場合は人が聞く
通話が240分を超える分割して処理する
保留が長い保留部分を除いて評価する
苦情・クレームの通話通常の評価票で評価しない。 別の観点で管理者が対応する
個人情報がマスクされずに残ったマスクの対象を増やす。出力前に検査する
評価が低い通話が続く仕組みで処理を止め、管理者が直接聞いて面談する
オペレーターから評価に異議が出た引用箇所と録音で確認する。記録が残っていることが前提
Step11

記録を残す

  • 録音(保存期間は自社の規程に従う)
  • 文字起こしとマスク処理の結果
  • AIの下書きと、管理者が確定した評価の差
  • 本人へ返したフィードバック
  • 異議とその対応

3番目を定期的に見てください。 管理者が毎回同じ項目を書き換えているなら、評価項目の定義が実務に合っていません。定義を直すほうが、プロンプトを直すより効きます。

04実装レベルの3段階

最小構成:文字起こしサービスに投入し、テキストを生成AIに貼り付けて引用を出させる / 聞く作業の代替
半自動化:対象通話の選択 → 文字起こし → マスク → 評価の下書き → 評価シートへ出力 / 下書きの作成まで
本格構成:上記+録音の再生位置へのリンク+前回指摘の引き継ぎ+月次の傾向の集計 / 確認の効率化まで

半自動化で18分が7分程度になります。 本格構成にすると5.5分程度になり、加えて過去の指摘との比較ができるようになります。

05工数削減シミュレーション

前提値(モデル条件)
対象人数
4 名
月間件数
300 件
1件あたり現在時間
18 分
1件あたり導入後時間
5.5 分
現在  300件 × 18分 ÷ 60 = 90 時間/月
導入後 300件 × 5.5分 ÷ 60 = 27.5 時間/月
月間削減時間
62.5h
削減率
69%
年間削減時間
750h
年間金額換算(時間単価3,000円)
225万円
モデル条件による試算であり、実際の効果は業務内容・運用方法によって異なります。

自社条件で導入効果を整理したい方へ

このユースケースを自社に当てはめた場合の前提値と削減見込みを、業務ヒアリングをもとに整理します。

AI活用について相談する

06向いている企業・向いていない企業

向いている
  1. オペレーターが20名以上おり、応対品質の評価を管理者が録音を聞いて行っている組織。評価できる件数が少なく、新人に十分なフィードバックが返せていない場合。
向いていない
  1. 応対の録音を取っていない場合。オペレーターが数名で、日常的に隣で聞ける規模の場合。録音の利用について案内と周知ができていない場合。

07最小構成で試す方法

  1. 過去の通話から10件を選ぶ(新人・ベテラン、用件区分がばらけるように)
  2. 文字起こしサービスに投入し、話者が正しく分かれるかを確認する
  3. 文字起こしから氏名・電話番号・住所を手で伏せる
  4. 評価項目の定義とともに生成AIへ渡し、項目ごとの引用を出させる
  5. 管理者が実際に録音を聞いた評価と突き合わせる

2番が最初の関門です。 話者が分かれないなら、録音の取り方(チャンネル分離)から見直します。

判断の目安は次のとおりです。

10件の結果判断
話者が正しく分かれ、引用も妥当半自動化に進む
話者は分かれるが引用が的外れ評価項目の定義を、文字から確認できる形に書き直す
話者が分かれない録音の設定を確認する。チャンネル分離ができるなら話者分離は不要

この検証には実際の通話を使います。個人情報の扱いについて、13章を先に読んでください。

08実装時につまずきやすいポイント

問題対策
話者が分かれないチャンネル分離された録音を使う。話者分離はモノラルが前提
3人以上の通話で分離が乱れる話者数の範囲を指定する。難しい通話は人が聞く
結果が自社のストレージに保存されない保存先の指定を properties の中に入れる。上の階層に書くと無視される
完了の通知が届かない通知の登録時の確認要求に、受け取った文字列を平文で返す
個人情報が下書きに残るマスクを文字起こしの直後に行う。出力前に検査する
評価が「印象」の記述になる性格・姿勢の記述を禁じる。引用を必須にする
点数をAIが付けてしまう出力に点数の欄を作らない
管理者が下書きを追認するだけになる引用箇所を必ず聞く運用にする。書き換えの記録を残す
オペレーターが監視だと受け取る目的を明示する。全通話を対象にしない。評価の使い道を先に決める

09セキュリティ・AIガバナンス上の注意点

この構成で扱うデータ: 通話録音、文字起こし、顧客の氏名・連絡先・注文内容、オペレーターの応対内容。顧客の個人情報と、従業員の業務遂行の記録の両方を含みます。

  1. 顧客への案内 … 通話を録音していること、その利用目的を、入電時の案内や利用規約で示してください。評価や品質改善に使うことが案内の範囲に含まれるかを確認してください
  2. 従業員への説明 … 録音を評価に使うこと、どの範囲を対象にするか、結果をどう扱うかを、導入前に説明してください。説明のないまま始めると、現場の信頼を失います
  3. 個人情報のマスク … 氏名、電話番号、住所、カード番号、注文番号を、生成AIへ渡す前に伏せます。カード番号は通話中に読み上げられることがあります。 マスクの検査を出力前に行ってください
  4. 外部AIへの入力 … 音声と文字起こしが外部のサービスへ渡ります。データの保存地域、保持期間、学習利用の有無を契約で確認してください。バッチ文字起こしでは結果の保持期間を指定でき、自社のストレージに保存する設定も選べます
  5. 人事評価への使い方 … この構成は育成のためのものです。評価の結果をそのまま処遇に反映する運用にするなら、評価制度としての妥当性を別途検討してください。 AIの下書きを根拠にした不利益な扱いは、説明が難しくなります
  6. アクセス権限 … 録音と文字起こしの閲覧を、管理者・品質担当・本人に限定します
  7. 自動実行してよい範囲 … 文字起こし、マスク、下書きの作成までです。評価の確定と本人への伝達は、必ず人が行います

誤りが起きた場合のリスクは、誤った評価が本人に伝わること、顧客の個人情報が外部へ渡ることです。前者は信頼関係を損ね、後者は事故になります。 マスクの確認を運用に組み込んでください。

10まず何から始めるか

1週目:録音の形式と、案内・説明の状況を確認する

通話がモノラルかステレオか、オペレーターと顧客がチャンネルで分かれているかを確認します。同時に、顧客への録音の案内と、従業員への説明がどこまでできているかを確かめます。説明が済んでいなければ、そこから始めます。

2週目:10件で文字起こしと引用を試す

話者が分かれるか、評価項目の引用が妥当かを確認します。評価項目の定義を、文字から確認できる形に書き直します。

3〜4週目:1チームで半自動化を動かす

対象の選択から評価シートへの出力までを作り、管理者2名が4週間使います。18分が何分になるか、下書きのどこを書き換えているかを記録します。

2か月目以降: 引用箇所から録音を再生できるようにし、前回の指摘を引き継ぐ形にします。浮いた時間を件数の増加に充てるのか、管理者の負担軽減に充てるのかを、この時点で決めてください。


11関連ユースケース

12この仕組みを理解するための記事

13技術仕様の確認日・参考情報

技術仕様確認日:2026-09-15/最終更新:2026-09-15
確認した内容情報源確認日
Azure AI Speech のバッチ文字起こしで、音声の場所・言語・名前・保持期間を指定して処理を登録すること。保持期間は必須で最短6時間・最長31日(推奨48時間)であること。話者分離(diarizationEnabled)の既定値が false で、モノラル音声が前提でありステレオでは使えないこと。3人以上の話者では diarization の指定が必要で、話者分離を使う場合は1ファイル240分までであること。結果の保存先の指定は properties の中に置く必要があり、上の階層に置くと無視されること。完了の通知(Webhook)が利用でき、登録時の確認要求には受け取った文字列を平文で返す必要があることMicrosoft Learn: Create a batch transcription2026-09-15
話者分離が、会話に参加している話者を区別し、どの部分を誰が話したかの情報を返す機能であることMicrosoft Learn: Real-time diarization quickstart2026-09-15

電話システムからの録音の取り出し方式と、チャンネルの構成は製品によって異なります。この部分は利用環境に応じた個別確認が必要です。 録音の利用目的の案内、従業員への説明、評価結果の処遇への反映については、自社の規程と労使の取り決めに照らして判断してください。

実装ステータス:構成例。 公開仕様に基づいて設計した構成であり、当社で実際に構築・検証したものではありません。工数の数値はモデル条件による試算です。

自社の業務に使えるAI活用候補を整理します

このユースケース(UC-0089)についてのご相談はこちらから。

AI活用について相談する
目次