電話応対の録音から、評価の下書きと本人へのフィードバックを作る
応対の録音を文字起こしして話者を分け、評価項目ごとに「該当する発言」を引用した評価の下書きを作ります。管理者の作業は、録音を頭から聞いて評価票を埋めることから、下書きと該当箇所を確認して本人に返すことに変わります。
- 利用ツール
- Amazon Kendra/Azure AI/ChatGPT/Claude/Gemini/Google Vertex AI/Make/n8n/Power Automate
- 対象業界
- EC/その他/保険/小売/金融
- 対象部門
- カスタマーサポート/品質管理
- 対象業務
- 内容確認・チェック/集計・分析
- 主な課題
- 人手が足りない/判断に時間がかかる/属人化している
- AIで行う処理
- 判定
- 主な効果
- 品質標準化/工数削減/教育コスト削減
- 導入難易度
- ★★★☆☆
- 実装レベル
- 半自動化
- 費用感
- API連携(中)
- 人間の確認
- 必須
01導入前 / 導入後の業務フロー
- 管理者が、その月の評価対象の通話を選ぶ(オペレーターごとに数件)
- 録音を再生して最初から聞く
- 評価票の項目(名乗り、要件確認、説明、復唱、終話など)ごとに点数を付ける
- 気になった箇所を、時間の位置とともにメモする
- 評価票をまとめ、本人へのフィードバックの材料を作る
- 面談で本人に伝える
- 点数を集計し、月次の傾向をまとめる
- 評価対象の通話を選ぶ(新人は多め、他は無作為に)
- 自動録音を文字起こしし、オペレーターと顧客の発言を分ける
- 自動氏名、電話番号、カード番号などを伏せる
- 自動評価項目ごとに、該当する発言を探して引用する
- 自動項目ごとの状態を記述し、評価の下書きを作る
- 自動良かった点と、改善の余地がある点を、引用つきで整理する
- 人管理者が下書きと引用箇所を確認し、必要なら録音の該当箇所だけを聞く
- 人評価を確定し、本人へのフィードバックを仕上げる
- 人面談で本人に伝える
各工程の詳しい説明を読む
- 管理者が、その月の評価対象の通話を選ぶ(オペレーターごとに数件)
- 録音を再生して最初から聞く
- 評価票の項目(名乗り、要件確認、説明、復唱、終話など)ごとに点数を付ける
- 気になった箇所を、時間の位置とともにメモする
- 評価票をまとめ、本人へのフィードバックの材料を作る
- 面談で本人に伝える
- 点数を集計し、月次の傾向をまとめる
問題は4つあります。
(a)聞く時間が取れない。 6分の通話を評価するのに、巻き戻しを含めて12分かかります。管理者は日常の二次対応も担っており、評価は後回しになります。
(b)評価者によって差が出る。 同じ通話でも、評価者によって点数が変わります。項目の解釈が人によって違うためです。
(c)新人に十分に返せない。 もっともフィードバックが必要な時期に、月2件しか聞けていません。
(d)良い応対が共有されない。 点数の高い応対があっても、それを教材として残す手間がかけられず、個人の中に留まります。
- 評価対象の通話を選ぶ(新人は多め、他は無作為に)
- 【自動】 録音を文字起こしし、オペレーターと顧客の発言を分ける
- 【自動】 氏名、電話番号、カード番号などを伏せる
- 【自動】 評価項目ごとに、該当する発言を探して引用する
- 【自動】 項目ごとの状態を記述し、評価の下書きを作る
- 【自動】 良かった点と、改善の余地がある点を、引用つきで整理する
- 【人】 管理者が下書きと引用箇所を確認し、必要なら録音の該当箇所だけを聞く
- 【人】 評価を確定し、本人へのフィードバックを仕上げる
- 【人】 面談で本人に伝える
自動化されるのは「聞く」「探す」「書き出す」の3つです。残るのは「評価を決めること」と「本人に伝えること」です。
02今回想定するシステム構成
電話システムの通話録音(音声ファイル) │ ▼ ストレージへ保存 │ ▼【トリガー】評価対象として選ばれたとき Power Automate │ ├──▶ Azure AI Speech(バッチ文字起こし) │ ├─ 話者分離(オペレーターと顧客を分ける) │ └─ 完了の通知を受け取って結果を取得 │ ├──▶ 個人情報のマスク(氏名・電話番号・カード番号・住所) │ ├──▶ Claude API ── 評価項目ごとの該当箇所の抽出と、評価の下書き │ └──▶ 評価シート(項目・引用・下書き)+ 管理者へ通知 │ ▼【人が確定】管理者が確認し、評価とフィードバックを仕上げる
| 役割 | 想定する製品 | 代替候補 |
|---|---|---|
| ワークフロー | Power Automate | Make、n8n |
| 処理 | Azure AI Speech | Google Vertex AI、Amazon Kendra |
| 生成AI | Claude API | OpenAI API、Gemini API |
| 録音の保管 | Azure Blob Storage | SharePoint |
| 評価シート | Microsoft Lists | Googleスプレッドシート |
文字起こしと評価を分けます。 音声から直接評価させるのではなく、文字起こしを経由することで、引用が可能になり、後から確認できるようになります。
03どうやって実装するのか
処理の起点を決める
評価対象として選ばれた通話がストレージに置かれたときを起点にします。全件を自動で処理しません。
理由は2つあります。第一に、全通話を評価すると監視になります。第二に、費用が通話時間に比例します。評価対象の選び方(新人は多め、他は無作為)を運用として決め、その分だけを処理します。
バッチ文字起こしは完了まで時間がかかるため、完了を待って次に進む作りにします。Azure AI Speech では、処理の状態を問い合わせる方法のほかに、完了時に通知を受け取る仕組み(Webhook)が用意されています。通知を受ける側の設定には注意点があり、登録時の確認要求に対して、受け取った文字列をそのまま平文で返す必要があります。
入力データを集める
| データ | 中身 | 取得元 |
|---|---|---|
| 通話録音 | 1通話1ファイル | 電話システム |
| 通話の情報 | オペレーター、日時、通話時間、用件区分 | 電話システム |
| 評価項目の定義 | 項目名、何ができていればよいか、例文 | 設定ファイル |
| 過去の評価 | そのオペレーターの前回までの評価と指摘 | 評価シート |
3番目の定義が、この構成の品質を決めます。 「共感を示せているか」だけでは判定できません。「顧客が不便を述べた直後に、その内容を受け止める発言があるか」のように、文字起こしから確認できる形に言い換えます。
データの取得方法を決める
文字起こし: Azure AI Speech のバッチ文字起こしを使います。音声ファイルの場所(contentUrls または contentContainerUrl)、言語(locale)、名前(displayName)、保持期間(timeToLiveHours)を指定して登録します。保持期間は必須の指定で、最短6時間・最長31日、直接利用する場合は48時間が推奨されています。
話者の分離: 話者分離は既定では無効で、diarizationEnabled を true にすると有効になります。モノラルの音声が前提で、ステレオ録音では使えません。 2チャンネルのステレオであれば、もともと1チャンネルに1話者が入っているためです。3人以上が話す通話では diarization の指定も必要で、話者数の最小・最大を指定します。話者分離を使う場合、1ファイルの音声は240分までという制限があります。
電話の録音では、どちらのチャンネルに誰が入っているかを先に確認してください。 オペレーターと顧客が別チャンネルで録音されていれば、話者分離そのものが不要になり、精度の問題も起きません。
結果の保存先: 結果を自社のストレージに保存したい場合、その指定は要求の properties の中に入れます。上の階層に置くと無視され、結果はサービス側の管理する場所に保存されます。
AIへ渡す前に整形する
- 音声の形式を揃える … 話者分離を使う場合、モノラルであることを確認します
- 短すぎる通話の除外 … 30秒未満の通話(間違い電話、無言)は評価の対象外にします
- 個人情報のマスク … 文字起こしのあと、氏名、電話番号、住所、注文番号、カード番号を伏せます。生成AIへ渡す前に必ず行います
- 保留・転送の区切り … 保留中の無音や、転送後の別担当者の発言を分けます
- 用件区分の付与 … 注文受付と苦情対応では評価の観点が違うため、区分を渡します
3番は、この構成でもっとも重要な前処理です。通話には氏名・住所・カード番号が必ず出てきます。
AIに処理させる
| 処理 | 内容 |
|---|---|
| 該当箇所の抽出 | 評価項目ごとに、該当する発言を文字起こしから引用する |
| 状態の記述 | その項目について、何ができていて何ができていないかを事実として書く |
| 良かった点 | 引用つきで2〜3点 |
| 改善の余地がある点 | 引用つきで2〜3点。言い換えの案を添える |
| 該当なしの明示 | 項目に該当する発言が見つからない場合、その旨を返す |
点数を付けさせないでください。 点数は評価者が付けます。AIが点数を出すと、管理者がそれを追認するだけになり、評価の責任の所在が曖昧になります。
指示内容を固定する
あなたは電話応対の品質評価を補佐する担当者です。
通話の文字起こしと、評価項目の定義を渡します。
項目ごとに該当する箇所を引用し、状態を記述してください。
【厳守事項】
- 点数や総合評価を付けないでください。
- 各項目について、該当する発言を文字起こしからそのまま引用してください。
引用できない場合は「該当する発言は見つかりませんでした」と書いてください。
引用のない指摘を書かないでください。
- 声の調子、話す速さ、間の取り方について書かないでください。
文字起こしからは分かりません。
- オペレーターの性格や姿勢について書かないでください。
「やる気が感じられない」のような記述は禁止です。
発言と、その発言がどの項目に当たるかだけを書いてください。
- 顧客の発言を評価しないでください。
- 改善の余地がある点には、具体的な言い換えの案を1つ添えてください。
- 通話の中に個人情報が残っている場合は、引用の中でも伏せてください。
【評価項目の定義】
{rubric}
【用件区分】
{call_type}
【文字起こし(話者分離済み・マスク済み)】
{transcript}
「性格や姿勢について書かない」の1行を必ず入れてください。 これが無いと、生成AIは「対応が事務的で冷たい印象を与える」といった記述を書きます。本人に返すフィードバックとして、もっとも扱いが難しい種類の文章です。
出力形式を固定する
{
"call_id": "",
"operator_id": "",
"call_type": "",
"items": [
{
"item": "名乗り",
"found": true,
"quote": "",
"observation": ""
}
],
"good_points": [
{ "quote": "", "why": "" }
],
"improvements": [
{ "quote": "", "issue": "", "suggested_phrase": "" }
],
"transcript_quality": "good | partial | poor",
"masked_items": []
}
transcript_quality を持たせるのは、文字起こしがうまくいかなかった通話を評価に使わないためです。雑音や回線の状態で精度が落ちた通話を評価すると、オペレーターにとって不公平になります。
masked_items には、伏せた情報の種類を入れます。マスクが効いているかの確認に使います。
システムへ連携する
| 出し先 | 内容 |
|---|---|
| 評価シート | 項目ごとの引用と下書き、管理者が確定した評価 |
| 本人へのフィードバック | 良かった点・改善点(管理者が仕上げたもの) |
| 教材の候補 | 評価の高い応対の該当箇所(本人の同意を得てから) |
| 月次の傾向 | 項目ごとの状況を集計 |
録音そのものを本人以外に広く共有しないでください。 教材として使う場合は、本人の同意を得たうえで、該当箇所のみを使います。
人が確認する
全件、管理者が確認して評価を確定します。
理由は、評価が人の処遇や育成に関わるためです。文字起こしからは分からない要素(声の調子、間、顧客の反応の速さ)があり、引用された箇所だけを聞き直して判断する運用にします。
確認を速くするための設計が要ります。
- 引用箇所に、録音の再生位置へのリンクを付ける
- 「該当する発言が見つからなかった」項目を先頭に出す
- 前回の評価で指摘した点を並べて表示する
- 文字起こしの品質が低い通話に印を付ける
録音の頭から聞き直す必要がなくなることが、時間短縮のほぼすべてです。
例外に対処する
| 起きること | 対応 |
|---|---|
| 文字起こしの精度が低い | transcript_quality を poor にし、評価に使わない |
| 話者分離が正しくない | チャンネル分離された録音を優先する。分離の誤りが疑われる通話は人が聞く |
| 3人以上が話す(転送・上席対応) | 話者数の指定を調整する。難しい場合は人が聞く |
| 通話が240分を超える | 分割して処理する |
| 保留が長い | 保留部分を除いて評価する |
| 苦情・クレームの通話 | 通常の評価票で評価しない。 別の観点で管理者が対応する |
| 個人情報がマスクされずに残った | マスクの対象を増やす。出力前に検査する |
| 評価が低い通話が続く | 仕組みで処理を止め、管理者が直接聞いて面談する |
| オペレーターから評価に異議が出た | 引用箇所と録音で確認する。記録が残っていることが前提 |
記録を残す
- 録音(保存期間は自社の規程に従う)
- 文字起こしとマスク処理の結果
- AIの下書きと、管理者が確定した評価の差
- 本人へ返したフィードバック
- 異議とその対応
3番目を定期的に見てください。 管理者が毎回同じ項目を書き換えているなら、評価項目の定義が実務に合っていません。定義を直すほうが、プロンプトを直すより効きます。
04実装レベルの3段階
半自動化で18分が7分程度になります。 本格構成にすると5.5分程度になり、加えて過去の指摘との比較ができるようになります。
05工数削減シミュレーション
導入後 300件 × 5.5分 ÷ 60 = 27.5 時間/月
自社条件で導入効果を整理したい方へ
このユースケースを自社に当てはめた場合の前提値と削減見込みを、業務ヒアリングをもとに整理します。
06向いている企業・向いていない企業
- オペレーターが20名以上おり、応対品質の評価を管理者が録音を聞いて行っている組織。評価できる件数が少なく、新人に十分なフィードバックが返せていない場合。
- 応対の録音を取っていない場合。オペレーターが数名で、日常的に隣で聞ける規模の場合。録音の利用について案内と周知ができていない場合。
07最小構成で試す方法
- 過去の通話から10件を選ぶ(新人・ベテラン、用件区分がばらけるように)
- 文字起こしサービスに投入し、話者が正しく分かれるかを確認する
- 文字起こしから氏名・電話番号・住所を手で伏せる
- 評価項目の定義とともに生成AIへ渡し、項目ごとの引用を出させる
- 管理者が実際に録音を聞いた評価と突き合わせる
2番が最初の関門です。 話者が分かれないなら、録音の取り方(チャンネル分離)から見直します。
判断の目安は次のとおりです。
| 10件の結果 | 判断 |
|---|---|
| 話者が正しく分かれ、引用も妥当 | 半自動化に進む |
| 話者は分かれるが引用が的外れ | 評価項目の定義を、文字から確認できる形に書き直す |
| 話者が分かれない | 録音の設定を確認する。チャンネル分離ができるなら話者分離は不要 |
この検証には実際の通話を使います。個人情報の扱いについて、13章を先に読んでください。
08実装時につまずきやすいポイント
| 問題 | 対策 |
|---|---|
| 話者が分かれない | チャンネル分離された録音を使う。話者分離はモノラルが前提 |
| 3人以上の通話で分離が乱れる | 話者数の範囲を指定する。難しい通話は人が聞く |
| 結果が自社のストレージに保存されない | 保存先の指定を properties の中に入れる。上の階層に書くと無視される |
| 完了の通知が届かない | 通知の登録時の確認要求に、受け取った文字列を平文で返す |
| 個人情報が下書きに残る | マスクを文字起こしの直後に行う。出力前に検査する |
| 評価が「印象」の記述になる | 性格・姿勢の記述を禁じる。引用を必須にする |
| 点数をAIが付けてしまう | 出力に点数の欄を作らない |
| 管理者が下書きを追認するだけになる | 引用箇所を必ず聞く運用にする。書き換えの記録を残す |
| オペレーターが監視だと受け取る | 目的を明示する。全通話を対象にしない。評価の使い道を先に決める |
09セキュリティ・AIガバナンス上の注意点
この構成で扱うデータ: 通話録音、文字起こし、顧客の氏名・連絡先・注文内容、オペレーターの応対内容。顧客の個人情報と、従業員の業務遂行の記録の両方を含みます。
- 顧客への案内 … 通話を録音していること、その利用目的を、入電時の案内や利用規約で示してください。評価や品質改善に使うことが案内の範囲に含まれるかを確認してください
- 従業員への説明 … 録音を評価に使うこと、どの範囲を対象にするか、結果をどう扱うかを、導入前に説明してください。説明のないまま始めると、現場の信頼を失います
- 個人情報のマスク … 氏名、電話番号、住所、カード番号、注文番号を、生成AIへ渡す前に伏せます。カード番号は通話中に読み上げられることがあります。 マスクの検査を出力前に行ってください
- 外部AIへの入力 … 音声と文字起こしが外部のサービスへ渡ります。データの保存地域、保持期間、学習利用の有無を契約で確認してください。バッチ文字起こしでは結果の保持期間を指定でき、自社のストレージに保存する設定も選べます
- 人事評価への使い方 … この構成は育成のためのものです。評価の結果をそのまま処遇に反映する運用にするなら、評価制度としての妥当性を別途検討してください。 AIの下書きを根拠にした不利益な扱いは、説明が難しくなります
- アクセス権限 … 録音と文字起こしの閲覧を、管理者・品質担当・本人に限定します
- 自動実行してよい範囲 … 文字起こし、マスク、下書きの作成までです。評価の確定と本人への伝達は、必ず人が行います
誤りが起きた場合のリスクは、誤った評価が本人に伝わること、顧客の個人情報が外部へ渡ることです。前者は信頼関係を損ね、後者は事故になります。 マスクの確認を運用に組み込んでください。
10まず何から始めるか
1週目:録音の形式と、案内・説明の状況を確認する
通話がモノラルかステレオか、オペレーターと顧客がチャンネルで分かれているかを確認します。同時に、顧客への録音の案内と、従業員への説明がどこまでできているかを確かめます。説明が済んでいなければ、そこから始めます。
2週目:10件で文字起こしと引用を試す
話者が分かれるか、評価項目の引用が妥当かを確認します。評価項目の定義を、文字から確認できる形に書き直します。
3〜4週目:1チームで半自動化を動かす
対象の選択から評価シートへの出力までを作り、管理者2名が4週間使います。18分が何分になるか、下書きのどこを書き換えているかを記録します。
2か月目以降: 引用箇所から録音を再生できるようにし、前回の指摘を引き継ぐ形にします。浮いた時間を件数の増加に充てるのか、管理者の負担軽減に充てるのかを、この時点で決めてください。
11関連ユースケース
12この仕組みを理解するための記事
13技術仕様の確認日・参考情報
| 確認した内容 | 情報源 | 確認日 |
|---|---|---|
Azure AI Speech のバッチ文字起こしで、音声の場所・言語・名前・保持期間を指定して処理を登録すること。保持期間は必須で最短6時間・最長31日(推奨48時間)であること。話者分離(diarizationEnabled)の既定値が false で、モノラル音声が前提でありステレオでは使えないこと。3人以上の話者では diarization の指定が必要で、話者分離を使う場合は1ファイル240分までであること。結果の保存先の指定は properties の中に置く必要があり、上の階層に置くと無視されること。完了の通知(Webhook)が利用でき、登録時の確認要求には受け取った文字列を平文で返す必要があること | Microsoft Learn: Create a batch transcription | 2026-09-15 |
| 話者分離が、会話に参加している話者を区別し、どの部分を誰が話したかの情報を返す機能であること | Microsoft Learn: Real-time diarization quickstart | 2026-09-15 |
電話システムからの録音の取り出し方式と、チャンネルの構成は製品によって異なります。この部分は利用環境に応じた個別確認が必要です。 録音の利用目的の案内、従業員への説明、評価結果の処遇への反映については、自社の規程と労使の取り決めに照らして判断してください。
実装ステータス:構成例。 公開仕様に基づいて設計した構成であり、当社で実際に構築・検証したものではありません。工数の数値はモデル条件による試算です。
自社の業務に使えるAI活用候補を整理します
このユースケース(UC-0089)についてのご相談はこちらから。
