ChatGPTをはじめ、AIの活用が進むカスタマーサービスの現場。しかし「ChatGPTよりセキュリティ面で安心できるAIツールはないものか」と感じられるかもしれません。
さらに「日本語運用がしやすいAIツールが知りたい」「コストを抑えられるAI運用の方法が知りたい」と思われることもあるでしょう。
今回は、多くの企業から評価されている「Azure OpenAI」を、コールセンターシステム「Bright Pattern」に連携させてみました。音声IVRの運用にAzure OpenAIを活かす取り組みを、弊社のセールスマネージャー年永がトライしてみました。
AIを活用してコールセンター業務の効率化を実現することや、運用側の負担を減らしつつも顧客体験を向上させるための施策づくりにご参考ください。
トライする内容
Azure Open AIを使って、音声IVRの運用と担当オペレーターへのルーティングを試してみます。あらかじめオペレーターのスキルを定めておいて、スキルに応じたルーティングを行っていきます。
Azure OpenAIを取り入れた顧客対応の流れは、以下の通りです。
- IVRによる応答
- お客さまの応答をテキスト化
- お客さまの要望をAzure OpenAIがカテゴリ分け
- Bright Patternがオペレーターへルーティング
Bright Patternの一押しポイント
Bright Patternは標準機能で、オペレーターのスキルを細かく設定できます。（下図参照）
Azure OpenAIを使ってIVR運用をするメリット
Azure OpenAIを使って音声IVRの運用をするメリットは2つあります。
顧客体験の向上
IVRの運用で課題になるのが、お客さまはアナウンスを最後まで聞かないといけないという点です。自分が要望するメニューが出てくるまでアナウンスを聞く必要があります。
しかしAzure OpenAIを連携させることで、お客さまはメニューを最後まで聞く必要がなくなります。自分の用件を話すだけで、自動で適切なオペレーターへすぐつないでくれるようになるのです。該当する部署やオペレーターに出会うまでたらいまわしにされる状況を避けられます。
業務の効率化
コールセンター側では、対応時間の短縮が実現できます。IVRで一連のメニューを全て再生せずに、お客さまの用件を最初に聞いて、すぐにルーティングできるからです。
さらに、従来のIVRのシナリオ作成で必要だった「表現方法の違い」や「間違えやすい表現」に対処するための条件設定が最小限で済みます。この点に関して、Azure OpenAIがどのように貢献してくれるかは後ほど説明します。
トライする環境
Azure OpenAIとBright Patternを連携させる環境は次の通りです。
- Bright Patternのライセンス設定－最安のボイスセレクトプラン
- 使用するBright Patternの機能－ACD（ルーティング）機能、スキル機能
- Bright Pattern以外に必要なツール－Azure OpenAI Service
- 必要なAPI－Google speech to text API（文字起こし用）、GPT-3.5-text-davinci-003 API（カテゴリ分け用）
年永からのひとこと
検証用にこのモデル（GPT-3.5-text-davinci-003）を利用したものの、業務に応じてどのモデルを利用するかはそれぞれ検討なさることをおすすめします。
仮想コールセンターの設定
クレジットカードを運用するコールセンターでの受付対応。「カードを紛失したお客さま」の対応を実施する。
Azure OpenAI ServiceとBright Patternの連携内容
1.Google speech to text APIとの連携
2.Azure OpenAIとの連携
3.文字起こしされた情報の出力先を決める
4.APIの待ち時間を稼ぐためのプロンプト設定
APIから返事が返ってきたタイミングで「このままお待ちください」のプロンプトをキャンセルし、次へ進むように設定しています。（下図参照）
年永からのひとこと
リクエストに対するレスポンスの速度は多くの方が気にされるところかと思います。Azure OpenAI Service（GPT-3.5-text-davinci-003）では、「少々お待ちください」とプロンプトが流れている間に、分類結果が返ってくる程度の遅延しかありません。実用に十分耐える応答速度と感じました。
5.カテゴリの分岐先の設定
下記の分類先のどれに近いかをAzure OpenAIに判断してもらいます。
下図のように「サンプルに従って分類する」との指示を英語にするとトークンを節約できます。
6.Azure OpenAIが返してきた返答をカテゴリ先へ振り分ける
7.適切なオペレーターへルーティングさせる設定
Azure OpenAIとコールセンターシステム連携の動作確認をしよう
Azure OpenAIがコールセンターシステム連携におすすめな3つの理由
Azure OpenAIがコールセンターシステムと連携するのにおすすめな理由は3つあります。
- ChatGPTに比べてAzure OpenAIはセキュリティが高い
- Azure OpenAIは日本語での運用がしやすい
- Azure OpenAIは柔軟なコスト管理ができる
それぞれのポイントについて解説します。
ChatGPTに比べてAzure OpenAIはセキュリティが高い
Azure OpenAIには、「アクセス元のIPを制限できる」という特徴があります。つまり自社で運用しているBright Pattern以外からは、Azure OpenAIのデータにアクセスできないようにさせることができるのです。
一方、ChatGPTはキーが漏れてしまったらデータにアクセスし放題になってしまいます。
別のAzure OpenAIの特徴は、「情報漏洩のリスクが少ない」という点です。
ChatGPTのAPIデータポリシーを見ると、30日間はデータが不正利用されていないか調査されることが分かります。この調査にはChatGPTだけではなく、第三者の機関も調査に参加する可能性があると記されています。つまり第三者にデータが見られてしまう可能性があるということなのです。
一方、Azure OpenAIのセキュリティに関する公式記事を見ますと、30日間の調査を目的としたデータ保管期間があるものの、調査は許可されたマイクロソフトの社員だけで行われます。しかも申請をして認められれば、監視対象から外れることも可能です。つまりコールセンターシステムで扱う情報をしっかり保護できるのです。
Azure OpenAIは日本語での運用がしやすい
Azure OpenAIは、文脈からお客さまの「要望」を判断し、カテゴリ分けしてくれます。たとえ「要望」の中に判断を迷わせるような表現が入っていたとしても、間違いやすい表現に引っ張られにくいという特徴があります。
たとえばお客さまが、「利用明細を確認していたら、使った覚えがない請求がありまして、確認してほしいんです」との要望を伝えるとします。お客さまの要望に沿った分類先は「身に覚えのない請求」です。しかし、これまでは「利用明細」というキーワードに引っ張られていて、「利用明細の確認」というカテゴリへ振り分けられていました。
その間違いを防ぐために、「お客さまによる表現方法の違い」や「間違えやすい表現」を想定して、さまざまなシナリオを作成しなければいけませんでした。引っ張られやすい表現の洗い出しと、正しいカテゴリ分けの設定作業が大変だったのです。
しかしAzure OpenAIでは、文章全体を判断し、正しく「身に覚えのない請求」というへカテゴリへ分類してくれます。もちろんAIが正確な判断ができるように、正しいカテゴリ分けの設定作業がゼロになるわけではありませんが、最小限で済みます。
Azure OpenAIの判断精度について、別の例も取り上げます。
これまでは「海外利用」というキーワードが入っていないと「海外での利用」へとカテゴリ分けされませんでした。しかしAzure OpenAIでは、お客さまが「自分のクレジットカードがマレーシアで使えるか知りたい」といった「海外利用」というキーワードが入っていない要望を話したとしても、「海外での利用」へカテゴリ分けしてくれます。
Azure OpenAIは日本語の文章を理解する精度が高いため、シナリオ設計時の作業時間や労力を大幅に効率化できます。
Azure OpenAIは柔軟なコスト管理ができる
Azure OpenAIでは、「事前に用意されたモデル」から選択することが可能ですし、自社の資料を読み込ませてモデルを教育する「ファインチューニングモデル」も利用できるようになっています。
事前に用意されたモデルを利用する場合、毎回のAPI問い合わせでカテゴリ分類例を命令文の中に含めます。
カテゴリ分類例が数千になる場合や、AIに読み込ませたい資料が大量になる場合には、ファインチューニングが必要になるかもしれません。
いずれにしてもAzure OpenAIは、自分たちが運用する内容に合わせてコスト管理がしやすくなっています。
以下に事前に用意されているモデルを利用した場合と、ファインチューニングしたモデルを利用した場合の特徴をまとめておきます。
事前に用意されているモデル：命令文の長さ（単位：トークン）に応じて単価が決まるAPIの利用料のみ。
ファインチューニングモデル：API利用料とモデルの維持料金が必要。トークン単価が高い。
年永からのひとこと
「事前に用意されたモデル」で設定できる内容を見ると、「ファインチューニングモデル」の使用は最終手段でよいと思います。変数の設定画面の中だけで調整できるのであれば、「事前に用意されたモデル」で運用できると感じました。
Bright PatternはAzure OpenAIの運用がしやすいコールセンターシステム
Bright Patternの一押しポイント
Bright Patternでは、シナリオ機能でAPIの利用ができるようになっています。さらに、シナリオ作成がドラッグアンドドロップで実行できます。オペレーターの細かなスキル設定も、標準機能で行えます。
音声IVRの運用やAI連携をする際に、「連携の設定を現場でできるのか」「シナリオを自分で作成できるのか」など不安になるかもしれません。Bright Patternであれば、今回実行したAzure OpenAIと連携させ、音声IVRの運用をすることが簡単に実現できます。
最後に
前回の「ChatGPTをコールセンターシステム「Bright Pattern」に連携してみた」はおかげさまで大好評でした。ご感想を伺う中で、「Azure OpenAIも試してほしい」とのお声をいただきました。
そこで今回は、Azure OpenAIとBright Patternを連携させ、音声IVRの運用を試してみました。いかがだったでしょうか。
いまBright Patternをご利用のお客さまも、他社システムをご利用中の方も、さらに「こんなことを試してみたい」「Bright Patternでこれって実現できるのかな」という要望がございましたらお気軽にご相談ください。