オンプレ閉域LAN内のセキュアな環境で生成AIによる高精度自動要約を実現「VextResume+ powered by Local SLM(β版)」リリース

VextResume+ powered by Local SLM(β版)

ベクスト株式会社(代表取締役社長：小橋 寿彦、本社：東京都目黒区、以下 ベクスト)は、インターネットから遮断されたオンプレ閉域環境でも構築可能なコンタクトセンター向け自動要約ソリューション「VextResume+ powered by Local SLM(β版)」の提供を開始いたしました。

「VextResume+ powered by Local SLM(β版)」はベクスト独自の自然言語処理(NLP)技術と小規模言語モデル(SLM)の推論能力を活用することで、音声認識システムから自動取得した音声認識テキストを、事前のルール定義や辞書設定無しで高精度に自動要約し、人間工学に基づくUI／UXデザインでオペレーターの応対履歴入力を支援するコンタクトセンター向けソリューションです。テキストマイニング技術を応用し、生成AI特有のハルシネーション(＝事実に基づかない情報)をチェックする機能や、音声認識テキストに含まれる個人情報の自動マスキング機能などを搭載しています。
ベクスト独自の再学習やマージ等の最先端手法で構成されたLocal SLMで、導入後すぐに高精度・高速に動作する要約機能を安心してご利用開始可能です。

画像1: https://www.atpress.ne.jp/releases/408076/LL_img_408076_1.png
VextResume+ powered by Local SLM(β版)

また、最新の大規模言語モデル(LLM)にも順次対応しており、「VextResume+ powered by gpt-4o-mini」「VextResume+ powered by Gemini」を今秋リリース予定です。試験的に「VextResume+ powered by gpt-4o(β版)」「VextResume+ powered by Gemini(β版)」の提供を開始しております。2024年1月にリリースされたクラウド版の「VextResume+ powered by ChatGPT」に関しては、Azure OpenAI Service モデルの非推奨と提供終了の状況を鑑みて、更に高精度・低コストで互換性のある別のモデルに順次切り替え予定となります。今後もお客様の生成AI利用ポリシーに応じて柔軟にLLMモデルを選択してご利用いただけるように開発を行っています。

これら製品は、生成AIを利用する基盤として、Microsoft Azure/Google VertexAIを採用しており、当社クラウドのみから接続を受け付けるようアクセス制限を行うことでエンタープライズレベルでのセキュリティを実現しています。更に、音声認識結果を要約する際は、不要表現や個人情報を予めマスキングした後に該当のセキュアな環境へリクエスト送信を行うため、大幅なトークン数の節約と共に非常に高いセキュリティを実現しています。


■VextResume+ powered by LLM/Local SLMの特徴
・音声認識システムから受け取った音声認識テキスト(通話ログ)に対し、生成AIを利用することで複雑な要約テンプレート設定不要で高精度な要約を実現します。
・当社独自のプロンプトエンジニアリングにより、長時間通話に対しても高精度な要約を実現します。
・生成AIにデータを投入する前に自動の個人情報マスキング処理が行われるため、個人情報を含むデータも安心してご利用いただけます。また、オペレーターが手動でマスキング箇所を追加指定することも可能です。
・不要表現の自動削除によるトークン数の節約が可能です。
・「VextResume+ powered by LLM」では、個社応対履歴フォーマットに近づけるサンプル調整が可能です。
・要約結果に対する自動の信頼度チェックによるハルシネーション検知機能を搭載しています。
・「VextResume+ powered by LLM」では、要約結果を保存するだけで直接「Salesforce」に連携することが可能です。
・ACW(アフターコールワーク)短縮を実現する定型文ランキング機能やメモ機能等、様々なサポート機能を搭載しています。
・10年以上にわたるVextResume販売実績から、人間工学に基づいた操作性の良いUI・UXを実現しています。
・「VextResume+ powered by LLM」では、「gpt-4o」「Gemini」のβ版提供を開始しております。また、「gpt-4o-mini」「gemini-1.5-flash」等、よりコストパフォーマンスの優れたモデルを選択可能となる予定です。
・「VextResume+ powered by Local SLM(β版)」は、インターネットに接続できないオンプレ閉域環境にも構築可能です。Local SLMを動作させるサーバは、コンシューマーグレードのGPU搭載サーバで対応可能となります。

「VextResume+ powered by Local SLM(β版)」「VextResume+ powered by gpt-4o(β版)」「VextResume+ powered by Gemini(β版)」は、2024年8月29日(木)にリリース済みとなり、コンタクトセンターの音声認識結果の更なる活用を検討している企業を中心に提供を開始しております。Vextシリーズの導入ノウハウを有するパートナー企業各社より提案・導入が可能です。

※Vextシリーズのパートナー企業、詳細についてはこちら( https://www.vext.co.jp/partnership/ )


■展示会のご案内
ベクストは開催25回目を迎える【コールセンター/CRM デモ&コンファレンス 2024 in 東京】に出展いたします。

展示会名 ： 「コールセンター/CRM デモ&コンファレンス 2024 in 東京 (第25回)」
日程 ： 2024年11月21日(木)・22日(金)
場所 ： サンシャインシティ・文化会館ビル
小間位置 ： 3A-7
公式サイト： https://www.callcenter-japan.com/tokyo/


■会社概要
ベクスト株式会社
代表取締役社長： 小橋 寿彦
設立 ： 2013年3月
本社 ： 東京都目黒区下目黒1-8-1アルコタワー7F
URL ： https://www.vext.co.jp