サービスの全体像
生成AIは加速度的にテクノロジーとビジネスの現場の距離を縮めており、いまやエンジニアならずとも現場に必要とされるアプリを開発できる環境が整いつつあります。
金融機関においては、大量の文書の取り扱いがあり、定型的な業務が多く存在します。対話型AIの活用により業務の迅速化・効率化が図られ、生産性の向上のみならずアイデア創出等の業務高度化の実現も期待されます。しかし、一般公開されている対話型AIは、広範囲な質問に対応できるように学習されているものの、金融機関実務に特有の専門用語で記述された文書の解釈などには必ずしも対応できていないのが現状です。
また対話型AIの実務適用にあたっては、対話型AIが有するリスクに対しても適切な対応が求められます。あずさ監査法人では2021年に発足したAI Assurance Groupを中心に、対話型AI(生成AI)の主要なリスク※に関する知見を集積してきました。こうしたリスクに係る対応方針の策定などの管理体制の整備についても同時に支援を行えることが、あずさ監査法人の強みとなっています。
【サービスの特徴】
● 社内情報や社内ルールなど、適用を想定している業務に特化した出力を得られるように、特定情報のみ参照するような対話型AIへのカスタマイズを実施
● 金融業務に適した回答が得られるよう、金融に精通したKPMGネットワークの専門家による対話型AIのチューニング(ファインチューニング)を支援
● 適用業務に則した回答が得られるようにプロンプト(対話型AIに入力する命令)の作成方法についても支援
● 対話型AIの活用に係るリスク管理体制の整備も同時に支援
【サービスの全体像】
画像1: https://www.atpress.ne.jp/releases/359027/LL_img_359027_1.jpg
サービスの全体像
※ 対話型AI(生成AI)の主要なリスク
1. ハルシネーション
・生成AIが事実とは異なる不正確な出力を生成するリスク
・生成AIからの出力結果を何らかの業務に活用する際、誤った判断等につながるリスク
・さらに、生成AIを用いて生成したプログラムコードを理解しないまま自社内で実行することで、情報漏洩や社内システムへの危害が生じる可能性も
2. 著作権侵害
・他人の著作物を生成AIに入力する場合には、著作権法30条の4「情報解析としての利用」に該当し、著作権侵害に該当しない可能性大
・ただし、生成AIの出力結果が他の著作物と同一・類似していた場合、著作権侵害に該当する可能性
3. 個人情報／機密情報漏洩
・生成AIに入力した情報に個人情報や機密情報が含まれており、当該情報が生成AIの学習に活用された場合には当該情報が漏洩する可能性
・生成AIユーザーが巧みなプロンプトを入力することで、生成AIベンダーが学習に用いているデータから個人情報や機密情報を抜き取られるリスクも存在(#4と関連)
4. プロンプトインジェクションを通じたリスク
・通常生成AIベンダーは、差別や倫理違反、犯罪につながるような情報は出力されないように制限をかけている
・しかし巧みなプロンプトを入力することで、こうした情報を出力できることが知られている
・そのため、生成AIベンダーないしは生成AIを活用したサービスを提供している企業が、差別や犯罪に加担してしまうリスクも存在。さらに、プロンプトインジェクションを利用し、生成AIベンダー内にあるAIの設定情報などが抜き取られるリスクも存在(#3と関連)
5. サードパーティーリスク
・生成AIを活用したサービスを開発・管理している会社はサードパーティーに該当するため、サードパーティーリスクがある
・特に生成AIベンダーがスタートアップ企業の場合には留意する必要
・GPTなどの他社の生成AIを活用したサービスを提供する会社がデータを抜き取るリスクもあることにも留意
6. 説明責任
・生成AIのアルゴリズムがブラックボックスのため、どのような処理で出力がされたのか説明することが困難
・生成AIを用いて各種サービスを提供している企業として説明責任を果たせないリスク
7. 追跡可能性・
監査可能性
・同じプロンプトでも異なる出力がなされるので、再現性が担保できない
・生成AIからの出力結果に対して事後的に監査したり、追跡することができないリスク
なお本サービスは、公認会計士法、監査に関連する独立性規則及び利益相反等の観点から、提供できる企業や提供できる業務の範囲等に一定の制限がかかる場合があります。詳しくはあずさ監査法人までお問い合わせください。競合企業のご利用はご遠慮ください。また、弊法人の都合により、業務を提供できるお客様の範囲(個人のお客様を含む)や提供できる業務の範囲等に一定の制限がかかる場合があります。
【KPMGジャパンについて】
KPMGジャパンは、KPMGインターナショナルの日本におけるメンバーファームの総称であり、監査、税務、アドバイザリーの3つの分野にわたる9つのプロフェッショナルファームによって構成されています。クライアントが抱える経営課題に対して、各分野のプロフェッショナルが専門的知識やスキルを活かして連携し、またKPMGのグローバルネットワークも活用しながら、価値あるサービスを提供しています。
日本におけるメンバーファームは以下のとおりです。
有限責任 あずさ監査法人、KPMG税理士法人、KPMGコンサルティング株式会社、株式会社KPMG FAS、KPMGあずさサステナビリティ株式会社、KPMGヘルスケアジャパン株式会社、KPMG社会保険労務士法人、株式会社KPMG Ignition Tokyo、株式会社 KPMGアドバイザリーライトハウス
【あずさ監査法人について】
有限責任 あずさ監査法人は、全国主要都市に約6,000名の人員を擁し、監査や保証業務をはじめ、アカウンティングアドバイザリー、金融関連アドバイザリー、IT関連アドバイザリー、企業成長支援アドバイザリーを提供しています。金融、情報・通信・メディア、パブリックセクター、消費財・小売、製造、自動車、エネルギー、ライフサイエンスなど、業界特有のニーズに対応した専門性の高いサービスを提供する体制を有するとともに、4大国際会計事務所のひとつであるKPMGのメンバーファームとして、143の国と地域に拡がるネットワークを通じ、グローバルな視点からクライアントを支援しています。
