複数のAIを組み合わせたセキュリティ技術、3つの技術が自律的に事前対策を実施

富士通はAIサービス「Fujitsu Kozuchi」のコア技術として、複数のAIエージェントが連携し、新たな脆弱性や攻撃手法に対して事前に防御策を講じるための「マルチAIエージェントセキュリティ技術」を開発しました。攻撃や防御のスキルやナレッジをそれぞれのAIエージェントが担い、互いに情報をやり取りしながら、企業や公共団体のITシステムにおけるセキュリティを強化します。

この技術は、大きく三つの要素から構成されています。第一に、組織や拠点をまたいで開発されたAIエージェント同士を透過的に連携させるための「マルチAIエージェント連携技術」です。セキュリティ要件やプライバシー保護の観点を踏まえながら、安全かつ柔軟にAIエージェント同士を協働させることを可能にします。第二に、攻撃と防御を自動的にシミュレーションする「セキュリティAIエージェント技術」を搭載しました。攻撃AIエージェントが脆弱性を突くシナリオを立案し、それに対して防御AIエージェントが防御策を策定し、テストAIエージェントが仮想環境（サイバーツイン）で検証することで、事前に高いレベルの防御策を導き出します。第三に、急速に普及している生成AIが狙われる新たな攻撃手法に対応するための「生成AIセキュリティ強化技術」です。自動的にLLM（大規模言語モデル）の脆弱性をチェックし、防御が必要な攻撃的プロンプトをガード規則で抑止する仕組みを備えています。

マルチAIエージェントセキュリティ技術の全体像

富士通は、この技術の一部をオープンソースとして2025年1月に公開予定で、セキュリティAIエージェントや生成AIセキュリティ強化技術を含むトライアルサービスを2025年3月から段階的に提供開始する計画です。まずはカナダのCohere Inc.と連携し、2024年12月より「生成AIセキュリティ強化技術」の実証を行います。さらに、海外の研究機関と協力して開発を進めた機能を活かしつつ、企業がセキュリティ専門家でなくてもプロアクティブな対策を取れるアプリケーション構築を支援する狙いがあります。

今後は、より多くのセキュリティ分野への対応を図り、例えばセキュア設計やインシデント対応、監査などに特化したAIエージェントも拡充していく予定です。生成AIセキュリティ強化技術についても、RAG（Retrieval-Augmented Generation）アプリケーション特有の脆弱性や、いわゆる「幻覚（ハルシネーション）」への対策にも広げる方針です。これらの取り組みを通じて、富士通は脆弱性や新手のサイバー攻撃に対して事前に備えられるIT運用環境を実現し、デジタル社会の発展を支える価値を提供します。

レポート／DXマガジン編集部折川