スキルアップ

AIエージェントの安全な利用を学ぶ！実践セキュリティトレーニングがスタート

三井物産セキュアディレクション株式会社と株式会社ChillStackは、大規模言語モデル（LLM）を推論エンジンとする「AIエージェント」や、複数のAIエージェントを組み合わせた「マルチAIエージェント」を活用するシステム（以下、AIエージェントシステム）を安全に利用するためのハンズオントレーニング「《実践》AIエージェントセキュリティハンズオン」の提供を開始しました。

AIエージェントセキュリティハンズオンの様子

提供の背景

近年、大規模言語モデル（LLM）の利用は、単なるチャットボットにとどまらず、AIエージェントシステムへと広がりを見せています。これにより、これまでのシステムでは難しかった複雑な処理を、自動で柔軟に実行できるようになっています。

しかし、この新しい技術の広がりとともに、新たなセキュリティの危険も生まれています。例えば、AIに不正な指示を与える「プロンプトインジェクション」や、AIが記憶している情報を不正に書き換える「メモリ汚染」、AIが使う外部ツールを悪用する手口、さらには悪い目的を持ったAIがシステムに入り込むといった脅威があります。

これらの攻撃は、従来のコンピューターシステムに対する攻撃とは仕組みが大きく違うため、これまでのセキュリティ対策だけでは対応が難しくなっています。このような状況を受けて、新しい視点からの対策が求められています。

三井物産セキュアディレクションとChillStackは、これらの課題を解決するため、AIエージェントシステム特有の攻撃手法と防御方法を実践的に学べる「《実践》AIエージェントセキュリティハンズオン」を共同で開発しました。

「《実践》AIエージェントセキュリティハンズオン」の特長

このトレーニングは、以下の3つのパートで構成されています。

Part1. AIエージェントセキュリティ入門

AIエージェントセキュリティの基本的な知識を座学で学びます。AIエージェントやマルチAIエージェントがどのような仕組みで動き、どのような使われ方をしているかを分かりやすく解説します。また、運用上のリスクやセキュリティ上のリスクを、実際の事故例や攻撃のシナリオを交えながら具体的に理解します。

Part2. セキュリティ実践ハンズオン

AIエージェントシステムに対する攻撃と、その対策方法を実践的に学びます。トレーニング独自の検証環境を使い、「OWASP Agentic AI」のガイドライン（https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/）に基づいた脅威を確認します。これにより、AIエージェントシステムに特有の危険を体系的に整理し、攻撃する側と守る側の両方の視点から脅威の構造を深く理解します。

実際に攻撃を行い、その動きを分析し、対策を立てるまでを一貫して実践的に学びます。このパートで主に扱う危険は以下の通りです。

  • AIエージェントにおける直接・間接プロンプトインジェクション

  • メモリ汚染（AIエージェントの記憶を書き換えて動きを操作する攻撃など）

  • 外部ツールの細工（悪意のあるサーバーを利用した攻撃など）

  • 悪意のあるAIエージェントの混入（AI同士の連携を悪用した攻撃など）

Part3. 運用・ガバナンス実践ハンズオン

AIエージェントシステムを安全に運用するために重要な「可視化」「追跡」「制御」の3つの視点に焦点を当て、運用上のリスクと管理方法を実践的に学びます。

まず、AIエージェント同士の連携や、AIエージェントと外部サーバー、その他のツールがどのように連携しているかを全体的に把握するため、システム全体の動きを「見える化」します。これにより、複雑になりがちなAIエージェント間のつながりやデータの流れを明確にできます。

次に、AIエージェントがどのように判断し、ツールを実行しているかを詳しく調べるため、AIエージェントの動きを「追跡」します。これにより、予期しない作業の実行や異常な動きを早く見つけられるようになります。

最後に、AIエージェントの動きを「制御」する方法（ルールから外れた動きの検知や、メモリ汚染の検知、悪意のあるサーバーの検知など）を学びます。これにより、AIエージェントの異常な行動を早期に防ぎ、安全に作業を実行する方法を習得できます。

このトレーニングでは、AIエージェントシステムの「セキュリティ」だけでなく「運用」についても学ぶことで、安心・安全なAIエージェントの活用に必要な知識とスキルを身につけることが可能です。

なお、大規模言語モデル（LLM）やLLMアプリケーションに対する脅威と対策については、別のトレーニングで学ぶことができます。詳細はこちらをご覧ください: https://jpsec.ai/llm-training/

トレーニング要項

  • 形式: ハンズオン（オンライン）

  • 期間: 2日間 / 10:00～18:00

  • 定員: 12名（最低開講人数: 5名）

  • 価格: 600,000円（税別）/名

※トレーニング要項は変更になる可能性があります。

三井物産セキュアディレクション株式会社について

2001年にサイバーセキュリティ専門会社として設立されました。ペネトレーションテストや脆弱性診断、マルウェア解析、統合ログ監視などの高度なセキュリティ技術サービス、コンサルティングサービス、そしてAIセキュリティに関するサービスなどを提供しており、日本有数の高度セキュリティ技術を持つ人材が多数在籍しています。

詳細は、ウェブサイトをご覧ください: https://www.mbsd.jp/

株式会社ChillStackについて

AIやDX（デジタルトランスフォーメーション）の発展に伴うリスクを総合的に解決する、世界トップレベルのAIセキュリティ技術によるソリューションを提供しています。企業向けには、不正・異常分析や安全なAI活用を支えるサービスを展開し、官公庁とも協力して、より複雑で高度な社会課題の解決に向けた研究開発や社会実装も進めています。

提供サービス（一部抜粋）:

Related Posts

You May Have Missed

×