DX

AIエージェントの安全な利用を学ぶ！三井物産セキュアディレクションとChillStackが実践トレーニングを開始

三井物産セキュアディレクション株式会社と株式会社ChillStackは、大規模言語モデル（LLM）を推論エンジンとして活用するAIエージェントやマルチAIエージェントシステムを安全に扱うためのトレーニング「《実践》AIエージェントセキュリティハンズオン」の提供を開始しました。

AIエージェントセキュリティハンズオン

提供の背景

近年、LLMの利用はチャットボットだけでなく、自律的に行動するAIエージェントや、複数のAIエージェントが連携するマルチAIエージェントシステムへと広がっています。これにより、これまで難しかった複雑な処理が自動でできるようになりました。

しかし、この技術の進歩とともに、新たなセキュリティ上の問題も生まれています。例えば、プロンプトインジェクションと呼ばれる不正な指示の注入や、AIエージェントが記憶する情報に不正な指示を書き込む「メモリ汚染」といった攻撃、さらにはAIエージェントが使う外部ツールの悪用、悪意のあるAIエージェントの混入などが挙げられます。

これらの攻撃は、従来のコンピューターシステムへの攻撃とは異なる仕組みが多く、これまでのセキュリティ技術だけでは対応が難しい状況です。このため、新しい視点からの対策が求められています。

このような課題に対応するため、三井物産セキュアディレクションとChillStackは、AIエージェントシステムに特化した攻撃の手口と、それらからシステムを守る方法を実践的に学べるハンズオントレーニングを共同で開発し、提供を開始しました。

「《実践》AIエージェントセキュリティハンズオン」の特長

このトレーニングは、以下の3つのパートで構成されています。

Part1. AIエージェントセキュリティ入門

AIエージェントセキュリティの基本的な知識を座学で学びます。AIエージェントやマルチAIエージェントがどのように動くのか、どのような場面で使われているのかを分かりやすく理解し、運用上のリスクやセキュリティ上のリスクを様々な角度から解説します。実際のインシデント事例や攻撃シナリオも交え、現場で起こりうる脅威を具体的に学ぶことができます。

Part2. セキュリティ実践ハンズオン

AIエージェントシステムへの攻撃と、それに対する対策を実践的に学びます。このトレーニング独自の検証環境を使い、OWASP Agentic AI（https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/）を基にした脅威を確認します。これにより、AIエージェントシステム特有のリスクを整理し、攻撃者と防御者の両方の視点から脅威の構造を深く理解します。その後、実際に攻撃を試みて、その動きを分析し、対策を実践的に学びます。

このパートで主に学ぶ脅威は以下の通りです。

  • AIエージェントにおける直接/間接プロンプトインジェクション

  • メモリ汚染（長期/短期記憶の書き換えによるAIエージェント挙動の操作など）

  • 外部ツールの細工（悪意あるMCPサーバーを利用した攻撃など）

  • 悪意あるAIエージェントの混入（A2Aを介した攻撃など）

Part3. 運用・ガバナンス実践ハンズオン

AIエージェントシステムを安全に運用するために必要な、「見える化」「追跡」「制御」という3つの視点から、運用リスクとその管理方法を実践的に学びます。まず、AIエージェント同士の連携や、AIエージェントとMCPサーバー、その他のツールがどのように連携しているかを全体的に理解するために、システム全体の状況を見える化します。これにより、複雑になりがちなAIエージェント間の関係やデータの流れが明確になります。次に、AIエージェントがどのように判断し、ツールを使っているのかを詳しく把握するため、その動きを追跡します。これにより、予期しない作業や異常な動きを早く見つけられるようになります。最後に、AIエージェントの動きを制御する方法（決められたルールから外れた行動の検知）や、メモリ汚染、悪意あるMCPサーバーの検知といった具体的な対策を学びます。これにより、AIエージェントの異常な行動を早期に止めたり、安全に作業を進めたりする方法を習得します。

このように、AIエージェントシステムの「セキュリティ面」と「運用面」の両方を学ぶことで、AIエージェントを安心して安全に活用するために必要な知識と技術を身につけることができます。

なお、LLMやLLMアプリケーションに対する脅威や対策については、以下のトレーニングで学ぶことができます。
https://jpsec.ai/llm-training/

トレーニング要項

  • 形式: ハンズオン（オンライン）

  • 期間: 2日間 / 10:00～18:00

  • 定員: 12名（最低開講人数: 5名）

  • 価格: 600,000円（税別）/名

※トレーニング要項は変更になる可能性があります。

三井物産セキュアディレクション株式会社について

2001年にサイバーセキュリティの専門会社として設立されました。ペネトレーションテストやWebアプリケーションの脆弱性診断などの各種診断サービス、マルウェア解析、統合ログ監視サービスなどの高度なセキュリティ技術サービス、コンサルティングサービス、そしてAIセキュリティに関するサービス（AIシステムに対する脆弱性診断、アドバイザリ、研究開発）を提供しています。日本有数の高度なセキュリティ技術を持つ人材が多く在籍しています。
詳細は、ウェブサイトをご覧ください。
https://www.mbsd.jp/

株式会社ChillStackについて

AIやDXの発展に伴うリスクを総合的に解決するため、世界トップレベルのAIセキュリティ技術によるソリューションを提供しています。企業向けには、不正・異常分析や安全なAI活用を支えるサービスを展開しています。また、官公庁とも協力し、より複雑で高度な社会課題の解決に向けた研究開発や社会への導入も進めています。

主なサービス（一部抜粋）：

Related Posts

You May Have Missed

×